OpenAI reforça rastreio de imagens geradas por Inteligência

Você já se perguntou como vai provar, daqui a um ano, que aquela imagem no seu artigo foi gerada por IA e não é uma foto real? Em comunicado publicado neste mês, a OpenAI anunciou um sistema de camadas para rastrear a origem de conteúdo gerado por suas ferramentas. A proveniência de conteúdo é o conjunto de sinais técnicos que registram de onde uma imagem, um áudio ou um vídeo vieram e como foram criados ou alterados. Se você usa IA generativa em qualquer etapa da sua pesquisa, isso muda a forma como você vai documentar e defender esse uso.

O que a OpenAI anunciou

A empresa está combinando três frentes. A primeira é a conformidade com o C2PA (Coalition for Content Provenance and Authenticity), padrão técnico aberto que usa metadados e assinaturas criptográficas para que a informação sobre a origem de um arquivo viaje junto com ele. A OpenAI já adicionava Content Credentials às imagens do DALL·E 3 desde 2024, e agora se tornou oficialmente um “C2PA Conforming Generator Product”, o que garante que outras plataformas consigam ler e preservar esse selo quando o arquivo circula.

A segunda frente é o watermark invisível, feito em parceria com o Google DeepMind através da tecnologia SynthID, aplicado a imagens geradas por ChatGPT, Codex e pela API da OpenAI. A terceira é uma ferramenta pública de verificação, ainda em fase de pré-visualização, que permite checar se uma imagem carrega esses sinais.

O motivo de combinar as três camadas é simples: metadados podem ser apagados. Um upload, um download, uma mudança de formato ou até uma captura de tela podem remover o C2PA. O watermark do SynthID resiste melhor a esse tipo de transformação, mas carrega menos informação de contexto. Uma camada cobre o ponto fraco da outra.

Por que isso importa pra você

Se você usa IA generativa na sua rotina acadêmica, seja para gerar uma ilustração conceitual, testar um layout de figura ou produzir material de divulgação científica, esse anúncio tem implicações diretas.

Se você já usa imagens geradas por IA em produção acadêmica

1. Documente a origem no momento da criação, não depois. Guarde o prompt, a data e a ferramenta usada, porque metadados podem ser perdidos ao longo do caminho.
2. Verifique se a revista ou o periódico já exige declaração de uso de IA para imagens submetidas. Se ainda não existe uma política clara, vale perguntar diretamente à editoria.
3. Não assuma que a ausência de watermark prova que a imagem não foi gerada por IA. A própria OpenAI reconhece que sinais podem ser removidos, então a ferramenta de verificação não dá conclusão definitiva quando nada é detectado.

Se você orienta ou revisa trabalhos de terceiros

• Se você revisa trabalhos com imagens que parecem geradas por IA, a ferramenta de verificação da OpenAI pode ajudar a checar isso, ao menos para conteúdo gerado por suas próprias ferramentas.
• Se a ferramenta de verificação da OpenAI for ampliada para outras plataformas, como a empresa diz pretender, ela pode se tornar mais um recurso de checagem disponível para quem revisa trabalhos com imagens geradas por IA.

O que isso não resolve (ainda)

Vale ser honesta sobre os limites do anúncio. A ferramenta de verificação, por enquanto, só reconhece conteúdo gerado pelas ferramentas da própria OpenAI. Uma imagem feita em outro gerador de IA não vai ser identificada por ela. A empresa diz que pretende apoiar esforços de verificação entre plataformas nos próximos meses, mas isso ainda não existe.

Também não existe garantia de detecção. Nenhum método de proveniência é infalível: os próprios metadados podem ser removidos, e o watermark, embora mais resistente, não é imune a toda manipulação. Isso significa que a proveniência de imagem ainda é uma camada de evidência, não uma prova irrefutável.

Quando penso nisso do lugar de quem pesquisa, o que mais me chama atenção não é a tecnologia em si, é o hábito que ela empurra pra frente: registrar a origem do que você produz, com ou sem ferramenta de verificação. Isso conversa direto com o Método V.O.E. (Velocidade, Organização, Execução Inteligente): a Organização não é só sobre onde você guarda seus arquivos, é também sobre que rastro você deixa das decisões que tomou. Não significa que você precisa esperar a ferramenta ficar madura para agir. Significa manter, desde já, um registro simples de quando e como usou IA generativa em qualquer parte do seu trabalho.

Próximos passos

1. Se você usa geração de imagem por IA na sua pesquisa, comece hoje um registro simples (prompt, data, ferramenta) para cada imagem produzida.
2. Confira a política de uso de IA da revista ou do programa onde você vai submeter seu trabalho.
3. Acompanhe a expansão da ferramenta de verificação da OpenAI nos próximos meses, principalmente se você trabalha com imagens de múltiplas fontes.
4. Converse com seu orientador sobre como documentar o uso de ferramentas de IA generativa no seu processo metodológico.

Esse tipo de rastreabilidade não é exclusividade das big techs. Se você quer entender como aplicar mais rigor e mais IA de forma ética na sua rotina de pesquisa, veja como o Google testa IA para reduzir tráfego, e o que isso ensina sobre transparência de dados.

Fonte: Advancing content provenance for a safer, more transparent AI ecosystem, OpenAI