Artigo com referências falsas: quando a IA inventa a fonte

Em maio, o Journal of Medical Ethics retratou um artigo sobre viés em algoritmos na indústria farmacêutica. O motivo não foi um erro de análise. Foi mais simples e mais grave: várias das referências citadas no texto não existem. O autor, Irfan Biswas, era um estudante de ensino médio em Massachusetts, e a investigação da revista concluiu que ele usou IA generativa para “identificar e entender as fontes referenciadas”, sem verificar nenhuma delas antes de submeter o artigo.

Uma referência fabricada é uma citação com aparência normal (nome de autor, título, ano, revista) que não corresponde a nenhum trabalho real. A IA generativa não busca essas fontes num banco de dados: ela prevê qual citação seria plausível ali, e o resultado soa acadêmico o suficiente para passar batido, se ninguém confere.

O que aconteceu

O artigo, publicado em setembro do ano passado, argumentava que algoritmos com viés podem aumentar desigualdades no acesso à saúde. Segundo a nota de retratação de 28 de maio, a investigação da revista encontrou “preocupações sobre a qualidade do trabalho e a exatidão das referências, incluindo a suspeita de que várias referências não existiam”. A nota também cita “evidência de manipulação do processo de revisão por pares”.

Biswas confirmou à revista que era estudante de ensino médio e concordou com a retratação. Ele não respondeu aos pedidos de esclarecimento do Retraction Watch sobre como as referências inexistentes chegaram ao texto final.

O episódio não é isolado. Em outro artigo publicado por Biswas, sobre CRISPR, ele listava vínculo com uma universidade que, segundo a própria instituição, não tem registro dele como aluno. Esse segundo artigo agora está sob investigação pela revista que o publicou.

Por que isso importa pra você

O caso de Biswas é extremo, mas o mecanismo por trás dele não é raro. Uma referência inventada só aparece quando ninguém abriu a fonte para confirmar que ela existe. Isso pode acontecer com qualquer pessoa que usa IA generativa numa fase de levantamento bibliográfico e pula a etapa de checagem.

1. Nunca cite uma fonte que a IA sugeriu sem antes abrir o texto original. Confirme que ele existe, que tem o ano e a autoria informados, e que diz o que você está atribuindo a ele.
2. Trate a lista de referências como parte do argumento, não como formalidade final. Uma citação errada compromete a credibilidade do texto inteiro, não só daquele trecho.
3. Se o orientador ou a banca perguntar “você leu isso mesmo?”, a resposta precisa ser sim. É o teste mais simples que existe, e o mais eficaz.

O problema já tem tamanho medido: um levantamento indica que cerca de 1 em cada 277 artigos indexados no PubMed contém referências fabricadas, um padrão que cresceu com a popularização de ferramentas como o ChatGPT.

O que isso muda na sua relação com a IA generativa

Usar IA para escrever ciência não é o problema. O problema é onde, na cadeia de produção do texto, a verificação humana desaparece. No caso de Biswas, a IA generativa foi usada para identificar e tentar entender as fontes referenciadas, mas não para verificar se elas existiam de fato. Ela não é uma base de dados bibliográfica, e tratá-la como se fosse é o erro estrutural por trás desse tipo de retratação.

Na minha experiência orientando quem está escrevendo os primeiros artigos, é fácil deixar a conferência das referências para o final e tratá-la como formalidade, quando ela devia ser parte do argumento. Vale menos tempo economizado na busca e mais tempo garantido na conferência: são etapas diferentes, e a segunda não pode ser terceirizada pra ferramenta nenhuma.

Próximos passos

1. Se você usa IA generativa para levantamento bibliográfico, separe um momento específico só para confirmar cada referência antes de inserir no texto.
2. Guarde o link ou o DOI de cada fonte no momento em que você a confirma, não depois.
3. Releia a lista final de referências perguntando, uma por uma: “eu já li isso, ou só confiei que existia?”

Se você quer entender melhor como a revisão por pares está lidando com IA nos dois lados do processo, vale ler IA e revisão por pares: o que está mudando para você.

Fonte: Ethics journal retracts paper by high school student for AI, peer review manipulation, Retraction Watch