CEO de empresa de IA tem estudo sobre cognição retratado

Uma pesquisadora publica um estudo sobre como a inteligência artificial afeta a nossa confiança em tarefas cognitivas. A revista científica recebe elogios da imprensa, a universidade da autora comemora nas redes sociais, e meses depois o artigo é retratado porque a própria autora se recusa a mostrar os dados. Foi exatamente isso que aconteceu em agosto com um artigo publicado na Technology, Mind, and Behavior, da American Psychological Association.

Uma retratação é o ato formal pelo qual uma revista científica invalida um artigo já publicado, retirando sua validade acadêmica. Neste caso, ela veio depois que a autora, Sarah Baldeo, se recusou a entregar dados e código de análise pedidos pela própria revista. Se você está pensando em usar IA na sua pesquisa, ou já lida com aprovação ética no seu programa, esse caso mostra onde a linha entre inovação e fraude pode ficar perigosamente fina.

O que aconteceu

O artigo, publicado em abril, descrevia uma pesquisa com 1.923 adultos recrutados online para realizar tarefas com apoio de IA generativa. O estudo ganhou release da própria APA e foi noticiado pela TIME e pela Futurism. Pouco depois da publicação, pesquisadores começaram a apontar problemas no PubPeer.

Sandra Grinschgl, que estuda interação humano-tecnologia na Universidade de Berna, foi a primeira a levantar dúvidas: inconsistências em gráficos e resultados, falhas no desenho do estudo, referências “erradas” e ausência de aprovação ética. Ela chamou os colegas Ian Hussey e Malte Elson para ajudar a investigar.

A revista pediu os dados brutos como parte da apuração. Baldeo e a ID Quotient Advisory Group, entidade que havia aprovado a ética do estudo, recusaram. Segundo a nota de retratação, de 31 de agosto, os dois alegaram que a transferência dos materiais “não era autorizada sob o consentimento dos participantes e o arcabouço ético canadense” que regia o estudo.

Por que isso importa pra você

A recusa em compartilhar dados brutos de participantes não é incomum, e pode até ter justificativa ética legítima em certos contextos. O que chamou atenção dos pesquisadores foi outra coisa: a revista também pediu evidências da plataforma usada para coletar os dados e o código estatístico da análise, materiais que não deveriam conter nenhuma informação sensível dos participantes.

Se você está produzindo pesquisa com IA ou submetendo artigo para revista com peer review, esse caso levanta perguntas concretas:

1. Quem aprova a ética do seu estudo é independente de você? Baldeo é fundadora e CEO da ID Quotient, a mesma entidade que deu aval ético ao seu próprio artigo. Não existe distância entre quem pesquisa e quem avalia.
2. Você consegue reproduzir sua própria análise se pedirem? Código estatístico e evidência da plataforma de coleta são materiais que qualquer revisor pode exigir sem tocar em dado sensível de participante.
3. Sua instituição sabe exatamente o que está aprovando? A Middlesex University, onde Baldeo é doutoranda, informou que a pesquisa “não foi aprovada, conduzida ou supervisionada” pela universidade, e pediu a retirada de sua afiliação do artigo, mesmo depois de ter celebrado o “estudo histórico” em post institucional.

O que a IA muda nessa história

Baldeo se apresenta como “neurocientista de IA” e é doutoranda em IA e neurociência na Middlesex University. A empresa que ela fundou oferece consultoria “habilitada por neurociência” em TI e IA. O artigo retratado era, ele próprio, sobre o impacto cognitivo do uso de IA generativa: o tema virou também o instrumento da controvérsia.

Nesse caso, o objeto de estudo e o modelo de negócio da pesquisadora se sobrepõem: a mesma pessoa que lucra com consultoria de IA é quem assina o estudo sobre o impacto cognitivo da IA. Hussey, um dos pesquisadores que levantou as críticas, ajudou a criar o checklist INSPECT-SR de reprodutibilidade justamente para lidar com esse tipo de situação: sistemas que verificam se o que foi publicado pode ser checado por terceiros, independentemente da boa-fé de quem publicou.

O ponto que mais me preocupa nesse caso

Quando li os detalhes dessa retratação, o que me incomodou não foi a recusa de dados em si. Foi a naturalidade com que uma pesquisadora pôde criar a própria empresa e usá-la para aprovar a própria ética. Isso não é brecha pequena, é um buraco estrutural no sistema de checagem que devia proteger todo mundo, inclusive ela.

Hussey também apontou, em thread no Bluesky, possíveis referências inventadas no livro publicado por Baldeo, cuja editora foi comprada pela própria empresa dela em 8 de setembro, uma semana depois da nota de retratação. Baldeo negou ser proprietária da editora antes da aquisição, e disse não poder responder a “alegações genéricas de redes sociais”. Vale lembrar: rigor não é hostilidade. É justamente o que separa ciência de marketing disfarçado de ciência.

Próximos passos

Esse caso não é sobre desconfiar de toda pesquisa com IA. É sobre saber onde ficar atenta quando você lê, cita ou produz um estudo:

1. Confira se a aprovação ética do estudo vem de um comitê independente da autoria.
2. Antes de citar um artigo sobre IA em seu trabalho, procure se ele já foi discutido no PubPeer ou em bases de retratação.
3. Se você trabalha com dados sensíveis, documente desde o início o que pode e o que não pode ser compartilhado, e por quê, isso te protege de acusações e também de erros involuntários.

Se você quer entender melhor como usar ferramentas de IA generativa na sua pesquisa sem cair nessas armadilhas de autoria e transparência, veja IA generativa na pesquisa: por uma ética crítica e soberana.

Fonte: CEO of AI company loses paper on cognitive impact of generative AI, Retraction Watch