IA generativa na pesquisa: por uma ética crítica e soberana

Você abre o navegador pra escrever a introdução da sua dissertação e usa uma IA generativa sem pensar duas vezes, porque virou parte do fluxo, como o Word ou o e-mail. Em julho, a professora Deisy Ventura, da Faculdade de Saúde Pública da USP, publicou um artigo que pede pra você pensar duas vezes, sim. Ela cita um dado do Caderno Vozes da Ciência, documento da Sociedade Brasileira pelo Progresso da Ciência (SBPC): 80% das universidades brasileiras dependem de Google ou Microsoft para funcionar. A ética em pesquisa é o conjunto de princípios que orienta o que é aceitável fazer, e como fazer, na produção do conhecimento científico. Se você usa IA generativa na sua rotina acadêmica, seja pra revisar texto, seja pra organizar ideia, o artigo de Ventura propõe uma pergunta que vale trazer pra sua mesa de trabalho: essa ferramenta é neutra, ou ela já vem carregada de escolhas que não são suas?

O que aconteceu

O artigo de Deisy Ventura foi publicado no Jornal da USP em 17 de julho, dentro da coluna que ela mantém como articulista. O texto parte de um dado concreto, o percentual de dependência das universidades brasileiras em relação a duas corporações estrangeiras, pra sustentar um argumento mais amplo: a generalização do uso de IA generativa no cotidiano acadêmico traz desafios éticos importantes, segundo o artigo.

Ventura organiza o texto em desafios sucessivos. O primeiro é histórico: ela recupera o filósofo alemão Hans Jonas, que nos anos 1970 já apontava como a “novidade” tecnológica funciona como um salvo-conduto pra agir sem prestar contas. Ela lembra também que povos originários alertavam, muito antes disso, para a diferença entre avanço tecnológico e progresso humano, citando o pensador Ailton Krenak sobre como estamos “vendendo o amanhã” a preço módico.

O segundo desafio é reconhecer que a IA “não avança em ambiente neutro”. A extração de dados sem consentimento prévio, os vieses embutidos nas ferramentas e a ausência de controle legal e social não são, segundo ela, falhas de funcionamento: são características que sustentam o próprio modelo de negócio das big techs, e alimentam também ecossistemas de desinformação com financiamento robusto e objetivos político-ideológicos declarados.

Por que isso importa pra você

Se você trabalha com IA generativa na sua pesquisa, seja pra revisão de literatura, seja pra escrita, o argumento de Ventura pede uma pausa antes do próximo prompt. Vou te mostrar como isso aterrissa em três momentos diferentes da pós-graduação:

Se você está escrevendo a dissertação ou tese agora

• Pergunte-se se você está usando a IA como ferramenta de apoio ou terceirizando a decisão editorial: quem escolhe o que aparece no texto ainda é você?
• Registre, no seu processo, os momentos em que a IA sugeriu uma formulação e você a aceitou sem questionar. Isso ajuda a mapear onde a dependência cognitiva pode estar crescendo.

Se você está montando a metodologia de uma pesquisa

• Considere declarar explicitamente o uso de IA generativa na seção de métodos, incluindo qual ferramenta, para qual etapa e com qual grau de revisão humana.
• Verifique se o comitê de ética da sua instituição já tem orientação sobre isso. Se não houver orientação formal, essa é uma pergunta que vale levar ao seu programa antes de submeter o projeto.

Se você orienta outras pessoas

• Vale conversar com seus orientandos sobre os limites do uso da IA antes que o problema apareça na banca, não depois.

O que os dados mostram sobre pensar com a máquina

Um dos pontos mais fortes do artigo é a menção a pesquisadores do MIT (Massachusetts Institute of Technology) que documentaram queda de desempenho em níveis neural, linguístico e comportamental em pessoas que usam o ChatGPT em certas condições. Ventura usa esse achado pra rebater um discurso que ela chama de propaganda: a ideia de que quem questiona o uso da IA é “anacrônico” ou “tecnofóbico”.

A filósofa Anne Alombert, da Universidade de Paris 8, citada no artigo, chama esse processo de “estupidez artificial”: quanto menos você exercita a capacidade de triar informação, de organizar memória, de buscar sentido, menos treinada fica a sua capacidade de pensar de forma autônoma. Não é um argumento contra a tecnologia em si. É um argumento sobre o que se perde quando o uso vira subalterno, delegado por completo, sem critério.

Por que esse dado me deixa atenta

Quando li o número dos 80% de dependência de Google ou Microsoft, pensei em quantas vezes já vi orientandas escreverem o pré-projeto inteiro dentro de uma única ferramenta de IA, sem parar pra questionar quem decidiu as categorias que ela usa pra organizar o pensamento delas. O Método V.O.E. (Velocidade, Organização, Execução Inteligente) que eu ensino trabalha exatamente com a lógica oposta: a IA acelera a execução, mas a decisão sobre o que entra, o que sai e por que continua sendo sua.

Não significa abandonar a ferramenta. Significa perguntar, antes de aceitar a sugestão pronta, se aquela formulação nasceu da sua trajetória de pesquisa ou de um cálculo estatístico sobre milhões de textos que você nunca leu. Faz sentido? A cientista política Asma Mhalla, também citada no artigo, resume bem: a questão não é a máquina, é quem a governa. No seu caso, quem governa o uso é você, ou é a ferramenta?

Próximos passos

Se esse tema te interessou, aqui vão algumas ações concretas pra essa semana:

1. Leia o artigo original de Deisy Ventura no Jornal da USP e confira as referências que ela cita, incluindo o Caderno Vozes da Ciência da SBPC.
2. Revise os últimos três textos acadêmicos que você produziu com apoio de IA generativa e identifique em quantos momentos você aceitou uma sugestão sem questionar.
3. Pergunte ao seu programa de pós-graduação se existe orientação formal sobre declaração de uso de IA em trabalhos científicos.
4. Se você orienta alguém, abra essa conversa antes da próxima reunião de orientação.

Se você quer entender melhor onde estão os limites éticos desse uso na prática da pesquisa, veja também Ética no uso de IA na pesquisa: o que está em jogo.

Fonte: Ética em pesquisa e IA generativa: por uma abordagem crítica e soberana, Jornal da USP