A Inteligência Artificial está mudando não apenas a forma como produzimos informação, mas também a maneira como decidimos se uma informação é válida. Minha tese central é que a IA não elimina as controvérsias envolvidas na produção do conhecimento: ela as torna menos visíveis.
Recebemos respostas prontas, coerentes e plausíveis, mas temos dificuldade para acompanhar as disputas, escolhas, fontes e mediações que participaram de sua construção. É uma mudança importante na nossa relação com a informação: saímos de ambientes em que parte da controvérsia pode ser rastreada para sistemas marcados pela opacidade algorítmica.
Da Wikipédia à Inteligência Artificial
Essa reflexão nasceu de uma pesquisa que comecei muito antes da popularização da IA generativa. Em 2014, defendi minha tese de doutorado em Ciência da Informação estudando a Wikipédia. Uma questão me interessava particularmente: como uma informação consegue ser considerada válida em uma enciclopédia que pode ser editada por tantas pessoas? Passei um bom tempo observando verbetes, discussões, alterações, referências e negociações entre editores. Mais do que descobrir se determinada informação estava certa ou errada, eu queria entender o caminho percorrido até que uma versão fosse aceita.
Mais de dez anos depois, a Inteligência Artificial me fez voltar àquela pesquisa com uma nova pergunta: quando uma IA nos entrega uma resposta pronta, o que aconteceu antes de ela chegar até nós? Nesse sentido, a comparação com a Wikipédia ajuda a pensar sobre o problema. Na enciclopédia, boa parte do processo de construção da informação deixa rastros. É possível consultar versões anteriores de um verbete, verificar quem modificou determinado trecho, identificar fontes e acompanhar discussões entre os editores. A divergência não acontece apenas nos bastidores. Ela faz parte do processo de construção da informação e pode ser observada.
Quando a controvérsia deixa de ser visível
Foi nesse ponto que minha pesquisa se aproximou das ideias de Bruno Latour e da Teoria Ator-Rede. Para compreender um fato, Latour propõe acompanhar as redes que participam de sua construção. Pessoas, documentos, instituições, tecnologias, argumentos e interesses entram em cena até que determinada afirmação se estabilize.
Quando isso acontece, tendemos a esquecer todo o trabalho anterior e passamos a usar o resultado como algo pronto. É o que Latour chama de caixa-preta. A Wikipédia permite, pelo menos em parte, abrir novamente essa caixa e reconstruir o percurso de uma informação. Podemos observar versões, fontes, intervenções e discussões que participaram da estabilização de determinado conteúdo.
A opacidade algorítmica da IA generativa
Por outro lado, com a IA generativa, a situação muda. Faço uma pergunta ao ChatGPT, ao Gemini ou a outro sistema e recebo um texto organizado em poucos segundos. Não acompanho as diferentes posições existentes sobre o assunto, não vejo as disputas envolvidas e não consigo reconstruir integralmente o percurso que levou àquela formulação. Recebo o resultado já processado.
Ainda assim, isso não significa que as controvérsias tenham desaparecido. Os dados usados no desenvolvimento desses sistemas carregam diferentes discursos, perspectivas, consensos, conflitos, escolhas e vieses. A diferença está na possibilidade de enxergarmos essas relações durante o contato com a informação produzida.
No artigo que escrevi a partir dessa reflexão, chamo esse movimento de passagem da controvérsia visível para a opacidade algorítmica. Na IA, boa parte das relações que participam da produção de uma resposta fica inacessível ao usuário. Os conflitos e as diferentes perspectivas não deixam necessariamente de existir, mas aparecem comprimidos no funcionamento dos modelos. Vemos a resposta, mas não conseguimos acompanhar toda a rede que participou de sua produção.
Uma resposta convincente não é necessariamente verdadeira
Como consequência, sistemas de IA generativa são capazes de produzir respostas extremamente convincentes sem tornar visível todo o processo que levou àquela formulação. Um texto pode estar bem escrito, apresentar uma explicação coerente, trazer dados e transmitir segurança. Nada disso garante que a informação esteja correta.
A diferença entre uma resposta plausível e uma informação verdadeira precisa ocupar um espaço muito maior nas discussões sobre Inteligência Artificial. A qualidade da escrita não pode funcionar como certificado de validade daquilo que está sendo apresentado. Fluência não é sinônimo de verdade, assim como segurança na formulação de uma resposta não representa garantia de precisão.
Essa questão altera também nossa posição diante da informação. Quando um sistema responde rapidamente e com aparente segurança, existe o risco de tratarmos o resultado como um produto acabado. A facilidade de acesso à resposta pode reduzir justamente aquilo que deveria aumentar: nossa disposição para perguntar de onde veio a informação e quais evidências permitem sustentá-la.
Letramento em Inteligência Artificial é mais do que saber fazer prompts
Na Wikipédia, diante de uma afirmação duvidosa, posso procurar a referência, consultar o histórico do verbete e observar discussões anteriores. Em uma resposta produzida por IA, esse percurso nem sempre está disponível. Nesse contexto, a discussão sobre letramento em Inteligência Artificial ganha outra dimensão.
Tenho dificuldade com abordagens que praticamente reduzem esse letramento à capacidade de escrever bons prompts. Saber conversar com uma ferramenta é útil, mas está longe de ser suficiente para compreender criticamente o ambiente informacional criado pela IA. Saber pedir uma resposta melhor não significa necessariamente saber avaliar a qualidade da resposta recebida.
Por isso, aprender a usar IA precisa incluir a capacidade de questionar seus resultados, conferir informações, procurar outras fontes e reconhecer que toda resposta é produzida dentro de determinadas condições técnicas e informacionais. Não se trata de ensinar uma desconfiança indiscriminada em relação à tecnologia. Trata-se de recuperar uma atitude crítica que sempre foi necessária diante da informação e que ganha nova importância quando a mediação passa a ser algorítmica.
Para a educação, essa discussão é especialmente importante. Professores e estudantes não precisam apenas aprender onde clicar ou qual comando escrever. Precisam entender que a IA não é uma fonte neutra que simplesmente recupera respostas corretas armazenadas em algum lugar.
Estamos lidando com sistemas que produzem resultados a partir de modelos probabilísticos e cujos processos internos não são inteiramente visíveis para quem os utiliza. Além disso, ensinar IA significa ensinar a lidar com os limites, as incertezas e as condições de produção de suas respostas. O letramento em Inteligência Artificial precisa incluir o uso da ferramenta, mas não pode terminar nele.
Pensamento crítico na era da Inteligência Artificial
O pensamento crítico diante da IA começa antes mesmo da verificação de uma resposta. Começa quando deixamos de olhar para o texto apresentado na tela como um produto acabado e passamos a considerar as condições que tornaram aquela resposta possível.
Quem produziu os dados? Que perspectivas podem estar representadas? Quais podem ter ficado de fora? Que fontes permitem verificar a informação apresentada? Dessa forma, essas perguntas deslocam nossa atenção da ferramenta para o processo de produção da informação e ajudam a abrir aquilo que o algoritmo tende a apresentar como pronto.
Foi justamente isso que minha antiga pesquisa sobre a Wikipédia me fez perceber agora. Em 2014, eu estava interessado em entender como discussões, argumentos e negociações participavam da construção da validade da informação. Hoje, a Inteligência Artificial acrescenta um novo problema àquela questão: parte desse processo já não pode ser acompanhada da mesma maneira.
A controvérsia continua existindo, mas sua visibilidade diminui. E essa é uma das mudanças mais importantes trazidas pela IA para nossa relação com a informação. Se antes o desafio era acompanhar as disputas envolvidas na construção de uma informação, agora precisamos também aprender a lidar com sistemas que entregam o resultado sem tornar plenamente visível o caminho percorrido.
Não basta perguntar se uma resposta está certa. Precisamos manter o hábito de investigar de onde ela pode ter vindo, quais evidências a sustentam e o que ficou escondido durante sua produção. O desafio não está apenas em aprender a operar ferramentas cada vez mais sofisticadas, mas em preservar nossa capacidade de questionar aquilo que elas produzem.
Em uma cultura cada vez mais mediada por algoritmos, saber usar Inteligência Artificial será importante. Saber questioná-la será indispensável.
