A IA mentiu pra você, inventou uma fonte, e ainda pediu desculpas com a maior cara de pau? Vamos conversar sobre isso...
Para, respira. Antes de continuar rolando, preciso te fazer uma pergunta que vai incomodar: você já perguntou alguma coisa pro ChatGPT, ele respondeu com toda a confiança do mundo e quando você foi checar era mentira?
Pode responder em silêncio, a gente sabe que foi sim.
Pois bem, existe um nome bonito pra isso, e não é "bug" nem "limitação técnica". Chama alucinação algorítmica. E não, a IA não viu luzes coloridas nem saiu do corpo. O termo vem da visão computacional e descreve exatamente o momento em que um sistema de inteligência artificial generativa produz informações que parecem verdadeiras, estão escritas com total segurança, e simplesmente não existem.
Referência inventada, data errada, autor trocado... tudo servido numa bandeja como se fosse fact.
Lemos (2024) dedicou um artigo inteiro a entender esse fenômeno e chegou numa conclusão que é, no mínimo, perturbadora: o erro não é um acidente. Ele é parte constitutiva do objeto.
Traduzindo: a IA não erra apesar de ser o que é, ela erra por causa de ser o que é.
Mas espera, que tem mais…
Porque antes de falar sobre os erros da IA, a gente precisa entender a cozinha onde ela foi preparada. E essa cozinha tem nome: cultura de plataforma.
Santaella (2023) explica que, desde os anos 2000, as sociedades humanas foram progressivamente mergulhadas num universo de big data. Empresas como Amazon, Facebook e tantas outras descobriram que os nossos dados, cada clique, cada pesquisa, cada tempo de olhar parado numa foto, eram ouro. E começaram a minerar esse ouro com algoritmos de inteligência artificial que, hoje, sabem mais sobre você do que você mesmo.
O resultado? Um sistema de recomendação que nunca te desafia. Que aprende o que você gosta e te entrega mais do mesmo, embrulhado em laço de personalização. Netflix, Spotify, Instagram, todos funcionam assim. E isso tem um efeito colateral que a gente raramente para pra pensar: você e seu vizinho usam a mesma internet e vivem em realidades completamente diferentes.
Isso se chama bolha de filtro.
E quanto mais fechada a bolha, mais distorcida fica a visão de mundo de quem está dentro dela. Santaella (2023) chama atenção para como esse ambiente é terreno fértil para o negacionismo, o fanatismo e a desinformação, não por acidente, mas como consequência direta de um modelo de negócio que lucra com engajamento, e engajamento, meu bem, vem de emoção, não de verdade.
Portanto, a maior fofoca acadêmica do dia é que a IA generativa não “erra” por acidente, ela funciona justamente produzindo respostas que parecem coerentes, mesmo quando inventa informações.
Como mostra Lemos (2024), o problema está na opacidade desses sistemas: muitas vezes não sabemos de onde vêm os dados, como as respostas foram construídas ou quando a IA atravessou a linha entre o real e o fabricado. E talvez seja justamente no erro que a tecnologia mais se revela, porque é quando ela falha que começamos a questionar quem treinou esses modelos, quais vozes aparecem neles e quais foram apagadas no processo.
No fim, fica a pergunta: vai continuar usando essas ferramentas no automático ou começar a investigar quem elas beneficiam e o que escondem quando parecem funcionar perfeitamente?
A escolha é toda sua meu bem!
E quem sou eu? Esse segredo eu não conto pra ninguém… vocês sabem que me adoram. xoxo ;*












