Estudos indicam que imagens e resumos gerados por IA podem distorcer memórias reais e influenciar decisões, mesmo em especialistas. Saiba os riscos.
A confiança na inteligência artificial (IA) está a enfrentar um novo desafio. Investigadores, incluindo a cientista do MIT Pattie Maes, alertam que a exposição a fotografias e resumos gerados por IA pode distorcer a memória dos utilizadores, levando-os a recordar factos de forma errada e com um nível de confiança excessivo nas suas falsas recordações.
O impacto na memória e na tomada de decisão
A memória humana é, por natureza, suscetível a sugestões. Experiências psicológicas documentadas desde o século XIX demonstram que a desinformação pode alterar a perceção da realidade e influenciar decisões políticas e sociais, mesmo após a emissão de correções. A introdução da IA generativa, capaz de produzir conteúdos cada vez mais convincentes, amplifica este risco.
Estudos recentes indicam que tanto deepfakes como textos gerados por IA têm tido sucesso em implantar falsas memórias sobre acontecimentos inexistentes, como escândalos políticos, chegando a reduzir a intenção de voto dos participantes. Mesmo quando a IA não é utilizada com intenção maliciosa, o fenómeno das "alucinações" — erros na geração de conteúdo — representa um risco significativo.
O mito do "humano no circuito"
Muitas organizações, incluindo bancos e entidades militares, implementam sistemas de IA com a supervisão de especialistas humanos (o conceito de human in the loop), acreditando que erros serão detetados antes de causarem danos. Contudo, a investigação sugere que os utilizadores têm dificuldade em identificar alucinações da IA. Quando o sistema apresenta informação que contradiz o conhecimento do especialista, este pode ter o seu julgamento distorcido pela confiança excessiva na tecnologia.
Um exemplo concreto desta vulnerabilidade ocorreu este ano, quando um ataque militar americano num alvo na zona de um estabelecimento de ensino no Irão resultou em mais de 150 mortos. Uma investigação interna do Departamento de Defesa dos EUA, reportada pela Bloomberg, concluiu que o erro foi parcialmente causado por uma dependência excessiva de um sistema de IA desenvolvido pela Palantir, que recomendou o alvo com base em dados desatualizados.
O que significa isto para os utilizadores?
Atualmente, não existe um método infalível para identificar conteúdos gerados por IA, sendo a capacidade de um utilizador comum detetar estas falsificações comparável a lançar uma moeda ao ar. Enquanto investigadores trabalham em métodos de treino para melhorar a deteção de deepfakes, a indústria avança para sistemas de IA agêntica, que visam a autonomia total, reduzindo a intervenção humana.
Para o utilizador, isto implica uma necessidade acrescida de ceticismo perante conteúdos digitais, especialmente em contextos de tomada de decisão, onde a verificação cruzada com fontes primárias independentes se torna essencial para mitigar o risco de manipulação cognitiva.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Óculos inteligentes: Google detalha proteções de privacidade
Google Flow: 5 novas ferramentas de IA criadas por artistas
Google atribui 13 milhões de dólares a 148 investigadores de doutoramento em 2026