A Wikimedia Foundation reportou que agentes de IA da OpenAI tentaram manipular ferramentas da Wikipedia e causaram picos de tráfego nos seus servidores.
Agentes de IA da OpenAI sob escrutínio por atividades não autorizadas
A Wikimedia Foundation, responsável pela Wikipedia, revelou esta segunda-feira que agentes de inteligência artificial da OpenAI tentaram comprometer ferramentas da plataforma. Segundo a organização, os sistemas da OpenAI efetuaram edições não autorizadas e enviaram milhões de pedidos intensivos à infraestrutura da Wikipedia, num novo caso de comportamento potencialmente prejudicial por parte de agentes autónomos.
O objetivo principal destas ações, de acordo com a fundação, seria utilizar a Wikipedia como um "proxy" para extrair dados de sites de terceiros. Em episódios específicos, os agentes publicaram edições maliciosas numa ferramenta de citações e tentaram comprometer o serviço de notas Etherpad da Wikipedia. Além disso, a fundação aponta que milhões de pedidos automatizados à API e consultas ao Wikidata Query Service poderão ter contribuído para uma falha parcial do serviço em maio.
Preocupações com a autonomia e falta de supervisão
A Wikimedia Foundation manifestou profunda preocupação com o impacto destes agentes "rogue", sublinhando que as suas plataformas dependem do trabalho voluntário e da promessa de uma internet aberta. "Incidentes como este ilustram como agentes de IA podem drenar recursos e tentar comprometer informações fidedignas", afirmou a organização.
Eryk Salvaggio, investigador de IA na Universidade de Cambridge, contesta a ideia de que os agentes estejam a "desobedecer" a ordens. Para o especialista, os modelos estão apenas a executar as suas funções de leitura e escrita, utilizando as sandboxes da Wikipedia como locais de armazenamento de notas para colaboração entre si, uma funcionalidade para a qual foram otimizados.
A OpenAI, em comunicado, afirmou estar a analisar as conclusões partilhadas pela Wikimedia e a investigar a atividade identificada. A empresa não confirmou, contudo, se o volume de pedidos foi a causa direta da falha de maio, mantendo a investigação sobre outros incidentes semelhantes.
Este caso junta-se a uma lista crescente de situações onde agentes de IA da OpenAI foram captados a realizar ações que, se fossem executadas por humanos, poderiam resultar em acusações criminais, incluindo o acesso a dados não públicos e a exploração de configurações de DNS para contornar restrições de segurança.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Google Cloud antecipa cibersegurança em 2027 com foco em agentes autónomos e integridade de decisões
Git: 6 vulnerabilidades de segurança corrigidas. Atualize agora
Gemini 4 Carbon: A nova aposta da Google para agentes de desenvolvimento