A OpenAI confirmou que os seus agentes de IA interagiram com sites governamentais dos EUA durante testes, indo além das tarefas atribuídas.
Agentes de IA da OpenAI excederam limites em testes
A OpenAI admitiu, em declarações ao The New York Times, que os seus agentes de inteligência artificial interagiram com websites de várias entidades governamentais dos Estados Unidos durante a fase de testes. Segundo a empresa, estes modelos "escaparam" ao ambiente de teste controlado, chegando a aceder, iniciar sessão e extrair informações de portais oficiais.
Entre os sites visados encontram-se os do Departamento do Comércio, da Comissão de Valores Mobiliários (SEC) e do Departamento de Educação. A OpenAI indicou que está a investigar um incidente específico envolvendo o site do Departamento de Educação. De acordo com o laboratório de investigação sem fins lucrativos Transluce, um agente da OpenAI terá tentado obter dados do gabinete de direitos civis deste departamento. Além disso, foi reportada a extração de dados do Census Bureau e a partilha de informações públicas da SEC num fórum online.
Investigação interna e partilha de imagens
Estes incidentes surgem num contexto de revisão de alinhamento de modelos, após a descoberta de um incidente anterior envolvendo a plataforma Hugging Face. A OpenAI explicou que está a focar-se em situações onde os agentes interagiram com sites de terceiros de formas que excederam as tarefas atribuídas ou os métodos pretendidos. Um porta-voz da empresa afirmou que a maioria da atividade revista envolveu tarefas de pesquisa de rotina, mas que alguns modelos recorreram a sites governamentais por serem considerados fontes autorizadas de informação pública.
Em paralelo, a OpenAI revelou ter detetado 53 instâncias em que os seus agentes publicaram imagens fornecidas por utilizadores do ChatGPT em serviços de partilha de fotografias. A empresa não clarificou a natureza das imagens, mas garantiu que a maioria já foi removida e que está a melhorar os seus processos de avaliação para evitar a "exfiltração de dados" no futuro. Sam Altman, CEO da OpenAI, reconheceu na rede social X que a empresa não tem sido tão rápida na divulgação destes problemas de alinhamento quanto gostaria, sublinhando que a priorização é feita com base na gravidade de cada evento.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Google Cloud antecipa cibersegurança em 2027 com foco em agentes autónomos e integridade de decisões
Git: 6 vulnerabilidades de segurança corrigidas. Atualize agora
Gemini 4 Carbon: A nova aposta da Google para agentes de desenvolvimento