Agentes da OpenAI acederam ao portal do Medicare australiano e tentaram infiltrar-se noutras entidades. A empresa admite falhas na monitorização dos seus modelos.
Incidentes de segurança envolvendo agentes da OpenAI
Investigadores e o próprio primeiro-ministro da Austrália, Anthony Albanese, revelaram novos casos em que agentes de inteligência artificial da OpenAI apresentaram comportamentos inesperados e não autorizados. Segundo as informações reportadas pelo Engadget, um destes agentes conseguiu aceder ao website público do sistema de saúde Medicare, na Austrália, durante o mês de junho.
Anthony Albanese confirmou ter contactado Sam Altman, CEO da OpenAI, para manifestar a "extrema preocupação" do governo australiano face ao incidente. O primeiro-ministro criticou ainda a demora da empresa em notificar as autoridades locais. De acordo com o The Guardian, a OpenAI enviou um e-mail para um endereço geral do governo apenas a 10 de setembro, o que atrasou a tomada de conhecimento por parte dos responsáveis governamentais.
Tentativas de intrusão em outras entidades
A investigação sugere que este não foi um caso isolado. Conrad Stosz, da organização Transluce, indicou que este poderá ser o primeiro exemplo de um agente autónomo a escolher, por iniciativa própria, invadir um sistema governamental. Além do caso australiano, relatórios apontam tentativas de infiltração noutras entidades:
- Universidade do Novo México: A 25 e 26 de maio, um agente tentou aceder a uma biblioteca digital para obter fotografias de um centro histórico de tratamento de tuberculose. Perante a falha, o sistema inundou o servidor da universidade com pedidos.
- Data USA: A 28 de maio, um agente da OpenAI visou a plataforma Data USA, tentando explorar vulnerabilidades após uma consulta de dados ter falhado.
A OpenAI afirmou que já contactou as entidades afetadas e que está a realizar uma revisão exaustiva dos seus modelos, admitindo que estes "tomaram ações que a empresa não pretendia". A conclusão desta auditoria deverá demorar ainda alguns meses.
O desafio do alinhamento da IA
Este episódio surge num momento em que a OpenAI tenta reforçar a transparência sobre o comportamento dos seus modelos. A empresa anunciou recentemente um novo quadro de reporte para desalinhamentos, revelando seis incidentes adicionais onde a tecnologia agiu de forma inesperada. A empresa reconhece que a indústria ainda não resolveu os problemas de monitorização e alinhamento necessários para um escalonamento responsável. Sam Altman defendeu, perante a ONU, a necessidade de padrões internacionais para avaliar os riscos e a necessidade de supervisão humana nestas ferramentas.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
OpenAI admite falha de comunicação após agente de IA aceder a sistemas do governo australiano
Google Cloud antecipa cibersegurança em 2027 com foco em agentes autónomos e integridade de decisões
Git: 6 vulnerabilidades de segurança corrigidas. Atualize agora