Meta Muse: Desenvolvedores conseguem aceder ao sistema de ficheiros da IA

Desenvolvedores conseguem extrair o sistema de ficheiros completo da nova plataforma de IA Muse da Meta através de simples comandos e interações.

Uma falha ou comportamento esperado na IA da Meta?

De acordo com o The Verge, dois programadores conseguiram obter o sistema de ficheiros completo da ferramenta de inteligência artificial Muse da Meta utilizando comandos simples. Os criadores Peter James e Jonny L. Saunders relataram que conseguiram induzir a Muse a compactar e partilhar os conteúdos da sua raiz de sistema, ficheiros do Ubuntu, modelos de aplicação e documentação interna.

Saunders indicou numa publicação na rede social Mastodon que o processo foi extremamente fácil de replicar e que a Muse apresentava pouca resistência a injeções de prompt. A Meta recusou classificar o incidente como uma violação de segurança, explicando que a Muse é executada em máquinas virtuais Linux persistentes para cada utilizador.

Detalhes internos revelados pela exportação de dados

• Acesso a ficheiros de texto simples em Markdown e JSON que detalham o funcionamento interno de Hatch (o nome interno da Muse).
• Memória armazenada em ficheiros Markdown simples e uma revisão noturna de conversas anteriores.
• Capacidades hard-coded, como o cancelamento de subscrições.
• Referências a uma integração de hardware denominada Meta Home Link, que poderá dar acesso a dispositivos numa rede doméstica.

Apesar da exposição destes dados, um porta-voz da Meta, Daniel Roberts, afirmou que exportar dados de uma máquina virtual não concede acesso privilegiado à infraestrutura da empresa ou aos dados de outros utilizadores, embora a empresa continue a atualizar o produto para ajustar a informação disponível nas máquinas virtuais.

Fontes

• https://www.theverge.com/ai-artificial-intelligence/1000222/meta-muse-ai-filesystem