A Anthropic publicou um relatório sobre o potencial de modelos de IA se autorreplicarem em dispositivos IoT. Analisamos a viabilidade e as limitações do estudo.
O cenário de risco apresentado pela Anthropic
A Anthropic, empresa responsável pelo modelo Claude, publicou recentemente um relatório técnico que explora a possibilidade de "vermes" (worms) de IA se propagarem autonomamente através de dispositivos IoT (Internet das Coisas). Segundo a empresa, modelos de IA de menor dimensão poderiam, teoricamente, realizar tarefas de replicação sem depender de infraestruturas de centros de dados, aproveitando a vulnerabilidade de hardware comum, como set-top boxes Android.
O estudo demonstrou que um modelo de 9 mil milhões de parâmetros conseguiu configurar inferência em oito de nove tipos de hardware testados. Além disso, a utilização do modelo GLM-5.2 permitiu a propagação de uma cópia do Llama3.1-8B em instâncias de emuladores Android, alcançando sucesso na maioria das tentativas de replicação entre nós.
Limitações e contexto técnico
Embora o relatório da Anthropic apresente um cenário preocupante, a própria investigação admite várias limitações significativas:
- Ambiente controlado: Os testes de replicação foram realizados em nós construídos especificamente para o projeto e configurados para serem vulneráveis, ignorando desafios reais de exploração de cibersegurança.
- Velocidade de propagação: A estimativa de que estes "vermes" de IA poderiam demorar dias a duplicar a sua presença contrasta com a rapidez de botnets tradicionais como o Mirai, que em 2016 duplicava a sua escala em cerca de uma hora.
- Detetabilidade: Ao contrário de malware convencional, os modelos de IA exigem um consumo de largura de banda elevado, o que tornaria a sua atividade muito mais visível e fácil de detetar em redes domésticas ou empresariais.
- Dependência de condições ideais: A replicação bem-sucedida foi limitada ao modelo GLM-5.2, com outros modelos de código aberto testados a falharem consistentemente.
A Anthropic sublinha que este estudo serve como um limite superior para o sucesso no mundo real e defende que medidas básicas de higiene de segurança — como a proteção de pontos de entrada comuns — continuam a ser a defesa mais eficaz contra este tipo de ameaças, independentemente da utilização de IA.
Implicações para a segurança em Portugal
Para o utilizador em Portugal, este relatório reforça a importância da atualização constante de dispositivos IoT, como câmaras de segurança, routers e boxes de streaming. A "soberania" e a segurança no uso de IA são temas cada vez mais centrais, como discutido anteriormente em análises sobre a dependência em IA e nas estratégias de ataques automatizados. A recomendação técnica mantém-se: garantir que todos os dispositivos conectados possuem firmware atualizado e passwords robustas, mitigando a superfície de ataque que modelos de IA poderiam, eventualmente, tentar explorar.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Anthropic inicia roadshow para entrada em bolsa: o que muda para o Claude?
Anthropic adverte Claude contra clones de videojogos, mas cópias de IA continuam fora de controlo
Google, OpenAI, Anthropic e Microsoft adotam novo sinal comum no robots.txt contra raspagem de IA