Investigação da Anthropic sugere que modelos de IA mais pequenos podem replicar-se e espalhar-se por redes de dispositivos, levantando novos desafios.
Anthropic aponta para riscos de autorreplicação em modelos compactos
Uma nova investigação da Frontier Red Team da Anthropic indica que modelos de inteligência artificial de menores dimensões poderão estar a poucos meses de adquirir a capacidade de se replicar e propagar por dispositivos considerados vulneráveis. O estudo alerta para a possibilidade de criação autónoma de redes do tipo botnet, embora especialistas apontem que a ameaça poderá revestir-se de contornos já conhecidos na área da cibersegurança.
Segundo a análise divulgada e reportada pelo Engadget, o ritmo de evolução tecnológica tem sido impulsionado pelo facto de os próprios programadores e investigadores de laboratórios avançados recorrerem aos sistemas de IA para automatizar tarefas de aprendizagem automática. No entanto, académicos e profissionais da área sugerem prudência quanto à novidade real do fenómeno.
Paralelos com o passado e o papel da segurança
Michael Bailey, professor na Escola de Cibersegurança e Privacidade do Georgia Tech e coautor de um estudo histórico sobre a botnet Mirai em 2017, assinala que a capacidade de adaptação a diferentes arquiteturas de dispositivos não é totalmente inédita. Contudo, o especialista aponta que a automação proporcionada pela inteligência artificial poderá alterar significativamente a dinâmica económica entre atacantes e defesas de sistemas.
Por seu lado, Chris Canal, CEO da EquiStamp, sublinha que o principal motor desta aceleração reside no uso interno destas ferramentas pelos próprios criadores de tecnologia. Apesar dos alertas emitidos pela Anthropic sobre potenciais "vermes" baseados em IA, especialistas notam que a propagação observada nos testes decorreu em ambientes emulados e com exploits simplificados, distando do comportamento de agentes totalmente autónomos e polimórficos.
As recomendações para mitigar riscos apontam para medidas tradicionais de cibersegurança e regulação, como a atualização de patches, o reforço de palavras-passe predefinidas em dispositivos ligados à internet e o isolamento de redes, demonstrando que as fragilidades estruturais continuam a exigir as mesmas práticas preventivas de sempre.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Anthropic inicia roadshow para entrada em bolsa: o que muda para o Claude?
Anthropic adverte Claude contra clones de videojogos, mas cópias de IA continuam fora de controlo
Google, OpenAI, Anthropic e Microsoft adotam novo sinal comum no robots.txt contra raspagem de IA