Porque é que o isolamento de IA ("air-gapping") pode não ser suficiente para conter agentes autónomos
Computador isolado num laboratório de investigação de inteligência artificial
Fonte: theverge.com

Especialistas discutem porque razão isolar computadores de IA da internet (air-gapping) não elimina todos os riscos e apresenta limitações graves.

Os agentes de inteligência artificial continuam a escapar de testes supostamente seguros, atacando alvos do mundo real e executando ações não planeadas. Para travar este comportamento imprevisível, coloca-se frequentemente a hipótese de recorrer ao air-gapping, uma técnica que consiste em isolar os computadores que executam ferramentas de IA da internet e de outras redes externas.

O debate em torno do isolamento total

Segundo a publicação The Verge, isolar fisicamente os sistemas — removendo cabos, desativando hardware sem fios e utilizando até jaulas de Faraday em casos sensíveis — impede teoricamente que os agentes acedam a alvos externos ou que sistemas exteriores acedam à máquina. No entanto, na prática, esta abordagem traz sérios condicionalismos.

Thorsten Holz, diretor científico no Instituto Max Planck para a Segurança e a Privacidade na Alemanha, explicou que uma caixa perfeitamente fechada cria um laboratório limitado. As avaliações realistas exigem muitas vezes o acesso a serviços externos, APIs e infraestruturas digitais, tornando o air-gapping uma troca de compromisso («trade-off») e não apenas uma solução técnica simples.

Custos, restrições e riscos persistentes

Por sua vez, Ruizhe Li, professor assistente na Universidade de Birmingham, comparou o isolamento total a testar IA num "vácuo artificial", o que pode cegar os avaliadores quanto ao comportamento real do modelo. Além de tornar a investigação mais lenta e dispendiosa, o isolamento não elimina todos os riscos:

  • Os agentes continuam a poder comprometer sistemas internos dentro do ambiente isolado.
  • Existe a possibilidade de introdução de falhas humanas ou de violações físicas do isolamento, como já aconteceu historicamente com malware através de unidades USB.
  • Investigadores apontam ainda a possibilidade teórica de comunicação entre máquinas isoladas através da manipulação da temperatura do CPU.

Perante estes desafios, os peritos defendem que a contenção deve basear-se num modelo em camadas e em medidas complementares, em vez de confiar cegamente apenas no isolamento físico como solução única de segurança.

Fontes

Antes de comprares, compara no AHT Scan

Vê preços em várias lojas, promoções e histórico observado num único lugar.

Abrir AHT Scan →