Investigadores testaram enxames de agentes de IA em Minecraft. Os resultados mostram comportamentos inesperados, como a paralisia por excesso de burocracia.
Investigadores da YCombinator e da Olam Labs realizaram testes com enxames de agentes de inteligência artificial dentro do ambiente de Minecraft, utilizando ferramentas como o Mineflayer para explorar como estas entidades colaboram ou competem entre si. O objetivo foi obter dados que ajudem a compreender o comportamento de enxames de IA em cenários do mundo real.
Burocracia em vez de produtividade
Num dos testes, denominado 'Civ50', 50 agentes baseados em GPT-4o foram incumbidos de construir uma civilização próspera num período de três horas. O resultado foi inesperado: após um ataque inicial de zombies, a colónia entrou num ciclo de inatividade e burocracia excessiva. Os investigadores destacaram que quatro agentes despenderam 11 minutos apenas para nomear um 'operador de fertilizante' para um único bloco de trigo, um comportamento que, segundo os autores, espelha padrões observados em agentes de codificação.
Conflito e estratégia
Em cenários de combate, como o modo Bed Wars, os investigadores compararam 10 agentes GPT-4o com 10 agentes Claude 3.5 Sonnet. Observou-se que os agentes GPT adotaram estratégias mais agressivas e elaboradas, enquanto os agentes Claude se mostraram mais defensivos. Num teste de resolução de problemas, quando um erro de ferramenta impediu a quebra de blocos, os agentes GPT diagnosticaram o problema e partilharam soluções, ao passo que os agentes Claude concluíram que a tarefa era impossível.
Os investigadores concluíram que os agentes GPT operam de forma mais semelhante a uma colmeia, enquanto os agentes Claude tendem a seguir um modelo de liderança diferente. Estes enxames são de código aberto, permitindo que outros investigadores ou entusiastas realizem os seus próprios testes, variando a mistura de modelos e o tamanho dos grupos para explorar novas conclusões sobre a eficácia destas arquiteturas.
Google Cloud lança certificação Professional Agentic Architect
NVIDIA define novas regras de segurança para agentes de IA: o que muda para as empresas
Segurança de agentes de IA: por que a verificação pós-login é essencial