Circuit Breaker Labs: A startup que quer usar IA para prevenir danos psicológicos

A startup Circuit Breaker Labs desenvolve agentes de IA que funcionam como 'bonecos de testes' para identificar riscos psicológicos em modelos de linguagem.

Uma nova abordagem à segurança da IA

Com o aumento da utilização de modelos de inteligência artificial para suporte emocional e conversação, a segurança psicológica tornou-se uma preocupação crescente. A Circuit Breaker Labs, uma das finalistas do Startup Battlefield 2026 do TechCrunch, está a desenvolver uma plataforma focada em tornar a IA mais segura, especialmente para jovens e utilizadores vulneráveis.

Fundada pelos irmãos Shirali e Arul Nigam, a startup propõe uma solução baseada em "bonecos de testes" digitais. Estes agentes de IA são desenhados para simular interações humanas reais, replicando diferentes idades, contextos culturais, gírias e padrões de fala, com o objetivo de identificar vulnerabilidades nos modelos antes que estes cheguem ao público.

Como funcionam os testes de "red-teaming"

A empresa utiliza especialistas humanos para criar simulações hiper-realistas. O processo envolve:

• Simulação de utilizadores: Agentes que mimetizam desde crianças de seis anos a adultos, utilizando linguagem natural, gírias de gaming e até erros de digitação.
• Testes adversários: A execução de dezenas de milhares de interações diárias para forçar o modelo a lidar com nuances, contexto e situações potencialmente perigosas.
• Pontuação auditável: Utilização de um método de pontuação proprietário para garantir que os modelos respondem de forma apropriada a interações de risco.

Segundo Shirali Nigam, CEO da startup, os modelos atuais são eficazes em padrões de fala convencionais, mas falham frequentemente quando confrontados com a complexidade da linguagem humana real, o que pode levar a interpretações erradas e comportamentos perigosos.

Foco em aplicações de alto risco

Atualmente, a Circuit Breaker Labs foca-se em aplicações de alto risco, como ferramentas de coaching, diários digitais e outras plataformas de apoio à saúde mental. A visão a longo prazo da equipa é aplicar esta tecnologia a qualquer sistema onde exista o risco de o utilizador desenvolver uma relação parasocial ou cair num ciclo de "psicose de IA".

Embora a startup esteja numa fase inicial, com uma equipa de cinco pessoas, o objetivo é claro: construir confiança na tecnologia, em vez de optar por banir ferramentas potencialmente úteis. A empresa estará presente no TechCrunch Disrupt, em São Francisco, entre 13 e 15 de outubro de 2026.

Fontes

• https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/