Safeworld quer garantir que robôs com IA não ferem humanos

A startup Safeworld angariou 12 milhões de dólares para desenvolver simulações que testam a segurança de robôs controlados por IA em ambientes reais.

A necessidade de validar sistemas probabilísticos

A integração de modelos de Inteligência Artificial generativa no controlo de robôs traz desafios inéditos. Ao contrário dos algoritmos tradicionais, a arquitetura da IA generativa não é totalmente previsível, o que levanta questões sobre como garantir que robôs humanoides operem em segurança junto de pessoas. Para resolver este problema, a Safeworld emerge agora do modo stealth com uma ronda de investimento de 12 milhões de dólares.

A empresa foi fundada por Ding Zhao, diretor do laboratório Safe AI da Universidade Carnegie Mellon, em conjunto com Kyle Wong e Simo Rachidi. O objetivo central é criar padrões de segurança para a indústria, antes que a implementação em larga escala de robôs em ambientes domésticos ou industriais resulte em incidentes.

Simulações como base de teste

A especialidade da Safeworld reside na avaliação de sistemas de controlo robótico através de simulações populadas com modelos humanos realistas. Em vez de testar fisicamente cada cenário de risco, a empresa utiliza ambientes digitais — como o Genesis ou MuJoCo — para replicar locais específicos, como cantos cegos em fábricas ou situações de interação com humanos que carregam objetos.

• Avaliação empírica: A Safeworld corre milhares de cenários onde modelos humanos interagem com o robô, incluindo comportamentos imprevisíveis como tropeçar ou cair.
• Validação de terceiros: A empresa posiciona-se como um validador independente, permitindo que fabricantes partilhem dados de segurança sem comprometer segredos industriais.

Vishal Dugar, CTO da Gritt Robotics, que desenvolve robôs para a instalação de painéis fotovoltaicos, é um dos parceiros da Safeworld. Dugar sublinha que, para sistemas complexos que operam junto de trabalhadores humanos, a verificação matemática é insuficiente, sendo necessária uma abordagem empírica que considere a variabilidade física e comportamental dos humanos no local de trabalho.

A Safeworld ainda está a definir o seu modelo de negócio, ponderando entre uma plataforma para utilizadores externos ou uma abordagem baseada em serviços, mas os fundadores mostram-se otimistas quanto à viabilidade comercial, dada a necessidade crítica de segurança para qualquer empresa que pretenda escalar a implementação de robótica autónoma.

Fontes

• https://techcrunch.com/2026/10/05/can-safeworld-convince-people-that-gen-ai-robots-wont-hurt-them/