Atualizado a 26 de setembro de 2026 às 00:06
A OpenAI apresentou o MentalHealthBench, uma nova ferramenta de avaliação focada na segurança e utilidade de modelos de IA em conversas sobre saúde mental.
Uma nova ferramenta para avaliar a segurança da IA
A OpenAI anunciou o lançamento do MentalHealthBench, um benchmark desenvolvido com o apoio de especialistas, focado na avaliação de modelos de inteligência artificial. O objetivo central é analisar a capacidade destes sistemas em fornecer respostas úteis e seguras durante conversas realistas sobre temas de saúde mental.
Num cenário onde a utilização de assistentes de IA para suporte emocional e conversas sensíveis tem crescido, a criação de métricas de avaliação torna-se fundamental. O MentalHealthBench procura estabelecer padrões que ajudem a garantir que as interações com a IA respeitem critérios de segurança e eficácia, minimizando riscos em contextos delicados.
O foco na utilidade e segurança
Segundo a OpenAI, o benchmark foi desenhado para testar como os modelos de linguagem lidam com cenários complexos, garantindo que as respostas não sejam apenas tecnicamente precisas, mas também adequadas ao contexto de saúde mental. Esta iniciativa reflete a crescente preocupação da indústria com a responsabilidade no desenvolvimento de modelos que interagem diretamente com utilizadores em situações vulneráveis.
Este desenvolvimento alinha-se com os esforços globais para tornar a tecnologia mais segura, um tema que tem sido recorrente na análise de sistemas autónomos, tal como explorámos anteriormente noutros contextos de segurança tecnológica, como podes ler no nosso artigo sobre privacidade e vigilância em sistemas autónomos.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
AMD Instinct MI450X: nova GPU reforça flexibilidade na série MI400
GitHub Copilot: guia prático revela como estruturar 'agent skills' reutilizáveis
XPENG apresenta GroundingPI, novo modelo de perceção visual para Physical AI