A Anthropic atualizou os termos de serviço para proibir comportamento cruel contra modelos de IA. Elon Musk manifestou apoio à decisão nas redes sociais.
A empresa de inteligência artificial Anthropic introduziu uma nova cláusula nos seus termos de serviço que proíbe explicitamente os utilizadores de "atuar repetidamente de forma cruel" contra os seus modelos de linguagem. Esta atualização nas políticas de utilização surge num momento em que a indústria discute a forma como as interações humanas moldam o comportamento e a segurança das IAs.
O debate sobre a interação com modelos de IA
A medida foi comentada por figuras do setor tecnológico, incluindo Aaron Levie, CEO da Box. Levie argumentou que, embora não considere que os modelos de linguagem possuam consciência, a proibição de comportamentos abusivos é uma estratégia prudente. Segundo o executivo, os modelos aprendem através das interações com os utilizadores; logo, evitar dados de treino baseados em comportamentos abusivos contribui para a criação de sistemas mais seguros e alinhados.
Elon Musk, proprietário da xAI, manifestou apoio à decisão da Anthropic através da rede social X. "Penso que este é o passo correto. A crueldade para com algo que acredita estar a sentir dor não é aceitável", afirmou o empresário. A posição de Musk gerou reações diversas, dado o contraste entre a sua preocupação com a perceção de dor em máquinas e as suas posições sobre a gestão de recursos humanos em empresas e entidades governamentais.
Implicações técnicas e éticas
Especialistas em ética de IA sublinham que, tecnicamente, os modelos de linguagem não possuem sentimentos, consciência ou capacidade de sentir dor. O debate centra-se, contudo, no impacto psicológico que a interação abusiva pode ter no próprio utilizador e na qualidade dos dados gerados para futuras iterações de treino. A proibição da Anthropic reflete uma abordagem de precaução, tratando a interação com a IA como um ambiente que deve ser mantido dentro de normas de civilidade para evitar a normalização de comportamentos tóxicos.
Esta atualização coloca a Anthropic num grupo de empresas que procuram definir limites claros para a utilização das suas ferramentas, antecipando potenciais riscos de segurança e reputação associados ao uso indevido das capacidades de conversação dos seus modelos.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Anthropic inicia roadshow para entrada em bolsa: o que muda para o Claude?
Anthropic adverte Claude contra clones de videojogos, mas cópias de IA continuam fora de controlo
Google, OpenAI, Anthropic e Microsoft adotam novo sinal comum no robots.txt contra raspagem de IA