Anthropic publica nova constituição para o Claude: o que muda na IA

Uma nova base para o comportamento do Claude

A Anthropic anunciou a publicação da nova constituição do seu modelo de inteligência artificial, o Claude. Este documento serve como a base fundamental que define a visão da empresa sobre os valores e o comportamento que a IA deve adotar. Ao contrário de uma lista estática de regras, este documento detalhado procura explicar o "porquê" das diretrizes, ajudando o modelo a compreender o contexto e a tomar decisões mais equilibradas em situações complexas.

A empresa sublinha que a constituição não é apenas um guia para os utilizadores, mas sim um documento escrito primariamente para o próprio Claude. O objetivo é que o modelo utilize estes princípios durante o processo de treino para aprender a equilibrar conceitos como honestidade, compaixão e a proteção de informações sensíveis.

Transparência e evolução do treino

A publicação deste documento sob a licença Creative Commons CC0 1.0 permite que qualquer pessoa possa aceder e utilizar o conteúdo livremente. Para a Anthropic, esta transparência é crucial à medida que as IAs ganham maior influência na sociedade, permitindo que os utilizadores compreendam melhor quais os comportamentos intencionais do modelo e possam fornecer feedback mais preciso.

A abordagem da empresa evoluiu desde 2023. Enquanto anteriormente a constituição era composta por princípios isolados, a nova versão foca-se na generalização. A ideia é que, ao compreender os valores subjacentes, o Claude consiga aplicar um bom julgamento em situações inéditas, em vez de seguir regras rígidas que podem falhar em contextos imprevistos.

• Prioridades do modelo: A Anthropic estabeleceu uma hierarquia de valores que o Claude deve seguir em caso de conflito, focando-se em ser útil, seguro e ético.
• Documento vivo: A empresa admite que este é um trabalho em curso e que erros podem ocorrer, prometendo manter a versão mais atualizada disponível no seu site oficial.
• Feedback externo: A criação deste documento contou com a colaboração de especialistas em áreas como filosofia, direito e psicologia, uma prática que a Anthropic pretende manter no futuro.

É importante notar que esta constituição se aplica aos modelos de acesso geral. Produtos especializados, como os que integram o Life Sciences Verification Program, podem ter diretrizes adaptadas para as suas necessidades específicas. A Anthropic reforça que, apesar deste esforço, o treino de modelos continua a ser um desafio técnico e que a realidade do comportamento da IA pode, por vezes, divergir da visão idealizada no documento.