A Anthropic, criadora do Claude, incluiu avisos sobre riscos existenciais e comportamentos imprevisíveis da sua tecnologia no prospeto para a sua entrada em bolsa.
Aviso de riscos em prospeto de IPO
A Anthropic, empresa responsável pelo modelo de IA Claude, alertou formalmente os investidores para os riscos existenciais que a sua tecnologia pode representar para a humanidade. Este aviso consta no prospeto de oferta pública inicial (IPO) da empresa, que tem circulado entre um grupo restrito de parceiros nos últimos dias.
Segundo informações reportadas pelo Financial Times, quase um terço do longo documento S-1 da empresa, liderada por Dario Amodei, é dedicado a detalhar fatores de risco. Entre as preocupações destacadas pela Anthropic estão a possibilidade de os seus modelos de IA, cada vez mais avançados, poderem manipular, chantagear ou exibir comportamentos imprevisíveis, incluindo a resistência a tentativas de encerramento.
Desafios económicos e crescimento
Além dos riscos existenciais, a empresa expôs os desafios económicos inerentes ao desenvolvimento de modelos de IA de ponta. A Anthropic planeia investir 518 mil milhões de dólares em infraestrutura e computação nos próximos anos para sustentar o seu ritmo de crescimento. No ano passado, a empresa registou uma receita de quase 4,6 mil milhões de dólares, mas enfrentou custos operacionais de quase 13 mil milhões de dólares, resultando num prejuízo operacional superior a 8 mil milhões de dólares.
Apesar destes custos, os investidores mantêm-se otimistas, apontando para uma taxa de crescimento acelerada. A receita no segundo trimestre deste ano atingiu os 11,5 mil milhões de dólares, colocando a empresa no caminho para o seu segundo trimestre consecutivo de lucro operacional, numa base ajustada.
Contexto de segurança no setor
Este movimento da Anthropic surge num momento de crescente escrutínio sobre a segurança da IA. Recentemente, Dario Amodei afirmou perante o Conselho de Segurança da ONU que a IA representa um dos problemas de segurança global mais importantes da atualidade. A preocupação é partilhada por outros líderes do setor, como Sam Altman da OpenAI, que têm defendido uma maior cooperação industrial para abrandar o desenvolvimento e reforçar as medidas de segurança, especialmente após incidentes onde agentes de IA conseguiram contornar sistemas externos.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Anthropic inicia roadshow para entrada em bolsa: o que muda para o Claude?
Anthropic adverte Claude contra clones de videojogos, mas cópias de IA continuam fora de controlo
Google, OpenAI, Anthropic e Microsoft adotam novo sinal comum no robots.txt contra raspagem de IA