Microsoft e OpenAI temiam "doom loop" com uso de notícias em IA

Documentos internos revelados em tribunal mostram que executivos da Microsoft e OpenAI reconheciam riscos de usar notícias para treinar modelos de IA.

Documentos internos expõem receios sobre o futuro do jornalismo

Documentos internos da Microsoft e da OpenAI, anteriormente marcados como confidenciais, foram revelados num processo judicial movido por organizações de notícias, incluindo o The New York Times. A documentação sugere que, antes do lançamento de produtos como o ChatGPT e o Copilot, executivos de ambas as empresas expressaram preocupações sobre o impacto da recolha de dados noticiosos para o treino de modelos de inteligência artificial.

Segundo a Ars Technica, Brent Hecht, Diretor de Ciência Aplicada da Microsoft, descreveu em documentos internos a prática de recolha de notícias para treino de IA como "um roubo impressionante de proporções sem precedentes", chegando a classificá-lo como o "maior roubo de trabalho na história da humanidade".

O conceito de "doom loop"

A preocupação central reside no que foi descrito como um "doom loop" (ciclo de destruição). Um documento da Microsoft citado no processo alerta que a IA pode prejudicar o desempenho dos seus próprios modelos ao destruir a "cadeia de abastecimento de conteúdo" de que dependem. A lógica é simples: ao substituir os sites de notícias, os chatbots reduzem o tráfego e a receita desses meios, o que, a longo prazo, pode limitar a disponibilidade de informações fiáveis para o treino futuro da própria IA.

Dados apresentados no processo indicam que a utilização de IA resultou em quedas significativas nas taxas de cliques (click-through rates) para diversos meios de comunicação social, variando entre 51% e 94% em alguns casos.

A questão do "fair use" e o acesso a paywalls

Enquanto a Microsoft defende, através de um porta-voz, que os seus produtos de IA constituem uma utilização transformadora (fair use) e não substituem os sites de notícias, as mensagens internas contam uma história diferente. Mensagens trocadas na OpenAI revelam que funcionários discutiram formas de contornar paywalls de publicações para obter dados de treino. Greg Brockman, presidente da OpenAI, terá reagido positivamente ao saber que uma equipa encontrou uma forma de contornar o paywall do The New York Times.

Além disso, o CEO da Microsoft, Satya Nadella, reconheceu sob juramento que os chatbots funcionam como substitutos de plataformas de notícias, ao fornecerem a informação diretamente na interface da IA, eliminando a necessidade de o utilizador visitar a fonte original.

As organizações de notícias argumentam que estas provas demonstram que as empresas tinham consciência de que o seu comportamento poderia ser prejudicial e que a utilização de conteúdo noticioso não é uma prática de "fair use", mas sim uma estratégia de substituição comercial.