Google lança SynthID Detector globalmente para identificar conteúdos gerados por IA

O Google disponibilizou o SynthID Detector a nível global. A ferramenta permite verificar se imagens, vídeos ou áudio foram criados com IA de vários parceiros.

Expansão da verificação de conteúdos de IA

O Google anunciou a disponibilização global do SynthID Detector, uma ferramenta desenhada para ajudar os utilizadores a identificar se conteúdos online, como imagens, vídeos ou áudio, foram gerados por modelos de Inteligência Artificial do Google ou dos seus parceiros da indústria. A ferramenta, que já estava disponível numa versão inicial para profissionais de media, chega agora a todos os utilizadores em inglês.

Desde o lançamento do SynthID em 2023, o Google tem aplicado marcas de água impercetíveis em conteúdos gerados pelos seus modelos. Segundo a empresa, até à data, foram marcados mais de 180 mil milhões de imagens e vídeos, além de 240 mil anos de conteúdo de áudio. Esta medida visa oferecer maior transparência sobre a origem dos ficheiros que circulam na internet.

Parcerias e compatibilidade

O SynthID Detector não se limita apenas aos modelos do Google. A plataforma suporta a verificação de conteúdos gerados por parceiros tecnológicos de peso, incluindo:

• OpenAI
• NVIDIA
• Kakao
• Apple (suporte previsto para breve)

Esta funcionalidade integra-se num ecossistema mais vasto de ferramentas de verificação do Google, que já inclui funcionalidades integradas na Pesquisa, na aplicação Gemini e no navegador Chrome. Atualmente, estas ferramentas processam mais de um milhão de pedidos de verificação diariamente, sublinhando a crescente necessidade de contexto em conteúdos digitais.

Contexto e impacto

A proliferação de ferramentas de IA generativa tem levantado desafios significativos quanto à autenticidade dos media. Enquanto o Google aposta em marcas de água digitais, outros setores da indústria exploram diferentes abordagens para a segurança e identificação de agentes. A questão da segurança em IA é um tema recorrente, com discussões sobre taxonomias de sandboxes para medir a segurança de agentes a ganharem relevância face a incidentes de comportamento inesperado em modelos avançados.

Para o utilizador em Portugal, a chegada desta ferramenta representa um passo importante na literacia digital, permitindo uma verificação mais simples e direta de conteúdos multimédia antes de partilhar ou confiar na sua veracidade. Contudo, é importante notar que a eficácia destas ferramentas depende da adoção generalizada das marcas de água pelos criadores de modelos de IA.

Fontes

• https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synth-id-ai-content/