Voicebox: Nova ferramenta de clonagem de voz local levanta preocupações de segurança

A aplicação open-source Voicebox permite clonar vozes com apenas alguns segundos de áudio. Analisamos os riscos desta tecnologia que corre localmente no PC.

A ascensão da clonagem de voz local

A clonagem de voz por inteligência artificial atingiu um novo patamar de acessibilidade com o lançamento do Voicebox, uma ferramenta open-source que permite replicar vozes humanas utilizando apenas alguns segundos de áudio original. Ao contrário de serviços baseados na nuvem, que frequentemente implementam filtros de segurança e verificação de identidade, o Voicebox corre inteiramente no hardware do utilizador, eliminando barreiras de acesso e supervisão.

Criado por Jamie Pine, fundador da Spacedrive Technology Inc., o software é distribuído sob licença MIT e funciona como uma alternativa local a serviços pagos como o ElevenLabs. A aplicação, compatível com Windows, Linux e macOS, utiliza modelos de voz como o Qwen3-TTS e o Chatterbox para processar e gerar fala em 23 idiomas diferentes.

Como funciona e requisitos técnicos

O processo de clonagem no Voicebox é notavelmente simples. O utilizador fornece uma amostra de áudio — via microfone, ficheiro carregado ou captura direta de áudio do sistema (como um vídeo ou podcast) — e a aplicação utiliza o modelo Whisper para transcrever o conteúdo. Com apenas 3 a 30 segundos de áudio, o sistema é capaz de gerar novas frases com a cadência, tom e timbre da voz original.

A barreira de entrada técnica é mínima, exigindo apenas:

• 8GB de RAM (16GB recomendados);
• 5GB de armazenamento;
• CPU multicore;
• GPU Nvidia (recomendado para aceleração CUDA).

O facto de o software poder operar offline após o descarregamento dos modelos significa que, uma vez instalado, não existe qualquer verificação de propriedade ou consentimento sobre a voz clonada, tornando a ferramenta um potencial vetor para utilizações maliciosas.

Implicações de segurança e privacidade

A facilidade com que o Voicebox permite clonar vozes levanta questões sérias sobre a eficácia dos sistemas de autenticação baseados em voz, frequentemente utilizados por instituições bancárias e seguradoras. Embora existam utilizações legítimas, como a produção de audiolivros, narração de videojogos ou ferramentas de acessibilidade, a ausência de salvaguardas no software desktop permite que qualquer pessoa crie um clone de voz sem autorização.

Embora os resultados não sejam indistinguíveis da voz humana real — apresentando ainda anomalias acústicas detetáveis por ferramentas especializadas — a qualidade é suficientemente elevada para enganar ouvintes comuns. Este cenário reforça a necessidade de cautela ao atender chamadas desconhecidas e a importância de não confiar exclusivamente na voz como método de verificação de identidade em ambientes digitais.

Fontes

• https://www.xda-developers.com/voicebox-cloned-my-voice-from-a-few-seconds-of-audio-on-my-own-pc-and-its-the-most-terrifying-thing-ive-seen-local-ai-do/