Sempre que você fala sobre o assunto da inteligência artificial, está falando sobre algo que é moralmente cinza e potencialmente devastador. O caso é o mesmo com a ferramenta Universal Translator da qual o Google falou durante o Google I/O. A empresa falou sobre o bem potencial que essa ferramenta pode trazer junto com o mal potencial (via Techcrunch).
Com a introdução do Bard, a ferramenta que pode ser usada para criar código e conteúdo escrito, e MusicLM, a ferramenta que pode ser usada para gerar música instantaneamente a partir de um prompt de texto, o Google definitivamente falou sobre alguma tecnologia assustadora que poderia causar grandes danos. . O Tradutor Universal não é diferente.
Esta é uma tecnologia bastante inovadora que pode ajudar as pessoas a traduzir a fala. A tecnologia irá gravar um vídeo de alguém falando e dublá-lo em um idioma diferente. Isso envolverá a tradução do discurso e a reprodução de uma voz gerada por IA que corresponda à voz e ao tom do orador original. Por fim, o Google usará IA para sincronizar os lábios do locutor com o áudio recém-gerado.
Será como se o orador originalmente tivesse gravado o vídeo em um idioma diferente.
O Google reconhece que a ferramenta Universal Translator pode ser usada para causar danos
A inteligência artificial está, e tem estado, contornando a linha entre o útil e o perigoso. O uso de vozes geradas por IA e tecnologia de falsificação profunda está saindo de The Uncanny Valley e entrando em Realism City. Está ficando mais difícil distinguir entre as vozes geradas por IA e as reais.
Isso significa que estamos nos aproximando da capacidade de gerar qualquer pessoa dizendo ou fazendo qualquer coisa. Você odeia uma celebridade? Você pode fazer um vídeo falso deles dizendo coisas racistas ou anti-semitas. Você é um ex ciumento? Bem, você pode gerar vídeos falsos ou áudio deles traindo seu amante atual. Isso está se tornando menos impossível.
É por isso que, durante a apresentação, James Manyika destacou a frase “Ousado e Responsável”. Isso significa que o Google, antes de disponibilizar essa tecnologia para as massas, fará o possível para garantir que pessoas mal-intencionadas não possam usar essa tecnologia para atos maliciosos.
O problema é que é difícil ver como a empresa será capaz de fazer isso. Existe apenas um Google, mas existem milhões de pessoas mal-intencionadas por aí. Isso pode facilmente ficar fora de controle e causar algum dano real a pessoas inocentes. Teremos apenas que ver como as coisas acontecem e esperar que o Google saiba o que está fazendo.