Durante o evento Microsoft Ignite 2023, a empresa lançado seu criador de avatar de conversão de texto em fala do Azure AI Speech. Esta ferramenta está atualmente disponível para visualização pública e sua principal função é criar falsificações profundas de pessoas para uso. A Microsoft também mostra como os usuários podem se beneficiar dessa nova ferramenta que estão adicionando à sua lista de ferramentas baseadas em IA.
Este novo criador deep fake permite que os usuários façam vídeos de pessoas conversando apenas criando um script e enviando a imagem da pessoa. Depois de fazer isso, a IA trabalhará na imagem fornecida e fará a pessoa dizer as palavras do script. Dois modelos de IA estão trabalhando juntos para tornar esse novo recurso uma realidade.
Um se concentra na animação, enquanto o outro volta sua atenção para o lado da conversão de texto em fala. De acordo com Microsoft, esta nova ferramenta será benéfica para as empresas, pois poderão “criar vídeos de treinamento, apresentações de produtos, depoimentos de clientes [and so on] simplesmente com entrada de texto.” As empresas que desejam criar assistentes virtuais ou chatbots realistas podem recorrer a esse novo recurso para obter assistência.
Embora o avatar de conversão de texto em fala do Microsoft Azure AI Speech pareça impressionante, é muito preocupante
Nos últimos meses, tem havido reclamações sobre o abuso da IA em todo o mundo. Golpistas e malfeitores recorreram a essas ferramentas para facilitar seu trabalho. Sem as regulamentações necessárias, eles conseguiram, coletivamente, acabar com milhões de usuários desavisados.
Apenas um alguns dias atrás, um modelo de IA foi usado para copiar a voz de uma atriz popular para um anúncio sobre o qual ela nada sabia. Há alguns meses, um modelo de IA ajudou a gerar música com nomes de cantores populares. Estes são apenas alguns casos que mostram o abuso de diversas ferramentas de IA que estão atualmente disponíveis para uso.
Agora, ninguém está dizendo que o avatar de conversão de texto em fala do Microsoft Azure AI Speech está aqui para facilitar os golpes. Mas será que esta ferramenta pode ser acessível a esses golpistas e malfeitores que abusarão do uso pretendido? A resposta a essa pergunta é um retumbante sim, portanto, é necessário que haja regulamentações rígidas para o uso desta nova ferramenta de IA da Microsoft.
A Microsoft está ciente dos riscos que esta nova ferramenta de IA pode representar para o público se cair nas mãos de maus atores. Por esse motivo, empresas ou outros usuários precisam de “permissão explícita por escrito” para usar esse recurso. No final do vídeo, a Microsoft também exige uma divulgação que indique claramente que o vídeo é gerado por IA.
Essas duas medidas podem garantir que golpistas e malfeitores não abusem desse novo recurso. Empresas e usuários agora podem experimentar esse novo recurso para imaginar como podem utilizá-lo bem. Nos próximos meses, os internautas poderão ver esse novo recurso sendo utilizado em empresas e também em outras áreas.