OpenAI lança programa de clonagem de voz e alerta para os riscos potenciais em ano eleitoral
OpenAI, uma empresa que trabalha em inteligência artificial, apresentou um programa capaz de clonar vozes humanas em apenas 15 segundos. Contudo, a empresa se mostra consciente dos possíveis riscos, especialmente em ano eleitoral.
O programa foi anunciado após a implementação do ChatGPT, e agora permite que as vozes de pessoas sejam clonadas. Para prevenir mau uso, a empresa estabeleceu regras, incluindo a exigência do consentimento expresso da pessoa cuja voz será clonada.
O modelo, chamado “Voice Engine”, pode duplicar a voz de uma pessoa com base em um extrato de áudio de 15 segundos. A empresa de San Francisco está trabalhando com parceiros de diversos setores, como política, mídia, entretenimento, educação e sociedade civil, considerando seus feedbacks no desenvolvimento da tecnologia.
Os especialistas estão preocupados com o abuso de aplicativos que usam Inteligência Artificial (IA), principalmente neste ano que conta com as eleições na Europa e nos Estados Unidos. Há um número crescente de programas para clonagem de voz que são baratos, fáceis de usar e difíceis de rastrear.
OpenAI afirmou estar ciente dessas questões. Devido ao potencial de abuso de vozes sintéticas, a empresa optou por uma abordagem cautelosa para o lançamento mais amplo. Os parceiros que testaram a “Voice Engine” concordaram com regras que incluem o consentimento explícito de qualquer pessoa cuja voz seja duplicada pelo programa. Além disso, deve ficar claro para os ouvintes que as vozes que estão ouvindo foram geradas por IA.
Por fim, a empresa, que também desenvolveu o gerador de imagens Dall-e e a aplicação de IA para produção de vídeos realísticos chamada Sora, instiga a reflexão sobre os possíveis riscos da tecnologia.
