OpenAI lança programa de clonagem de voz e alerta para potenciais riscos em ano de eleições
A OpenAI, uma empresa que trabalha na área da inteligência artificial, apresentou um programa capaz de clonar vozes humanas em apenas 15 segundos. No entanto, a empresa está consciente dos possíveis riscos, especialmente em ano de eleições.
O programa foi anunciado após a implementação do ChatGPT e permite agora clonar as vozes das pessoas. Para evitar o uso indevido, a empresa estabeleceu regras, incluindo a exigência de consentimento expresso da pessoa cuja voz será clonada.
O modelo, denominado “Voice Engine”, pode duplicar a voz de uma pessoa com base num extrato áudio de 15 segundos. A empresa, sediada em São Francisco, está a trabalhar com parceiros de vários sectores, como a política, os meios de comunicação social, o entretenimento, a educação e a sociedade civil, tendo em conta os seus comentários no desenvolvimento da tecnologia.
Os especialistas estão preocupados com o abuso de aplicações que utilizam Inteligência Artificial (IA), especialmente neste ano de eleições na Europa e nos Estados Unidos. Há um número crescente de programas de clonagem de voz que são baratos, fáceis de usar e difíceis de rastrear.
A OpenAI afirmou estar ciente destes problemas. Devido ao potencial de abuso das vozes sintéticas, a empresa optou por uma abordagem cautelosa para o seu lançamento. Os parceiros que testaram o Voice Engine concordaram com regras que incluem o consentimento explícito de qualquer pessoa cuja voz seja duplicada pelo programa. Além disso, tem de ser claro para os ouvintes que as vozes que estão a ouvir foram geradas por IA.
Por último, a empresa, que também desenvolveu o gerador de imagens Dall-e e a aplicação de IA para a produção de vídeos realistas Sora, incentiva a reflexão sobre os possíveis riscos da tecnologia.
