OpenAI lanza un programa de clonación de voz y advierte de posibles riesgos en año electoral
OpenAI, una empresa que trabaja en inteligencia artificial, ha presentado un programa capaz de clonar voces humanas en sólo 15 segundos. Sin embargo, la empresa es consciente de los posibles riesgos, especialmente en un año electoral.
El programa se anunció tras la puesta en marcha del ChatGPT, y ahora permite clonar la voz de las personas. Para evitar usos indebidos, la empresa ha establecido normas, entre ellas la de exigir el consentimiento expreso de la persona cuya voz se va a clonar.
El modelo, llamado “Motor de Voz”, puede duplicar la voz de una persona basándose en un extracto de audio de 15 segundos. La empresa, con sede en San Francisco, está trabajando con socios de diversos sectores, como la política, los medios de comunicación, el entretenimiento, la educación y la sociedad civil, teniendo en cuenta sus opiniones a la hora de desarrollar la tecnología.
Los expertos están preocupados por el abuso de las aplicaciones que utilizan Inteligencia Artificial (IA), especialmente en este año de elecciones en Europa y Estados Unidos. Cada vez hay más programas de clonación de voz que son baratos, fáciles de usar y difíciles de rastrear.
OpenAI dijo que era consciente de estos problemas. Debido al potencial de abuso de las voces sintéticas, la empresa ha optado por un enfoque cauteloso ante un lanzamiento más amplio. Los socios que han probado el Motor de Voz han aceptado unas normas que incluyen el consentimiento explícito de cualquier persona cuya voz sea duplicada por el programa. Además, debe quedar claro para los oyentes que las voces que escuchan han sido generadas por IA.
Por último, la empresa, que también ha desarrollado el generador de imágenes Dall-e y la aplicación de IA para producir vídeos realistas llamada Sora, anima a reflexionar sobre los posibles riesgos de la tecnología.
