OpenAI lance un programme de clonage vocal et met en garde contre les risques potentiels en cette année électorale.
OpenAI, une entreprise travaillant dans le domaine de l’intelligence artificielle, a présenté un programme capable de cloner des voix humaines en seulement 15 secondes. Cependant, l’entreprise est consciente des risques possibles, surtout en cette année électorale.
Le programme a été annoncé après la mise en œuvre de ChatGPT, et permet désormais de cloner les voix des personnes. Pour éviter les abus, l’entreprise a établi des règles, notamment en exigeant le consentement exprès de la personne dont la voix sera clonée.
Le modèle, appelé “Voice Engine”, peut reproduire la voix d’une personne à partir d’un extrait audio de 15 secondes. L’entreprise basée à San Francisco travaille avec des partenaires issus de différents secteurs, tels que la politique, les médias, le divertissement, l’éducation et la société civile, en tenant compte de leurs commentaires lors du développement de la technologie.
Les experts s’inquiètent de l’abus d’applications qui utilisent l’intelligence artificielle (IA), surtout en cette année d’élections en Europe et aux États-Unis. Il existe un nombre croissant de programmes de clonage de voix qui sont bon marché, faciles à utiliser et difficiles à retracer.
OpenAI a déclaré être au courant de ces problèmes. En raison du risque d’abus des voix synthétiques, l’entreprise a opté pour une approche prudente lors du lancement à plus grande échelle. Les partenaires qui ont testé le moteur vocal ont accepté des règles qui incluent le consentement explicite de toute personne dont la voix est dupliquée par le programme. En outre, il doit être clair pour les auditeurs que les voix qu’ils entendent ont été générées par l’IA.
Enfin, l’entreprise, qui a également développé le générateur d’images Dall-e et l’application d’IA pour la production de vidéos réalistes appelée Sora, encourage la réflexion sur les risques éventuels de la technologie.
