OpenAI lanceert programma voor het klonen van stemmen en waarschuwt voor potentiële risico’s in verkiezingsjaar
OpenAI, een bedrijf dat zich bezighoudt met kunstmatige intelligentie, heeft een programma gepresenteerd dat in staat is om menselijke stemmen te klonen in slechts 15 seconden. Het bedrijf is zich echter bewust van de mogelijke risico’s, vooral in een verkiezingsjaar.
Het programma werd aangekondigd na de implementatie van ChatGPT en maakt het nu mogelijk om stemmen van mensen te klonen. Om misbruik te voorkomen heeft het bedrijf regels opgesteld, waaronder het vereisen van de uitdrukkelijke toestemming van de persoon wiens stem gekloond zal worden.
Het model, genaamd “Voice Engine”, kan de stem van een persoon dupliceren op basis van een audiofragment van 15 seconden. Het bedrijf uit San Francisco werkt samen met partners uit verschillende sectoren, zoals politiek, media, entertainment, onderwijs en maatschappelijke organisaties, en houdt rekening met hun feedback bij het ontwikkelen van de technologie.
Experts maken zich zorgen over het misbruik van toepassingen die gebruik maken van kunstmatige intelligentie (AI), vooral in dit verkiezingsjaar in Europa en de Verenigde Staten. Er zijn steeds meer programma’s voor het klonen van stemmen die goedkoop, makkelijk te gebruiken en moeilijk te traceren zijn.
OpenAI zei dat het zich bewust was van deze problemen. Vanwege de kans op misbruik van synthetische stemmen heeft het bedrijf gekozen voor een voorzichtige aanpak van de bredere lancering. De partners die de Voice Engine hebben getest, hebben ingestemd met regels die onder andere inhouden dat iedereen wiens stem door het programma wordt gedupliceerd, expliciet toestemming moet geven. Daarnaast moet het voor luisteraars duidelijk zijn dat de stemmen die ze horen door AI zijn gegenereerd.
Tot slot moedigt het bedrijf, dat ook de Dall-e beeldgenerator en de AI-toepassing voor het produceren van realistische video’s genaamd Sora heeft ontwikkeld, aan om na te denken over de mogelijke risico’s van technologie.
