OpenAI startet Programm zum Klonen von Stimmen und warnt vor möglichen Risiken im Wahljahr
OpenAI, ein Unternehmen, das sich mit künstlicher Intelligenz beschäftigt, hat ein Programm vorgestellt, das menschliche Stimmen in nur 15 Sekunden klonen kann. Das Unternehmen ist sich jedoch der möglichen Risiken bewusst, besonders in einem Wahljahr.
Das Programm wurde nach der Einführung von ChatGPT angekündigt und ermöglicht es nun, die Stimmen von Menschen zu klonen. Um Missbrauch zu verhindern, hat das Unternehmen Regeln aufgestellt, die unter anderem die ausdrückliche Zustimmung der Person erfordern, deren Stimme geklont werden soll.
Das Modell mit dem Namen “Voice Engine” kann die Stimme einer Person auf der Grundlage eines 15-sekündigen Audioausschnitts duplizieren. Das in San Francisco ansässige Unternehmen arbeitet mit Partnern aus verschiedenen Bereichen wie Politik, Medien, Unterhaltung, Bildung und Zivilgesellschaft zusammen und berücksichtigt deren Feedback bei der Entwicklung der Technologie.
Experten sind besorgt über den Missbrauch von Anwendungen, die künstliche Intelligenz (KI) nutzen, besonders in diesem Wahljahr in Europa und den USA. Es gibt eine wachsende Zahl von Programmen zum Klonen von Stimmen, die billig, einfach zu bedienen und schwer zu verfolgen sind.
OpenAI sagte, es sei sich dieser Probleme bewusst. Aufgrund des Missbrauchspotenzials von synthetischen Stimmen hat sich das Unternehmen für eine vorsichtige Herangehensweise an die breite Einführung entschieden. Die Partner, die die Voice Engine getestet haben, haben sich auf Regeln geeinigt, die die ausdrückliche Zustimmung aller Personen beinhalten, deren Stimme vom Programm dupliziert wird. Außerdem muss den Hörerinnen und Hörern klar sein, dass die Stimmen, die sie hören, von KI erzeugt wurden.
Schließlich regt das Unternehmen, das auch den Dall-e Bildgenerator und die KI-Anwendung zur Produktion realistischer Videos namens Sora entwickelt hat, zum Nachdenken über die möglichen Risiken der Technologie an.
