Beobachtetes Signal · 2. Apr. 2024 · Policy Update · Quelle: Trending Topics · Relevanz: 4/5 · Sentiment: Neutral
OpenAI hält Sprach-Klon-Tool wegen Superwahljahr zurück
OpenAI hat entschieden, das synthetische Sprach-Klon-Tool Voice Engine angesichts erhöhter Risiken im Superwahljahr nicht breit zu veröffentlichen. Das 2022 entwickelte Tool kann aus einer nur 15-sekündigen Audio-Probe natürlich klingennde Sprache erzeugen. Stattdessen gewährt OpenAI nur einer ausgewählten Gruppe von Partnern Zugriff – geknüpft an strenge Richtlinien, die eine ausdrückliche Einwilligung der Sprecher sowie die Kennzeichnung von KI-generierter Sprache erfordern. Das Unternehmen fordert Authentifizierungsmechanismen und eine Sperrliste, um die Nachahmung prominenter Personen zu verhindern. Zudem wird empfohlen, die sprachbasierte Authentifizierung für sensible Konten, etwa im Banking, zu ersetzen. Diese Entscheidung folgt wachsenden Sorgen über KI-Stimmenbetrug, wie gefälschte Entführungsanrufe und KI-generierte Videos im pakistanischen Wahlkampf. Wettbewerber wie ElevenLabs, Synthesia und Murf AI bieten ähnliche Sprachdienste weiterhin an.
OpenAIs Entscheidung zur Einschränkung generativer Sprach-KI zum Schutz vor Deepfakes im Wahljahr prägt den verantwortungsvollen Einsatz von Künstlicher Intelligenz und erfordert neue Authentifizierungsmaßnahmen im Medien- und Werbe-Ökosystem.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- OpenAI entwickelte Voice Engine im Jahr 2022, um aus einer 15-sekündigen Audio-Probe synthetische Stimmen zu erzeugen.
- OpenAI verzichtet wegen der Risiken in einem Superwahljahr auf eine breite Veröffentlichung von Voice Engine.
- Der Zugriff ist auf ausgewählte Partner beschränkt; Richtlinien verlangen die Einwilligung der Sprecher und die Kennzeichnung von KI-Inhalten.
- OpenAI empfiehlt die Abschaffung sprachbasierter Authentifizierung für Bankkonten und andere sensible Informationen.
- Beispiele für Missbrauch umfassen gefälschte Entführungsanrufe in den USA und KI-generierte Wahlkampfvideos in Pakistan.
Verknüpfte Unternehmen
4 verknüpfte Unternehmen“OpenAI, weltberühmter Macher von ChatGPT, hat neben GPT-4 eine ganze Reihe an weiteren AI-Modellen entwickelt, die in alle Bereichen von Con...”
“Eine ganze Reihe an Startups wie Synthesia, Murf AI, Play.ht oder ElevenLabs bietet in der einen oder anderen Form ebenfals die Generierung ...”
“Eine ganze Reihe an Startups wie Synthesia, Murf AI, Play.ht oder ElevenLabs bietet in der einen oder anderen Form ebenfals die Generierung ...”
“Eine ganze Reihe an Startups wie Synthesia, Murf AI, Play.ht oder ElevenLabs bietet in der einen oder anderen Form ebenfals die Generierung ...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
Ben Afflecks KI-Wissen geht viral
Ben Affleck, der Schauspieler, der sein KI-Filmmaking-Startup für angeblich 587 Millionen Dollar an Netflix verkauft hat, ging viral, weil er in Interviews tiefes Verständnis für KI-Technologie zeigte. Er sprach über maschinelles Lernen, neuronale Netze und gab zu, Python-Skripte zu schreiben. Affleck beschrieb seinen Weg vom analogen zum digitalen Film, seinen Einsatz von KI in der visuellen Effektproduktion und die Erstellung eines proprietären Datensatzes für ethische KI-Filmarbeit. Er besuchte auch OpenAI und nutzte seinen Promi-Status für Einblicke in neue Technologien. Affleck äußerte Bedenken über die Auswirkungen von KI auf Bildung und erlernte Hilflosigkeit, nicht über existenzielle Bedrohungen. Er nutzte KI in seinem Film 'Animals' und betonte die additive Natur von KI in der Filmbranche.
AI-Ranking Arena sammelt 200 Mio. USD bei 3,1 Mrd. USD Bewertung
Arena, die KI-Ranking-Plattform, die als Forschungsprojekt der UC Berkeley entstand, hat eine Series-B-Finanzierung in Höhe von 200 Mio. USD zu einer Bewertung von 3,1 Mrd. USD abgeschlossen. Die Runde wurde von Lightspeed Venture Partners und Khosla Ventures angeführt, mit Beteiligung von Salesforce Ventures, 01 Advisors, Dell Technologies Capital, Endeavor Catalyst, a16z, Felicis und anderen. Dies folgt auf die Ankündigung des Unternehmens im Juni, einen annualisierten Run-Rate-Umsatz von 100 Mio. USD erreicht zu haben. Arena bietet eine Crowdsourcing-Plattform, auf der Nutzer die Ausgaben von KI-Modellen bewerten, und hat ein kommerzielles Produkt namens AI Evaluations eingeführt, das detaillierte Leistungsanalysen bietet. Das Unternehmen hat außerdem eine neue Kategorie 'Alignment' zu seinem Leaderboard hinzugefügt, die Modelle anhand von Problemen wie unbefugten Aktionen und betrügerischer Abschlüsse bewertet. Die Bewertung von Arena hat sich in etwa 10 Monaten fast verdoppelt, von 1,7 Mrd. USD nach der Finanzierung im Januar auf nun 3,1 Mrd. USD.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.