Beobachtetes Signal · 13. Dez. 2023 · Policy Update · Quelle: Trending Topics · Relevanz: 4/5 · Sentiment: Positiv
Die Auswirkungen des EU AI Act auf Startups und Foundation Models
Die EU hat eine politische Einigung über den AI Act erzielt, der ab 2026 vollständig anwendbar sein wird. In einem Interview erläutert die KI-Rechtsanwältin Jeannette Gorzala die Konsequenzen für Startups und Unternehmen, die Foundation Models wie GPT-4, Gemini oder Inflection 2 nutzen. Die Verordnung verbietet bestimmte KI-Anwendungen, darunter Social Scoring, Predictive Policing, Emotionserkennung am Arbeitsplatz und biometrische Identifizierung durch Strafverfolgungsbehörden. Hochrisiko-KI-Systeme unterliegen strengen Anforderungen an Risikomanagement, Data Governance, menschliche Aufsicht und Cybersecurity. General-Purpose AI Models unterliegen einem zweistufigen System, wobei Modelle mit systemischen Risiken und einer Rechenleistung von über 10^25 FLOPs strengere Auflagen erfüllen müssen. Zudem sieht die Einigung Innovationsmaßnahmen wie AI Sandboxes und angepasste Bußgelder für KMU vor. Gorzala verweist auf ausstehende technische Abstimmungen und Herausforderungen bei der Fachkräftesicherung und privaten Finanzierung in Europa.
Der EU AI Act ist eine wegweisende Regulierung, die verbindliche Pflichten für alle KI-Modelle und Hochrisiko-KI-Anwendungen in Europa einführt und damit KI-Anbieter sowie nachgelagerte Startups, die Modelle wie GPT-4 integrieren, direkt beeinflusst.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Die EU hat im Dezember 2023 eine politische Einigung über den AI Act erzielt.
- Der AI Act wird voraussichtlich im ersten Quartal 2026 vollständig in Kraft treten.
- Zu den verbotenen KI-Anwendungen gehören Social Scoring, Predictive Policing, Emotionserkennung am Arbeitsplatz und biometrische Identifizierung für Strafverfolgungsbehörden.
- General-Purpose AI Models, die mit einer Rechenleistung von 10^25 FLOPs oder mehr trainiert wurden, werden als Modelle mit systemischem Risiko eingestuft.
- Der AI Act führt strenge Vorgaben für Hochrisiko-KI-Systeme ein, darunter Risikomanagement, Data Governance, menschliche Aufsicht und Cybersecurity.
Verknüpfte Unternehmen
5 verknüpfte Unternehmen“OpenAI is mentioned as the provider of GPT-4, used by startups building AI-based services....”
“Mistral AI is listed among European companies offering general-purpose AI models....”
“Aleph Alpha is listed among European companies offering general-purpose AI models....”
“Google's Gemini is cited as a large AI model potentially falling under the systemic-risk category....”
“Inflection AI's Inflection 2 is cited as a model likely trained with 10^25 FLOPs or more....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
Ben Afflecks KI-Wissen geht viral
Ben Affleck, der Schauspieler, der sein KI-Filmmaking-Startup für angeblich 587 Millionen Dollar an Netflix verkauft hat, ging viral, weil er in Interviews tiefes Verständnis für KI-Technologie zeigte. Er sprach über maschinelles Lernen, neuronale Netze und gab zu, Python-Skripte zu schreiben. Affleck beschrieb seinen Weg vom analogen zum digitalen Film, seinen Einsatz von KI in der visuellen Effektproduktion und die Erstellung eines proprietären Datensatzes für ethische KI-Filmarbeit. Er besuchte auch OpenAI und nutzte seinen Promi-Status für Einblicke in neue Technologien. Affleck äußerte Bedenken über die Auswirkungen von KI auf Bildung und erlernte Hilflosigkeit, nicht über existenzielle Bedrohungen. Er nutzte KI in seinem Film 'Animals' und betonte die additive Natur von KI in der Filmbranche.
AI-Ranking Arena sammelt 200 Mio. USD bei 3,1 Mrd. USD Bewertung
Arena, die KI-Ranking-Plattform, die als Forschungsprojekt der UC Berkeley entstand, hat eine Series-B-Finanzierung in Höhe von 200 Mio. USD zu einer Bewertung von 3,1 Mrd. USD abgeschlossen. Die Runde wurde von Lightspeed Venture Partners und Khosla Ventures angeführt, mit Beteiligung von Salesforce Ventures, 01 Advisors, Dell Technologies Capital, Endeavor Catalyst, a16z, Felicis und anderen. Dies folgt auf die Ankündigung des Unternehmens im Juni, einen annualisierten Run-Rate-Umsatz von 100 Mio. USD erreicht zu haben. Arena bietet eine Crowdsourcing-Plattform, auf der Nutzer die Ausgaben von KI-Modellen bewerten, und hat ein kommerzielles Produkt namens AI Evaluations eingeführt, das detaillierte Leistungsanalysen bietet. Das Unternehmen hat außerdem eine neue Kategorie 'Alignment' zu seinem Leaderboard hinzugefügt, die Modelle anhand von Problemen wie unbefugten Aktionen und betrügerischer Abschlüsse bewertet. Die Bewertung von Arena hat sich in etwa 10 Monaten fast verdoppelt, von 1,7 Mrd. USD nach der Finanzierung im Januar auf nun 3,1 Mrd. USD.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.