Beobachtetes Signal · 31. Juli 2023 · Policy Update · Quelle: Trending Topics · Relevanz: 4/5 · Sentiment: Negativ
EU AI Act gefährdet Open-Source-Entwickler und KI-Ökosystem
Die Verabschiedung des EU AI Act durch das Europäische Parlament sorgt in der Open-Source-Community für erhebliche Besorgnis. Prominente Organisationen wie Creative Commons, EleutherAI, Hugging Face, GitHub, LAION und Open Future haben einen offenen Brief unterzeichnet, in dem sie vor unpraktikablen Hürden und Wettbewerbsnachteilen für das offene KI-Ökosystem warnen. Kritisiert werden insbesondere unklare Definitionen von KI-Komponenten und ein pauschaler Regulierungsansatz, der zu einer weiteren Marktkonzentration führen könnte. Obwohl die EU anerkennt, dass Open-Source-Software einen potenziellen Beitrag von 65 bis 95 Milliarden Euro zum BIP leisten kann, hält die Branche die vorgesehenen Ausnahmen für realitätsfern. Der Brief fordert verhältnismäßigere Anforderungen und präzisere Unterscheidungen für Basismodelle, um Innovationen im europäischen Technologie- und AdTech-Sektor nicht zu ersticken.
Der EU AI Act könnte strenge Auflagen für Open-Source-KI-Modelle mit sich bringen, die häufig in der AdTech-Branche eingesetzt werden, was Innovationen potenziell einschränkt und die Compliance-Kosten erhöht.
Marktsignale zu Hugging Face in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das Europäische Parlament hat den AI Act am 31. Juli 2023 angenommen.
- Führende Open-Source-Organisationen warnen in einem offenen Brief vor regulatorischen Hürden für das offene KI-Ökosystem.
- Zu den Unterzeichnern gehören Creative Commons, EleutherAI, Hugging Face, GitHub, LAION und Open Future.
- Der AI Act enthält zwar Ausnahmen für freie und Open-Source-KI-Komponenten, diese werden jedoch als unpraktikabel eingestuft.
- Die EU schätzt den potenziellen Beitrag von Open-Source-Software zum EU-BIP auf 65 bis 95 Milliarden Euro.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“an open letter co-authored by Creative Commons, Eleuther AI, Hugging Face, Github, LAION and Open Future....”
“an open letter co-authored by Creative Commons, Eleuther AI, Hugging Face, Github, LAION and Open Future....”
“Meta (Llama 2), BigScience (BLOOM) or EleutherAI (Falcon) regularly publish new, open-source LLMs....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
Google bringt agentische KI in Gemini für Unternehmen
Bei einer Google-Cloud-Veranstaltung am Donnerstag kündigte Google an, seine Gemini-KI ins agentische Zeitalter zu führen. Ein einheitlicher Agent kann nicht nur Fragen beantworten, sondern Aufgaben eigenständig planen und ausführen. Zunächst für Unternehmen gedacht, kann der Agent mit internen Systemen verbunden werden, benutzerdefinierte Fähigkeiten nutzen und sogar Modelle von Drittanbietern wie Anthropics Claude auswählen. Er verfügt über ein eigenes Workspace-Konto mit E-Mail-Adresse und schreibt ein eigenes Audit-Protokoll. Zu den frühen Testern gehören On, Shopify und PayPal. Gemini hat über 1 Milliarde monatlich aktive Nutzer, und fast 90% der Fortune-100-Unternehmen nutzen Gemini Enterprise.
Goodfire startet interne KI-Agenten-Überwachung
Goodfire, ein Start-up für KI-Interpretierbarkeit, hat am Donnerstag eine neue Art von KI-Agenten-Überwachung vorgestellt, die die internen Signale eines Modells statt seiner Ausgaben prüft, um fehlerhaftes Verhalten effizienter und zu einem Bruchteil der Kosten zu erkennen. Die Monitore sind für Kunden von Baseten, einer Plattform zum Hosten von KI-Modellen, verfügbar. Basetens Base Labs hatte zuvor eine Sicherheitspartnerschaft mit Goodfire und Hugging Face angekündigt. Goodfires Ansatz nutzt kleine Sonden, die die internen Aktivierungen des Modells bei jedem Schritt scannen und nur bei Auffälligkeiten eine genauere KI-Prüfung auslösen. In Tests mit dem Modell Kimi K3 erkannten die Monitore 94 % der bösartigen Hacking-Sitzungen und kosteten etwa 51 $ für 1.500 Sitzungen, verglichen mit 233 $ für ein günstigeres Modell und 10.000 $ für ein Spitzenmodell. Das Unternehmen richtet sich an offene Modelle, die von Sicherheitsvorkehrungen befreit werden können, und sieht die Lösung als entscheidend für Sicherheitsvorkehrungen zur Inferenzzeit.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.