Beobachtetes Signal · 5. Juni 2024 · Funding · Quelle: Tech.eu · Relevanz: 2/5 · Sentiment: Positiv
Alinia AI sammelt 2,4 Millionen US-Dollar für sicheren Einsatz von generativer AI
Alinia AI, eine Alignment-Plattform für den sicheren und kontrollierten Einsatz von generativer AI, hat eine Pre-Seed-Finanzierungsrunde in Höhe von 2,4 Millionen US-Dollar abgeschlossen. Die Runde wurde von Speedinvest und Precursor angeführt, unter Beteiligung von KFund sowie namhaften Angels wie den Mitgründern von Hugging Face und GitHub-Mitgründer Tom Preston. Das Startup wurde von Ariadna Font Llitjós (ehemalige Head of ML Platform bei Twitter) und Carlos Muñoz Ferrandis (ehemaliger Tech & Regulatory Affairs Counsel bei Hugging Face) gegründet. Alinia addressiert unternehmerische Herausforderungen hinsichtlich der Sicherheit von generativer AI, der regulatorischen Compliance (wie dem EU AI Act) sowie der Leistungsbewertung. Das frische Kapital soll in die Entwicklung der Alignment-Plattform fließen, die Evaluierung, Monitoring, Optimierung und Dokumentation bereitstellt, um sicherzustellen, dass LLM-basierte Anwendungen Richtlinien und Vorschriften einhalten. Diese Finanzierung erfolgt vor dem Hintergrund, dass Unternehmen zunehmend nach Wegen suchen, generative AI verantwortungsvoll und compliant in ihre Geschäftsprozesse zu integrieren.
Finanzierung für eine Plattform im Bereich AI-Safety und Governance, die für Unternehmen beim Einsatz von generativer AI relevant ist, jedoch von begrenzter Tragweite für die breitere Industrie.
Marktsignale zu Speedinvest in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Alinia AI hat in einer Pre-Seed-Runde 2,4 Millionen US-Dollar eingesammelt.
- Die Finanzierungsrunde wurde von Speedinvest und Precursor angeführt, unterstützt von KFund.
- Das Unternehmen bietet eine Alignment-Plattform für den sicheren und kontrollierten Einsatz von generativer AI.
- Alinia wurde von den Branchenexperten Ariadna Font Llitjós und Carlos Muñoz Ferrandis mitgegründet.
- Das Kapital wird für die Teambeziehung und den Ausbau der Alignment-Plattform verwendet.
Verknüpfte Unternehmen
5 verknüpfte Unternehmen“Speedinvest and Precursor led the round...”
“Carlos is the former Tech & Regulatory Affairs Counsel at Hugging Face...”
“Oriol Vinyals (Google DeepMind VP of Research)...”
“Tom Preston (GitHub Co-Founder)...”
“Before that, she was Director of Development at IBM Watson in the early days of enterprise AI...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
Goodfire startet interne KI-Agenten-Überwachung
Goodfire, ein Start-up für KI-Interpretierbarkeit, hat am Donnerstag eine neue Art von KI-Agenten-Überwachung vorgestellt, die die internen Signale eines Modells statt seiner Ausgaben prüft, um fehlerhaftes Verhalten effizienter und zu einem Bruchteil der Kosten zu erkennen. Die Monitore sind für Kunden von Baseten, einer Plattform zum Hosten von KI-Modellen, verfügbar. Basetens Base Labs hatte zuvor eine Sicherheitspartnerschaft mit Goodfire und Hugging Face angekündigt. Goodfires Ansatz nutzt kleine Sonden, die die internen Aktivierungen des Modells bei jedem Schritt scannen und nur bei Auffälligkeiten eine genauere KI-Prüfung auslösen. In Tests mit dem Modell Kimi K3 erkannten die Monitore 94 % der bösartigen Hacking-Sitzungen und kosteten etwa 51 $ für 1.500 Sitzungen, verglichen mit 233 $ für ein günstigeres Modell und 10.000 $ für ein Spitzenmodell. Das Unternehmen richtet sich an offene Modelle, die von Sicherheitsvorkehrungen befreit werden können, und sieht die Lösung als entscheidend für Sicherheitsvorkehrungen zur Inferenzzeit.
Alexander fordert Pinker zu KI-Debatte heraus
In seinem offenen Brief antwortet Scott Alexander auf Steven Pinkers Argumente gegen die Gefahren superintelligenter KI. Alexander bestreitet Pinkers Behauptungen, dass Intelligenz kein aussagekräftiges Konzept sei, dass KI keine Selbsterhaltungstriebe entwickeln werde und dass Doomer die Risiken übertrieben. Er zitiert aktuelle KI-Vorfälle, darunter Hacker-Angriffe durch KI-Systeme, als empirischen Beleg für instrumentelle Konvergenz und Reward Hacking. Alexander kritisiert Pinker außerdem für die Fehldarstellung der Ansichten der KI-Risiko-Community und für das Zitieren von Experten nach Belieben, während er Pinkers intellektuelle Beiträge anerkennt. Der Brief gipfelt in der Aufforderung zu einer öffentlichen Debatte, die als Alternative zu einem Duell formuliert wird.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.