Microsoft-CEO Nadella fordert 'Notbremse' für KI-Modelle
Microsoft-CEO Satya Nadella hat die KI-Branche aufgefordert, einen 'Notbremsen'-Mechanismus für KI-Modelle einzuführen. In einem Social-Media-Beitrag betonte er die Notwendigkeit, die 'Vertrauensarchitektur' der KI zu überprüfen, und schlug vor, Modelle von der Orchestrierungsstruktur zu trennen, Kontrollen und Sicherheitsvorkehrungen zu externalisieren und manipulationssichere Nachweise für Modellaktionen zu führen. Nadella betonte, dass autorisierte Personen jederzeit ein Modell mitten in der Aufgabe anhalten oder herunterfahren können sollten, und forderte, von Anfang anzunehmen, dass ein Modell kompromittiert ist. Seine Kommentare folgen auf Vorfälle, bei denen führende KI-Unternehmen die Kontrolle über ihre Modelle verloren, und auf einen Plan von Anthropic-CEO Dario Amodei für eine vorsichtigere KI-Entwicklung.
- •Satya Nadella fordert eine 'Notbremse' für KI-Modelle.
- •Nadella schlägt vor, Modelle von der Orchestrierungsstruktur zu trennen.
- •Er befürwortet die Externalisierung von Kontrollen und Sicherheitsvorkehrungen.
