Google zieht KI-Modell Gemma nach Halluzinationsvorwürfen von US-Senatorin zurück

Google hat sein Open-Source-KI-Modell Gemma aus der AI Studio-Plattform entfernt, nachdem sich die republikanische Senatorin Marsha Blackburn beschwert hatte. Das Modell hatte fiktive Kriminalitätsvorwürfe und gefälschte Nachrichtenlinks über sie generiert. Senatorin Blackburn warf Google daraufhin Defamierung und eine antikonservative Voreingenommenheit vor und forderte die Deaktivierung des Modells bis zur Gewährleistung der Genauigkeit. Google erklärte, Gemma sei weder für Verbraucherzwecke noch für die Beantwortung von Faktenfragen konzipiert worden, betonte jedoch, dass Entwickler weiterhin über die API auf das Modell zugreifen können. Der Vorfall verdeutlicht die anhaltenden Herausforderungen von KI-Halluzinationen, bei denen Modelle falsche Informationen als Fakten darstellen, und unterstreicht die wachsende regulatorische und politische Prüfung, der sich Technologieanbieter bei generativen KI-Anwendungen aussetzen müssen.