Lead-EntwicklungFACT · 4/5••Via Trending Topics (DACH/CEE Innovation & Tech)
Aleph Alpha veröffentlicht Open-Weight-Modell Kolibri
Aleph Alpha hat mit Kolibri ein neues deutsch-englisches Open-Weight-Modell mit 78 Milliarden Gesamtparametern und 3,46 Milliarden aktiven Parametern pro Token veröffentlicht. Das Mixture-of-Experts-Modell ist für regulierte und industrielle Anwendungen konzipiert und unterstützt Kontextlängen von bis zu einer Million Tokens. Es wurde auf Infrastruktur in Deutschland und Finnland trainiert und kann bei Kunden on-premise betrieben werden, um Datensouveränität zu gewährleisten. Das Training umfasste 20 Billionen Tokens, davon 21,3 % deutsch, und ein eigener deutsch-englischer Tokenizer wurde entwickelt. Kolibri reduziert Halluzinationen durch ein eigenes Grounding-Verfahren und zielt auf öffentliche Verwaltung, Industrie und Luftfahrt ab.
- •Aleph Alpha hat Kolibri, ein deutsch-englisches Open-Weight-Modell mit 78 Milliarden Gesamtparametern, veröffentlicht.
- •Kolibri nutzt Mixture-of-Experts mit 3,46 Milliarden aktiven Parametern pro Token.
- •Das Modell wurde mit 20 Billionen Tokens trainiert, davon 21,3 % deutsch.