Preference Model erhält Finanzierung für KI-RL-Umgebungen
Preference Model, ein Startup der ehemaligen Anthropic- und DatologyAI-Ingenieure Jennifer Zhou und Ning Cao, gab bekannt, dass es Reinforcement-Learning-(RL)-Umgebungen für führende KI-Labore gebaut hat und sein Produktions-Framework Karotte als Open Source veröffentlicht. Das Unternehmen konzentriert sich auf die Entwicklung robuster Umgebungen für KI-Forschung und ML-Engineering-Aufgaben und adressiert Herausforderungen wie Reward Hacking. Die Ankündigung im a16z-Newsletter zeigt, dass a16z mit dem Unternehmen zusammenarbeitet und investiert. Karotte wurde durch über eine Million Evaluierungsläufe und kontrolliertes Red-Teaming gehärtet. Die Nachfrage nach RL-Umgebungen ist in den letzten 18 Monaten stark gestiegen, da Labore sie auf reale Aufgaben in den Bereichen Codierung, Forschung und Computernutzung anwenden. Preference Model zielt darauf ab, den KI-Fortschritt zu beschleunigen, indem es Modellen ermöglicht, beim Aufbau besserer KI zu helfen.
- •Preference Model kündigte eine Partnerschaft und Investition von a16z an.
- •Das Unternehmen veröffentlicht sein Produktions-Framework Karotte als Open Source.
- •Karotte wurde in über einer Million Evaluierungsläufen und Red-Teaming eingesetzt.