Von Malte Persike Januar 28, 2025
Erste Kostenschätzungen für die Bereitstellung der o1-Familie: Heute werfen wir einen ersten Blick auf die entstehenden Kosten – und die Ergebnisse sind durchaus überraschend.
Seit Anfang Januar können Mitarbeitende der RWTH Aachen University die neuesten GPT-Modelle, GPT o1-preview und o1-mini, bereits aktiv nutzen.
Welche Modelle werden bevorzugt genutzt?
Unsere ersten Auswertungen zeigen klar: Das leistungsstärkste, aber gleichzeitig auch teuerste Modell o1-preview erfreut sich größter Beliebtheit. Dabei beobachten wir, dass Nutzende bewusst von der Voreinstellung GPT 4o auf das leistungsfähigere o1-preview umschalten.
Diese aktive Wahl verdeutlicht, wie attraktiv die verbesserten Fähigkeiten des neuen Modells sind – zugleich wirft sie aber auch wichtige Fragen bezüglich langfristiger Finanzierung und nachhaltiger Nutzung auf.
Wie wirken sich diese Präferenzen auf die Kosten aus?
Bereits im laufenden Monat sehen wir, dass diese Präferenz erhebliche finanzielle Konsequenzen nach sich zieht: Die Token-Kosten haben sich aktuell bereits vervierfacht. Und das ist erst der Anfang.
Für die kommenden Monate rechnen wir damit, dass sich diese Tendenz weiter verstärkt. Der Grund liegt auf der Hand: Der Preis von o1-preview liegt rund sechsmal höher als der des Standardmodells 4o. Entsprechend erwarten wir langfristig eine Versechsfachung der monatlichen Ausgaben.
Was bedeutet das für Hochschulen in NRW?
Diese Entwicklung verdeutlicht, wie wichtig ein sorgfältiges Kostenmanagement beim Einsatz generativer KI-Systeme ist. Wir empfehlen allen Hochschulen in NRW, die eigenen Nutzungsstatistiken genau im Blick zu behalten und frühzeitig Kostenprognosen aufzustellen. Die Softwareinfrastruktur von KI:connect.nrw erlaubt zudem eine feingranulare Setzung von Limits für die Nutzung von KI-Modellen. Es können individuelle Limits für die Modelle, unterschiedliche Nutzendengruppen und mehrere Messgrundlagen (Promptlimits und Tokenlimits) vergeben werden.
Eine exemplarische Übersicht der aktuellen Preise von Azure OpenAI Modellen gibt es hier bei Microsoft Azure.
Wir bleiben dran und berichten weiterhin offen und transparent über die Entwicklungen im Projekt KI:connect.nrw. Bleiben Sie neugierig!