Das KI-Kostenproblem, das niemand bemerkt, bis die Rechnung kommt

Ein KI-Pilotprojekt kann beruhigend günstig wirken. Einige Mitarbeiter erhalten Lizenzen, ein Entwicklungsteam bindet ein Sprachmodell an eine interne Anwendung an, und die ersten automatisierten Aufgaben kosten jeweils nur ein paar Cent. Das Projekt funktioniert, die Akzeptanz wächst und das Management genehmigt die nächste Phase. Dann trifft die Rechnung ein. Die Kosten sind nicht deshalb gestiegen, weil der Preis für eine einzelne Anfrage plötzlich außergewöhnlich hoch geworden wäre. Sie sind gestiegen, weil nun Tausende von Anfragen über mehrere Anwendungen hinweg laufen, oft unter Verwendung der leistungsfähigsten verfügbaren Modelle. Einige Prozesse senden dieselben Hintergrundinformationen wiederholt, Agenten führen für jede sichtbare Aufgabe im Hintergrund mehrere Schritte aus, und einzelne Abteilungen erwerben sich überschneidende Abonnements ohne gemeinsame Übersicht über die Ausgaben. KI-Ausgaben verhalten sich anders als die Softwarekosten, an deren Verwaltung die meisten Unternehmen gewöhnt sind. Eine herkömmliche Lizenz hat in der Regel einen vorhersehbaren monatlichen oder jährlichen Preis. Generative KI wird zunehmend nach Verbrauch abgerechnet, was bedeutet, dass jede Anfrage, jedes Dokument, jede Antwort und jede automatisierte Aktion die Rechnung erhöhen kann. Je nützlicher die Technologie wird, desto schwieriger kann es sein, ihre Gesamtkosten vorherzusagen.

Ein niedriger Stückpreis kann hohe Betriebskosten verbergen

Modellprovider berechnen ihre Leistungen üblicherweise nach Token, den Einheiten, in die Text und andere Informationen zur Verarbeitung unterteilt werden. Unternehmen bezahlen für das an das Modell übermittelte Material und, oft zu einem höheren Tarif, für die von ihm generierte Antwort.

Auf einer Preisliste mögen die Beträge moderat erscheinen. Die Schwierigkeit beginnt, wenn sie auf ein ganzes Unternehmen hochgerechnet werden. Ein Kundendienstmitarbeiter bearbeitet möglicherweise eine eingehende Anfrage, ruft Informationen aus mehreren Systemen ab, analysiert die relevanten Dokumente, entwirft eine Antwort und überprüft seine eigene Arbeit. Was für den Mitarbeiter wie eine einzige Interaktion aussieht, kann im Hintergrund zahlreiche Modellaufrufe beinhalten.

Die Kosten variieren zudem je nach ausgewähltem Modell, dem bereitgestellten Kontext und der Länge der Ausgabe. Eine kurze Klassifizierungsanfrage, die von einem kompakten Modell verarbeitet wird, kann günstig sein. Dieselbe Aufgabe wird deutlich kostspieliger, wenn sie zusammen mit einem langen Gesprächsverlauf, internen Dokumenten und mehreren Seiten an Anweisungen an ein Spitzenmodell gesendet wird.

KI-Agenten fügen eine weitere Ebene hinzu. Im Gegensatz zu einem Chatbot, der einmalig antwortet, kann ein Agent eine Aufgabe planen, Werkzeuge nutzen, das Ergebnis überprüfen, einen Fehler korrigieren und es erneut versuchen. Jeder Schritt kann einen weiteren Modellaufruf erfordern. Der Nutzer sieht einen erledigten Auftrag; die Finanzabteilung bezahlt die gesamte Kette von Überlegung und Ausführung dahinter.

Dadurch lassen sich die Ausgaben für KI während einer Testphase ungewöhnlich leicht unterschätzen. Tests umfassen eine begrenzte Anzahl von Nutzern und sorgfältig ausgewählte Aufgaben. Produktionssysteme stoßen auf wiederholte Anfragen, unerwartetes Verhalten, fehlgeschlagene Versuche und wachsende Volumina. Ein Prozess, der bei der Nutzung durch zehn Personen wenig kostet, kann zu einer erheblichen Betriebsausgabe werden, wenn er in ein Produkt integriert oder Tausenden von Mitarbeitern bereitgestellt wird.

Die meisten Unternehmen können nach wie vor nicht die gesamte Rechnung einsehen

Das Problem der anfänglichen Kosten ist oft mangelnde Transparenz und nicht ein von Natur aus teures Modell. KI-Werkzeuge gelangen über verschiedene Wege in Unternehmen: zentrale IT-Verträge, Abteilungsbudgets, individuelle Abonnements, Cloud-Plattformen und Softwareprodukte, die KI-Funktionen in ihrer eigenen Preisgestaltung beinhalten.

Infolgedessen weiß das Unternehmen möglicherweise nicht, wie viel es insgesamt ausgibt. Die Technologieabteilung kann eine Anwendung überwachen, während Marketing, Rechtsabteilung und Vertrieb jeweils für separate Dienste bezahlen. Entwickler nutzen Modelle möglicherweise über einen Cloud-Anbieter statt direkt, wodurch die Ausgaben unter einem umfassenderen Infrastrukturkonto erscheinen. KI-Funktionen, die in Unternehmenssoftware enthalten sind, können zu weiteren Überschneidungen führen.

Selbst wenn Nutzungsdaten verfügbar sind, erklären sie möglicherweise nicht, ob die Ausgaben zu einem nützlichen Ergebnis geführt haben. Ein Dashboard kann zwar zeigen, wie viele Tokens verbraucht wurden, ohne jedoch zu offenbaren, ob das Modell die Aufgabe gelöst, Arbeit erzeugt hat, die umfangreiche Korrekturen erforderte, oder eine Aktion unnötigerweise wiederholt hat.

Der Token-Verbrauch ist daher ein schlechter Maßstab für den KI-Fortschritt. Ein Unternehmen, das doppelt so viele Token verbraucht, ist nicht notwendigerweise doppelt so produktiv. Es verarbeitet möglicherweise einfach längere Eingabeaufforderungen, verwendet teurere Modelle oder lässt ineffiziente Agenten ohne ausreichende Kontrollen laufen.

Die nützlichere Messgröße sind die Kosten für ein abgeschlossenes Geschäftsergebnis. Wie viel kostet es, eine Serviceanfrage zu bearbeiten, ein Dokument zu prüfen, einen Bericht zu erstellen oder produktionsreife的代码 zu generieren? Wie oft erfordert das Ergebnis menschliche Korrekturen? Wie viel Zeit spart der Prozess tatsächlich ein? Ohne diese Antworten können Unternehmen ihre KI-Aktivitäten zwar steigern, aber weiterhin keinen wirtschaftlichen Wert nachweisen.

Das leistungsstärkste Modell ist oft das falsche Modell

Viele Organisationen greifen zunächst standardmäßig auf das bekannteste und leistungsfähigste Modell zurück, da dies das geringste Risiko zu bieten scheint. Wenn die Aufgabe wichtig ist, so lautet die Überlegung, sollte das stärkste verfügbare System sie bearbeiten.

Dieser Ansatz lässt sich bei schwieriger juristischer Analyse, komplexen Programmierarbeiten oder Entscheidungen rechtfertigen, die das Verständnis großer Informationsmengen erfordern. Schwerer zu rechtfertigen ist er bei Routinezusammenfassungen, Übersetzungen, Klassifizierungen und der Datenextraktion.

Ein Spitzenmodell mag eine einfache Aufgabe etwas besser lösen als eine kleinere Alternative, aber die Verbesserung ist möglicherweise wirtschaftlich irrelevant. Wenn beide Systeme das korrekte Rechnungsdatum erkennen, dasselbe Support-Ticket richtig klassifizieren oder eine akzeptable Besprechungszusammenfassung erstellen, liefert das kostengünstigere Modell das bessere Geschäftsergebnis.

Unternehmen gehen folglich zu einem abgestuften Ansatz über. Premium-Modelle sind Arbeiten vorbehalten, die tatsächlich fortgeschrittenes Reasoning erfordern, während kleinere kommerzielle oder offene Modelle standardisierte Aufgaben mit hohem Volumen bearbeiten. Sensible Informationen können in geschützter Infrastruktur verarbeitet werden, anstatt sie an einen externen Anbieter zu senden.

Das Prinzip ähnelt der Personalplanung. Ein Unternehmen setzt nicht seinen erfahrensten Anwalt für jede Vertragsänderung oder seinen erfahrensten Ingenieur für jede routinemäßige Support-Anfrage ein. Es stimmt das Fachwissen auf die Komplexität und das Risiko der Arbeit ab.

Die KI-Beschaffung sollte derselben Logik folgen. Die relevante Frage ist nicht, welches Modell in einem allgemeinen Benchmark am besten abschneidet, sondern welches Modell eine bestimmte Aufgabe mit dem erforderlichen Maß an Qualität, Geschwindigkeit, Sicherheit und Kosten erledigt.

Modell-Routing wird zu einer Finanzkontrolle

Der praktische Ausdruck dieses Ansatzes ist Modell-Routing. Anstatt jeder Anwendung oder jedem Mitarbeiter zu erlauben, einen Anbieter auszuwählen, führt das Unternehmen ein System ein, das die Aufgabe bewertet, bevor sie einem Modell zugewiesen wird.

Eine kurze Übersetzung kann an ein kompaktes Modell gesendet werden. Eine vertrauliche Analyse kann in einer kontrollierten Umgebung verbleiben. Ein schwieriges Problem der Softwarearchitektur kann an ein Frontier-Modell eskaliert werden. Die Routing-Regeln können auch Antwortzeit, regionale Verfügbarkeit, Datensensitivität und aktuelle Preise berücksichtigen.

Dies verringert die Notwendigkeit, eine einzige permanente Entscheidung zwischen OpenAI, Anthropic, Google, Mistral oder einer Open-Source-Alternative zu treffen. Das Unternehmen kann mehrere Modelle nutzen und die Zuteilung anpassen, wenn sich deren Leistung und Preise ändern.

Routing trägt auch dazu bei, eine der teuersten Gewohnheiten in der Unternehmens-KI zu korrigieren: standardmäßig Premium-Modelle zu verwenden. Mitarbeiter wissen nicht unbedingt, welches System für eine Aufgabe ausreicht, und Entwickler wählen während eines Pilotprojekts oft das stärkste Modell, weil es die überzeugendste Demonstration liefert. Wenn diese Entscheidung nicht vor der Implementierung überprüft wird, kann die Pilotkonfiguration zur Produktionsarchitektur werden.

Eine Routing-Schicht macht aus der Modellauswahl eine Betriebsregel statt einer individuellen Präferenz. Sie ermöglicht es dem Unternehmen, Kosten zu optimieren, ohne dass jeder Mitarbeiter Token-Preise verstehen oder technische Benchmarks vergleichen muss.

Kontext ist nützlich, aber er ist nicht kostenlos

Eine weitere Quelle vermeidbaren Aufwands ist die Menge an Informationen, die mit jeder Anfrage gesendet wird. KI-Systeme erzielen im Allgemeinen bessere Ergebnisse, wenn sie klare Anweisungen und relevanten Kontext erhalten, aber Unternehmen liefern oft weit mehr Material, als die Aufgabe erfordert.

Ein interner Assistent sendet möglicherweise jedes Mal den gesamten Gesprächsverlauf erneut, wenn der Benutzer eine Anschlussfrage stellt. Ein Dokumenten-Tool überträgt möglicherweise einen vollständigen Bericht, obwohl nur ein Abschnitt relevant ist. Ein Agent lädt möglicherweise wiederholt dieselben Unternehmensrichtlinien, Produktbeschreibungen oder Systemanweisungen.

Die Kosten für diese Eingaben summieren sich, insbesondere bei Anwendungen mit hohem Volumen. Lange Prompts erhöhen zudem die Verarbeitungszeit und können es dem Modell erschweren, die wichtigsten Informationen zu identifizieren.

Mehrere technische Maßnahmen können die Belastung verringern. Wiederholte Inhalte können zwischengespeichert statt erneut verarbeitet werden. Unterhaltungsverläufe können komprimiert werden. Abrufsysteme können nur die Passagen auswählen, die für die aktuelle Frage relevant sind. Anweisungen können vereinfacht werden, während Routineberechnungen direkt von herkömmlicher Software durchgeführt werden können, statt sie an ein Sprachmodell zu senden.

Diese Anpassungen mögen im Vergleich zur Wahl eines neuen Anbieters gering erscheinen, aber ihre kumulative Wirkung kann erheblich sein. Die KI-Effizienz wird oft weniger durch den beworbenen Preis des Modells bestimmt als vielmehr dadurch, wie intelligent das umliegende System es nutzt.

Automatisierung ist nicht automatisch kostengünstiger als menschliche Arbeit

KI-Anwendungsfälle beginnen häufig mit einem Vergleich zwischen Modellkosten und Mitarbeitergehältern. Die Rechnung legt vielleicht nahe, dass ein Agent, der kontinuierlich arbeiten kann, viel billiger sein wird als ein Mensch.

Der Vergleich lässt in der Regel einen Großteil der tatsächlichen Betriebskosten außer Acht. Der Agent muss konzipiert, integriert, überwacht und aktualisiert werden. Seine Ausgabe erfordert möglicherweise eine menschliche Überprüfung, während für ungelöste Fälle ein Eskalationsprozess erforderlich ist. Sicherheitskontrollen und Audit-Protokolle verursachen zusätzliche Kosten. Wenn sich das Modell ändert, muss der Arbeitsablauf möglicherweise erneut getestet werden.

Bei sich wiederholenden, hochvolumigen Aufgaben kann Automatisierung nach wie vor erhebliche Einsparungen bringen. Weniger überzeugend ist die Wirtschaftlichkeit dort, wo Aufgaben selten anfallen, sich von Fall zu Fall stark verändern oder bei fehlerhafter Bearbeitung schwerwiegende Folgen nach sich ziehen.

Eine Person arbeitet möglicherweise wirtschaftlicher, wenn das automatisierte System eine umfassende Überwachung erfordert. In anderen Situationen ist weder manuelle Arbeit noch vollständige Automatisierung das stärkste Design. KI bereitet das Material auf, identifiziert relevante Informationen oder schlägt eine Antwort vor, während ein Mitarbeiter das Urteil fällt und für das Ergebnis verantwortlich bleibt.

Der Kostenvergleich sollte daher den vollständigen Arbeitsablauf umfassen. Ein billiger Modellaufruf macht einen Prozess nicht kostengünstig, wenn er an anderer Stelle zusätzlichen Prüfungs-, Korrektur- und Risikoaufwand erzeugt.

Jahresbudgets sind für den Echtzeitverbrauch ungeeignet

Unternehmen planen Technikausgaben in der Regel jährlich, weisen Abteilungsbudgets zu und überprüfen diese regelmäßig. Verbrauchsbasierte KI arbeitet in einem anderen Tempo. Die Kosten fallen bei jeder Ausführung einer Anwendung an, möglicherweise bei Tausenden von Benutzern und automatisierten Prozessen.

Dies führt zu einer Diskrepanz zwischen traditionellen Finanzkontrollen und der Art und Weise, wie KI beschafft wird. Zu dem Zeitpunkt, an dem eine monatliche Rechnung zeigt, dass die Nutzung zugenommen hat, ist die Ausgabe bereits getätigt.

Unternehmen benötigen Limits, die näher an der Echtzeit funktionieren. Dazu gehören möglicherweise Budgets für Abteilungen oder Anwendungen, Benachrichtigungen bei unerwarteten Verbrauchsänderungen und automatische Beschränkungen für besonders teure Modelle. Ein plötzlicher Anstieg der Nutzung sollte wie eine ungewöhnliche Transaktion untersucht werden, anstatt erst bei einer vierteljährlichen Überprüfung entdeckt zu werden.

Die Kontrollen müssen dennoch sorgfältig konzipiert werden. Willkürliche Nutzungsobergrenzen können wertvolle Arbeit unterbrechen und Mitarbeiter stattdessen dazu ermutigen, nicht genehmigte Tools zu verwenden. Das Ziel ist nicht, die Einführung von KI zu unterdrücken, sondern produktiven Verbrauch von teuren Experimenten, Doppelarbeit und schlechtem technischen Design zu unterscheiden.

Manager müssen auch wissen, warum sich die Kosten verändert haben. Höhere Ausgaben können völlig rational sein, wenn sie mit einer höheren Produktion, einem schnelleren Service oder neuen Einnahmen einhergehen. Das Warnsignal sind Ausgaben, die ohne eine entsprechende Verbesserung des Geschäftsergebnisses steigen.

So vermeiden Sie überraschende Rechnungen

Ein Unternehmen benötigt keine ausgeklügelte Multi-Modell-Architektur, bevor es seine Kostenkontrolle verbessern kann. Es braucht eine klare Bestandsaufnahme der bereits genutzten KI-Dienste, einschließlich der von einzelnen Abteilungen erworbenen Tools und der in größere Softwareplattformen integrierten Funktionen.

Jeder wichtige Anwendungsfall sollte einen Verantwortlichen, einen erwarteten Nutzen und messbare Kosten haben. Das Unternehmen sollte wissen, welches Modell verwendet wird, warum es ausgewählt wurde und ob eine günstigere Alternative getestet wurde. Anwendungen mit hohem Volumen verdienen besondere Aufmerksamkeit, da sich geringe Ineffizienzen schnell vervielfachen.

Pilotprojekte sollten realistische Produktionsvolumina anstelle von reinen technischen Demonstrationen umfassen. Der Business Case muss fehlgeschlagene Anfragen, menschliche Überprüfung, unterstützende Infrastruktur und laufende Wartung berücksichtigen. Bevor ein Agent bereitgestellt wird, sollte das Unternehmen abschätzen, wie viele Modellaufrufe eine abgeschlossene Aufgabe erfordern kann.

Die Modellleistung sollte dann anhand der unternehmenseigenen Arbeit getestet werden. Allgemeine Benchmarks sind nützlich, aber sie zeigen nicht, ob ein günstigeres Modell die Rechnungen, Serviceanfragen oder internen Dokumente des Unternehmens verarbeiten kann. Eine gezielte Evaluierung zeigt oft, dass für verschiedene Phasen desselben Prozesses unterschiedliche Modelle geeignet sind.

Die wichtigste Änderung ist konzeptioneller Natur. Die Nutzung von KI ist kein Beweis für den Wert von KI, und das leistungsfähigste Modell ist nicht automatisch der verantwortungsvollste Kauf. Unternehmen müssen künstliche Intelligenz als variable Betriebskosten verwalten, die an spezifische Ergebnisse geknüpft sind.

Die überraschende Rechnung entsteht selten durch eine einzige extravagante Anfrage. Sie trifft ein, nachdem Hunderte kleiner Entscheidungen unüberprüft geblieben sind: ein weiteres Premium-Modell, das standardmäßig ausgewählt wurde, ein weiterer Workflow, der ohne Beschränkungen läuft, eine weitere Abteilung, die ein separates Tool kauft, und ein weiterer Agent, der Schritte wiederholt, die niemand sehen kann.

Bis die Gesamtsumme sichtbar wird, ist die Technologie möglicherweise bereits im gesamten Unternehmen verankert. Die Kostendisziplin muss daher beginnen, bevor die Einführung sich groß genug anfühlt, um sie erforderlich zu machen.