ClouderaNOW: Erfahren Sie mehr über KI-Agenten, Cloud-Bursting und Data Fabrics für KI | 8. April

Jetzt registrieren
  • Cloudera Cloudera
  • | Business

    Wie hoch ist Ihr Return on Intelligence? Der Wechsel vom öffentlichen Token-Gebührmodell zu einer vorhersehbaren KI-Ökonomie

    Robert Hryniewicz headshot
    Personen mit einem Tablet sitzen an einem Tisch
    AI

    Die tokenbasierte Wirtschaft läuft gegen eine Wand der ökonomischen Realität. Ob es sich nun um eine versehentlich ausgestellte Rechnung über eine halbe Milliarde Dollar für die Nutzung von Tokens handelt [Axios] oder darum, dass das jährliche Token-Budget innerhalb von vier Monaten aufgebraucht wird [TechCrunch] – Finanzteams führen still und leise strengere Kostenkontrollen ein, nachdem sie durch unvorhersehbare Rechnungen im Zusammenhang mit KI schlechte Erfahrungen gemacht haben. 

    Während die Hardware-Innovation das Mooresche Gesetz über ein Jahrzehnt lang übertraf, wuchsen unsere jüngsten KI-Konsumgewohnheiten schneller. Die massiven Token-Volumina, die für „Reasoning“- oder „Thinking“-Modelle erforderlich sind, überstiegen die Fortschritte bei der Rechenleistung. Hier zeigt sich das Jevons-Paradoxon in seiner ganzen Deutlichkeit: Je effizienter die Rechenleistung wird, desto mehr finden wir Wege, exponentiell mehr davon zu verbrauchen. Und der Verbrauch von Tokens wird fälschlicherweise als Indikator für Innovation angesehen. Die eigentliche Herausforderung besteht jedoch in der Optimierung für den höchstmöglichen Nutzen aus den Daten, indem sorgfältig abgestimmt wird, wo und wie die heutigen rechenintensiven Modelle ausgeführt werden, damit jedes eingesetzte Token zu einem klaren Geschäftsergebnis führt.

    Warum Kostenkontrolle und Effizienz von größter Bedeutung sind

    Die Kontrolle über die Intelligenzkosten ist von größter Bedeutung, um wettbewerbsfähig zu bleiben, da KI-Fähigkeiten zur Ware werden. Um die Kosten unter Kontrolle zu halten, muss ein Unternehmen die Kontrolle über seine Betriebsumgebung – also die zugrunde liegende Infrastruktur, die Modelle und die Daten – besitzen, unabhängig davon, ob sich diese in einem Rechenzentrum oder in einer privaten virtuellen Cloud befindet. Durch den Besitz der Infrastruktur verlagert sich die Abrechnungseinheit von variablen Token-Gebühren hin zu vorhersehbarer Rechenkapazität. Durch Self-Hosting können Unternehmen große Sprachmodelle (LLMs) mit deterministischen Datensystemen verknüpfen, bei denen Kosten und Workflows mit zunehmender Skalierung vollständig vorhersehbar und für sich wiederholende Aufgaben stabil sind.

    Ebenso entscheidend ist das Eigentum der Modelle. Kommerzielle Labore stehen unter dem Druck, Endpunkte für Verbraucher zu optimieren, doch die Abhängigkeit von diesen sich ändernden Endpunkten führt zu Unvorhersehbarkeit im Unternehmen. Updates externer Anbieter können die Geschäftslogik zerstören, und das Einstellen von Modellen zwingt dazu, übermäßig viele Ressourcen in das erneute Testen von Pipelines zu investieren oder nicht subventionierte Marktpreise zu zahlen. Das Trainieren oder Feinabstimmen auf Cloud-Plattformen von Drittanbietern führt dazu, dass Ihr geistiges Eigentum dort gebunden bleibt, wenn Sie die Gewichte und die angepassten Adapter nicht exportieren können. Sie benötigen die Flexibilität, Assets zu migrieren, falls die Hosting-Preise steigen oder die Leistung abfällt. Das Verschieben umfangreicher Datensätze verursacht zudem Gebühren für die Datenübertragung und erschwert die Governance-Frameworks angesichts variabler Cloud-Preise. Die Beibehaltung der Kontrolle über Ihre Umgebung und die Inferenzschicht ist eine strategische Notwendigkeit, um Ihre Bilanz zu schützen.

    Mit dem Eigentum geht die Freiheit einher, zu entscheiden, was wo ausgeführt wird. Unternehmen können alltägliche Automatisierungsaufgaben an optimierte kleine Sprachmodelle (SLMs) auslagern und gleichzeitig Premium-Rechenleistung für komplexe Argumentationsanfragen mit LLMs reservieren. Sie haben die Kontrolle über Versionsaktualisierungen, können Standorte genau anpassen und stellen sicher, dass proprietäre Prompts und Daten vor öffentlichen Modellen geschützt sind. Das spielt vor allem auf der Inferenzebene eine Rolle, die den größten Teil des Rechenaufwands während der gesamten Lebensdauer eines GenAI-Modells beansprucht und als Hauptkostentreiber für Produktions-Workloads dient, bei denen Chatbots oder agentische Workflows langfristig ausgeführt werden. Cloudera bietet ein integriertes End-to-End-Framework, das den gesamten KI-Lebenszyklus im Unternehmen abdeckt, von der Datenakquise und -aufbereitung bis hin zum Training und der Bereitstellung von Modellen. Der Betrieb einer End-to-End-Plattform eliminiert die Fragmentierungskosten von Multi-Vendor-Unternehmenskonfigurationen, und der Cloudera AI Inference Service bietet den entscheidenden Hebel.

    Effiziente KI heute?

    Auf individueller Ebene ist es schwierig, einen präzisen Return on Intelligence für den Einsatz von LLMs zu berechnen. Individuelle Entscheidungen sind in der Regel subjektiv und stark kontextabhängig und bestehen meist aus einmaligen Forschungsabfragen, Ad-hoc-Frage-und-Antwort-Paaren oder einem Vibe-Coding-Prototyp. Im Gegensatz dazu sind wiederholbare Workflows für Unternehmensdaten stark strukturiert und zeichnen sich durch klar definierte Aufgaben und erwartete Ergebnisse aus. Pipelines erfordern keine massiven Generalisten. Kleinere, schnellere Modelle sorgen für geringere Latenz und höheren Durchsatz und maximieren gleichzeitig die Hardware-Effizienz. Cloudera bewertet diese Wirtschaftlichkeit durch private KI und gewährleistet Datenschutz durch Plattform-Governance, während die Kontrolle über Daten- und Modellendpunkte erhalten bleibt.

    Wenn ein Unternehmen Produktions-Workloads mit hohem Durchsatz betreibt, z. B. die groß angelegte Ausführung von Modellen der „Frontier“-Klasse mit 70 Milliarden Parametern, weichen die kumulierten Gesamtbetriebskosten schnell von den Kosten öffentlicher Cloud-Token-APIs ab. Auf der Grundlage von Analysen stark ausgelasteter Unternehmensumgebungen ergibt sich bei der Bereitstellung von Inferenzfunktionen auf einer eigenen Infrastruktur ein deutlicher Kostenvorteil gegenüber der Zahlung von Token-Gebühren an Drittanbieter, sobald ein Unternehmen ein bestimmtes Workload-Volumen überschreitet.

    Grafik zum Return on Intelligence
    Grafik 1: Kosten für private KI-Inferenz im Vergleich zum Verbrauch in der Public Cloud. Die Gesamtbetriebskosten (TCO) zwischen privater Infrastruktur und öffentlichen Token-APIs gehen bei der Skalierung von 70B FP16-Modellen deutlich auseinander, was einen klaren Break-even-Punkt und schnelle Einsparungen bei den Gesamtbetriebskosten bei mehr als 80 bis 120 Modellen pro Jahr zeigt.

    Um zu veranschaulichen, wie diese wirtschaftlichen Zusammenhänge in der Praxis funktionieren, betrachten wir einen agentischen Co-Piloten für die Vermögensverwaltung, der langfristige, mehrstufige Workflows wie Besprechungsvorbereitung, KYC-Prüfung, Portfolio-Neugewichtung und CRM-Aktualisierungen durchführt. Ein einzelner Manager kann problemlos mehr als 70 Millionen Token pro Monat verbrauchen. Im großen Maßstab ist der Betrieb dieses Assistenten über öffentliche APIs mehr als viermal so teuer wie die Bereitstellung einer privaten KI-Inferenz.

    Grafik zum Return on Intelligence
    Grafik 2: Prognose der jährlichen Kosten im Vergleich zwischen einer verbrauchsabhängigen Cloud-API und einer privaten KI-Inferenz für die Bereitstellung eines „Co-Pilot“-Systems in einem Unternehmen mit 1.000 Nutzern. Dank privater Inferenz können Unternehmen Anwendungen problemlos und sicher skalieren, ohne die Kostenobergrenzen zu überschreiten, die üblicherweise durch externe Token-Gebühren vorgegeben sind.

    Bitte beachten Sie, dass es sich hierbei um illustrative Schätzungen handelt, die sich auf ein bestimmtes Modell, eine bestimmte Parametergröße und eine bestimmte Rechenkonfiguration beziehen. Die Leistungsfähigkeit von Modellen verändert sich rasant, und kleinere, spezialisierte offene Modelle übertreffen häufig bereits innerhalb weniger Monate die riesigen Allround-Modelle von gestern. Die Einsparungen variieren je nach Komplexität Ihrer Argumentation, dem Verhältnis von Token-Eingabe zu -Ausgabe und der zugrunde liegenden Hardware-Konfiguration. 

    Die finanzielle Argumentation bleibt jedoch unverändert: Für eine wiederholbare Unternehmensautomatisierung beseitigt die private Modellbereitstellung die unvorhersehbaren Preisnachteile öffentlicher Token-Gebühren und ermöglicht es Unternehmen so, ihre KI-Anwendungen nachhaltig zu skalieren.

    Das Zeitalter der Kontrolle und Effizienz ist JETZT

    Die Zeit des ungebremsten Pay-as-you-go-Experimentierens mit KI-Endpunkten in der öffentlichen Cloud geht zu Ende. Während Unternehmen von explorativen Pilotprojekten in die stabile Produktion übergehen, müssen die Bewertungskriterien über die reine Modellgenauigkeit hinaus erweitert werden, sodass sie auch eine vorhersehbare KI-Ökonomie umfassen.

    Die Maximierung Ihres Return on Intelligence bedeutet den Wechsel von einem Framework, in dem Sie ständig Modelle von Drittanbietern mieten oder unkontrollierten Token-Verbrauch riskieren, hin zu einem Framework, in dem Sie Ihre zentralen Computing-Assets besitzen und optimieren. Indem Sie die Kontrolle über Ihre zugrunde liegenden Daten, Ihre angepassten Modelle und Ihren Inference-Stack behalten, kann Ihr Unternehmen KI-Workflows problemlos skalieren, ohne unvorhersehbare Kostenüberschreitungen zu riskieren. Operative Effizienz ist das grundlegende Fundament, das erforderlich ist, um nachhaltige KI für Unternehmen in großem Maßstab bereitzustellen.

    Nehmen Sie an der kommenden ClouderaNOW teil und erfahren Sie mehr darüber, wie wir Ihr Unternehmen dabei unterstützen können.

    Sie sind bereit?

    Your form submission has failed.

    This may have been caused by one of the following:

    • Your request timed out
    • A plugin/browser extension blocked the submission. If you have an ad blocking plugin please disable it and close this message to reload the page.