KI hält Einzug in den täglichen Geschäftsbetrieb, doch die dahinterstehenden Workloads befinden sich selten an einem Ort. Einige müssen in privaten Umgebungen in der Nähe sensibler Daten bleiben. Andere profitieren von der Reichweite der Public Cloud oder der Geschwindigkeit der Edge-Infrastruktur.
Das wirft eine praktische Frage auf: Wie können Unternehmen jeden Workload dort ausführen, wo er die beste Leistung erbringt, und dabei Daten und Betrieb unter Kontrolle halten?
Cloudera und AMD gehen diese Frage an, indem sie eine hybride Datenplattform und skalierbare, zugängliche Infrastruktur zusammenführen. Das Ergebnis ist eine Grundlage, die KI in privaten Umgebungen, in der Cloud und am Edge unterstützen soll, ohne Teams dazu zu zwingen, jede Umgebung anders zu verwalten.
Mit zunehmender Verbreitung gewinnen Entscheidungen zur Bereitstellung strategisch an Bedeutung. Der optimale Standort für eine Anwendung hängt von den Daten ab, die sie nutzt, und von der Benutzererfahrung, die sie bieten soll.
Ein Modell, das mit sensiblen Kundeninformationen arbeitet, muss möglicherweise in einer privaten Umgebung ausgeführt werden, oder eine kundenorientierte Anwendung könnte von der Elastizität der Cloud profitieren. Die Möglichkeit, diese Entscheidung für jeden Workload einzeln zu treffen, gibt Unternehmen mehr Kontrolle über die Leistung, ohne jede Anwendung auf dasselbe Bereitstellungsmodell festzulegen.
Diese Flexibilität wird zunehmend wichtiger, wenn KI-Portfolios wachsen. Was für einen frühen Machbarkeitsnachweis funktioniert, eignet sich möglicherweise schlecht für eine Produktionsanwendung, die Tausende von Nutzern bedient. Eine Architektur, die mehrere Umgebungen unterstützt, gibt Teams Spielraum, die Platzierung anzupassen, wenn sich Nutzungsmuster und geschäftliche Anforderungen ändern.
Die Entscheidung, wo ein Workload ausgeführt wird, ist nur ein Teil der Gleichung. Teams benötigen weiterhin eine konsistente Möglichkeit, Workloads im gesamten Technologie-Ökosystem bereitzustellen und zu steuern.
Daten-Governance und regulatorische Anforderungen bestimmen Entscheidungen über die Platzierung, doch der Betrieb kann schnell übermäßig komplex werden, wenn jeder Standort eine separate Arbeitsweise mit sich bringt. Hybride private KI bietet Unternehmen ein gemeinsames Framework für die Ausführung von Workloads in der Nähe der Daten, auf die sie angewiesen sind, und bewahrt dabei die Kontrolle über die gesamte Umgebung.
Außerdem kann es den Aufwand verringern, große Mengen proprietärer Daten zwischen Systemen zu verschieben. Wenn die Recheninfrastruktur näher an den Daten bleibt, lassen sich Transferkosten senken und der Betrieb vereinfachen. Gleichzeitig hilft dies Unternehmen, mehr Wert aus der bereits vorhandenen Infrastruktur zu schöpfen.
Dieser Ansatz gibt Teams mehr Freiheit, Platzierungsentscheidungen anhand der jeweiligen Anwendung selbst statt anhand der Einschränkungen einer fragmentierten Architektur zu treffen. Teams können dort, wo es wichtig ist, die lokale Kontrolle bewahren und zugleich auf Cloud-Ressourcen zurückgreifen, wenn Skalierung oder Verfügbarkeit dies erfordern.
Hochleistungsrechnen stellt Modellen die nötige Rechenleistung zum Trainieren und Reagieren bereit. Es vermittelt ihnen nicht von selbst ein Verständnis für das Geschäft.
Dieser Kontext stammt aus Unternehmensdaten. Modelle benötigen Zugriff auf relevante, kontrollierte Informationen, um Ergebnisse zu erzeugen, die die Kunden, Abläufe und Prioritäten einer Organisation widerspiegeln. Ohne diese Verankerung kann selbst ein äußerst leistungsfähiges Modell Antworten generieren, denen die für den praktischen Einsatz in Unternehmen erforderliche Spezifität fehlt.
Zuverlässige Workflows im Produktivbetrieb sind ebenfalls wichtig. Daten müssen effizient aufbereitet und abgerufen werden, und die Inferenz muss auch bei steigender Nachfrage reaktionsfähig bleiben. Teams benötigen außerdem Einblick darin, wie sich Anwendungen nach der Bereitstellung verhalten, damit sie Leistungsprobleme erkennen und sich an veränderte Anforderungen anpassen können.
Diese Fähigkeiten machen aus einem vielversprechenden Modell eine Anwendung, auf die sich Menschen im Arbeitsalltag verlassen können. Zudem erleichtern diese Fähigkeiten den Schritt über isolierte Pilotprojekte hinaus und fördern eine breitere Einführung im gesamten Unternehmen.
Cloudera und AMD bringen unterschiedliche Teile dieses Fundaments zusammen.
Cloudera bietet die Plattform für die Datenaufbereitung, die Entwicklung von Modellen, das Governance-Management und die Unterstützung von Anwendungen bis hin zur Produktion. AMD liefert die End-to-End-Rechengrundlage für diesen gesamten Lebenszyklus – von der Datenverarbeitung und dem Datenabruf bis hin zur Modellinferenz.
Dies bietet Unternehmen mehr Auswahl bei der Zuweisung von Ressourcen. Anwendungen, die auf kleinen und mittelgroßen Modellen basieren, wie beispielsweise Chatbots oder Retrieval-Augmented-Generation-Systeme, können auf einer CPU-Infrastruktur effizient ausgeführt werden. Anspruchsvollere Workloads können beschleunigte Rechenleistung nutzen, wenn die Leistungsanforderungen dies rechtfertigen.
Diese Unterscheidung ist wichtig, da nicht jede Anwendung das gleiche Maß an Rechenleistung benötigt. Der Einsatz der ressourcenintensivsten Infrastruktur für jeden Workload kann die Kosten erhöhen, ohne einen entsprechenden geschäftlichen Nutzen zu bieten.
Ein workloadbasierter Ansatz ermöglicht es Teams, Ressourcen auszuwählen, die zum heutigen Anwendungsfall passen, und sie mit sich ändernder Nachfrage anzupassen. Gleichzeitig bleiben Datenverwaltung und Anwendungsbetrieb über eine einheitliche Plattform miteinander verbunden, wodurch die Beeinträchtigungen reduziert werden, die mit sich ändernden Infrastrukturanforderungen einhergehen können.
Die Mischung aus Modellen und Workloads wird sich weiterhin verändern. Unternehmen werden die Freiheit benötigen, verschiedene Arten von Rechenleistung zu nutzen, ohne die Datengrundlage oder das Betriebsmodell unter jeder Anwendung neu aufbauen zu müssen.
Cloudera und AMD bieten diese Flexibilität, indem sie Unternehmensdaten mit einer Infrastruktur verbinden, die sich an ein breiteres Spektrum von Workloads anpassen kann.
Erfahren Sie, wie Cloudera und AMD Sie dabei unterstützen können, KI in hybriden Umgebungen zu entwickeln und zu skalieren.
Besuchen Sie AMD unbedingt bei unseren bevorstehenden EVOLVE26-Veranstaltungen weltweit. Mehr erfahren.
This may have been caused by one of the following: