Cloudera und NVIDIA ermöglichen es Organisationen, komplexe Datenpipelines in großem Maßstab zu optimieren, indem sie die Datenmanagementfähigkeiten von Cloudera mit den Full-Stack-Diensten von NVIDIA kombinieren:
Datenverarbeitung mit Apache Spark auf Cloudera und dem NVIDIA RAPIDS Accelerator für Apache Spark optimiert die Ausführung von Feature-Engineering- und Daten-Engineering-Workloads.
Die Bereitstellung von KI/ML-Modellen mit Cloudera AI Inference und NVIDIA NIM-Microservices verbessert den Durchsatz und die Latenzleistung von Modellen der künstlichen Intelligenz (KI) (sowohl traditionelle KI/ML als auch generative KI).
Agentische KI-Orchestrierung mit NVIDIA AI-Q Blueprint ermöglicht die Integration von KI-Agenten mit privaten Daten und die Interaktion mit anderen Systemen über APIs.
Abbildung 1: Cloudera und NVIDIA bieten einen Mehrwert im gesamten Data-Science-Lebenszyklus
In diesem Blog stellen wir drei Anwendungsfälle vor, die zeigen, wie Cloudera und NVIDIA gemeinsam mit Analysen und KI einen Mehrwert für Finanzdienstleistungsunternehmen schaffen.
Der Compliance-Lebenszyklus für die Bekämpfung von Geldwäsche und die Identifizierung von Kunden (AML/KYC) in großen Finanzunternehmen ist ein sehr rechenintensiver Prozess. Dies liegt an der Notwendigkeit der Integration und Standardisierung großer Datenmengen aus verschiedenen Aktivitäten, wie beispielsweise:
Entitätsauflösung, die die Standardisierung grenzüberschreitender Daten erfordert, die unterschiedlichen Datenfreigabeverfahren unterliegen und aus einer Vielzahl von Transaktionssystemen und externen Stellen stammen (z. B. Kreditkartentransaktionen, Überweisungen und SWIFT-Nachrichten).
Datenkonsolidierung aus mehreren AML/KYC-Systemen, die Informationen in unterschiedlichen Formaten speichern, die in ein einheitliches Schema normalisiert und in Datenprodukte (wie geschäftsbereichsübergreifende AML-Datamarts) strukturiert werden müssen.
Laufende Transaktionsüberwachung und regulatorische Berichterstattung, die Datenverarbeitung, Anreicherung und die Anwendung von Regeln erfordern.
Für viele Kunden von Cloudera, die AML/KYC-Anwendungsfälle implementiert haben, spielt Apache Spark eine entscheidende Rolle bei der Ermöglichung dieser analytischen Workloads. Apache Spark ist eine leistungsstarke Engine für die Datenverarbeitung, die Funktionen wie In-Memory-Computing und verteilte Verarbeitung bietet. Jedoch führen der Anstieg des Transaktionsvolumens und die zunehmende Vielfalt neuer Datenquellen für die AML/KYC-Compliance zu einer zusätzlichen Belastung der bestehenden Recheninfrastruktur und erfordern eine noch höhere Leistung.
Die NVIDIA RAPIDS-Bibliothek für Apache Spark lagert bestimmte Datenverarbeitungsvorgänge transparent von der CPU auf die GPU aus, d. h. ohne jegliche Codeänderungen. Infolgedessen konnten Kunden von Cloudera durch die Verwendung der NVIDIA RAPIDS-Bibliothek für Apache Spark 3.0-Workloads Leistungssteigerungen mit bis zu 20-facher Geschwindigkeit erzielen.
Zwei der größten Herausforderungen bei der Betrugsprävention sind die explosionsartige Zunahme des Transaktionsvolumens bei digitalen Zahlungen und Kreditkartenzahlungen sowie die zunehmende Ausgefeiltheit der Betrugsmethoden. Diese Faktoren haben zu Ressourcenkonflikten und Skalierbarkeitsproblemen bei der KI/ML-Inferenz geführt, sodass mehrere kombinierbare KI/ML-Modelle eingesetzt werden müssen, um neuen Betrugsmethoden entgegenzuwirken.
Zur Bewältigung dieser Herausforderungen umfasst der Cloudera AI Inference Service NVIDIA NIM, das für eine leistungsstarke, latenzarme und durchsatzstarke Inferenz für KI-Modelle zur Betrugsbekämpfung auf NVIDIA-beschleunigten Rechnern entwickelt wurde. Beispielsweise kann durch die Verwendung von NVIDIA NIM Cloudera AI Inference Service eine bis zu 6-fache Leistungssteigerung für PyTorch-Modelle (unter Verwendung der Torch-TensorRT-Bibliothek) und eine 2,5-fache Leistungssteigerung für TensorFlow-Modelle (unter Verwendung der TF-TensorRT-Bibliothek), die beide häufig zur Betrugsbekämpfung im Zahlungsverkehr eingesetzt werden, erzielt werden.
Darüber hinaus beschleunigt der Cloudera AI Inference Service Inferenzanfragen, die auf NVIDIA Accelerated Computing ausgeführt werden, indem er die dynamische Batch-Funktion von NVIDIA nutzt. Diese Funktion ermöglicht die Kombination von serverseitigen Inferenzanfragen, wodurch die ineffiziente Verarbeitung einer Anfrage nach der anderen vermieden wird, die einen Großteil der GPU ungenutzt lässt. Infolgedessen verbessert der Cloudera AI Inference Service mit NVIDIA NIM die GPU-Auslastung und reduziert zukünftige GPU-Kapitalausgaben, um den steigenden Anforderungen an die Betrugsprävention gerecht zu werden.
Die Kreditvergabe ist eine wichtige Funktion im Bankwesen und umfasst viele verschiedene Kreditgeschäfte wie Hypotheken, Kreditkartenkredite, Firmenkundengeschäft und Handelsfinanzierungen. Diese Prozesse waren in der Vergangenheit aufgrund der Vielzahl der mit dem Entstehungsprozess verbundenen Aktivitäten – von der Antragstellung bis zur Finanzierung – und der zahlreichen am Entscheidungsprozess beteiligten Akteure ineffizient.
Während herkömmliche KI/ML-Modelle viele einzelne Aktivitäten im Kreditvergabe-Workflow optimieren können, wirkt der Prozess aus Kundensicht immer noch langsam und fragmentiert. Hier kann die agentische KI einen erheblichen Einfluss haben: In diesem Zusammenhang kann die agentische KI den Aufwand für die Erfassung und Zusammenfassung von Informationen sowie die Ausarbeitung von Kreditentscheidungen reduzieren. Durch die Standardisierung der Überprüfungen im Rahmen des Genehmigungsprozesses kann außerdem ein personalisiertes und einheitliches Kreditvergabeverfahren gewährleistet werden. Darüber hinaus kann sie personalisierte Produktempfehlungen auf der Grundlage des Verhaltens und der Ausgabengewohnheiten der Kunden liefern, wobei ein Multi-Agenten-Workflow verschiedene Tools, Daten und KI-Agenten koordiniert.
Durch die Nutzung von NVIDIA AI-Q Blueprint auf NVIDIA Accelerated Computing mit dem Cloudera AI Inference Service können Bankinstitute diese transformative Vision verwirklichen. Beispielsweise kann Cloudera mithilfe von AI-Q Blueprint einen Multi-Agent-Workflow orchestrieren, der einen auf GenAI basierenden personalisierten Kreditberater umfasst, der auf NVIDIA NIM bereitgestellt wird, einen KI-basierten Dokumentenverarbeitungsagenten, der optische Zeichenerkennung (OCR) und Verarbeitung natürlicher Sprache (NLP) nutzt, sowie bestehende Tools zur Kreditentscheidung.
Die kombinierte Leistungsfähigkeit der einheitlichen, Cloud-basierten Datenplattform von Cloudera und der Hardware- und Software-Fähigkeiten von NVIDIA bietet eine ganzheitliche Lösung für die Entwicklung agentenbasierter KI-Lösungen.
Besuchen Sie diese Seite, um mehr über den Cloudera AI Inference Service zu erfahren.
Lesen Sie dieses Whitepaper von der Enterprise Strategy Group, um mehr über das gemeinsame Wertversprechen von Cloudera und NVIDIA zu erfahren.
This may have been caused by one of the following: