ClouderaNOW: Erfahren Sie mehr über KI-Agenten, Cloud-Bursting und Data Fabrics für KI | 8. April

Jetzt registrieren
  • Cloudera Cloudera
  • | Partner

    Der neue Engpass für KI in Unternehmen liegt im Dokument selbst

    Sid Manchkanti Headshot
    Ein Mann und eine Frau schauen auf ein Tablet

    In den letzten zwei Jahren drehten sich die Diskussionen über KI in Unternehmen meist zunächst um das Modell. Unternehmen diskutierten darüber, welches Foundation Model sie einsetzen, wie sie es optimieren und welches Orchestrierungs-Framework die besten Ergebnisse liefern würde.

    Diese Diskussion wandelt sich. Da Foundation Models leistungsfähiger, zugänglicher und zwischen Anbietern austauschbarer werden, stellen viele Unternehmen fest, dass die Modellleistung nicht mehr der primäre Engpass für KI-Ergebnisse darstellt. Stattdessen hat sich der Engpass weiter nach vorne in die Pipeline verlagert: in die Dokumentenebene, die KI-Systeme überhaupt erst speist.

    In Gesprächen mit CIOs und CDOs aus den Bereichen Finanzdienstleistungen, Gesundheitswesen und Telekommunikation tritt immer wieder dieselbe Beobachtung auf. Die Herausforderung besteht nicht mehr darin, wie das Modell argumentiert. Das ist das, was das Modell argumentiert.

    Das Modell ist nicht länger der Engpass für die KI-Inferenz in Unternehmen. Vielmehr ist es die Ebene der Dokumentenverarbeitung. Diese Einschätzung spiegelt einen strukturellen Wandel wider, wo Wert und Risiko nun im Stack der Unternehmens-KI angesiedelt sind.

    Das eigentliche Problem: Unstrukturierte Daten und Document Intelligence

    In regulierten Unternehmensumgebungen befinden sich die kritischsten Daten nicht in sauberen, strukturierten Warehouse-Tabellen. Sie liegen in unstrukturierten Formaten vor: PDFs, gescannte Unterlagen, Schadensaufstellungen, Verträge, Finanzberichte, Laborberichte und Tarifanhänge. Das sind die Daten, mit denen KI-Systeme gefüttert werden.

    Document Intelligence bezeichnet den Prozess der Umwandlung dieser unstrukturierten Daten in strukturierte, nutzbare Eingaben für KI-Modelle. Wenn dieser Schritt fehlschlägt, wirken sich die Konsequenzen auf die gesamte KI-Pipeline aus.

    Die Fehlerursache ist oft trügerisch einfach. Eine falsch gelesene Tabelle oder eine verbundene Zelle führt zu einer fehlerhaften Extraktion. Diese Extraktion erzeugt fehlerhafte Einbettungen, die beim Abruf den falschen Kontext zurückgeben. Das Modell generiert dann eine überzeugte Antwort aus einer überzeugend falschen Eingabe.

    An diesem Punkt kann selbst das fortschrittlichste Modell den zugrunde liegenden Fehler nicht mehr ausgleichen. Verbesserungen der Modellleistung beheben kein strukturelles Problem, das bereits vor der Ausführung des Modells aufgetreten ist. In der Praxis bestimmt die Qualität der Dokument-Pipeline häufig die Genauigkeitsobergrenze des KI-Systems.

    Wenn Parsing-Fehler zu unternehmerischen Risiken werden

    Die Auswirkungen einer fehlerhaften Dokumentenanalyse zeigen sich unmittelbar in den Geschäftsergebnissen. Sie sind konkret, messbar und werden auf Führungsebene weitgehend unterschätzt. Genau das macht Document Intelligence zu mehr als nur einer technischen Herausforderung. Für viele Unternehmen ist sie zu einer operativen und finanziellen Herausforderung geworden.

    Parsing-Fehler sind selten sichtbar, wenn sie auftreten. Stattdessen verstärken sie sich im weiteren Verlauf durch Workflows, Entscheidungen und Geschäftsprozesse. Wenn das Problem auftaucht, sind die Kosten für die Behebung oft weitaus höher als die Kosten für die Prävention.

    Finanzdienstleistungen

    Im Finanzdienstleistungsbereich kann ein einzelner falsch gelesener Wert im Kapitalkontoauszug eines Fondsadministrators zu nachgelagerten Fehlern bei Underwriting- oder Reservierungsmodellen führen. Diese Fehler können regulatorische Konsequenzen nach sich ziehen und zu kostspieligen Korrekturmaßnahmen führen, die oft in die Millionen gehen. 

    Gesundheitswesen

    Gesundheitsorganisationen sind nach wie vor in hohem Maße auf die manuelle Datenextraktion aus Dokumenten angewiesen, wenn es um Leistungsabrechnungen, Zahlungsavise und klinische Unterlagen geht. Dies ist teilweise auf die strukturelle Komplexität der Daten und teilweise auf die strengen Anforderungen an geschützte Gesundheitsinformationen zurückzuführen. 

    Die manuelle Datenextraktion aus Dokumenten ist durchweg einer der größten Posten in den Budgets für die Verarbeitung von Gesundheitsdaten. 

    Telekommunikation

    In der Telekommunikationsbranche enthalten Abrechnungen für die Verbindung zwischen Anbietern und Service-Level-Vereinbarungen (SLAs) häufig komplexe Tariftabellen, die nur wenige Systeme in großem Maßstab korrekt auswerten können. Selbst kleine Ungenauigkeiten können auf Ebene der Netzbetreiber zu Verlusten in Höhe von Hunderten von Millionen Dollar führen. 

    Das Muster ist in diesen Branchen dasselbe. Ein ungenaues Verständnis von Dokumenten ist kein technisches Problem. Es handelt sich um ein GuV-Problem, das sich still und leise verschärft.

    Der Kompromiss: Genauigkeit vs. Datensouveränität

    Zu dem Problem der Genauigkeit kommt eine zweite, für regulierte Unternehmen spezifische Einschränkung hinzu: der Ort, an dem die KI-Verarbeitung stattfindet. 

    In den letzten Jahren hat sich der Großteil des KI-Inferenz-Stacks für Unternehmen zunehmend in kontrollierte Kundenumgebungen – virtuelle private Clouds (VPCs), On-Premises-Infrastruktur oder souveräne Cloud-Regionen – verlagert. Modelle, Vektorspeicher, Orchestrierungsebenen und Observability unterliegen nun denselben Governance-Kontrollen wie die zugrunde liegenden Daten. Das Parsen von Dokumenten war die erzwungene Ausnahme. 

    In der Vergangenheit wurden die genauesten Optionen zur Dokumentenverarbeitung ausschließlich über SaaS-APIs bereitgestellt, was regulierte Kunden vor die Wahl zwischen Genauigkeit und Souveränität stellte:

    • Leiten Sie die vertraulichsten Dokumente im Unternehmen zur Erzielung einer höheren Genauigkeit an eine Drittanbieter-API weiter oder 

    • Halten Sie Daten innerhalb der Unternehmensgrenzen und akzeptieren Sie eine signifikante Genauigkeitslücke bei den wichtigsten Workflows. 

    Compliance-, Rechts- und Risikoteams betrachten beide Optionen seit langem als Kompromisse. Infolgedessen hatten viele Unternehmen Schwierigkeiten, zwei gleichermaßen wichtige Prioritäten in Einklang zu bringen: die für geschäftskritische Workflows erforderliche Genauigkeit zu erreichen und gleichzeitig die Kontrolle darüber zu behalten, wo sensible Daten verarbeitet werden.

    Noch bis vor Kurzem gab es keinen klaren Weg, beides zu erreichen.

    Eine sich entwickelnde Kategorie im Bereich der Enterprise Document Intelligence

    Die gute Nachricht ist, dass dieser Kompromiss allmählich hinfällig wird. Branchenweit wenden Unternehmen bei der Bewertung von Document-Intelligence-Systemen größere Sorgfalt an, insbesondere bei komplexen Tabellen und hochstrukturierten Geschäftsdokumenten, die herkömmliche Parsing-Ansätze in der Vergangenheit vor Herausforderungen gestellt haben.

    Gleichzeitig ermöglicht eine neue Generation von Anbietern von Document Intelligence ein hohes Maß an Parsing-Genauigkeit innerhalb von Umgebungen, die vom Kunden kontrolliert werden. Vor kurzem hat das Team von Pulse den wegweisenden Benchmark PulseBench-Tab als Open-Source-Projekt veröffentlicht, das insbesondere für das Parsen von Tabellen entwickelt wurde und speziell auf die Dokumenttypen ausgerichtet ist, mit denen regulierte Unternehmen tatsächlich arbeiten. 

    Es enthält 1.820 von Menschen annotierte Tabellen aus echten Finanzunterlagen, Regierungsberichten, Unternehmensmitteilungen und behördlichen Einreichungen, die 9 Sprachen und 4 Schriften umfassen, von denen viele zusammengeführte oder verbundene Zellen sowie komplexe Strukturen enthalten, die herkömmliche Analysesysteme häufig überfordern. 

    Wichtig ist, dass der Benchmark T-LAG einführt, einen einheitlichen Scoring-Ansatz, der sowohl die Textgenauigkeit als auch die strukturelle Genauigkeit erfasst. Dadurch wird sichergestellt, dass Systeme nicht dafür belohnt werden, ungefähren Text zu extrahieren und dabei stillschweigend die Struktur der Tabelle zu beschädigen. 

    Die Ergebnisse dieses Benchmarks zeigen, dass eine Genauigkeit auf höchstem Niveau bei der Dokumentenanalyse nun ohne SaaS-Endpunkt eines Drittanbieters erreichbar ist, was KI-Pipelines in Unternehmen ein neues Maß an Zuverlässigkeit verleiht.

    Neun Anbieter wurden unabhängig und transparent bewertet, wobei die Methodik von wissenschaftlichen Beiträgen von Mitgliedern der Enterprise Data Organization von S&P Global profitierte. Bei diesem Benchmark erzielte Pulse einen T-LAG-Wert von 0,9347 bei vollständiger Abdeckung aller 1.820 Stichproben, was deutlich vor dem nächstbesten Anbieter mit 0,8155 liegt. 

    Integration von Document Intelligence in den Enterprise-KI-Stack

    Dieser Fortschritt eröffnet eine neue Architektur für KI im Unternehmensbereich – eine Architektur, in der Document Intelligence in derselben Umgebung wie der Rest der Datenpipeline zum Einsatz kommt. Da Document Intelligence innerhalb kontrollierter Unternehmensumgebungen bereitgestellt werden kann, erhalten Unternehmen die Möglichkeit, die Dokumentenverarbeitung in denselben Betriebs- und Governance-Rahmen wie den Rest des KI-Stacks zu integrieren.

    In Kombination mit einer KI-gestützten Lakehouse-Architektur entsteht so ein einheitlicherer Ansatz für die Verwaltung strukturierter und unstrukturierter Daten, der von der Erfassung bis zur Inferenz einheitliche Kontrollen in den Bereichen Sicherheit, Datenherkunft, Beobachtbarkeit und Governance gewährleistet.

    Lösungen wie Pulse zeigen, wie diese Architektur in der Praxis aussehen kann, und ermöglichen es Unternehmen, komplexe Dokumente zu analysieren und zu strukturieren, ohne dass sensible Daten die Unternehmensumgebung verlassen müssen.

    Das Ergebnis ist eine vollständig integrierte Pipeline, die Folgendes kann:

    • Unstrukturierte Dokumente parsen
    • Diese in strukturierte Daten konvertieren
    • Relevanten Kontext einbetten und abrufen
    • Generieren Sie Ausgaben mithilfe von KI-Modellen

    Alles innerhalb derselben kontrollierten Umgebung.

    Für den CIO bedeutet das eine einheitliche Governance-Grenze über den KI-Workflow und nicht einen Flickenteppich aus nicht zusammenhängenden Umgebungen, die gesichert, geprüft und verwaltet werden muss.

    Für den CFO kann dies dazu führen, dass die Dokumentenverarbeitung nicht mehr als wiederkehrende Kosten für externe Dienstleistungen anfällt, sondern zu einer internen Kompetenz wird, die auf einer Infrastruktur aufbaut, die bereits umfassendere KI- und Dateninitiativen unterstützt.

    Noch wichtiger ist, dass sich dadurch ändert, worauf Unternehmen ihre Investitionen konzentrieren sollten. Da Modelle immer leichter zugänglich werden, verlagert sich der Wettbewerbsvorteil zunehmend auf die Qualität, die Governance und die Zuverlässigkeit der Datenpipeline, auf der sie basieren.

    Welche Möglichkeiten sich daraus für regulierte Branchen ergeben

    Für Führungskräfte, die die KI-Strategie in regulierten Branchen festlegen, wirken sich Verbesserungen im Bereich Document Intelligence sichtbar auf operative Kennzahlen aus. 

    Finanzdienstleistungen

    Finanzdienstleistungsteams können 10-K-Analysen und -Einreichungen, Unterlagen zur Fondsverwaltung, die Bearbeitung von Abrechnungslisten, Schadensaufstellungen und versicherungsmathematische Berichte vollständig innerhalb ihrer regulierten Umgebung abwickeln – und zwar mit einer so hohen strukturellen Genauigkeit, dass die Ergebnisse den nachgelagerten Stellen anvertraut werden können, wodurch der Druck und der Zeitaufwand für manuelle Überprüfungszyklen reduziert werden. 

    Personalressourcen, die zuvor für die manuelle Abstimmung eingesetzt wurden, können nun auf wertschöpfendere analytische Aufgaben umgelenkt werden. 

    Gesundheitswesen

    Gesundheitsorganisationen können dokumentenintensive Arbeitsabläufe wie die Extraktion von Daten aus klinischen Studien, die Erfassung von Laborwerten und die Bearbeitung von Leistungsaufstellungen (EOB) in derselben Umgebung automatisieren, in der auch ihre strukturierten geschützten Gesundheitsinformationen (PHI) gespeichert sind. Dies reduziert eine der größten Posten im Gesundheitsdatenbetrieb erheblich und beschleunigt gleichzeitig die Umsatzzykluszeiten und die Workflows der klinischen Forschung. 

    Telekommunikation

    Telekommunikationsbetreiber erhalten die Möglichkeit, Verbindungsvereinbarungen und Abrechnungsstrukturen so detailliert zu interpretieren, wie es erforderlich ist, um die Umsatzverluste auszugleichen, die bislang in komplexen Tariftabellen verborgen waren. 

    In jedem Fall führt eine verbesserte Document Intelligence direkt zu messbarem Geschäftswert.

    Die Zukunft: Der souveräne KI-Stack

    Der Schwerpunkt der Unternehmens-KI verlagert sich. Da sich die Funktionen der verschiedenen Modelle immer weiter angleichen, verlagert sich der nachhaltige Wettbewerbsvorteil eine Ebene tiefer, nämlich in die Pipeline von den Daten bis zur Inferenz – genauer gesagt darauf, wie effektiv Unternehmen unstrukturierte Daten verarbeiten und verwalten können. 

    Document Intelligence setzt jetzt den Maßstab für Genauigkeit und ROI. Gleichzeitig ist Datensouveränität in regulierten Branchen unverzichtbar: KI muss dort eingesetzt werden, wo die Daten gespeichert sind. Hier setzt die Vision von Cloudera für KI und Daten an jedem Ort an: KI in Hybrid- und Multi-Cloud-Umgebungen bereitstellen, Daten am Speicherort belassen und eine einheitliche Governance durchsetzen. 

    In Kombination mit Pulse verfügt das regulierte Unternehmen über einen Weg zu „AI Native“, der die Genauigkeit, die Kontrolle und den zugrunde liegenden ROI jedes darauf aufbauenden Workflows gewährleistet. Das ist der souveräne KI-Stack, den sich unsere Kunden gewünscht haben, und er ist nun in greifbarer Nähe.

    Sie sind bereit?

    Your form submission has failed.

    This may have been caused by one of the following:

    • Your request timed out
    • A plugin/browser extension blocked the submission. If you have an ad blocking plugin please disable it and close this message to reload the page.