Agentische KI schafft schneller als jede andere Unternehmenstechnologie zuvor den Sprung von Demos in die Produktion. Autonome Systeme ziehen bereits Schlussfolgerungen aus proprietären Daten, rufen interne Tools auf und führen innerhalb zentraler Geschäftsprozesse folgenreiche Aktionen aus. Dieser Wandel macht eine Frage dringlich: Wenn Agenten handeln können, wer kann sie überprüfen, verifizieren und verteidigen?
Cloudera's Antwort lautet, dass die Abwehrmaßnahmen, die unsere Infrastruktur schützen, offen entwickelt werden müssen. Deshalb sind wir stolz darauf, Gründungspartner der neu gegründeten Open Secure AI Alliance zu sein – gemeinsam mit NVIDIA und weiteren führenden Unternehmen aus den Bereichen Cloud, Cyber-Sicherheit, Unternehmenssoftware, Open Source und KI-Forschung. Die Allianz ist eine Bewegung zur Entwicklung und gemeinsamen Bereitstellung offener Technologien, Techniken und Tools zum Schutz von Software und Agenten im Zeitalter der KI.
Cloudera blickt auf eine lange, tief verwurzelte Geschichte im Open-Source-Bereich zurück. Wir haben schon lange verstanden, dass offene Data-Lakehouse-Formate eine entscheidende Säule der Wirtschaft sind und im Grunde eine Versorgungsfunktion erfüllen, die Cloud-Computing, Finanzdienstleistungen, Telekommunikation und staatliche Infrastruktur trägt.
Im Zeitalter der KI sind Open-Source-Software und Modelle mit offenen Gewichten grundlegend für Führungsstärke und Cyber-Sicherheit. Schätzungen der Branche zeigen, dass zwischen 76 % und 99 % der Codebasen kommerzieller Software bereits auf Open-Source-Software beruhen.
Offene Modelle machen aus Nutzern Entwickler und beschleunigen Innovationen, während sie zugleich dafür sorgen, dass der Fortschritt nicht auf eine kleine Zahl zentralisierter Organisationen beschränkt bleibt. Noch wichtiger ist, dass ein offenes Ökosystem unabhängige wissenschaftliche Forschung und eine umfassende kritische Prüfung ermöglicht – sodass Verteidiger verstehen, bewerten und verbessern können, wie sich KI-Systeme verhalten.
Bei Cloudera setzen wir uns für absolute Neutralität ein. Wir erkennen an, dass die Infrastruktur, die unsere Wirtschaft antreibt, sicheren und geschützten Zugang sowohl zu geschlossenen und proprietären Modellen als auch zu offenen Modellen benötigt, damit wir in der KI-Revolution eine Führungsposition behalten.
Unsere Unternehmenskunden benötigen die Flexibilität, KI an ihre spezifischen Branchen, proprietären Daten, Kunden und betrieblichen Anforderungen anzupassen. Sie müssen dies tun können, während sie ihre Daten schützen und eine Bindung an einen bestimmten Anbieter vermeiden.
Indem wir strikt neutral bleiben, ermöglichen wir es Organisationen, hybride Systeme zu entwickeln, die ihre individuellen Prioritäten widerspiegeln.
Dies ist besonders wichtig für stark regulierte Branchen – wie den Finanzsektor, den öffentlichen Sektor und kritische Infrastrukturen –, in denen Unternehmen die Compliance, die Datensouveränität und die geopolitische Resilienz sicherstellen müssen und sich häufig dafür entscheiden, nicht auf im Ausland gehostete APIs angewiesen zu sein. KI-Sicherheit und -Verteidigung erfordern ein vielfältiges, offenes Ökosystem statt eines einzigen Kontrollpunkts.
Während sich die Branche übermäßig auf Basismodelle konzentriert hat, müssen wir für die Sicherheit das größere Ganze betrachten. Ein KI-Agent ist nicht nur ein Modell; er ist ein komplexes System aus Modellen, Harnesses und Leitplanken, die festlegen, worauf ein Agent zugreifen kann.
Das Harness ist das entscheidende Gerüst, das einem KI-Agenten ermöglicht, den Kontext wahrzunehmen, Probleme zu durchdenken und entschlossen zu handeln. Da Agenten autonom in Unternehmenssystemen agieren, ist es von größter Bedeutung, dieses Harness zu sichern. Geschlossene Systeme bergen das Risiko, kritische Informationen vor Verteidigern zu verschließen. Im Gegensatz dazu erweitern offene Harnesses und Tools die Verteidigungsfähigkeiten erheblich und erhöhen die Transparenz.
Im Rahmen der Open Secure AI Alliance leistet NVIDIA wichtige Forschungsarbeit zur Förderung dieser Cybersicherheits-Tools. Beispielsweise erleichtert das Open-Source-Framework NVIDIA Labs Object-Oriented Agent (NOOA) die Integration von Testumgebungen in Modelle, wodurch sich das Verhalten von Agenten wesentlich einfacher testen, nachverfolgen, prüfen und steuern lässt. Diese Funktionen stellen sicher, dass die Handlungen von Agenten bei ihrem Einsatz in Unternehmens-Workflows konform und beobachtbar bleiben.
Unser agentenbasiertes Portfolio ist genau dafür konzipiert: Modelle nach Wahl des Kunden in dessen eigener Umgebung auszuführen und zu orchestrieren – mit durchgängiger Daten-Lineage, Richtlinien und Observability. Offene Inferenz- und Gateway-Kontrollen, eine Governance-gesteuerte Kontext- und Tool-Ebene sowie vollständige Auditierbarkeit sorgen dafür, dass die Aktionen eines Agenten regelkonform, erklärbar und überprüfbar bleiben.
Offene Verteidigung funktioniert nur, wenn sie unter Governance-Vorgaben, in der Produktion und mit Daten eingesetzt werden kann, deren Verschiebung sich ein Unternehmen nicht leisten kann. Diese Bereitstellungsumgebung ist es, die Cloudera in die Allianz einbringt.
Während die Regulierungsbehörden sich mit der Sicherheit von KI befassen, ist es entscheidend, dass offene Modelle, Harnesses und Sicherheitstools als defensive Ressourcen und nicht als Belastungen anerkannt werden. Pauschale Beschränkungen für offene Frontier-Systeme würden die Verteidigungsfähigkeit schwächen und die Abhängigkeit auf wenige geschlossene Anbieter konzentrieren – das Gegenteil von Resilienz.
Der sicherere Weg ist derjenige, der mehr Verteidigern die Möglichkeit gibt, die Systeme, auf die sich die Gesellschaft verlässt, zu testen, zu überprüfen und zu stärken, und der mit starken Schutzmaßnahmen, klaren Regeln gegen Missbrauch und schneller Abhilfe einhergeht.
Offenheit allein garantiert kein Vertrauen. Es braucht weiterhin rigorose Tests, eine sichere Infrastruktur, klare Governance und menschliche Aufsicht. Aber ein offenes Ökosystem erweitert die Gemeinschaft der Verteidiger, die diese Arbeit leisten können.
Cloudera setzt sich dafür ein, gemeinsam mit NVIDIA und unseren Partnern diese Zukunft zu gestalten – eine Zukunft, in der KI leistungsstark, offen, verwaltet und von Grund auf sicher ist. Wir laden Unternehmen, Regierungen und Forschende ein, sich uns anzuschließen.
This may have been caused by one of the following: