• Frontier Models, autonome KI-Agenten und Shadow AI verschieben die Grenzen der Cybersicherheit. Eye Security erklärt, warum Unternehmen nicht mehr nur ihre Daten schützen müssen, sondern die Kontrolle über ihre gesamte KI-Landschaft.
• Je leistungsfähiger KI-Modelle werden, desto wichtiger werden Governance, Datenhoheit und technische Sicherheitsmechanismen. Klassische Richtlinien reichen dafür nicht mehr aus.

Die Diskussion über künstliche Intelligenz wird derzeit von immer leistungsfähigeren sogenannten Frontier Models geprägt. Moderne Sprachmodelle schreiben längst nicht mehr nur Texte oder Programmcode. Sie analysieren komplexe Daten, bedienen Browser, greifen auf Programmierschnittstellen zu, steuern Software und übernehmen zunehmend eigenständig mehrstufige Arbeitsabläufe. Mit jeder neuen Modellgeneration wächst damit nicht nur die Leistungsfähigkeit, sondern auch die Angriffsfläche.

Für Unternehmen markiert diese Entwicklung einen grundlegenden Paradigmenwechsel. Die eigentliche Herausforderung besteht nicht mehr darin, ob künstliche Intelligenz eingesetzt wird. Sie besteht darin, ob Unternehmen noch nachvollziehen können, welche Modelle im Einsatz sind, welche Daten verarbeitet werden, welche Systeme miteinander kommunizieren und welche Entscheidungen künstliche Intelligenz künftig eigenständig treffen darf.

„Viele Unternehmen beschäftigen sich noch mit der Einführung von KI. Tatsächlich befinden wir uns bereits in der nächsten Phase. KI wird zunehmend autonom, erhält Zugriff auf Unternehmenssysteme und trifft Entscheidungen innerhalb komplexer Prozessketten. Dadurch entstehen völlig neue Anforderungen an Cybersicherheit und Governance“, sagt Lodi Hensen, VP Security Operations bei Eye Security.

KI wird Teil der Unternehmensinfrastruktur

Lange Zeit wurden Sprachmodelle als isolierte Werkzeuge betrachtet. Nutzer stellten Fragen und erhielten Antworten. Moderne KI-Systeme entwickeln sich jedoch zunehmend zu digitalen Akteuren innerhalb der ITLandschaft.

Über Model Context Protocols (MCP), APIs, Browser-Integrationen und Agenten-Frameworks erhalten Modelle Zugriff auf Dokumentenmanagementsysteme, Cloud-Speicher, Quellcode-Repositories, CRM-Systeme oder interne Wissensdatenbanken. Gleichzeitig können sie Informationen zwischen unterschiedlichen Anwendungen verarbeiten und eigenständig Aktionen auslösen.

Damit verändert sich die Rolle künstlicher Intelligenz grundlegend. Das Modell wird nicht länger nur zur Benutzeroberfläche, sondern zu einem aktiven Bestandteil der Unternehmensarchitektur.

Aus Sicht der Cybersicherheit entsteht dadurch eine neue Vertrauensebene. Unternehmen müssen künftig nicht mehr ausschließlich Benutzer, Endgeräte und Server absichern, sondern zusätzlich die Interaktionen zwischen KI-Modellen, Datenquellen und angebundenen Systemen kontrollieren.

Shadow AI entwickelt sich zur unsichtbaren Schatteninfrastruktur

Parallel zu offiziellen KI-Initiativen entsteht in vielen Organisationen eine zweite Realität. Mitarbeitende nutzen frei verfügbare KI-Dienste, Browser-Erweiterungen oder spezialisierte Modelle für Übersetzungen, Programmierung, Vertragsanalysen oder Präsentationen – häufig außerhalb der etablierten IT-Prozesse.

Dieses Phänomen wird häufig als Shadow AI bezeichnet. Die eigentliche Herausforderung liegt jedoch nicht in einzelnen Anwendungen, sondern in ihrer Summe. Unterschiedliche Modelle verfügen über unterschiedliche Datenschutzrichtlinien, Trainingsmechanismen, Speicherorte und Berechtigungskonzepte. Für Sicherheitsverantwortliche entsteht dadurch eine kaum überschaubare Landschaft aus externen Datenflüssen.

Hinzu kommt, dass moderne Modelle nicht mehr ausschließlich auf Eingaben reagieren. Agenten können Informationen eigenständig beschaffen, Dateien analysieren, externe Quellen einbinden oder mehrere Modelle miteinander kombinieren. Dadurch entstehen neue Datenpfade, die von klassischen Sicherheitslösungen häufig nicht erfasst werden.

Guardrails schaffen Sicherheit – aber keine Kontrolle

Viele Anbieter werben mit umfangreichen Sicherheitsmechanismen innerhalb ihrer Modelle. Diese sogenannten Guardrails sollen verhindern, dass gefährliche Inhalte erzeugt oder missbräuchliche Anfragen beantwortet werden.

Aus Sicht der Unternehmenssicherheit greifen diese Schutzmechanismen jedoch zu kurz.

Guardrails bewerten primär das Verhalten des einzelnen Modells. Sie überwachen nicht, welche Daten ein Modell erhält, welche externen Systeme angebunden sind, welche Browser-Aktionen durchgeführt werden oder welche Berechtigungen Agenten im Unternehmensnetzwerk besitzen.

Sobald mehrere Modelle miteinander kommunizieren oder Agenten eigenständig Aufgaben übernehmen, entsteht ein hochkomplexes Ökosystem aus Identitäten, Berechtigungen und Datenströmen. Sicherheit muss deshalb auf der Ebene der gesamten KI-Infrastruktur stattfinden und nicht ausschließlich innerhalb einzelner Modelle.

„Die wichtigste Sicherheitsfrage lautet künftig nicht mehr, welches Modell eingesetzt wird. Entscheidend ist, welche Rechte dieses Modell besitzt, welche Daten es verarbeiten darf und ob sämtliche Interaktionen transparent nachvollziehbar bleiben.“

Digitale Souveränität wird zur Sicherheitsarchitektur

Mit der zunehmenden Verbreitung leistungsfähiger KI-Systeme rückt ein weiterer Aspekt in den Mittelpunkt: digitale Souveränität.

Für europäische Unternehmen geht es dabei längst nicht mehr ausschließlich um den Speicherort ihrer Daten.

Ebenso relevant ist die Frage, unter welcher Jurisdiktion Modelle betrieben werden, welche Trainingsdaten verwendet werden, welche regulatorischen Vorgaben gelten und wie transparent Entscheidungen eines Modells nachvollzogen werden können.

Insbesondere Unternehmen aus kritischen Infrastrukturen, dem Gesundheitswesen, der Industrie oder dem öffentlichen Sektor müssen künftig sicherstellen, dass sensible Informationen nicht unkontrolliert in externe Modellökosysteme gelangen. KI-Governance wird damit zu einer zentralen Voraussetzung für Compliance, Datenschutz und Resilienz.

Von Zero Trust zu Zero Assumption

Klassische Sicherheitsarchitekturen basieren auf dem Grundsatz, keinem Benutzer oder Gerät grundsätzlich zu vertrauen. Im Zeitalter autonomer KI-Agenten reicht dieser Ansatz allein nicht mehr aus.

Jede Identität, jede Anwendung, jedes Modell und jede automatisierte Aktion muss kontinuierlich überprüft werden. Sicherheitsentscheidungen dürfen sich nicht ausschließlich auf statische Berechtigungen stützen, sondern müssen den jeweiligen Kontext, das Verhalten und die Interaktion eines Systems berücksichtigen.

Eye Security verfolgt deshalb einen integrierten Sicherheitsansatz, der kontinuierliches Monitoring, KIgestützte Bedrohungserkennung, Incident Response und Cyberversicherung miteinander verbindet. Ergänzt wird dieser Ansatz durch Strategien zur Erkennung von Shadow AI, zum Schutz sensibler Datenströme sowie zur Umsetzung europäischer Anforderungen an Datensouveränität und Governance.

Die nächste Generation der Cybersicherheit beginnt nicht mit einer neuen KI – sondern mit mehr Transparenz

Die Entwicklung leistungsfähiger Frontier Models wird sich weiter beschleunigen. Gleichzeitig entstehen immer spezialisiertere Agenten, die komplexe Aufgaben eigenständig übernehmen und zunehmend tief in Unternehmensprozesse integriert werden.

Für Unternehmen wird deshalb nicht die Leistungsfähigkeit einzelner Modelle zum entscheidenden Wettbewerbsfaktor. Ausschlaggebend wird vielmehr sein, ob sie jederzeit nachvollziehen können, welche künstliche Intelligenz in ihrer Organisation arbeitet, welche Daten sie verarbeitet und welche Entscheidungen sie eigenständig treffen darf.

Cybersicherheit entwickelt sich damit von der klassischen Verteidigung einzelner Systeme hin zur transparenten Steuerung einer zunehmend autonomen digitalen Infrastruktur. Wer diese Transparenz früh etabliert, schafft nicht nur mehr Sicherheit, sondern auch die Grundlage für einen verantwortungsvollen und nachhaltigen Einsatz künstlicher Intelligenz.