Wir können den Wettlauf um die KI nicht aufhalten. Wir können ihn jedoch sicherer und geschützter gestalten.

Von Thyaga Vasudevan - EVP für Produkte

15. September 2026 5 Minuten Lesezeit

An diesem Wochenende führte die KI-Branche eine ungewöhnliche Diskussion zum Thema Geschwindigkeit. 

Zusammenfassend lässt sich sagen, dass Dario Amodei, CEO von Anthropic, argumentierte , dass die Fähigkeiten der Pionier-KI schneller voranschreiten als die Mechanismen, die zu ihrem Verständnis und ihrer Kontrolle erforderlich sind. Auch OpenAI-CEO Sam Altman hat seine Bereitschaft bekundet, die Entwicklung fortschrittlicher KI-Systeme unter den richtigen Bedingungen zu verlangsamen.

Ich möchte nicht darüber spekulieren, warum sie diese Standpunkte vertreten. Die von ihnen beschriebenen Risiken verdienen es jedoch, ernst genommen zu werden. Daher glaube ich, dass die umfassendere Diskussion zu einer anderen Schlussfolgerung führt:

Wir sollten unsere KI-Sicherheitsstrategie nicht auf der Annahme aufbauen, dass Innovation gebremst werden kann. Wir sollten eine Sicherheitsarchitektur entwickeln, die es ermöglicht, dass Innovationen sicher und geschützt fortgesetzt werden können.

Die Innovation wird nicht zum Stillstand kommen

Es gibt schlichtweg zu viel Potenzial, das darauf wartet, erschlossen zu werden; KI hat das Potenzial, Medizin, Wissenschaft, Softwareentwicklung, Bildung, Fertigung, Cybersicherheit und praktisch jede wissensintensive Branche zu verändern. Wenn ich mit Kunden aus Fortune-100-Unternehmen spreche, die in einigen der am stärksten regulierten Märkte und Regionen tätig sind und verschiedene Branchen abdecken, erlebt jeder einzelne von ihnen dies bereits aus erster Hand. So nutzen beispielsweise Mitarbeiter KI-Assistenten, Entwickler binden Modelle in Anwendungen ein, Unternehmen bauen private KI-Umgebungen auf und ihre Geschäftsprozesse werden zunehmend autonomer.

Daher können wir den Geist nicht mehr in die Flasche zurückbringen.

Unternehmen, die in erster Linie mit Einschränkungen für KI reagieren, könnten ein weiteres Problem schaffen: Mitarbeiter und Entwickler weichen auf Tools aus, die den Sicherheitsteams verborgen bleiben. Das Ziel sollte daher nicht eine langsamere Einführung von KI sein. Vielmehr sollte es darum gehen, eine sicherere Einführung von KI.

Das Problem der Formel 1

Die Verlangsamung der Entwicklung bringt eine weitere praktische Herausforderung mit sich: Alle müssten gemeinsam verlangsamen. Ich denke, das ist vergleichbar mit einem Problem in der Formel 1. 

Nehmen wir einmal an, Sie fahren mit außerordentlich hoher Geschwindigkeit und stellen fest, dass ein Abschnitt der Strecke möglicherweise unsicher ist, sodass Sie vom Gaspedal gehen. Dies mag zwar die verantwortungsbewusste Vorgehensweise sein, doch Ihr Konkurrent könnte anders darüber denken. Er könnte der Meinung sein, über bessere Bremsen zu verfügen, eine andere Fahrlinie wählen oder sich dafür entscheiden, ein höheres Risiko einzugehen.

Beachten Sie außerdem, dass es im Bereich der KI noch einen weiteren Faktor gibt: Open Source. Innovation wird zunehmend global und dezentralisiert. Es ist nicht so, dass diese „Frontier“-Labore miteinander konkurrieren – vielmehr konkurrieren die Nationen untereinander. Unternehmen entwickeln ihre eigenen maßgeschneiderten Modelle auf der Grundlage von Open Source. 

Daher müssen Unternehmen davon ausgehen, dass sich die KI-Fähigkeiten weiterhin rasch weiterentwickeln werden, unabhängig davon, ob sich alle Beteiligten über das Tempo einig sind.

Genau wie in der Formel 1 besteht die Lösung nicht einfach darin, langsamer zu fahren. Die Lösung besteht darin, sicherere Autos, bessere Bremsen, stabilere Leitplanken, eine bessere Telemetrie und bessere Regeln zu entwickeln. In ähnlicher Weise benötigt die KI entsprechende Maßnahmen. Sicherheit muss zum Schutzwall für Innovation werden.

Die Sicherheit im Bereich der KI ist nicht nur ein einziges Problem

KI-Sicherheit wird manchmal auf den Schutz einer Eingabeaufforderung oder die Absicherung eines großen Sprachmodells (LLM) reduziert. Das ist viel zu eng gefasst. Unternehmens-KI reicht mittlerweile von Mitarbeitern, die mit öffentlichen KI-Tools experimentieren, bis hin zu autonomen Agenten, die auf Anwendungen, APIs und Unternehmensdaten zugreifen. Unternehmen benötigen daher eine umfassende KI-Sicherheitsarchitektur, nicht nur ein weiteres Einzelprodukt.

Bei Skyhigh Securitybetrachten wir dies anhand von fünf Stufen eines Reifegradmodells.

1. Entdecken Sie

Was Sie nicht sehen können, können Sie auch nicht sichern. Unternehmen benötigen zunächst einen Überblick über genehmigte KI, Schatten-KI, private KI und das stetig wachsende Universum der LLM-gestützten Anwendungen. Sie müssen verstehen, wer KI nutzt, auf welche Anwendungen zugegriffen wird, welche Risiken damit verbunden sind und wohin sensible Daten fließen könnten.

2. Regulieren und vorbeugen

Transparenz muss zu entsprechenden Richtlinien führen. Nicht jeder Mitarbeiter sollte denselben Zugriff auf jeden KI-Dienst haben, und nicht jede KI-Anwendung sollte dieselben Daten erhalten. Hier kommt Security Service Edge (SSE) + Zero Trust ins Spiel kommt und unverzichtbar wird. Zudem muss die Architektur eine lokale Durchsetzung ermöglichen, um sicherzustellen, dass die Sicherheitsmaßnahmen keine Leistungseinbußen oder Latenzzeiten bei der Endbenutzererfahrung verursachen

Identität, Anwendungsrisiko, Gerätestatus, Datensensibilität und Kontext können darüber entscheiden, ob eine KI-Interaktion zugelassen, blockiert, eingeschränkt oder anderweitig umgeleitet werden sollte.

3. Schutz der Daten

Der Wert von KI im Unternehmensbereich ergibt sich zunehmend aus dem Zugriff auf Unternehmensdaten. Genau darin liegt auch ein Großteil des Risikos. Unternehmen können Data Security Posture Management (DSPM), DLP und Secure Browser Controls arbeiten zusammen, um sensible Informationen zu identifizieren, diese während der Übertragung zu schützen und zu kontrollieren, was Benutzer hochladen, herunterladen, kopieren, einfügen oder KI-Anwendungen zugänglich machen dürfen.

KI-Sicherheit ohne Datensicherheit ist unvollständig.

4. Sichere KI-Interaktionen

Die nächste Ebene schützt die Konversation selbst. Eingabeaufforderungen können sensible Informationen enthalten. Modelle können durch „Prompt Injection“ manipuliert werden. Antworten können unsichere oder unangemessene Inhalte enthalten. Unternehmen benötigen Sicherheit bei Eingabeaufforderungen + Inhaltsmoderation + Kontrollmechanismen für maßgeschneiderte LLMs , um dynamische Leitplanken für Interaktionen zwischen Menschen und KI zu schaffen.

Die Frage lautet: „Kann dieser Benutzer auf diese KI-Anwendung zugreifen?“

an: „Sollte dieser Nutzer in diesem Zusammenhang diese Informationen an dieses Modell senden?“

5. Sichere Agentic-KI

Dies könnte sich letztendlich als die wichtigste Ebene erweisen. Die KI entwickelt sich weg von der Beantwortung von Fragen hin zum Ergreifen von Maßnahmen. Agenten können mit maschineller Geschwindigkeit auf Systeme zugreifen, Tools aufrufen, APIs anrufen, Daten abrufen und mit anderen Agenten kommunizieren. Protokolle wie MCP machen diese Verbindungen immer leistungsfähiger. Unternehmen benötigen daher Agentenidentität, Zero-Trust-Sicherheit und MCP-Sicherheit , damit autonome Maschine-zu-Maschine-Interaktionen über Identitäten, Berechtigungen, Richtlinien und eine kontinuierliche Autorisierung verfügen.

Wir haben Jahrzehnte damit verbracht, Identitäts- und Zero-Trust-Architekturen für Menschen zu entwickeln. Nun benötigen wir diese für autonom agierende Maschinen.

Innovation mit Sicherheit

Zusammenfassend lässt sich sagen, dass es bei dieser Debatte nicht um die Wahl zwischen Innovation und Sicherheit geht. Das ist eine falsche Gegenüberstellung. Die Herausforderung für die Cybersicherheitsbranche sollte darin bestehen, sichere und geschützte Innovation.

KI wird schneller werden. Sie wird autonomer werden. Sie wird auf mehr Unternehmensdaten zugreifen. Und sie wird im Namen des Menschen mehr Maßnahmen ergreifen. Unternehmen können ihre KI-Strategie nicht auf die Hoffnung stützen, dass sich das gesamte Ökosystem insgesamt verlangsamen wird.

Ihre Sicherheitsarchitektur muss vom Gegenteil ausgehen. Die Gewinner des KI-Zeitalters werden nicht unbedingt jene Organisationen sein, die am langsamsten vorgehen. Es werden jene Organisationen sein, die herausfinden, , wie man schnell vorankommt, dabei aber die richtigen Sicherheitsvorkehrungen trifft.

Zurück zu Blogs