Wie man auf Frontier-KI-Modelle reagiert: Ein Deloitte-Cyber-Führer äußert sich

Sicherheitsteams haben schon immer gegen die Zeit gekämpft. Während des Großteils der Geschichte der Cybersicherheit lief diese Uhr langsam genug, um sie zu bewältigen.

Angreifer brauchten Zeit, um Schwachstellen zu finden und Exploits zu erstellen. Das Zeitfenster zwischen Entdeckung und Ausbeutung wurde in Tagen oder Wochen gemessen – oft lang genug, damit ein Patch ein Wechselboard freimachte.

Dieses Fenster ist eingestürzt.

Frontier-KI-Modelle können nun Schwachstellen entdecken, sie miteinander verknüpfen und innerhalb von Sekunden Exploits erzeugen. Dazu gehören auch Schwachstellen in Altsystemen, die seit Jahrzehnten keinen Patch mehr bekommen haben. Die Geschwindigkeit der Ausbeutung hat Rekordwerte erreicht.

Wir haben uns mit Andrew Rafla zusammengesetzt, Principal bei Deloitte & Touche LLP und Zero Trust-Leiter in der Cyber-Risk-Praxis, um zu verstehen, was dieser Wandel für Unternehmenssicherheitsprogramme bedeutet und was die gut reagierenden Teams von denen unterscheidet, die nicht reagieren.

Warum offensive KI-Modelle eine große Veränderung darstellen

Die meisten Cybersicherheitsbedrohungen haben sich in einem Tempo entwickelt, das Teams verfolgen können. Eine neue Angriffstechnik entsteht, und die Sicherheitsgemeinschaft analysiert sie. Lieferanten geben Unterschriften frei, und die Verteidiger reagieren.

Offensive KI-Frontier-Modelle durchbrechen diesen Kreislauf.

Diese Systeme finden unbekannte Schwachstellen in großem Maßstab und können sie zu funktionierenden Exploits verknüpfen. Dazu gehört eine veraltete Infrastruktur, die seit Jahrzehnten niemand mehr gepatcht hat.

Die fortschrittlichsten Modelle wurden aufgrund dieser offensiven Fähigkeiten streng eingeschränkt. Aber Beschränkungen werden nicht ewig gelten, und Open-Source-Nachahmer existieren bereits.

Deloitte-Kunden fragen bereits, wie sie an diese Modelle gelangen können, um ihre eigenen Umgebungen zu scannen, bevor Gegner es tun. Andrew denkt, dieser Instinkt ist richtig. Das Zeitfenster zwischen "diese Fähigkeit existiert" und "sie wird gegen Sie eingesetzt" ist kürzer als jeder bisherige Bedrohungszyklus in der Unternehmenssicherheitsgeschichte.

Das größere Risiko besteht darin, dass selbst defensive KI-Verwundbarkeitswerkzeuge letztlich als Waffe eingesetzt werden könnten. Die Zeit, Kompensationskontrollen für die erweiterte Angriffsfläche umzusetzen, ist jetzt.

Das Paradigma des Schwachstellenmanagements muss sich ändern

Jahrzehntelang folgte das Schwachstellenmanagement einer vorhersehbaren Abfolge. Sicherheitsteams durchsuchten ihre Umgebungen, triatierten die Ergebnisse, priorisierten Befunde, testeten Behebungen, räumten das Wechselbrett ab und patchten verwundbare Systeme. Der Zyklus wiederholte sich jedes Quartal, manchmal jeden Monat.

Dieser Prozess war immer langsam, aber jetzt ist er unhaltbar.

Wie Andrew erklärte: "Historische, recht manuelle Prozesse für das Schwachstellenmanagement – alles von der Identifikation bis zur Behebung – funktionieren im neuen Modell einfach nicht, mit der die Geschwindigkeit, mit der Schwachstellen erkannt und zugehörige Exploits erstellt werden können."

Der Paradigmenwechsel, den Sicherheitsverantwortliche vornehmen müssen, besteht darin, Schwachstellen- und Exploit-Management als schnelle Reaktions - und Eindämmungsoperation zu verbinden. Es kann nicht mehr in erster Linie eine Erkennungs- und Dokumentationsübung sein.  

Andrew teilte drei konkrete Änderungen darin, wie Continuous Threat Exposure Management (CTEM)-Programme strukturiert werden sollten:

• Die Priorisierung sollte rücksichtslos und automatisiert sein. Man kann nicht alles schnell genug patchen. Teams, die diesen Moment überstehen, werden diejenigen sein, die schnell identifizieren können, welche Schwachstellen in ihrer Umgebung am stärksten exponiert, am kritischsten und am wahrscheinlichsten ausgenutzt werden – und Ressourcen darauf konzentrieren. Manuelle Priorisierungsprozesse, die für vierteljährliche Patchzyklen entwickelt wurden, werden den Kontakt mit KI-gesteuerter Exploit-Generierung nicht überstehen. ‍
• Die Sanierungszeitpläne müssen sich dramatisch verdichten. Das bedeutet, Change-Management-Prozesse neu zu überdenken und die Genehmigungen für sicherheitskritische Patches zu optimieren. Einige Teams schaffen zentralisierte Projektmanagementbüros (PMO)-Funktionen, um diese Koordination zu beschleunigen. ‍
• Kompensierende Kontrollen müssen ein erstklassiger Bestandteil der Verwundbarkeitsreaktion werden. Es wird immer Schwachstellen geben, die du nicht beheben kannst, darunter Altsysteme, kritische Anwendungen, die keine Ausfallzeiten haben dürfen, und Softwarepakete, die jahrzehntealt sind und keine Unterstützung von Anbietern haben. Dafür muss Ihre Strategie von Sanierung zu Eindämmung wechseln.

Kompensierende Kontrollen: Die effektivste Verteidigung, die du wahrscheinlich zu wenig nutzt

Als Andrew darüber sprach, was Deloitte derzeit den Kunden empfiehlt, standen kompensierende Kontrollen ganz oben auf der Liste, insbesondere Mikrosegmentierung.

"Organisationen mit Segmentierungsfähigkeiten, bei denen Richtlinien schnell erstellt und eingesetzt werden können, um Vermögenswerte als verwundbar bekannt zu sein, sollten besser in der Lage sein, den Explosionsradius des Risiko für seitliche Bewegungen zu verringern", sagte Andrew.

Mikrosegmentierung ist seit Jahren ein Eckpfeiler von Zero Trust . Das Bedrohungsumfeld, das durch Frontier-KI-Modelle geschaffen wird, verleiht ihnen neue Dringlichkeit und eine spezifischere Anwendung.

Wenn ein verwundbares Altsystem keinen Patch hat, ändert sich die Frage. Die Behebung der Schwachstelle hat nicht mehr Priorität; Die Verringerung der Exploit-Exposition durch kompensierende Kontrollen wird von größter Bedeutung.

Mikrosegmentierung macht diese zweite Frage beantwortet. Diese Kontrollen können eine potenziell katastrophale Verletzung in einen begrenzten Vorfall verwandeln, indem Folgendes:

• Umzäunung verwundbarer und kritischer Vermögenswerte
• Erstellung tagbasierter Richtlinien, die bekannte verwundbare Systeme markieren und deren Netzwerkkommunikation einschränken
• Begrenze, was diese Ressourcen erreichen können, und reduzieren Sie die Nutzung riskanter Netzwerkports und -protokolle

Geschwindigkeit ist die zentrale operative Voraussetzung. Wenn es Wochen dauert, eine Segmentierungsrichtlinie auf einen neu identifizierten verwundbaren Vermögenswert zu entwickeln und zu übertragen, haben Sie das Zeitfenster verpasst.

Teams, die dies effektiv bewältigen können, sollten in der Lage sein, innerhalb von Minuten von der Identifizierung eines verwundbaren Vermögenswerts zur Umzäunung zu wechseln.

Sichtbarkeit ist ein Tischrisiko, und die meisten Teams haben nicht genug davon

Die zweite Fähigkeit, die Andrew als kritisch markierte, ist die Echtzeit-Ost-West-Sicht. Die meisten Teams liegen weit hinter dem hin, wo sie sein müssen.

"Die meisten Organisationen verfügen immer noch über alte, flache Netzwerke mit sehr begrenzter Fähigkeit, Ost-West-Verkehr zu identifizieren und zu inspizieren", sagte Andrew. "Sie schauen immer noch auf Perimeter-Firewalls als Engpässe, wo sie sehen können, was in ihr Netzwerk hinein- und herausgeht."

In der KI-Bedrohungsära ist dieser blinde Fleck gefährlich.

Ein offensives KI-Modell nutzt Schwachstellen aus, bewegt sich durch ein Netzwerk, verknüpft Angriffe und verwandelt kompromittierte Vermögenswerte in Startrampen für den nächsten Angriff.

Die traditionelle Sicherheit basierte auf der Nord-Süd-Sicht, also dem Verkehr, der den Perimeter betritt und verlässt. Doch Bedrohungsakteure, die einen Bruch erfolgreich ausführen, beschleunigen ihre Angriffe, indem sie seitlich bewegen, bis sie die Kronjuwelen der Organisation erreichen. Der Ost-West-Verkehr, bei dem sie zwischen Arbeitslasten und Systemen wechseln, ist der eigentliche Schaden.

Sicherheitsteams benötigen in Echtzeit Transparenz des Ost-West-Verkehrs, um anomale oder potenziell bösartige Muster zu erkennen und schnell zu handeln.

Andrew empfahl, über EDR-zentrierte Modelle hinauszugehen, die sich auf einzelne Hosts konzentrieren. Ein zusätzlicher Vorteil von Mikrosegmentierungslösungen ist ihre Fähigkeit, die Sichtbarkeit des Netzwerkverkehrs in der gesamten Unternehmensumgebung zu verbessern, einschließlich Ost-West-Verkehr und innerhalb von Cloud-Umgebungen. Sie fungieren auch als kritischer Kontrollpunkt, der ganze Regionen, Rechenzentren oder Anwendungscluster isolieren kann, wenn verdächtige Muster auftreten.

Geschwindigkeit ist wichtig. Asset für Asset zu trienzen, um eine sich ausbreitende Bedrohung unter KI-unterstützten Angriffsbedingungen einzudämmen, ist keine praktikable Strategie; Hier können skalierbare Mikrosegmentierungslösungen glänzen.

Wie man sich gegen KI-Modelle verteidigt, die man noch nicht vollständig versteht

Offensive Cyber-Frontier-Modelle haben ihre Fähigkeiten noch nicht vollständig ausgeschöpft. Die meisten Teams haben keinen direkten Zugriff, um gegen ihre eigenen Umgebungen zu testen.  

Was ist also ein praktischer Weg?

Hier ist Andrews Rat:

• Zieh dir zuerst Bilanz ein. Holen Sie die richtigen Personen an den Tisch, einschließlich Cybersecurity-, Risiko-, Compliance- und Betriebsteams. Warten Sie nicht auf perfekte Informationen, um zu handeln. ‍
• Beziehen Sie Ihre Technologieanbieter ein. Die Frage des Software-Baustoffs (SBOM) ist jetzt dringend. Weißt du, welche Komponenten in deiner Umgebung laufen? Tun Ihre Software-as-a-Service-(SaaS)-Anbieter das? Drittparteiliches Risikomanagement im KI-Zeitalter bedeutet, Anbietern schwierige Fragen zu ihrer eigenen Schwachstellen-Exposition und deren Maßnahmen zu stellen.
• Schau dir deine Kontrollumgebung genau an. Nutzt du die Sicherheitstools, die du bereits hast, voll aus? Viele Organisationen verfügen über Kompensierungskontrollen, wie Segmentierung oder politikbasierte Isolation, die jedoch unterdimensioniert sind. Nutze das, was du hast, schnell und überlegt, bevor du etwas Neues kaufst.
• Native Integrationen sind wichtig. Bieten die Technologien in Ihrem Ökosystem eine native Integration? Der Wechsel von einer defensiven zu einer proaktiven Sicherheitshaltung, bei der Kontrollen in Echtzeit über ein vollständig integriertes Ökosystem orchestriert werden können, hilft, Risiken zu reduzieren und die Abläufe zu optimieren. Integrierte Technologie und Sicherheitskontrollen, die gut zusammenpassen, sind der Schlüssel zur Identifizierung und Reaktion auf KI-gesteuerte Bedrohungen. ‍
• Denken Sie an die agentische Zukunft. Führende Teams bauen Rahmenwerke auf, in denen KI-Agenten Schwachstellen in einem koordinierten Arbeitsablauf entdecken, priorisieren und beheben. Das ist das Betriebsmodell, das die Geschwindigkeit der Bedrohung anpasst und gleichzeitig menschliche Checks and Balances aufrechterhält.

Zu warten, um auf Frontier-KI-Modelle zu reagieren, ist eine riskante Strategie

Offensive KI-Frontier-Modelle stellen einen Wandel in der Cyberbedrohung dar.

Der Ansatz des Schwachstellenmanagements, auf den sich die meisten Teams seit zwei Jahrzehnten verlassen, stand bereits unter Druck. Wachsende Angriffsflächen, Cloud-Komplexität und Altverschuldungen hatten sie bis an die Grenzen getrieben. Aber KI-unterstützte Exploit-Generierung macht sie praktisch obsolet.

Teams, die sich in diesem Bereich gut zurechtfinden, nehmen die neue KI-Bedrohung ernst, handeln ohne auf perfekte Klarheit zu warten, bauen kompensierende Kontrollen um ihre am stärksten exponierten Ressourcen herum und verwandeln das Schwachstellenmanagement in eine schnelle Reaktionsoperation.

Das ist die neue Betriebsumgebung. Sicherheitsverantwortliche, die offensive KI als vorübergehende Störung betrachten, könnten sich Angriffen ausgesetzt und der regulatorischen, riskanten und Vorstandsverantwortlichkeit ausgesetzt sein, die sich ergeben, wenn diese Angriffe erfolgreich sind.

Das Zeitfenster zum Handeln vor der Ausbeutung durch Gegner ist jetzt offen. Es bleibt nicht offen.

Für einen tieferen Einblick darin, was Frontier AI für das Sicherheitsmodell insgesamt bedeutet, lesen Sie die Meinung von Illumio-CEO und Gründer Andrew Rubin.