ChatGPT: Freund oder Feind?

Februar 24, 2023

Von Rodman Ramezanian - Global Cloud Threat Lead, Skyhigh Security

Wenn Sie nicht gerade unter einem Felsen leben, haben Sie sicherlich schon von ChatGPT gelesen oder gehört. Dieser KI-gesteuerte Chatbot hat das Interesse von Millionen aktiver Nutzer pro Tag geweckt und alle möglichen Ideen und Anwendungsfälle hervorgebracht - vom Schreiben von Aufsätzen für Schulprojekte über das Verfassen von technischen Geschäftspapieren bis hin zur Hommage an verstorbene Rapper wie Tupac Shakur, der fiktiv über Cybersicherheit reimt (sehr empfehlenswert, um ein bisschen Spaß zu haben), und alles dazwischen.

Die Möglichkeiten von ChatGPT scheinen wirklich grenzenlos zu sein.

Der Einsatz von Künstlicher Intelligenz (KI) in der Cybersicherheit ist nicht gerade neu. Sicherheitsprodukte nutzen KI und maschinelles Lernen (ML) bereits seit Jahren. So wird KI/ML heute häufig eingesetzt, um Datenverkehr und Daten in Echtzeit zu analysieren und anomale Aktivitäten zu erkennen, bevor sie sich zu Sicherheitsverletzungen auswachsen. Innovationen wie diese sind äußerst willkommen, wenn sie den Sicherheitsteams frühere Einblicke in potenzielle Indikatoren für eine Kompromittierung bieten können.

Auswirkungen

Trotz der Vorteile, die KI und ML in den Bereich der Cybersicherheit gebracht haben, stellt ChatGPT eine neue Stufe des potenziellen Risikos dar. Während sich viele KI-gesteuerte Tools auf die Erkennung und Verhinderung verdächtiger Aktivitäten konzentriert haben, kann ChatGPT Bedrohungsakteure bei ihren Bemühungen, Systeme anzugreifen, aktiv unterstützen.

Ich werde dies anhand eines Beispiels demonstrieren. ChatGPT würde nicht wirklich eine Phishing-E-Mail schreiben, die alles enthält, was ich hypothetisch für einen Angriff benötige (siehe unten - es scheint einen rudimentären ethischen Filter zu geben).

Es würde jedoch eine harmlose E-Mail-Vorlage zu einem fiktiven Arbeitsereignis verfassen, die mit sehr wenig Aufwand für Phishing-Zwecke missbraucht werden könnte (siehe unten)

Nun könnte man argumentieren, dass bösartige Akteure bereits Angriffe automatisieren und einige Formen von KI/ML-Modellen nutzen, um ihre eigene verdrehte Effizienz zu erreichen. Wenn man diesen Gedankengang weiterverfolgt, könnte man ChatGPT jedoch als eine Art Geschenk für sie betrachten. Es könnte ihren Horizont sehr leicht erweitern, indem es ihnen ermöglicht, enorme Mengen einzigartiger Angriffe zu generieren und so koordinierte und gezielte Angriffe in großem Maßstab zu starten.

Auf unserer kürzlichen Skyhigh Sales Kick-Off Veranstaltung in Las Vegas erzählte unser CEO, Gee Rittenhouse, ein erschütterndes Beispiel, wie ein Viertklässler ChatGPT für Unterrichtszwecke um einen Pufferüberlauf-Angriff für einen gängigen Webbrowser zu formulieren.

Denken Sie einmal über den Tellerrand hinaus: Das bedeutet, dass wir nicht nur versuchen, die hochqualifizierten Hacker zu vereiteln, die sich mit ausgeklügelten Exploits und Schwachstellen auskennen. Wir könnten es jetzt auch mit einer weitaus größeren Armee von Anfängern, Jugendlichen und im Grunde mit jedem neugierigen Internetnutzer zu tun haben, der chat.openai.com erreichen kann.

Andererseits könnte ChatGPT Unternehmen dabei helfen, ihre Systeme besser abzusichern?

Es besteht kein Zweifel daran, dass die Leistung und die Fähigkeiten von ChatGPT genutzt werden könnten, um riesige Datenmengen zu generieren: zur Erleichterung von Systemstresstests, zur Durchführung von Fuzzing-Tests gegen Softwareentwicklungen und vielleicht sogar zur Simulation von bösartigen Akteuren für Tabletop-Übungen zur Reaktion auf Zwischenfälle.

Nahrung zum Nachdenken

ChatGPT kann zwar zur Stärkung unserer Verteidigung eingesetzt werden, aber es kann auch von bösartigen Akteuren ausgenutzt werden, um Angriffe einfacher und effektiver durchzuführen, wie die Beispiele zuvor zeigen. Für Sicherheitsexperten ist es daher unerlässlich, wachsam zu bleiben und sich über die neuesten Entwicklungen im Bereich der KI und deren Einsatz im Bereich der Cybersicherheit auf dem Laufenden zu halten.

Das bedeutet nicht nur, dass Sie sich der potenziellen Vorteile dieser Tools bewusst sind, sondern auch, dass Sie darauf vorbereitet sind, sich gegen ihren möglichen Missbrauch zu wehren. Wie bei jeder Technologie ist es wichtig, die Risiken zu kennen und Maßnahmen zu ergreifen, um sie zu minimieren.

Skyhigh SecurityDie Cloud Registry bietet einen umfassenden, risikobasierten Einblick in über 30.000 SaaS-, PaaS- und IaaS-Dienste - ChatGPT ist nur einer davon.

Innerhalb dieses Cloud-Registers berechnet und vergibt Skyhigh Security für jeden Cloud-Service ein CloudTrust-Rating, das seine Unternehmensfähigkeit anhand eines gewichteten Durchschnitts von 55 Risikoattributen angibt, die gemeinsam mit der Cloud Security Alliance (CSA) entwickelt wurden. Diese Attribute umfassen die Kategorien Daten, Benutzer/Geräte, Dienste, Unternehmen, Recht und Cyber. Das Ergebnis wird auf einen Wert zwischen 1 und 9 normiert. Unternehmen verwenden die CloudTrust-Bewertung als Teil der Definition von Cloud-Governance-Richtlinien.

Wenn Sie als Sicherheitsexperte die mit einem bestimmten Dienst/einer bestimmten Einrichtung verbundenen Risiken identifiziert haben, sollten Sie sich letztlich drei Fragen stellen:

• Hat einer unserer Benutzer diese Seite aufgerufen/genutzt? Wenn ja, wie viele? Und wer genau?
• Hat ein Teil unserer Web- und Cloud-Infrastruktur auf diesen Dienst zugegriffen?
• Und wenn eine der ersten beiden Fragen mit "Ja" beantwortet wird, wie viele Daten wurden zwischen Ihrem Unternehmen und diesem Dienst ausgetauscht?

Sobald Sie wissen, womit Sie es zu tun haben, können Sie die entsprechenden Maßnahmen zum Schutz Ihrer Geräte, Ihres Internets und Ihrer Cloud-Umgebungen ergreifen.

Die Analyse der globalen Telemetrie von Skyhigh Securityzeigt, dass zwischen November 2022 und Februar 2023:

Wenn Sie es mit einer fortschrittlichen, hochmodernen KI-Engine zu tun haben, die im Internet frei verfügbar ist, ist dies die Art von Transparenz, Einblick und Kontrolle, die Sie in Ihrer gesamten Umgebung benötigen.

Einpacken

ChatGPT steckt noch in den Kinderschuhen, und es gibt bereits eine Menge moralischer Fragen, die bei seiner Verwendung zu bedenken sind.

Es ist nicht schwer, sich eine Zukunft vorzustellen, in der fortschrittliche KI-Chatbots unser Leben einfacher und unsere Arbeit besser machen. Allerdings ist es auch nicht ausgeschlossen, dass Hacker die Oberhand gewinnen und ChatGPT effektiver für schändliche Zwecke einsetzen.

Wenn etwas wie ChatGPT in irgendeiner Form den bösen Akteuren helfen kann, ist es unsere Aufmerksamkeit und unsere Besorgnis wert, wenn wir versuchen, die Waage der Cyberverteidigung zu unseren Gunsten zu kippen!

Informieren Sie sich über die Schutzlösungen von Skyhigh Securityund fordern Sie eine Demo an, um sich selbst davon zu überzeugen.