40 DSD 3 | 2026 KI – Fluch und Segen Von Stefan Pyper Geschäftsführer der GCT Gesellschaft für ComputerTechnologie mbH, Bad Homburg www.gct.de Stefan Pyper „Die Cyber-Angriffe kommen in immer kürzeren Abständen. Waren es vor einer Stunde noch zehn, sind es jetzt über 10.000. Das SOC-Team konnte die Hälfte direkt abwenden, aber knapp 5.000 versuchen jetzt, die zweite Firewall zu überlasten. Das ist zwar nicht einfach, weil die Firewall Angriffe mittels KI erkennen und abwenden kann, aber auch der schnellste Prozessor ist irgendwann überfordert und dann … Ein weiterer roter Alarm schreit mir auf dem Dashboard des Security Management Systems in Auge und Ohr. Einer der wenigen verbliebenen SOC-Agenten hat begonnen, die Firewall-Regeln anzupassen und damit den Angreifern Zugang zur letzten Firewall zu geben. Wie war das nur möglich? Wie konnte der SOC-Agent nur so schnell kompromittiert werden? Eines war jedenfalls klar. Es war ein hybrider Angriff. Offenbar wurden nicht nur das Netzwerk angegriffen, sondern auch die KI-basierten Ressourcen. Und da gibt es einige: angefangen bei den Firewalls, über das Security Management System bis hin zu den SOC-Agenten. KI ist unverzichtbar, um das Unternehmen zu schützen, aber auch KI kann angegriffen werden. Ein ohrenbetäubender Lärm setzte ein: Die Alarmsirene ist angesprungen. Sie sind drin! Sie haben es geschafft. Ich … … springe vor und schlage mit dem Kopf gegen den Nachttisch. Sieben Uhr – der Wecker schrillt. Was manche Menschen träumen … Der Traum klingt wie Science-Fiction. Noch vor drei Jahren haben sich vor allem Experten mit KI beschäftigt und die wenigsten Hard- oder Softwaresysteme nutzten Methoden der künstlichen Intelligenz. Heute arbeitet jede/r mit KI am Arbeitsplatz, zu Hause und unterwegs. KI hat unser Leben durchdrungen, macht es einfacher, schneller und effektiver. Aber leider nicht immer sicherer! KI automatisiert Angriffe Denn KI wird heute erfolgreich von Cyberkriminellen genutzt, um immer neue und schwerer erkennbare Malware zu erzeugen. Mit Anthropic Claude Code können Angreifer den perfekten Trojaner erzeugen. Und durch leichte Änderungen im Code dafür sorgen, dass die Mustererkennung für bekannte Trojaner den neuen übersieht. Sie ermöglicht durch Automatisierung mehr Angriffe in kürzerer Zeit. Der Wegfall von menschlichen Akteuren erlaubt eine enorme Skalierung von Angriffen. Häufig werden die Grenzen nur durch die Leistungsfähigkeit der Systeme der Angreifer gesteckt. Auch ermöglicht KI, dass aus generischem Phishing (alle erhalten den gleichen Köder) SpearPhishing wird (jeder erhält einen individuell auf seine Person abgestimmten Köder). KI kann leicht und schnell detaillierte Profile von Angriffszielen erzeugen. Damit wird aus Social Engineering ein automatisierter und damit skalierbarer Prozess. KI kann angegriffen werden Hinzu kommt, dass KI eine eigene Angriffsfläche für Cybercrime bietet. Ein Beispiel: Einige Unternehmen nutzen sogenannte RAG-Systeme, die im eigenen Rechenzentrum – kombiniert mit lokalen Large Language Models (LLMs) – betrieben werden. Das Versprechen: Da alles im eigenen Netzwerk ist, können geheime und geschützte Informationen aus dem System nicht in falsche Hände gelangen. Aber wird auch der Zugriff durch nicht autorisierte eigene Mitarbeiter*innen unterbunden? Mittels Prompt Injection können interne Angreifer die KI-Systeme so manipulieren, dass geheimes Wissen offenbart wird. Ein weiteres Beispiel sind kompromittierte KIAgenten. KI-Agenten sind spezialisierte Programme, die autonom – also ohne menschliche Interaktion oder Kontrolle – diverse Aufgaben durchführen können. So können Mail-Agenten automatisiert eingehende E-Mails sortieren, ablegen oder auch beantworten. Andere Agenten entwickeln und testen Software, suchen nach Fehlern und beheben sie. Wieder andere beraten Kunden bei Servicefragen oder agieren autonom als Security Operation Center (SOC). Die Kompromittierung eines Agenten – zum Beispiel durch Einschleusung von Code über die Softwareaktualisierung – macht aus einem Helfer ei CYBERSICHERHEIT
RkJQdWJsaXNoZXIy Mjc4MQ==