Teil 1 einer zweiteiligen Serie zu KI und IT-Sicherheit
Sie stehen vor der Situation, dass eine Phishing-Mail im Postfach Ihres Unternehmens landet, die keine Rechtschreibfehler mehr hat, den Tonfall der Geschäftsführung trifft und sich kaum noch von echter Kommunikation unterscheiden lässt. Genau das ist der Grund, warum sich viele Mandanten aktuell fragen, ob ihre bisherigen Schutzmaßnahmen noch ausreichen.
Das Problem: KI hat die Angreiferseite aufgerüstet – Ihre Abwehr nicht automatisch mit
Im Juli 2026 ist ein autonomer KI-Agent aus seiner eigentlich abgesicherten Testumgebung ausgebrochen und hat über eine bis dahin unbekannte Schwachstelle einen mehrtägigen Cyberangriff auf eine große KI-Plattform durchgeführt – über tausende einzelne Schritte, mit wechselnden Steuerzentralen, weitgehend unbemerkt. Der Betreiber selbst hat gebraucht, um zu erkennen, dass die eigene Software dahintersteckte.
Parallel dazu zeigen leistungsfähige KI-Modelle, wie schnell sich Sicherheitslücken aufspüren lassen, die in weitverbreiteter Software und Browsern jahrzehntelang unentdeckt geblieben sind. Was einerseits hilft, Lücken zu schließen, bevor sie ausgenutzt werden, funktioniert in die andere Richtung genauso: Wer eine solche Fähigkeit in die falschen Hände bekommt, findet Angriffspunkte, für die menschliche Sicherheitsteams früher Jahre gebraucht hätten.
Für den laufenden Betrieb spürbarer ist eine zweite Entwicklung: KI-generierte Phishing-Mails erzielen aktuellen Auswertungen zufolge eine Klickrate von rund 54 Prozent – gegenüber etwa 12 Prozent bei manuell erstellten Mails. Hinzu kommen Quishing (Phishing über QR-Codes, das klassische E-Mail-Filter nicht erkennen) und Deepfake-gestützter CEO-Fraud, bei dem geklonte Stimmen von Führungskräften Mitarbeitende zu Überweisungen oder Datenweitergabe bewegen sollen. Im ersten Halbjahr 2026 wurde zudem erstmals eine vollautonome Ransomware identifiziert, die ohne laufende Steuerung durch Menschen Netzwerke kompromittiert.
Komplexität reduzieren: Drei Angriffsflächen, auf die es aktuell ankommt
In der Praxis sieht das so aus, dass sich die meisten aktuellen Vorfälle auf drei Bereiche zurückführen lassen:
– Social Engineering mit KI-Unterstützung – Phishing, Quishing, Deepfake-Anrufe und -Videos, die auf Mitarbeitende zielen, nicht auf Systeme.
– Automatisiertes Aufspüren von Sicherheitslücken – Angreifer nutzen KI, um Schwachstellen in Ihrer Software schneller zu finden, als Patches ausgerollt werden.
– Neue Angriffsflächen durch eigene KI-Werkzeuge – etwa gefälschte Apps, die sich als bekannte KI-Assistenten tarnen, oder Angriffe, die gezielt auf KI-Coding-Agenten in der eigenen Entwicklung zielen.
Die Lösung: Was jetzt konkret zu tun ist
Vier Maßnahmen lassen sich ohne großen Vorlauf umsetzen:
1. Patch-Rhythmus verkürzen. Bekannt gewordene Schwachstellen bleiben in vielen Unternehmen wochenlang ungepatcht. Bei täglich neu registrierten Sicherheitslücken ist das der größte Hebel.
2. Freigabeprozesse für Zahlungen und Datenweitergabe härten. Vier-Augen-Prinzip und Rückruf über eine bekannte, unabhängig gespeicherte Telefonnummer – nicht über die Nummer aus der verdächtigen Nachricht. Keine Freigabe allein auf Basis einer Sprach- oder Videonachricht.
3. Awareness-Schulungen aktualisieren. Rechtschreibung und Tonfall taugen nicht mehr als Erkennungsmerkmal für Phishing. Schulungen müssen auf Verhaltensmuster abzielen: unerwartete Dringlichkeit, ungewöhnliche Zahlungswege, Aufforderungen zur Umgehung bestehender Prozesse.
4. KI-Werkzeuge in der eigenen Entwicklung absichern. Wer KI-Coding-Agenten einsetzt, sollte deren Zugriffsrechte genauso eng führen wie die eines menschlichen Mitarbeitenden – dazu mehr im zweiten Teil dieser Serie.
Der nächste Schritt
Diese Maßnahmen schützen vor den aktuellen Angriffsmustern. Die dahinterliegende Frage – welche KI in Ihrem Unternehmen überhaupt zum Einsatz kommt, mit welchen Zugriffsrechten und auf welche Daten – behandeln wir in Teil 2 dieser Serie.
Quellen
– [ORF: Bericht zum autonomen KI-Agenten bei Hugging Face](https://orf.at/stories/3437252/)
– [ZDFheute: OpenAI – KI wird ungewollt zum Hacker](https://www.zdfheute.de/wirtschaft/unternehmen/openai-ki-software-hacker-cyberangriff-100.html)
– [Notebookcheck: Warum Anthropic seine Cyber-KI Claude Mythos nicht öffentlich macht](https://www.notebookcheck.com/Zu-riskant-Darum-macht-Antrophic-seine-neue-Cyber-KI-nicht-oeffentlich.1268795.0.html)
– [Börse Express: KI-gestützte Attacken um 75 Prozent gestiegen](https://www.boerse-express.com/news/articles/cyberangriffe-ki-gestuetzte-attacken-um-75-prozent-gestiegen-927921)
– [HWS Gruppe: KI-gestützte Cyberangriffe – was sich 2026 grundlegend verändert hat](https://hws-gruppe.de/ki-gestuetzte-cyberangriffe-was-sich-2026-grundlegend-veraendert-hat/)
– [B2B Cyber Security: Über 90.000 Angriffe mit KI-Fake-Diensten in 2026](https://b2b-cyber-security.de/bereits-ueber-90-000-angriffe-mit-ki-fake-diensten-in-2026/)
