Der neue AI Act: Was Unternehmen wissen müssen

In einer zunehmend digitalisierten Welt, in der Künstliche Intelligenz (KI) immer wichtiger wird, rückt der Schutz persönlicher Daten in den Fokus. Der kürzlich verabschiedete AI Act der Europäischen Union ist ein bedeutender Schritt zur Regulierung und Kontrolle von KI-Technologien. In diesem Beitrag erfahren Sie, welche datenschutzrechtlichen Anforderungen Ihr Unternehmen beachten muss.

Klassifizierung von KI-Systemen

Unternehmen, die KI-Systeme einsetzen, müssen diese gemäß dem AI Act in vier Risikokategorien einstufen: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die jeweilige Kategorisierung bestimmt, welche Regulierungsmaßnahmen Ihr Unternehmen umsetzen muss.

Verbotene Praktiken

Ihr Unternehmen muss sicherstellen, dass KI-Systeme, die als unannehmbares Risiko eingestuft sind, nicht verwendet werden. Dazu gehören beispielsweise Systeme zur sozialen Bewertung (Social Scoring) durch Behörden und bestimmte Formen der Massenüberwachung.

Transparenz und Informationspflichten

Es ist unerlässlich, dass Nutzer darüber informiert werden, wenn ihre Daten von KI-Systemen verarbeitet werden. Besonders Systeme, die Deepfakes erzeugen oder Emotionserkennung betreiben, müssen klar gekennzeichnet werden. In der Praxis bedeutet dies eine umfassende Dokumentation der Prozesse, um die Nachvollziehbarkeit von KI-Systemen sicherzustellen.

Rechenschaftspflicht und Überwachung

Unternehmen, die KI-Systeme einsetzen, müssen detaillierte Aufzeichnungen führen und diese bei Bedarf den Aufsichtsbehörden zur Verfügung stellen. Dies erhöht die Rechenschaftspflicht und ermöglicht eine effektivere Überwachung durch Datenschutzbehörden.

Regulierung von Hochrisikosystemen

Für Hochrisikosysteme, die in kritischen Infrastrukturen, Bildung, Beschäftigung oder Strafverfolgung eingesetzt werden, gelten strenge Auflagen. Diese umfassen Anforderungen an die Datenqualität, Transparenz und menschliche Überwachung. Unternehmen müssen sicherstellen, dass alle diese Anforderungen erfüllt werden, zum Beispiel durch eine Folgenabschätzung, die mit der Datenschutz-Folgenabschätzung einhergeht.

Datenqualität und -sicherheit

KI-Systeme, insbesondere solche mit hohem Risiko, müssen auf hochwertigen und sicheren Daten basieren. Unternehmen sind gefordert, strenge Maßnahmen zum Schutz der Datenintegrität und -sicherheit zu implementieren.

Eingeschränkter Zugang zu sensiblen Daten

Der AI Act begrenzt den Einsatz von KI-Systemen, die sensible persönliche Daten verarbeiten. Unternehmen müssen sicherstellen, dass der Zugang zu und die Verarbeitung dieser Daten den gesetzlichen Vorgaben entsprechen, besonders in Bereichen wie Gesundheitsversorgung und Strafverfolgung.

Fazit

Der AI Act stellt Unternehmen vor neue Herausforderungen, bietet aber auch die Chance, das Vertrauen der Kunden in KI-Technologien zu stärken. Durch die Einhaltung dieser neuen Vorschriften kann sich Ihr Unternehmen verantwortungsbewusst im digitalen Zeitalter positionieren und gleichzeitig datenschutzrechtliche Risiken minimieren.

Wir unterstützen Ihr Unternehmen gerne bei der Umsetzung der neuen Anforderungen. Kontaktieren Sie uns bei Fragen.

Tel.: 04621 5 30 40 50

E-Mail: mail@konzept17.de

Im Erstgespräch klären wir gemeinsam, wo Sie aktuell stehen und welche nächsten Schritte für Ihr Unternehmen sinnvoll sind – unverbindlich und ohne Fachjargon.

Data Governance: Basis für echte Cybersicherheit

Der Artikel adressiert ein zentrales Problem moderner Cybersicherheit: Technologie allein reicht nicht aus, solange Daten, Verantwortlichkeiten und Entscheidungsprozesse nicht strukturiert gesteuert werden. Data Governance wird als unverzichtbare Grundlage für wirksame Sicherheitsmaßnahmen positioniert – ein Thema, das Datenschutz, IT-Compliance und organisatorische Reife unmittelbar verbindet.

Grundschutz++ Zertifizierung ab 2027 – Was Unternehmen jetzt tun müssen

Das BSI hat mit Grundschutz++ eine weiterentwickelte Version des IT-Grundschutzes angekündigt, nach der ab Anfang 2027 Zertifizierungen möglich sein werden. Die Beibehaltung der WiBA-Checklisten sorgt für Kontinuität, erfordert aber dennoch eine frühzeitige Vorbereitung bei Unternehmen, die eine Zertifizierung anstreben.

Welche KI, wofür, mit welchen Rechten?

In der Praxis sieht das so aus, dass in vielen Unternehmen längst mehrere KI-Werkzeuge parallel im Einsatz sind – von der Geschäftsführung eingeführt, von einzelnen Mitarbeitenden selbst ausprobiert oder als Teil einer Software mitgeliefert, ohne dass es jemand so genannt hätte. Wer heute gefragt wird, welche KI im eigenen Betrieb auf welche Daten zugreift, hat darauf selten eine vollständige Antwort.

KI-gestützte Cyberangriffe: Warum Angreifer 2026 schneller sind als Ihre Verteidigung

Sie stehen vor der Situation, dass eine Phishing-Mail im Postfach Ihres Unternehmens landet, die keine Rechtschreibfehler mehr hat, den Tonfall der Geschäftsführung trifft und sich kaum noch von echter Kommunikation unterscheiden lässt. Genau das ist der Grund, warum sich viele Mandanten aktuell fragen, ob ihre bisherigen Schutzmaßnahmen noch ausreichen.