ZENTRALE:

T +49 4621 5 30 40 50 mail[at]konzept17.de

Der neue AI Act: Was ist zu beachten?

In einer zunehmend digitalisierten Welt, in der Künstliche Intelligenz (KI) eine immer wichtigere Rolle spielt, wird der Schutz persönlicher Daten immer kritischer, da KI-Systeme auf großen Mengen persönlicher Daten basieren. Der kürzlich verabschiedete AI Act der Europäischen Union, ist ein bedeutender Schritt in Richtung Regulierung und Kontrolle der KI-Technologien.

Dieser Blogbeitrag beleuchtet die wichtigsten datenschutzrechtlichen Anforderungen, die Ihr Unternehmen beachten muss.

Klassifizierung von KI-Systemen

Unternehmen, die KI-Systeme einsetzen wollen, müssen Ihre KI-Systeme gemäß dem AI Act in die vier folgenden Risikokategorien einstufen: unannehmbares Risiko, hohes Risiko, begrenztes Risiko, minimales Risiko

Die jeweilige Kategorisierung bestimmt, welche Regulierungsmaßnahmen Ihr Unternehmen umsetzen muss.

Verbotene Praktiken

Ihr Unternehmen muss sicherstellen, dass KI-Systeme, die als unannehmbares Risiko eingestuft sind, nicht verwendet werden. Dazu gehören unter anderem Systeme zur sozialen Bewertung (Social Scoring) durch Behörden und bestimmte Formen der Massenüberwachung.

Transparenz und Informationspflichten

Es ist unerlässlich, dass Ihre Nutzer wissen, wenn Ihre Daten von KI-Systemen verarbeitet werden. Besonders Systeme, die Deepfakes erzeugen oder Emotionserkennung betreiben, müssen klar gekennzeichnet werden. In der Praxis bedeutet dies: Dokumentation, Dokumentation, Dokumentation!

Ihr Unternehmen muss daher Prozesse einführen, die die Nachvollziehbarkeit von KI-Systemen gewährleisten.

Rechenschaftspflicht und Überwachung

Unternehmen, die KI-Systeme einsetzen, müssen detaillierte Aufzeichnungen führen und diese bei Bedarf den Aufsichtsbehörden zur Verfügung stellen. Dies erhöht die Rechenschaftspflicht und ermöglicht eine bessere Überwachung durch Datenschutzbehörden.

Regulierung von Hochrisikosystemen

Für Hochrisikosysteme, wie sie in kritischen Infrastrukturen, Bildung, Beschäftigung oder Strafverfolgung eingesetzt werden, gelten strenge Auflagen. Dazu zählen Anforderungen an die Datenqualität, Transparenz und menschliche Überwachung. Ihr Unternehmen muss sicherstellen, dass alle diese Anforderungen erfüllt werden. Dies kann zum Beispiel durch eine Folgenabschätzung überprüft werden. Es ist sinnig, wenn dies mit Ihrer Datenschutz-Folgenabschätzung einhergeht.

Datenqualität und -sicherheit

KI-Systeme, insbesondere solche mit hohem Risiko, müssen auf hochwertigen und sicheren Daten basieren. Dies bedeutet, dass Unternehmen strenge Maßnahmen zum Schutz der Datenintegrität und -sicherheit implementieren müssen.

Eingeschränkter Zugang zu sensiblen Daten

Der AI Act begrenzt den Einsatz von KI-Systemen, die sensible persönliche Daten verarbeiten. Ihr Unternehmen muss sicherstellen, dass der Zugang zu und die Verarbeitung dieser Daten den gesetzlichen Vorgaben entsprechen, besonders in Bereichen wie Gesundheitsversorgung und Strafverfolgung.

Außerdem stellt der AI Act Unternehmen vor neue Herausforderungen, bietet aber auch die Chance, das Vertrauen der Kunden in KI-Technologien zu stärken. Durch die Einhaltung dieser neuen Vorschriften kann sich Ihr Unternehmen verantwortungsbewusst im digitalen Zeitalter positionieren und gleichzeitig datenschutzrechtliche Risiken vermeiden.

Wir unterstützen Ihr Unternehmen gerne bei der Umsetzung der neuen Anforderungen. Kontaktieren Sie uns gern bei Fragen.

4. Juli 2024

 

Datenschutz-News

Wir geben Antworten,
bevor Sie Fragen haben.

News BLOG »