Der neue AI Act: Was Unternehmen wissen müssen

In einer zunehmend digitalisierten Welt, in der Künstliche Intelligenz (KI) immer wichtiger wird, rückt der Schutz persönlicher Daten in den Fokus. Der kürzlich verabschiedete AI Act der Europäischen Union ist ein bedeutender Schritt zur Regulierung und Kontrolle von KI-Technologien. In diesem Beitrag erfahren Sie, welche datenschutzrechtlichen Anforderungen Ihr Unternehmen beachten muss.

Klassifizierung von KI-Systemen

Unternehmen, die KI-Systeme einsetzen, müssen diese gemäß dem AI Act in vier Risikokategorien einstufen: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die jeweilige Kategorisierung bestimmt, welche Regulierungsmaßnahmen Ihr Unternehmen umsetzen muss.

Verbotene Praktiken

Ihr Unternehmen muss sicherstellen, dass KI-Systeme, die als unannehmbares Risiko eingestuft sind, nicht verwendet werden. Dazu gehören beispielsweise Systeme zur sozialen Bewertung (Social Scoring) durch Behörden und bestimmte Formen der Massenüberwachung.

Transparenz und Informationspflichten

Es ist unerlässlich, dass Nutzer darüber informiert werden, wenn ihre Daten von KI-Systemen verarbeitet werden. Besonders Systeme, die Deepfakes erzeugen oder Emotionserkennung betreiben, müssen klar gekennzeichnet werden. In der Praxis bedeutet dies eine umfassende Dokumentation der Prozesse, um die Nachvollziehbarkeit von KI-Systemen sicherzustellen.

Rechenschaftspflicht und Überwachung

Unternehmen, die KI-Systeme einsetzen, müssen detaillierte Aufzeichnungen führen und diese bei Bedarf den Aufsichtsbehörden zur Verfügung stellen. Dies erhöht die Rechenschaftspflicht und ermöglicht eine effektivere Überwachung durch Datenschutzbehörden.

Regulierung von Hochrisikosystemen

Für Hochrisikosysteme, die in kritischen Infrastrukturen, Bildung, Beschäftigung oder Strafverfolgung eingesetzt werden, gelten strenge Auflagen. Diese umfassen Anforderungen an die Datenqualität, Transparenz und menschliche Überwachung. Unternehmen müssen sicherstellen, dass alle diese Anforderungen erfüllt werden, zum Beispiel durch eine Folgenabschätzung, die mit der Datenschutz-Folgenabschätzung einhergeht.

Datenqualität und -sicherheit

KI-Systeme, insbesondere solche mit hohem Risiko, müssen auf hochwertigen und sicheren Daten basieren. Unternehmen sind gefordert, strenge Maßnahmen zum Schutz der Datenintegrität und -sicherheit zu implementieren.

Eingeschränkter Zugang zu sensiblen Daten

Der AI Act begrenzt den Einsatz von KI-Systemen, die sensible persönliche Daten verarbeiten. Unternehmen müssen sicherstellen, dass der Zugang zu und die Verarbeitung dieser Daten den gesetzlichen Vorgaben entsprechen, besonders in Bereichen wie Gesundheitsversorgung und Strafverfolgung.

Fazit

Der AI Act stellt Unternehmen vor neue Herausforderungen, bietet aber auch die Chance, das Vertrauen der Kunden in KI-Technologien zu stärken. Durch die Einhaltung dieser neuen Vorschriften kann sich Ihr Unternehmen verantwortungsbewusst im digitalen Zeitalter positionieren und gleichzeitig datenschutzrechtliche Risiken minimieren.

Wir unterstützen Ihr Unternehmen gerne bei der Umsetzung der neuen Anforderungen. Kontaktieren Sie uns bei Fragen.

Tel.: 04621 5 30 40 50

E-Mail: mail@konzept17.de

4. Juli 2024