Die Europäische Union strebt an, mit dem KI-Gesetz (AI Act) weltweit Standards für die Regulierung von Künstlicher Intelligenz (KI) zu setzen. Doch wie verhält es sich dabei mit dem EU-Datenschutz und der Datenschutz-Grundverordnung (DSGVO)? Datenschutzaufsichtsbehörden sehen hier dringenden Handlungsbedarf.
KI ist zweifellos ein zukunftsweisendes Thema, insbesondere im Bereich der Cybersicherheit. Laut einer aktuellen Bitkom-Umfrage erkennen 57 Prozent der Unternehmen Gefahren durch KI, während 35 Prozent eine Verbesserung der Cybersicherheit erwarten.
Das Ziel besteht darin, potenzielle Risiken von KI zu minimieren, um die Vorteile in Bereichen wie Cybersicherheit nutzen zu können. In diesem Kontext soll der AI Act der EU eine entscheidende Rolle spielen. Dieses Gesetz zielt darauf ab sicherzustellen, dass KI-Systeme, die im EU-Markt eingeführt und genutzt werden, sicher sind und dabei die Grundrechte und Werte der Union respektieren.
Ein zentraler Bestandteil dieser Grundrechte ist der Datenschutz, insbesondere das Recht auf informationelle Selbstbestimmung. KI benötigt oft personenbezogene Daten als Grundlage für das Lernen, und dabei müssen die Grenzen des Datenschutzes beachtet werden.
Herausforderungen bei KI und Datenschutz
Die Beurteilung des Datenschutzes bei KI-Systemen ist komplex, wie am Beispiel von ChatGPT deutlich wird. Die Datenschutzbehörden, angeführt von Prof. Dr. Dieter Kugelmann, dem Landesbeauftragten für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz, haben einen umfangreichen Fragebogen an OpenAI gesendet, um die Einhaltung der Datenschutz-Grundverordnung bei der Nutzung von ChatGPT zu prüfen.
Die gestellten Fragen betreffen insbesondere die rechtmäßige Verarbeitung personenbezogener Daten, besonders sensibler Datenkategorien nach Art. 9 DSGVO. Zudem wird beleuchtet, wie die Rechte betroffener Personen gewährleistet und die datenschutzkonforme Verarbeitung sichergestellt werden kann.
Forderungen der Datenschutzaufsichtsbehörden zum AI Act
Es stellt sich die Frage, ob der AI Act Datenschutzrisiken ausreichend berücksichtigt und minimiert. Die Datenschutzbehörden betonen die Notwendigkeit, KI-Systeme, die unakzeptable Risiken für Grundrechte darstellen, zu verbieten. Der Europäische Datenschutzbeauftragte (EDSB) fordert außerdem, dass betroffenen Personen das Recht eingeräumt wird, Beschwerden bei einer zuständigen Behörde einzureichen, wenn Anbieter und Nutzer gegen das KI-Gesetz verstoßen.
Es wird vorgeschlagen, dass der EDSB ausdrücklich in das KI-Gesetz aufgenommen wird, um Beschwerden zu bearbeiten. Die Zusammenarbeit mit Datenschutzbehörden und die Einhaltung der Datenschutzvorschriften sollten Voraussetzungen für die Zulassung von KI-Produkten für den europäischen Markt sein.
Datenschutz bei KI-Projekten
Die Datenschutzbehörden unterstreichen, dass Datenschutzrisiken bei der Nutzung von KI stärker berücksichtigt werden müssen. Sie legen Richtlinien für die verantwortungsbewusste Entwicklung und Nutzung von KI-Systemen vor, insbesondere im Bereich Generative Artificial Intelligence Systems.
Entwickler, Anbieter und Betreiber generativer KI-Systeme werden aufgefordert, Datenschutz und Privatsphäre in alle Phasen der Produktentwicklung einzubinden. Risiken und Auswirkungen auf betroffene Personen und die Gesellschaft sollten verstanden und Maßnahmen ergriffen werden, um Datenschutz- und Privatsphärenverpflichtungen sicherzustellen.
Fazit
Der Datenschutz spielt eine entscheidende Rolle bei der Gestaltung und Nutzung von KI. Der AI Act der EU ergänzt die Vorgaben der DSGVO und stellt sicher, dass Datenschutznormen eingehalten werden. Eine KI ohne Datenschutz ist in der EU undenkbar, und der Weg zur verantwortungsbewussten KI-Nutzung erfordert eine enge Zusammenarbeit zwischen Behörden, Entwicklern und Anbietern.