Die rasante Entwicklung im Bereich der künstlichen Intelligenz (KI) eröffnet vielfältige Chancen, birgt jedoch auch erhebliche Risiken. Um diesen Risiken effektiv zu begegnen, hat das National Institute of Standards and Technology (NIST) das NIST AI Risk Management Framework (AI RMF) entwickelt. Dieses Rahmenwerk bietet Unternehmen und Behörden eine strukturierte Methode, um die mit KI-Systemen verbundenen Risiken zu identifizieren, zu bewerten und zu mindern. Das Ziel dabei ist es, eine verantwortungsvolle Nutzung von KI-Technologien zu gewährleisten.

Die Struktur des NIST Frameworks

Das NIST AI Risk Management Framework besteht aus einer Reihe von Richtlinien, Best Practices und einem strukturierten Ansatz zur Risikobewältigung über den gesamten Lebenszyklus eines KI-Systems hinweg. Es gliedert sich in zwei Hauptbereiche: Teil 1 bietet grundlegende Informationen zu KI-Risiken und -Herausforderungen, während sich Teil 2 mit den Map-, Measure-, Manage- und Govern-Funktionen befasst, die als Leitfaden für die Bewältigung von KI-Risiken dienen.

Kategorien von KI-Schäden

Das AI RMF definiert drei übergeordnete Schadenskategorien, die bei der Nutzung von KI-Systemen berücksichtigt werden sollten:

1. Schädigung eines Menschen: Schutz der individuellen Freiheiten, physischen und psychischen Sicherheit sowie Wahrung demokratischer Prinzipien.
2. Schädigung einer Organisation: Vorbeugung gegen Betriebsstörungen, Sicherheitsrisiken und Reputationsschäden.
3. Schädigung eines Ökosystems: Verhinderung von Störungen in globalen Finanz- und Lieferketten sowie Minimierung von Umweltschäden.
   

Vertrauenswürdige KI-Systeme

Das NIST AI RMF zielt darauf ab, die Vertrauenswürdigkeit von KI-Systemen zu verbessern, indem es Entwicklern Hilfestellungen bietet und Überlegungen zur Vertrauenswürdigkeit in das Design, die Entwicklung, die Nutzung und die Bewertung von KI-Systemen einbezieht. Das Framework definiert vertrauenswürdige KI-Systeme anhand folgender Merkmale:

• Sicherheit: Priorisierung der Sicherheit von Benutzern und Verhinderung von Schäden.
• Robustheit: Schutz vor böswilligen Angriffen und Aufbau von Widerstandsfähigkeit gegenüber Herausforderungen.
• Validität: Erzielung genauer und zuverlässiger Ergebnisse.
• Transparenz: Gewährleistung der Entscheidungstransparenz und Rechenschaftspflicht von KI-Systemen.
• Erklärbarkeit: Sicherstellung der Verständlichkeit und Interpretierbarkeit von Entscheidungen.
• Datenschutz: Respektierung der Privatsphäre von Benutzern und Schutz personenbezogener Daten.
  

Herausforderungen bei der Risikomessung

Die Messung von KI-Risiken ist eine komplexe Aufgabe, da viele Risiken nicht eindeutig definiert oder erfasst werden können. Die Unfähigkeit, die Risiken von KI-Systemen genau einzuschätzen, bedeutet nicht zwangsläufig, dass diese Risiken gering sind.

Kernfunktionen des Frameworks

Um die Qualität von KI-Systemen sicherzustellen, empfiehlt das Framework regelmäßige Bewertungen der Effektivität des KI-Risikomanagements. Die Kernfunktionen des Frameworks sind:

MAP-Funktion

Die MAP-Funktion erfordert eine umfassende Betrachtung der KI-Risiken durch die Einbeziehung verschiedener Perspektiven, darunter interne Teams, externe Mitarbeiter und Endbenutzer.

MEASURE-Funktion

Die MEASURE-Funktion fordert regelmäßige Tests von KI-Systemen vor der Bereitstellung und während des Betriebs, um deren Funktionalität und Vertrauenswürdigkeit zu überprüfen und zu aktualisieren.

MANAGE-Funktion

Durch ein umfassendes Verständnis der KI-Systeme und regelmäßige Bewertungen können diese optimal verwaltet werden. Dazu gehört auch die Zuweisung angemessener Ressourcen, um die Vorteile der KI zu maximieren und gleichzeitig negative Auswirkungen zu minimieren.

GOVERN-Funktion

Die GOVERN-Funktion stellt Richtlinien für die Implementierung von Strukturen, Systemen, Prozessen und Teams bereit, um eine effektive Risikoerkennung und -minderung sicherzustellen.

Das NIST AI RMF Playbook bietet weitere Informationen und spezifische Maßnahmen zur Implementierung dieser Funktionen.

Fazit des NIST AI RMF

Das AI Risk Management Framework (AI RMF) bietet einen strukturierten Ansatz zur Identifizierung, Bewertung und Minderung der mit KI-Systemen verbundenen Risiken. Es unterstützt Organisationen dabei, eine ethische Einführung von KI-Technologien sicherzustellen, potenzielle Schäden zu verhindern, Rechenschaftspflicht und Transparenz bei der KI-Implementierung zu fördern und die Rechte des Einzelnen zu schützen.