DIN-Normenausschuss Informationstechnik und Anwendungen (NIA)
Risikomanagement für Künstliche Intelligenz
Kurzreferat
Dieses Dokument legt die Anforderungen an das Risikomanagement für KI-Systeme fest. Das Dokument enthält außerdem klare und umsetzbare Leitlinien dazu, wie Risiken während des gesamten Lebenszyklus des KI-Systems behandelt und gemindert werden können. Es gilt für das Risikomanagement eines breiten Spektrums von Produkten und Dienstleistungen, die KI-Technologie nutzen, einschließlich ausdrücklicher Überlegungen zu schutzbedürftigen Personen. Zu den behandelten Risiken gehören sowohl Risiken für Gesundheit und Sicherheit als auch Risiken für die Grundrechte, die von KI-Systemen ausgehen können, mit Auswirkungen auf Einzelpersonen, Organisationen, den Markt und die Gesellschaft. In diesem Dokument werden auch Methoden definiert, mit denen festgestellt werden kann, ob ein Paket von Risikomanagementmaßnahmen, das mit einem KI-System verbunden ist, gewährleisten kann, dass bestimmte Risiken, die von diesem Produkt oder System ausgehen, identifiziert, überwacht und verwaltet werden und zu einem akzeptablen Risikoniveau führen. Dieses Dokument richtet sich an Organisationen und Einzelpersonen, die Produkte oder Dienstleistungen mit KI-Technologie anbieten, nutzen oder von ihnen betroffen sind, unabhängig von ihrer Größe, ihrer Art oder ihrem Standort. Die enthaltenen Anforderungen und Leitlinien wurden jedoch speziell auf Organisationen und Einzelpersonen zugeschnitten, die innerhalb der Europäischen Union tätig sind, sowie auf Organisationen und Einzelpersonen außerhalb der Union, die auf dem EU-Markt tätig sind oder beabsichtigen, in diesen Markt einzutreten. Sie wurden so zugeschnitten, dass sie diese Organisationen und Einzelpersonen bei der Erfüllung der geltenden rechtlichen Anforderungen unterstützen, wobei sie flexibel genug sind, um zusätzliche Erwartungen von Parteien zu erfüllen, mit denen sie möglicherweise interagieren.
Beginn
2024-03-20
WI
JT021024
Geplante Dokumentnummer
prEN XXX-JT021024
Zuständiges nationales Arbeitsgremium
NA 043-01-42-02 AK - Grundnormen und Konformität
