DIN-Normenausschuss Informationstechnik und Anwendungen (NIA)
Künstliche Intelligenz - Cybersicherheitsspezifikationen für KI-Systeme
Kurzreferat
Dieses Dokument befasst sich mit organisatorischen und technischen Lösungen, die darauf abzielen, die Cybersicherheit von KI-Systemen mit hohem Risiko während des gesamten Lebenszyklus zu gewährleisten, und die den jeweiligen Umständen und Risiken angemessen sind. Die technischen Lösungen zur Behebung von KI-spezifischen Schwachstellen umfassen gegebenenfalls Maßnahmen zur Verhinderung, Erkennung, Reaktion, Behebung und Kontrolle von Angriffen, die darauf abzielen, den Trainingsdatensatz (Data Poisoning) oder die beim Training verwendeten vortrainierten Komponenten (Model Poisoning) zu manipulieren, Eingaben, die das Modell zu einem Fehler veranlassen sollen (gegnerische Beispiele oder Modellumgehung), sowie Angriffe auf die Vertraulichkeit oder Modellschwächen. Dieses Dokument enthält objektive Kriterien, anhand derer entschieden werden kann, ob eine bestimmte technische oder organisatorische Lösung ein bestimmtes Schwachstellenziel angemessen erreicht.
Beginn
2024-10-02
WI
JT021029
Geplante Dokumentnummer
JT021029
Zuständiges nationales Arbeitsgremium
NA 043-01-42-05 AK - Anwendungen
Zuständiges europäisches Arbeitsgremium
CEN/CLC/JTC 21/WG 5 - Gemeinsame Normung zur Cybersicherheit für KI-Systeme
