Kurzreferat

Dieses Dokument befasst sich mit organisatorischen und technischen Lösungen, die darauf abzielen, die Cybersicherheit von KI-Systemen mit hohem Risiko während des gesamten Lebenszyklus zu gewährleisten, und die den jeweiligen Umständen und Risiken angemessen sind. Die technischen Lösungen zur Behebung von KI-spezifischen Schwachstellen umfassen gegebenenfalls Maßnahmen zur Verhinderung, Erkennung, Reaktion, Behebung und Kontrolle von Angriffen, die darauf abzielen, den Trainingsdatensatz (Data Poisoning) oder die beim Training verwendeten vortrainierten Komponenten (Model Poisoning) zu manipulieren, Eingaben, die das Modell zu einem Fehler veranlassen sollen (gegnerische Beispiele oder Modellumgehung), sowie Angriffe auf die Vertraulichkeit oder Modellschwächen. Dieses Dokument enthält objektive Kriterien, anhand derer entschieden werden kann, ob eine bestimmte technische oder organisatorische Lösung ein bestimmtes Schwachstellenziel angemessen erreicht.

Beginn

2024-11-05

WI

JT021029

Geplante Dokumentnummer

DIN EN JT021029

Projektnummer

04301129

Zuständiges nationales Arbeitsgremium

NA 043-01-42-05 AK - Anwendungen  

Zuständiges europäisches Arbeitsgremium

CEN/CLC/JTC 21/WG 5 - Gemeinsame Normung zur Cybersicherheit für KI-Systeme