Presse
KI und maschinelles Lernen
Mit Unsicherheiten besser umgehen
Die Ergebnisse von künstlicher Intelligenz sind nicht immer zuverlässig. Diese Unsicherheit lässt sich messen, um die Verwendung von KI sicherer zu machen. Ein neuer DIN Standard gibt dafür erste Anregungen.
Mit dem rasanten Fortschritt der künstlichen Intelligenz (KI) kam die große Vertrauensfrage: Wie zuverlässig sind die Ergebnisse der KI? Wo kommen die Daten für das maschinelle Lernen (ML) her? In Debatten um erfundene Quellenangaben und KI-generierte Fotos, die täuschend echt aussehen, wird zur Vorsicht im Umgang mit der Technologie gemahnt. Das gilt umso mehr, wenn sie Teil von sicherheitskritischen Anwendungen ist, etwa in der Medizin oder beim autonomen Fahren.
Wird ein ML-Modul in der Praxis eingesetzt, ist unvermeidlich, dass Szenarien eintreten, die in der Entwicklung der Technologie nicht berücksichtigt wurden. Denn die Realität ist komplex – so komplex, dass Trainings- und Testdaten für maschinelles Lernen sie nur unvollständig abbilden. Indem diese systematische Unsicherheit quantifiziert, also abgeschätzt wird, lässt sich die Verwendung von ML-Modulen innerhalb eines Gesamtsystems sicherer und robuster gestalten.
Hilfestellung für Industrie und Wissenschaft
Hier setzt die neue DIN SPEC 92005 an: Unter dem Titel „Künstliche Intelligenz – Quantifizierung von Unsicherheiten im Maschinellen Lernen“ definiert das Deutsche Institut für Normung (DIN) wesentliche Begriffe für die sogenannte Unsicherheitsquantifizierung im maschinellen Lernen. Das Dokument formuliert Anforderungen sowie Richtlinien und gibt Anwendungsbeispiele. Ziel ist, Akteuren in Industrie und Wissenschaft Hinweise zu geben, wie sie mit der Quantifizierung von Unsicherheiten in der Praxis umgehen können.
„Wichtiger Pfeiler für KI-Sicherheit“
„Die Quantifizierung von Unsicherheit ist ein breit gefächertes und intensiv erforschtes Gebiet. Aber bislang fehlt es an einer Standardisierung, die den aktuellen Stand der Technik widerspiegelt“, sagt der Initiator der neuen DIN SPEC, Dr. Lukas Höhndorf von der Industrieanlagen-Betriebsgesellschaft mbH. „Die Unsicherheit, die mit Modellen, Algorithmen und vorhergesagten Ergebnissen verbunden ist, abschätzen zu können, ist ein wichtiger Pfeiler für die Sicherheit von KI, gerade in sicherheitskritischen Systemen.“
Viele Faktoren beeinflussen Ergebnisse
Nicht nur unvollständige oder unklare Daten und Szenarien können Systemumgebungen mit ML-Modulen beeinflussen – auch zum Beispiel extreme Wetterbedingungen beim autonomen Fahren oder das unkonventionelle Verhalten anderer Akteure in der Anwendungsumgebung können die Ergebnisse einer KI prägen.
„Künstliche Intelligenz ist die Grundlage für viele Anwendungen, die sich mit herkömmlicher Software nicht realisieren lassen. Damit sie auch in sensiblen Anwendungskontexten zum Einsatz kommen kann, müssen KI-Systeme sicher, robust und vertrauenswürdig sein. Die vorliegende DIN SPEC liefert einen wichtigen Beitrag, um dies zu gewährleisten“, sagt Dr. Maximilian Poretschkin, Konsortialleiter des Projekts ZERTIFIZIERTE KI sowie Teamleiter KI-Absicherung und -Zertifizierung am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS.
Die neue DIN SPEC ist ein Ergebnis des Forschungsprojekts ZERTIFIZIERTE KI, in dem DIN gemeinsam mit dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren wissenschaftlichen und industriellen Partnern zusammenarbeitet. Dessen Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Gefördert wird das Projekt vom Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen. Erarbeitet wurde der Standard von einem hochkarätigen Konsortium aus Expert*innen folgender Organisationen: Industrieanlagen-Betriebsgesellschaft mbH IABG, die Fraunhofer-Institute für Intelligente Analyse- und Informationssysteme IAIS, für Kognitive Systeme IKS sowie für Experimentelles Software Engineering IESE, ai.dopt, DEKRA Digital GmbH, e:fs TechHub GmbH, Giesecke+Devrient, Helsing GmbH, Leibniz Fachhochschule, Bundesnetzagentur für Elektr., Gas, Telekommunikation, Post und Eisenbahnen (BNetzA), Institut für Arbeitsschutz der Deutschen Gesetzlichen Unfallversicherung (IFA).
Die DIN SPEC 92005 steht bei DIN Media unter www.dinmedia.de zum kostenlosen Download bereit. Aktuell werden mögliche Folgeaktivitäten zu dieser DIN SPEC evaluiert, unter anderem die Entwicklung eines (internationalen) Standards auf dessen Basis. Falls Sie Interesse haben, Teil dieser zukünftigen Standardisierungsaktivitäten zu sein, melden Sie sich bitte bei Katharina Sehnert (Katharina.Sehnert@din.de), verantwortlich für den NA 043-01-42 GA DIN/DKE Gemeinschaftsarbeitsausschuss Künstliche Intelligenz.
