Schwerpunktthemen der Normungsroadmap KI

© DIN

Die Roadmap liefert einen umfassenden Überblick über Status Quo, Anforderungen und Herausforderungen sowie Normungs- und Standardisierungsbedarfe zu sieben Schwerpunktthemen rund um Künstliche Intelligenz:

Sieben Schwerpunktthemen rund um Künstliche Intelligenz

Grundlagen Öffnen

Was ist Künstliche Intelligenz? Wie lassen sich KI-Anwendungen überhaupt beurteilen – und auf Basis welcher ethischen, rechtlichen und technischen Kriterien? Kurz gesagt: Wer über KI diskutieren will, muss erst die Grundlagen klären.

Grundlagen von KI:

  • Terminologien (Begriffsbestimmungen)
  • Klassifikationen (zum Beispiel von KI-Methoden, -Fähigkeiten, -Anwendungen …)
  • Daten (Datenanalysen, Datenformate, Datengüte...)
Ethik/Responsible AI Öffnen

Ob KI-Systeme ethisch sind, oder durch unbeabsichtigte Verzerrungen zur Diskriminierung, Ungerechtigkeit und weiteren Risiken führt, ist einer der größten öffentlichen Diskurse zu diesem Thema. Besonders dort, wo kritische KI-Anwendungen sich auf Leib und Leben auswirken oder hohe finanzielle Schäden entstehen können, müssen diese Gefahren minimiert werden. Wichtig ist aber auch, die Weiterentwicklung der Technologie nicht auszubremsen. Mit Hilfe von Normen und Standards lassen sich ethische Mindestanforderungen für KI-Anwendungen beschreiben und so Vertrauen und Akzeptanz schaffen.

Qualität, Zertifizierung und Konformitätsbewertung Öffnen

Künstliche Intelligenz entfaltet nur dann ihr volles Potenzial, wenn sie qualitativ hochwertig ist. Sie muss verlässlich, robust und leistungsfähig sein und braucht funktionale Sicherheit, damit Vertrauen in sie entsteht. Um das sicherzustellen, sind Qualitätskriterien und Prüfverfahren notwendig. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung und Konformitätsbewertung von KI-Anwendungen.

IT-Sicherheit bei KI-Systemen Öffnen

Ohne umfängliche Sicherheit und Risikominimierung fährt kein Auto, fliegt kein Flugzeug, wird nicht operiert und kein Haus gebaut. Innovationen werden erst dann wirtschaftlich nutzbar, wenn für Sicherheit im Einsatz gesorgt wird. Für KI gilt das ebenso. Eine große Herausforderung für den Einsatz von KI-Systemen durch die Wirtschaft liegt darin, Manipulationen zu verhindern und damit Vertrauen in die Sicherheit und in das KI-System herzustellen. Normen und Standards beschreiben klare Anforderungen dafür.

Industrielle Automation Öffnen

Deutschland ist in der Industrie 4.0 führend. KI kann diese Position ausbauen, und so die wirtschaftliche Leistungsfähigkeit Deutschlands weiter stärken. Insbesondere kann sie die Abläufe und Prozesse in der produzierenden Industrie dynamischer und flexibler machen und so die Wertschöpfung steigern. Diese Chancen müssen jedoch auch genutzt werden – Normen und Standards können dabei helfen, indem sie zum Beispiel Schnittstellen für die Interoperabilität definieren und die Datenqualität bei der Auswahl geeigneter Daten für die Lernverfahren der KI-Systeme sicherstellen.

Mobilität und Logistik Öffnen

KI birgt ein massives Innovationspotenzial für den Bereich Mobilität und Logistik – sie ist die Basis, damit neue Mobilitätslösungen wie autonomes Fahren Realität werden. Doch wie sorgt man dafür, dass KI auf den Straßen sicher ist und keine Gefahr für andere Verkehrsteilnehmer darstellt?

Normen und Standards fördern eine sichere KI-gesteuerte Mobilität:

  • Normen und Standards helfen auf technischer Ebene die Sicherheit von autonom fahrenden Fahrzeugen im Laufe ihrer Inbetriebnahme sicherzustellen. Zum Beispiel indem sie klare Anforderungen an Prüfverfahren beschreibt. 
  • KI-Systeme für Mobilität und Logistik müssen erklär- und validierbar sein. Nur so ist nachvollziehbar, wie sie Entscheidungen im Straßenverkehr treffen. Hierbei unterstützen Normen und Standards.
  • KI-gesteuerte Autos, Lastkraftwagen oder Straßenbahnen – sie alle müssen im Verkehr miteinander interagieren. Damit das funktioniert, brauchen sie Systeme, die zusammenarbeiten können. Einheitlich standardisierte Datenmodelle bilden die Grundlagen für ihre Interoperabilität.
KI in der Medizin Öffnen

KI bringt für die Medizin neue Möglichkeiten in Prävention, Diagnostik und Therapie – von der Früherkennung per App bis zur Behandlung von Krebs. Um diese Chancen zu nutzen, sind sichere Rahmenbedingungen notwendig. Vor allem im Spannungsfeld von Ethik, rechtlichem Rahmen, Ökonomie, technischen Aspekten, aber auch Akzeptanz und Empathie sind noch Herausforderungen zu meistern. Welche Regeln sind nötig, damit die Technik stets dem Menschen dient und nicht andersherum?

Der Erfolg von KI in der Medizin hängt vor allem von folgenden Punkten ab:

  • Wie kann die Verfügbarkeit und Qualität von Gesundheitsdaten für die KI-Entwicklung sichergestellt werden – und gleichzeitig auch der Schutz dieser Daten?
  • Rechtsrahmen: Wer haftet bei Fehldiagnosen oder Schäden? Wie lässt sich selbstlernende KI in Einklang mit dem hochregulierten Zulassungsverfahren bringen?
  • Ethische Fragen: Inwieweit sind Maschinen an medizinischen Entscheidungen beteiligt oder treffen diese sogar selbst?