Liebe KI-Interessierte,

vielen Dank für die große Teilnahme an unserem Webinar „Europäische KI-Normung – Endspurt zum AI Act“ vom 17. Juli 2024.

Wir hoffen Ihnen in der Veranstaltung einen guten Überblick in die Umsetzung des AI Acts und den aktuellen Stand der europäischen KI-Normung gegeben zu haben. Wir würden uns freuen Sie als potenzielle Expert*in in der Normung begrüßen zu dürfen.

Hierzu können Sie uns über Kuenstliche.Intelligenz@din.de kontaktieren.

Präsentation

Die Präsentation der Veranstaltung finden Sie unter Downloads

Aufzeichnung der Veranstaltung

Fragen & Antworten aus dem Chat

Hr. Hallensleben

In Maschinenbau werden Standards in A, B, C aufgeteilt. Wird es A, B, C - Normen im Bereich AI geben?

Diese Unterscheidung wird im Bereich AI nicht gemacht. Die Normen sind jedoch in der Tendenz eher grundsätzlicher Natur.

Können Sie etwas zum AI PACT sagen?

Der AI PACT ist ein von der EU angeregtes Commitment einiger Firmen, den AI Act bereits vor seinem Inkrafttreten umzusetzen und sich über die Wege zur Umsetzung auszutauschen. Für weitere Informationen wird auf die EU-Kommission verwiesen.

Was genau ist die AI Trust Alliance?

Eine erste Ankündigung gab es im Rahmen der internationalen KI-Konferenz des BMDV letzten November, vgl. hier. Der volle Launch ist für diesen Herbst geplant.

Zu GPAI wird es keine Normen geben. (Mitte 2025) Wie ist hier das favorisierte Vorgehen der EU Com compliant?

Das AI-Office ist aufgefordert, als ersten Schritt innerhalb von 12 Monaten in einem Dialogprozess Leitlinien für General Purpose AI zu entwickeln.

Wie schnell werden die relevanten Vorgaben für Standards auf EU-Ebene erwartet?

Diese liegen bereits seit Mai 2022 (informell) bzw. Mai 2023 (formell) vor, vgl. hier.

Wo finde ich 'Real Labore' / Sand Box und wer entscheidet, ob ein bestimmtes Institut oder Firma diesen Status bekommt?

Es ist leider kein umfassender Katalog bekannt.

Wird die Wechselwirkung zu anderen Acts berücksichtigt z.B. EU Data Act und im Rahmen der Datagovernance (SR2)?

Ja, dies wird in der Standardisierungsarbeit berücksichtigt.

Es wurde aufgezählt, was Unternehmen heute bereits angehen können.
Was kann aus deiner Sicht die nationale Politik tun, um den europäischen Standardisierungsprozess zu unterstützen? Wo braucht es Support?

Die Programme, um Experten aus KMUs (inkl. Startups) sowie zivilgesellschaftlichen Organisationen eine aktive Mitwirkung in der Standardisierung zu ermöglichen, könnten noch deutlich ausgebaut werden.

Gibt es schon eine Art "Checkliste", die man durchgehen kann und die mit der Zeit angepasst wird?

bisher nicht.

Frau Seyerlein-Klug

Geht es dabei um technische Experten? Wenn ja wie kann man sich zu dem Zeitpunkt noch beteiligen?

Ja, es geht um technische Experten mit IT/Cybersecurity incl. Risk und wenn möglich KI Know how oder auch AI Experten mit Know How über Maschine Learning Modelle insb. z.B. zu Themen wie Robustness, Accuracy, Explainabiltiy, Testing. Es geht um die Gestaltung von Security Controls für Produkte mit KI – gesehen als „digital assest (Software) and underlaying infrastructure“ in Verbindung mit dem CRA (klassische IT Sec) und um die security relevanten AI-Themen wie Data Security, Data Quality (nicht wirklich neu) und die Security-Anforderungen/Maßnahmen für das Modell – speziell im Maschine Learning Umfeld mit Robustness und Accuracy etc.). WG 5 hat dazu eine gute Basis erarbeitet, aber nun geht es darum daraus einen passenden Standard zu gestalten. Wir freuen uns über weitere Experten, bitte so kurzfristig wie möglich.

Frau Kuch

Welche zusätzlichen (fachlichen) Voraussetzungen/Anforderungen sollten/müssen nach 17020 zertifizierte Inspektionsstellen erfüllen, um Fertigungsstätten von "KI-Systemen" inspizieren/überwachen zu können? Welche (fachlichen) Kompetenzen müssen die "Inspektoren" mitbringen?

Es gibt keine pauschale Antwort darauf. Eine nach EN ISO/IEC 17020 akkreditierte (auf keinen Fall zertifiziert) Stelle verfügt gemäß Kapitel 6.1 über entsprechende Prozesse, um die Kompetenz und ausreichende Kenntnisse des Personals in Bezug auf die konkrete Inspektionstätigkeit festzulegen. Die fachlichen Kompetenzen sind daher immer im Kontext des konkreten zu inspizierenden Gegenstands (das konkrete KI-System) im Einzelfall festzulegen und in ihrer Angemessenheit zu bewerten.

Je nachdem, welche Services eine Inspektionsstelle bereits anbietet und in welchem Bereich sie schon aktiv ist, kann sie dieses Erfahrungswissen nutzen, um gewisse fachliche Kompetenzen zu antizipieren, die in Bezug auf KI-Systeme und deren Einsatz in einem gewissen Sektor wichtig sind. Ein möglicher Ansatzpunkt zur Eruierung, welche Kompetenzen für Inspektionsstellen in Frage kommen könnten, könnte auch die ISO/IEC DIS 42006 liefern, die zwar Auditorenkompetenzen für Managementsystemzertifizierungen darlegt, aber die Qualifikationsgrade geben möglicherweise einen ersten Ansatzpunkt / eine erste Idee, um eigene Kompetenzkriterien für die jeweilige Tätigkeit festzulegen.

Nach Artikel 43 (3) des AI Acts muss eine notifizierte Stelle unter 2006/42/EG aus dem Maschinenbereich offensichtlich nicht notifizierte Stelle unter dem AI Act sein, um die Konformität eines Hochrisiko-KI-Systems zu kontrollieren, wenn im Rahmen der Notifizierung Artikel 31 (4), (10) und (11) des AI Acts berücksichtigt wurden. Gilt dies auch für die Nachfolge (EU) 1230/2023, obwohl diese nicht in Anhang I, Abschnitt A des AI Acts aufgeführt ist?

Das ist eine juristische Frage, die man auch einer juristischen Prüfung unterziehen muss. Eine Antwort meinerseits ist dazu nicht möglich.

Hr. Deussen

Bezüglich den Rsik Management Standards: Gibt es die Möglichkeit, dass spezifisch für eine Problemstellung zu machen (z.B. Security & Safety). Sieht das bei den anderen Themen auch so aus?

Der Risikomanagement-Standard ist horizontal konzipiert und muss für spezifische Sektoren angepasst bzw. in bestehende Strukturen integriert werden. Die starke Anlehnung an  ISO 14971:2019 - Medical devices — Application of risk management to medical devices kann ggf. beim Thema “Safety” helfen, allerdings muss das für andere Branchen noch evaluiert werden.