DIN SPEC
DIN SPEC 91512
Fairness von KI-Anwendungen im Finanzsektor
Fairness of AI-based applications in the financial sector
Verfahren
PAS
Einführungsbeitrag
Diese DIN-SPEC ist im Zuge des PAS-Verfahrens durch ein DIN-SPEC-Konsortium (temporäres Gremium) erarbeitet worden. Die Erarbeitung und Verabschiedung dieser DIN-SPEC erfolgte durch die im Vorwort genannten Verfasser. DIN-SPEC-Entwürfe werden für 2 Monate zur Kommentierung kostenfrei veröffentlicht. Dieses Dokument ist anwendbar auf KI Anwendungen im Kontext von Finanzdienstleistungen. Dieses Dokument legt folgendes fest: - Einen Prozess zur Ermittlung geeigneter Auffassungen und Metriken von Fairness (von KI-Anwendungen) im Finanzsektor; - Ein konkretes Fairnessverständnis kann von Person zu Person oder je nach Situation abweichen und somit nicht allgemeingültig formuliert werden; - Dazu wird ein Grundgerüst für anwendungs- und situationsspezifische Messungen und Begründungen im Kontext der Finanzdienstleistungen in der Praxis vorgeschlagen, inklusive: - Eine Begründung für die Verwendung von Konzepten wie Gleichbehandlung, Gleichberechtigung, Gleichstellung, - Relevante Aspekte einer guten Messung und Begründung aller verwendeten Konzepte, - Bewertung der Verhältnismäßigkeit bezüglich der Aufwände und Ergebnisse, - Umgang mit den Messergebnissen (Bewertung, Erklärung, Kommunikation, Handlungsbedarfe), - Akzeptable Rahmenbedingungen für Ungleichbehandlung; - Methodensammlung zur Operationalisierung der identifizierten Auffassungen (zum Beispiel über Fairnessmaße). Identifizierung der jeweiligen Stärken, Schwächen und Einschränkungen der Operationalisierungsansätze; - Exemplarische Veranschaulichung des Prozesses anhand relevanter Anwendungsfälle. Des Weiteren beschränkt sich dieses Dokument im Kontext seiner Anwendungsfälle auf: - Klassifizierungssysteme (Ausschluss von Scorern und generativen Systemen), - Gruppenfairnessmaße (Ausschluss von individueller Fairness und alternativen Fairnessbemessungen). Dieses Dokument beschreibt keine Prozesse zur Anpassung von KI-basierten Systemen, um Anforderungen bezüglich Fairness gerecht zu werden.
