KI-Bias und Diskriminierung: Ursachen, Messung und EU AI Act

KI-Bias bezeichnet systematische Verzerrungen in KI-Systemen, die zu unfairen oder diskriminierenden Ergebnissen führen. Quellen: Historical Bias: Trainingsdaten spiegeln historische Diskriminierungen wider (z.B. weniger Frauen in Führungspositionen in Trainingsdaten für Recruiting-KI). Measurement Bias: Ungleichmäßige Datenqualität oder -menge für verschiedene Gruppen. Representation Bias: Bestimmte Gruppen sind in Trainingsdaten unter- oder überrepräsentiert. Aggregation Bias: Ein Modell für alle Gruppen passt nicht gut für jede Untergruppe. Evaluation Bias: Test-Benchmarks repräsentieren nicht alle relevanten Gruppen.

Gängige Fairness-Metriken: Statistical Parity (Demographic Parity): Verschiedene Gruppen sollen gleiche Entscheidungsraten erhalten. Equalized Odds: Gleiche True Positive Rate und False Positive Rate über Gruppen. Equal Opportunity: Gleiche True Positive Rate. Individual Fairness: Ähnliche Individuen sollen ähnlich behandelt werden. Counterfactual Fairness: Entscheidung ändert sich nicht, wenn geschütztes Merkmal geändert wird. Wichtig: Keine Metrik ist universal optimal – die Wahl hängt vom Anwendungskontext ab.

Art. 10 Abs. 2 EU AI Act fordert für Hochrisiko-KI-Trainingsdaten: Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit der Datensätze, Berücksichtigung besonderer Merkmale des Einsatzkontexts. Art. 10 Abs. 5 erlaubt die Verarbeitung besonderer Datenkategorien (Rasse, Gesundheit, etc.) wenn es für Bias-Erkennung und -Korrektur erforderlich ist – eine wichtige Ausnahme, die aktives Bias-Testing ermöglicht. Art. 9 fordert Risikomaßnahmen gegen Diskriminierungsrisiken.

Pre-processing: Trainingsdaten auf Repräsentativität prüfen und ggf. resampling. In-processing: Fairness-Constraints in das Trainingsverfahren integrieren. Post-processing: Entscheidungsschwellen für verschiedene Gruppen anpassen. Regelmäßige Audits: Externe Bias-Audits durch unabhängige Stellen. Diverse Teams: Vielfältige Entwicklungsteams erkennen Bias früher. Betroffene einbeziehen: Konsultieren Sie die Gruppen, die von Ihrem System betroffen sind. Dokumentieren Sie alle Bias-Tests und Mitigation-Maßnahmen für die technische Dokumentation.