Was ist Social Scoring?
Social Scoring bezeichnet den Einsatz von KI-Systemen, die Menschen anhand ihres sozialen Verhaltens, ihrer persönlichen Eigenschaften oder ihrer Lebensumstände systematisch bewerten und in Kategorien einteilen – mit dem Ziel, sie auf dieser Grundlage unterschiedlich zu behandeln.
Das bekannteste Beispiel ist das chinesische "Sozialkredit-System", in dem staatliche Stellen Bürger auf Basis ihres Verhaltens in verschiedenen Lebensbereichen bewerten und Belohnungen oder Einschränkungen verhängen.
Was genau ist verboten?
Verboten ist der Einsatz von KI-Systemen durch öffentliche Behörden oder in deren Auftrag, wenn folgende Bedingungen erfüllt sind:
- Das System bewertet oder klassifiziert natürliche Personen oder Gruppen
- Die Bewertung basiert auf sozialem Verhalten oder persönlichen Eigenschaften
- Die Klassifizierung führt zu nachteiligen Behandlungen der betroffenen Personen
Das Verbot gilt ausdrücklich für staatliche Akteure. Private Unternehmen können von ähnlichen Systemen nicht per se betroffen sein – allerdings könnte ein restriktiveres Profiling-Verbot über die DSGVO greifen.
Was bedeutet das für private Unternehmen?
Das explizite Verbot richtet sich an staatliche Stellen. Private Unternehmen sind nicht per se vom Social-Scoring-Verbot betroffen – allerdings gelten für sie andere Regelungen:
- Kreditscoring: Systeme wie SCHUFA unterliegen als Hochrisiko-KI strengen Anforderungen (Anhang III, Nr. 5)
- Profiling durch Plattformen: Wird durch DSGVO Art. 22 (Recht auf Nicht-Profiling) eingeschränkt
- Verhaltensbeeinflussung: Manipulative Techniken (auch durch private Akteure) sind nach Art. 5 Abs. 1 a) verboten
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →