1. Biometrische Systeme
KI-Systeme zur biometrischen Identifizierung, Kategorisierung und Emotionserkennung – sofern sie nicht unter die verbotenen Praktiken fallen – gelten als Hochrisiko. Beispiele:
- Fernbiometrische Identifizierungssysteme (nicht in Echtzeit, nicht für Strafverfolgung)
- Biometrische Kategorisierung nach Alter, Geschlecht (nicht nach sensiblen Merkmalen)
- Emotionserkennung für medizinische Zwecke oder Sicherheitsanwendungen
2. Kritische Infrastruktur
KI als Sicherheitskomponente in der Verwaltung und im Betrieb kritischer Infrastruktur:
- Energienetze (Strom, Gas, Wärme)
- Wasserversorgung
- Straßenverkehrsmanagement
- Digitale Infrastruktur (Rechenzentren, Telekommunikationsnetze)
3. Bildung und Berufsausbildung
KI-Systeme, die über Bildungszugänge entscheiden oder Lernende bewerten:
- Zulassungssysteme für Universitäten und Schulen
- Automatische Bewertung von Prüfungsleistungen
- KI zur Überwachung von Prüflingen (Proctoring)
- Systeme zur Bildungswegeempfehlung
4. Beschäftigung und Personalmanagement
Dies ist einer der am stärksten regulierten Bereiche, da HR-KI direkte Auswirkungen auf die Lebensgrundlage von Menschen hat:
- Bewerber-Screening-Software (ATS mit KI)
- KI-gestützte Videointerviews zur Persönlichkeitsbewertung
- KI zur Beurteilung der Arbeitsleistung
- Algorithmen zur Aufgabenverteilung (z. B. in der Gig Economy)
- KI für Beförderungsentscheidungen
5. Zugang zu wesentlichen Diensten
KI-Systeme, die über den Zugang zu wichtigen Ressourcen entscheiden:
- Automatische Kreditscoring-Systeme (z. B. Schufa-ähnlich)
- Algorithmen zur Priorisierung von Notrufanrufen
- KI in der Kranken- und Lebensversicherungsprüfung
- Systeme zur Bewilligung oder Ablehnung von Sozialleistungen
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →