Welche Bildungs-KI ist Hochrisiko?
Anhang III, Nr. 3 des EU AI Act listet folgende Bildungsanwendungen als Hochrisiko:
- KI zur Bestimmung der Zulassung oder Ablehnung zu Bildungseinrichtungen (Zulassungs-KI)
- KI zur Bewertung von Lernergebnissen und Prüfungsleistungen
- KI zur Steuerung des Bildungswegs eines Lernenden
- KI zur Erkennung verbotener Verhaltensweisen bei Online-Prüfungen (Proctoring)
Was ist in Schulen verboten?
Vollständig verboten ist auch im Bildungskontext:
- Emotionserkennung von Schülerinnen und Schülern (z. B. Stimmungsanalyse im Unterricht)
- Proctoring-Software mit Emotionsanalyse
- Biometrische Überwachung ohne explizite Rechtfertigung und Genehmigung
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →