Bildungs-KI als Hochrisiko nach Anhang III Nr. 3
Anhang III Nr. 3 EU AI Act listet als Hochrisiko: KI-Systeme für den Zugang zu Bildungseinrichtungen (Bewerbungsauswahl), KI-Systeme für Beurteilung von Lernleistungen, KI-Systeme für die Beurteilung von Prüfungsleistungen, KI zur Überwachung von Schülern/Studierenden. Klar kein Hochrisiko: Allgemeine Lernplattformen ohne KI-Bewertungskomponente, KI-Tutoren als reine Unterstützungstools ohne Beurteilungsfunktion.
Praxis: Adaptive Lernsysteme und KI-Tutoren
Adaptive Lernsysteme passen Lerninhalte an den Lernstand an. EU AI Act-Analyse: Wenn das System nur Lernvorschläge macht, kein Hochrisiko. Wenn das System Lernleistungen bewertet und diese Bewertung Konsequenzen hat (Versetzung, Zulassung): Hochrisiko. KI-Tutoren wie ChatGPT oder spezialisierte Lern-KI: typischerweise kein Hochrisiko als Tool. Wenn Lehrende KI-Outputs direkt als Beurteilungsgrundlage nutzen: dann sind menschliche Überprüfungspflichten besonders wichtig.
Plagiatserkennung und KI-Detektion
Besonders relevant in Bildungseinrichtungen: KI-gestützte Plagiatserkennung und KI-Textdetektions-Tools. EU AI Act: Diese Systeme fallen unter Hochrisiko (Prüfungsbeurteilung). Anforderungen: menschliche Überprüfung aller positiven Befunde, klare Beschwerdeprozesse für fälschlich gekennzeichnete Texte, Transparenz gegenüber Lernenden über den Einsatz solcher Systeme. Problem: Aktuelle KI-Detektionstools haben erhebliche Fehlerraten – besondere Vorsicht bei Konsequenzen.
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →