Was sind manipulative KI-Techniken?
Manipulative KI-Techniken sind Methoden, die das Verhalten von Personen beeinflussen, ohne dass diese sich dieser Beeinflussung bewusst sind oder ihr zustimmen können. Sie umgehen die freie Entscheidungsfähigkeit des Menschen.
Beispiele: Dynamische Preisgestaltung, die gezielt auf Schwächen eines Nutzers abzielt; KI-generierte Werbung, die unbewusste Angstreize nutzt; Dark Patterns in Apps.
Erlaubte vs. verbotene Beeinflussung
Nicht jede KI-gestützte Beeinflussung ist verboten. Die Grenze liegt bei der Methode (unterschwellig, täuschend) und dem Ergebnis (erheblicher Schaden). Erlaubt ist z. B. personalisierte Werbung auf Basis von Präferenzen, die der Nutzer freiwillig angegeben hat.
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →