Die meisten Verbote klingen nach Überwachungsstaat und weit weg vom Mittelstand. Zwei davon sind es nicht – sie betreffen Werkzeuge, die im Personalbereich und im Kundenservice aktiv verkauft werden.
Die acht Verbotstatbestände
Techniken, die das Verhalten von Menschen unterhalb der Wahrnehmungsschwelle beeinflussen und ihnen dadurch erheblich schaden.
Das gezielte Ausnutzen von Alter, Behinderung oder wirtschaftlicher Notlage.
Die Bewertung von Personen nach ihrem Verhalten mit Nachteilen in unzusammenhängenden Lebensbereichen.
Die Einschätzung des Risikos, dass eine Person eine Straftat begeht, allein auf Basis von Profiling oder Persönlichkeitsmerkmalen.
Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras.
Das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
Rückschlüsse auf ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung.
In öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit engen Ausnahmen für Behörden.
Betrifft Sie #1: Emotionserkennung am Arbeitsplatz
Das Verbot betrifft nicht nur Kameras. Erfasst sind auch Softwarefunktionen, die im Kundenservice die Stimmung von Mitarbeitenden aus Stimme oder Text auswerten, Analysewerkzeuge, die in Videointerviews Motivation oder Begeisterung aus der Mimik ableiten wollen, und sogenannte Engagement-Messung in Videokonferenzen.
Solche Funktionen werden aktiv vertrieben und klingen im Verkaufsgespräch harmlos: „Erkennen Sie frühzeitig, wenn Ihre Servicemitarbeitenden unter Druck geraten." Die Absicht mag gut sein – das Verbot knüpft nicht an die Absicht an.
Betrifft Sie #2: Social Scoring im Unternehmen
Gemeint ist nicht jede Leistungsbewertung. Kritisch wird es, wenn Verhaltensdaten aus einem Bereich gesammelt werden und daraus Nachteile in einem völlig anderen Zusammenhang entstehen.
Ein internes Punktesystem, das aus Chat-Aktivität, Pausenzeiten und privatem Auftreten einen Gesamtscore bildet, der dann über die Zuteilung von Projekten oder Schichten entscheidet, ist genau der Fall, den der Gesetzgeber im Blick hatte.
Drei Kontrollfragen für jedes neue Werkzeug
Aus Stimme, Text, Mimik oder Verhaltensmustern – unabhängig davon, wie die Funktion im Marketing heißt.
Entsteht ein Gesamtscore aus Daten mehrerer Lebensbereiche, der Nachteile auslöst?
Rückschlüsse auf Herkunft, Meinung, Religion, Gesundheit oder Orientierung.
Dreimal Nein bedeutet, dass Sie an dieser Stelle sauber sind. Ein einziges Ja bedeutet, dass Sie vor der Einführung eine rechtliche Prüfung brauchen.
Der eigentliche Risikoherd
- Das größte Risiko ist nicht die böse Absicht, sondern der ungeprüfte Einkauf. Ein Fachbereich bucht ein Werkzeug nach einer überzeugenden Demonstration, und niemand liest den Funktionsumfang zu Ende. Diese drei Fragen gehören deshalb in den Beschaffungsprozess – nicht in die Nachbetrachtung.
Wo steht Ihr Unternehmen?
Die kostenlose AI-Act-Checkliste geht die Anforderungen Punkt für Punkt durch – in 15 Minuten sehen Sie, was Ihnen noch fehlt.
Häufige Fragen
Seit wann gelten die Verbote aus Artikel 5?
Seit dem 2. Februar 2025. Anders als die Anforderungen an Hochrisiko-Systeme wurden die Verbote durch den Digital Omnibus nicht verschoben.
Gilt das Verbot der Emotionserkennung auch für Bewerbungsgespräche?
Ja. Bildungseinrichtungen und der Arbeitsplatz sind ausdrücklich erfasst, und das schließt Auswahlverfahren ein. Werkzeuge, die in Videointerviews Motivation oder Persönlichkeit aus der Mimik ableiten, fallen darunter.