Wir stellen täglich Anfragen an Künstliche Intelligenzen (KI), gestalten unser Leben damit einfacher und man könnte denken, dass es unser Leben schneller macht, was jedoch nicht der beschleunigten Gesellschaft entspräche. Wer sich mit KI beschäftigt, muss sich zwanghaft Daten stellen. Daten sind vielseitig – so ist zumindest der erste Eindruck – was hinterbleibt ist jedoch, dass Daten durch eine ungleiche Gesellschaft ebenfalls ungleich sein können. Für einen täglichen Gebrauch ist eine Auseinandersetzung mit diesem Problem unabdingbar.
Auf KI-basierte Entscheidungssysteme analysieren Daten und treffen automatisierte oder teilautomatisierte Entscheidungen bei der Auswahl von Bewerbern oder Kreditvergaben und hat theoretisch keine (menschlichen) Vorurteile. Da historische Daten aufgrund der gesellschaftlichen Wandel nicht immer neutral waren, ergeben sich diese Ungleichheiten ebenfalls in den Algorithmen, die auf diesen Daten basieren. Die Benachteiligung von Personengruppen zieht sich also durch die Historie (vgl. Mosene 2025). Unter diesen Umständen leidet auch das Vertrauen der Menschen darin, KI sei unvoreingenommen. 2024 vertrauen in Deutschland nur 48% der befragten Personen darauf, dass KI nicht diskriminiert. Der globale Durchschnitt liegt bei 54% (vgl. Ipsos 2024).
Des Weiteren sind bei KI-basierte Kamerasysteme, bei der Identifizierung von Gesichtern ebenfalls Ungleichheiten bei Geschlecht und Hautfarbe replizieren, da diese auf maschinellem Lernen basieren. Es geht hervor, dass sowohl Männer als auch Menschen mit heller Hautfarbe besser erkannt werden (vgl. Buolamwini & Gebru: 77, 88). Die Klassifizierung von Geschlechtern ist dabei besonders in Hinblick auf die Diversität eine Herausforderung, da trotz rechtlicher Anerkennung von drei Geschlechtern, diese, wie zuvor angemerkt, nicht in historischen Daten vorkommen, was auf regionale Unterscheide zurückzuführen ist, wobei ideologische oder politische Unterschiede zentral sind (vgl. Kreissl & Laufenberg 2024: 237). Aufgrund dessen lässt sich feststellen, dass KI-Systeme in ihren Daten und Algorithmen Fehler haben. Ein Algorithmus wurde entwickelt, um sich einem Problem zu stellen und eine Lösung dazu zu finden. Wenn bei einer KI und dessen Training nun das Problem aufkommt, dass Ungleichheiten repliziert werden, dann lässt sich dies auf den Algorithmus zurückführen und nicht auf ein Bias der KI selbst. Daher müssen Algorithmen evaluiert und verschärft werden. Auch wenn fortschrittliche Algorithmen aus statistischen Daten Berechnungen durchführen, ist dies aufgrund der Verzerrung der Daten kein Indikator für eine von Ungleichheit befreite Entscheidung (vgl. Rogalla 2024: 134–135).
Conclusio replizieren KI´s Ungleichheiten, auch wenn das ohne Intention geschieht. Die Daten sind unterschiedlich, da sich die Gesellschaft stetig wandelt. Daher wäre es für eine Nutzung von KI in unternehmerischen Kontexten wichtig, sich mit den Folgen – besonders in ethischer Hinsicht – zu beschäftigen und ein Augenmerk auf die Daten zu richten.
Quellen:
Buolamwini, J. & Gebru, T. (2018): Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. InProceeding of Machine Learning Research (81 Conference on Fairness, Accountability and Transparency), S. 77–91.
Kreissl, R. & Laufenberg, R. von (2024): Risiken und Gefahren der ‚Künstlichen‘ ‚Intelligenz‘. In: Heinlein, M. & Huchler, N. (Hrsg.) Künstliche Intelligenz, Mensch und Gesellschaft: soziale Dynamiken und gesellschaftliche Folgen einer technologischen Innovation. Springer VS, Wiesbaden, S. 225-262.
Mosene, K. (2025): Warum KI Vergangenes vorhersagt und Diskriminierung fortschreibt. https://www.fes.de/news/warum-ki-vergangenes-vorhersagt-und-diskriminierung-fortschreibt. Accessed 6/5/2026.
Rogalla, I. (2024): Maschinen lernen nicht! – „Machine learning“-Algorithmen entzaubert. In: Heinlein, M. & Huchler, N. (Hrsg.) Künstliche Intelligenz, Mensch und Gesellschaft: soziale Dynamiken und gesellschaftliche Folgen einer technologischen Innovation. Springer VS, Wiesbaden, S. 131–150.
Ipsos. (2024): Wie sehr stimmen Sie der folgenden Aussage zu: Ich vertraue darauf, dass KI nicht diskriminiert oder voreingenommen gegenüber einer Gruppe von Menschen ist. Statista. Statista GmbH. Zugriff: 05. Juni 2026. https://de.statista.com/statistik/daten/studie/1402783/umfrage/vertrauen-in-kuenstlicher-intelligenz/
