Wie unfair ist KI wirklich? Warum künstliche Intelligenz unsere Vorurteile nicht erfindet, sondern verdichtet – und was jede und jeder Einzelne dagegen tun kann.
Bitte eine KI, dir einen Menschen zu zeigen. Dann noch einen. Und noch einen.
Was zurückkommt, ähnelt sich erstaunlich: jung, makellose Haut, sehr symmetrisches Gesicht. Menschen, die offenbar nie zu wenig geschlafen haben. Kurz: Sie entsprechen einer geschönten Norm.
Ist die KI deshalb unfair? Oder zeigt sie uns nur schonungslos, welche (Vor)-Bilder wir ihr geliefert haben?
In dieser Folge spreche ich mit Simone Scholz – Data Scientist, heute selbstständige KI-Trainerin mit Schwerpunkt auf fairer künstlicher Intelligenz. Ihr Weg führte von der Bühne der Wiener Staatsoper über Jahre bei A1 in die Welt der Daten.
JETZT REINHÖREN in Folge 33 >> mit Data Scientist Simone Scholz
Simones Einblicke und Tipps für faire KI:
Die KI erfindet wenig – sie verdichtet mehr
Hinter dem Chatbot steckt Mathematik. Wahrscheinlichkeitsrechnung und Mustererkennung, trainiert auf enormen Datenmengen. Diese Mustererkennung komprimiert genau das, was wir Menschen vorgelebt haben – und spielt es geballt zurück. Deshalb nehmen wir Diskriminierung über die KI oft stärker wahr als im Alltag.
Bias, kurz übersetzt: Verzerrung. Jeder Mensch hat sie, ob er will oder nicht – digital übertragen wir diese Verzerrungen sie in die Daten, die wir täglich millionenfach produzieren
Warum Instagram im Bildgenerator landet. Ein großer Teil der Trainingsdaten stammt aus Social Media. Dort zeigen wir uns von der Schokoladenseite: schlechte Haut? Filter drüber. Müde Augen? Anderes Posing. Wir dokumentieren nicht, wie wir aussehen, sondern wie wir aussehen möchten.
„Würdest du dich trauen, morgen in der Früh nach dem Aufstehen gleich ein Selfie zu machen und auf Instagram hochzuladen? Wenn das Millionen Menschen machen, weiß der Algorithmus in kürzester Zeit, wie wir wirklich ausschauen.“
Simone Scholz
Wir sprechen darüber:
- ✔ warum KI-Bilder von Menschen fast immer gleich aussehen
- ✔ wo Verzerrung entsteht: in den Daten, im Algorithmus oder in der Evaluierung
- ✔ was der Amazon-Recruiter und Predictive Policing über Skalierung verraten
- ✔ wie du Stereotype schon im Prompt durchbrichst
- ✔ warum diverse Teams der wirksamste Bias-Filter sind
- ✔ was der EU AI Act an Transparenz verlangt
Denn am Ende geht es nicht darum, ob KI Vorurteile hat. Die hat sie – weil wir sie haben. Es geht darum, sie zu erkennen, bevor ein System sie tausendfach multipliziert.
Wo die Verzerrung entsteht
Verzerrung sitzt nicht an einer Stelle: Sie kann in den Trainingsdaten stecken, im Algorithmus selbst oder erst in der Evaluierung auftauchen. Am häufigsten sind es die Daten. Aus historischen Mustern lernt das System, dass es eben üblich ist, bei der Wohnungsvergabe unfair zu handeln – und liefert genau das zurück.
Der Kredit, der nicht vergeben wurde. Eine Bank verweigert einer Frau einen Kredit – aus wirtschaftlicher Vorsicht und durchaus gut gemeint, um sie vor Altersarmut zu schützen. Umgekehrt betrachtet: Vielleicht will diese Frau mit dem Kredit ein Business aufbauen und damit genau der Altersarmut entgehen.
Dieselbe Sachlage, zwei Blickwinkel, kein eindeutiges Richtig oder Falsch. Ein Problem versteht man meist erst durch die Brille der Betroffenen.
Der Unterschied heißt Skalierung
Das Amazon-Recruiting-Tool. Der Konzern trainierte eine KI darauf, Top-Kandidat:innen zu identifizieren. Weil in der Vergangenheit überwiegend Männer eingestellt worden waren, wählte das System vor allem Männer aus. Hätten zwei Personalverantwortliche diesen Bias, wären es zwei. Wird ein solcher Algorithmus als Service weiterverkauft, sind es Tausende.
Predictive Policing in den USA. Die Polizei kontrollierte über Jahre primär dunkelhäutige Menschen. Der Algorithmus las daraus: Dunkelhäutige Menschen werden häufiger kriminell. Sein Vorschlag: noch öfter kontrollieren. Ein Selbstläufer, der sich mit jeder Runde bestätigt.
Aus so einer Spirale kommt man nur heraus, wenn man sich das Problem bewusst macht. Meist braucht es dafür jemanden von außen, der fragt: Was macht ihr da eigentlich?
Damit sind wir wieder beim Human in the Loop: KI führen, statt ihr zu folgen.
Was du selbst tun kannst: die KI erziehen
Stereotype im Prompt durchbrechen. Nutze die Rollenzuweisung bewusst gegen das Klischee: „Du bist eine erfahrene Rechtsanwältin.“ „Du bist eine erfahrene Chirurgin.“
Widersprechen statt übernehmen. Kommt ein diskriminierendes Ergebnis zurück, sag es der KI – und korrigiere die Sichtweise.
„Das Schöne an diesen KI-Chatbots ist, dass es ein Dialog ist. Somit kann ich die KI auch ein wenig erziehen. Wenn das Millionen von Menschen so machen, dann bringen wir ihr ganz schnell bei: Hey, das geht auch anders.“
Simone Scholz
Werte mitgeben – kontinuierlich. Eine KI, die Unsinn gelernt hat, kann auch das Gegenteil lernen. Entscheidend ist, dranzubleiben: nicht einmal korrigieren, sondern immer wieder.
Was Unternehmen tun können
Messen und dann diskutieren. Mathematische Metriken zeigen, ob ein Vorhersagemodell verzerrt ist. Die Zahl allein entscheidet nichts – es braucht die Auseinandersetzung darüber, was folgt. Die Bandbreite reicht von „wir passen an“ bis „wir lassen diesen Produktlaunch, weil er zu unfair ist“.
Nicht jede Ungleichbehandlung schadet. Du bekommst ein Angebot per Mailing, deine Freundin nicht – bekommt sie es im Shop trotzdem, ist niemandem geschadet. Heißt es dort aber „das bekommen Sie nicht“, und der einzige Grund ist Geschlecht oder Herkunft, dann ist es negative Diskriminierung.
Diverse Teams als Superfilter. Verzerrung fällt vor allem denen auf, die sie am eigenen Leib kennen. Vielfalt in Alter, Herkunft und Geschlecht ist keine Imagefrage, sondern eine Frage der Fehlererkennung.
Was der EU AI Act verlangt. KI-generierte Bilder sollen gekennzeichnet werden, bei Videos gleich zu Beginn, bei Texten im öffentlichen Bereich. Und wer Bewerbungen weitgehend autonom vorsortieren lässt, muss die Bewerber:innen informieren. Härter wird die Nachvollziehbarkeit: Bei klassischen Regressionsmodellen ließ sich erklären, warum ein Ergebnis zustande kam – bei heutigen Deep-Learning-Systemen kaum noch.
Jedes Sandkorn zählt
Das Muster ist älter als die KI: Medikamente sind oft auf einen durchschnittlichen Mann dosiert – und für eine deutlich leichtere Frau womöglich überdosiert. Neu ist nur, wie schnell und wie oft die Verzerrung jetzt wirkt.
„Ich bin zwar nur ein kleines Sandkorn. Aber wir sind so viele Menschen auf dieser Erde – und wenn jeder sein Sandkorn in ein Loch schmeißt, dann haben wir dieses Loch bald gefüllt.“
Simone Scholz
Und ein Punkt liegt mir besonders am Herzen, gerade für kleine Unternehmen: Übernimm KI-Texte nie eins zu eins. Wenn in deinen Texten nicht mehr du erkennbar bist, sondern die Maschine, ist die Persönlichkeit weg – und damit die Marke.
Takeaways für die Praxis
- Bias ist kein KI-Problem, sondern ein Datenproblem. Frag bei auffälligen Ergebnissen: Welche Daten stecken dahinter – und wessen Realität bilden sie ab?
- Durchbrich Stereotype schon im Prompt. Weise Rollen bewusst gegen das Klischee zu: die erfahrene Chirurgin, die erfahrene Rechtsanwältin.
- Widersprich, wenn der Output diskriminiert. Chatbots sind ein Dialog – sag der KI, was nicht stimmt.
- Gib der KI deine Werte mit – dauerhaft. Einmal korrigieren reicht nicht.
- Rechne mit dem Skalierungseffekt. Zwei voreingenommene Personalverantwortliche betreffen ein Unternehmen. Ein voreingenommener Algorithmus betrifft Tausende.
- Setz auf diverse Teams. Verzerrung erkennt am ehesten, wer sie selbst erlebt hat.
- Prüf deine Transparenzpflichten. KI-Bilder kennzeichnen, bei autonomen Entscheidungen informieren – und Texte immer mit der eigenen Stimme versehen.
Über Simone Scholz: Data Scientist, KI-Trainerin mit Fokus auf Fair AI
Gesprächspartnerin
Simone begann ihre Laufbahn nicht in der Technik, sondern im Ballett – bis auf die Bühne der Wiener Staatsoper. Was sie am Leistungssport überzeugte, war der Fairnessgedanke: Herkunft zählt nicht, die eigene Leistung schon.
Als Data Scientist bei A1 hat sie anschließend vieles mitgestaltet – von Marketinganalysen bis zum Change Management. Heute ist sie selbstständige KI-Trainerin und beschäftigt sich intensiv mit fairer künstlicher Intelligenz und Female AI.
Diese Kombination macht ihren Blick besonders: Sie kennt die Mathematik hinter den Modellen und stellt zugleich die Frage, für wen ein Ergebnis eigentlich gerecht ist.
ÜBER DEN PODCAST
Host in Folge 33 ist Petra Liebl, Expertin für digitales Marketing mit KI und langjährige Unternehmensberaterin mit Schwerpunkt Marketing.
Mit ihrem digitalen und Marketing-Background geht es für Petra darum, den Blick weg von Tools, hin zum zentralen Erfolgsfaktor für digitale Transformation zu lenken: Dem aktiven Gestalten von und für Menschen in Organisationen – und dabei den Blick für Chancen aber auch kritisches Denken und Handeln im Umgang mit KI-Tools zu schärfen.
Erfolgreiches Marketing beginnt nicht bei der KI, sondern bei deinen Stärken, deiner Tonalität und deiner Zielgruppe. Deshalb hat Petra FELIX entwickelt: ein KI-Marketing-System für KMUs und Einzelunternehmer, das markentreue Texte und Social-Media-Posts liefert – ganz ohne KI-Vorwissen.
Mehrere Prompts sind als Workflow zB in Assistenten integriert. Diese Assistenten liefern ‚automatisch‘ – also ohne zusätzliches Prompting – fertige Ergebnisse für bestimmte Aufgaben.
Petra LIEBL – Content Bakery
Als erfahrene Onlineexpertin und zertifizierte Digitalberaterin verbindet Petra Strategie, digitales Marketing und KI zu wirkungsvollen Online-Lösungen für Unternehmer:innen.
„Wir wollen den Blick weg von Technik, hin zum zentralen Erfolgsfaktor für digitale Transformation lenken: Dem aktiven Gestalten von und für Menschen in Organisationen.“
Im Podcast „Vom Hype zum Handeln“ tauchen wir in weiteren Folgen noch tiefer in einzelne Aspekte ein, lassen Experten zu Wort kommen und stellen praktische Beispiele aus der Unternehmenspraxis vor. Dabei werden sowohl erfolgreiche Implementierungen als auch Lernerfahrungen aus weniger erfolgreichen Versuchen geteilt, um Unternehmen den Weg in die KI-gestützte Zukunft zu erleichtern.
In „Vom Hype zum Handeln“ …
- beleuchten wir verschiedene Anwendungsfelder
- teilen wir eigene Erfahrungen und Insights
- bieten wir Experteninterviews mit Praktikern
- stellen wir konkrete Implementierungsbeispiele vor
- besprechen wir KI-Entwicklungen