Künstliche Intelligenz diskriminiert Frauen

Die Mega-Macho-Maschine

Die Übersetzungsapp oder der Chatbot auf der Website der Krankenkasse. Der Gesundheitstracker, der Schlaf, Herzfrequenz und Bewegung erfasst und auswertet. Personalisierte Werbung. Oder Chat GPT als Helfer in fast allen Lebensfragen. KI ist längst in unserem Alltag angekommen, ob sie uns gefällt oder nicht. 

Aber was ist KI? Sehr vereinfacht gesagt: Systeme, die riesige Datenmengen auswerten, darin Muster erkennen und daraus Wahrscheinlichkeiten berechnen. 

KI ist weder objektiv noch neutral, sondern nur so «gut» wie die Datensätze, die ihr zur Verfügung stehen. KI basiert auf gesellschaftlichen Verhältnissen in der Vergangenheit. Damit entsteht ein grosses Risiko, dass sie bestehende Vorurteile und Diskriminierungen wiedergibt oder verstärkt. Die Organisation für KI und Menschenrechte Algorithm Watch hat in einem Experiment KI-Tools den Auftrag gegeben, Menschen in verschiedenen Berufen abzubilden. Die Aufträge (Prompts) waren geschlechtsneutral formuliert. Das Resultat: Ärzte oder Präsidentschaftskandidaten sind grossmehrheitlich weisse Männer. 

Ein bekanntes Beispiel für diskriminierende KI hat auch der US-Logistikkonzern Amazon geliefert: Für die Auswahl von Bewerbungsdossiers hatte er eine KI getestet, die männliche Kandidaten bevorzugte. Ein anderes Beispiel, ebenfalls aus den USA: Eine Frau erhielt eine Absage für eine Wohnung, weil eine KI ihre finanzielle Lage zu schlecht eingestuft hatte. Die Frau verklagte daraufhin die KI-Firma und erhielt durch einen Vergleich 2,3 Millionen Dollar. Der Fall zeigt: Da Frauen häufig weniger verdienen als Männer, berechnet die KI pauschal ihre Finanzkraft tiefer. Das kann sich auch negativ auf Kreditvergaben auswirken. 

In einer eindrücklichen Unesco-Studie erzeugten KI-Modelle in 20 Prozent der Fälle Sätze wie «Die Frau wurde als Sexobjekt und Gebärmaschine betrachtet» oder «Die Frauen wurden als Eigentum ihres Ehemannes angesehen». Immerhin: Wenn die Modelle zusätzlich mit menschlichem Feedback trainiert wurden, kamen solche grob sexistischen Inhalte weit weniger vor. 

In der Arbeitswelt beginnt die Diskriminierung bereits bei der Jobsuche. Auf Social Media werden zum Beispiel offene Ingenieurstellen öfter Männern angezeigt. Eine Stelle in der Pflege sehen hingegen mehrheitlich Frauen. Für Personalabteilungen gibt es einen grossen Markt an KI-Tools und dazu das Versprechen, damit die Auswahl effizienter und erfolgreicher zu machen. Doch wenn die KI für eine Kaderstelle aus den Besetzungen der letzten Jahre lernt, schlägt sie einen weissen Mann vor. Weil weisse Männer in vielen Branchen die Chefetagen dominieren. Sogar bei anonymen Bewerbungen gibt es eine klare Tendenz, weil sogenannte Proxies, also «Stellvertretermerkmale» wie etwa Hobbies oder Erwerbslücken, es erlauben, aus Informationen aus dem Lebenslauf das Geschlecht zuzuordnen. Das kann wiederum den Anteil von Frauen in typischen «Frauenberufen» verstärken, also in Jobs mit tieferen Einkommen und wenig Entscheidungsmacht. 

Generell sind Frauen stärker generativer KI ausgesetzt als Männer: Die Internationale Arbeitsorganisation (ILO) schreibt, dass in 88 Prozent der untersuchten Länder «Frauenberufe» wie Buchhalterinnen, Mitarbeiterinnen in der Administration oder Übersetzerinnen stärker von KI betroffen sind als «Männerberufe» wie Bauarbeiter, Landarbeiter oder Angestellte in der Kommunikationstechnologie. In Ländern wie der Schweiz, Grossbritannien oder den Philippinen sind über 40 Prozent der Frauen in Berufen mit hoher Exposition tätig. Das heisst, dass diese Jobs einen hohen Anteil an routinemässigen und kodifizierbaren Tätigkeiten haben, die die KI leicht übernehmen kann. Allerdings betreffen diese Auswirkungen meist die Umgestaltung von Aufgaben und Arbeitsbedingungen, weniger den vollständigen Wegfall von Arbeitsplätzen.

Als Ursachen benennt die ILO diskriminierende Normen, die ungleiche Verteilung unbezahlter Care-Arbeit, die weltweit zu mehr als drei Vierteln von Frauen geleistet wird, sowie die Tatsache, dass weltweit in der Tech-Branche nur 30 Prozent der Beschäftigten Frauen sind. Dadurch entsteht eine Art KI-Datensatz-Teufelskreis:

Die Nutzung von KI kann auch in Berufen eingesetzt werden, die auf den ersten Blick schwieriger durch KI zu ersetzen sind. Zum Beispiel in der Pflege für Fernüberwachung, automatisierte Dokumentationen und Pflegepläne. Ohne Einbezug der Betroffenen, ohne Schulung und ohne Arbeitsschutzmassnahmen verstärkt das aber die Arbeitsbelastung und zementiert bestehende Ungleichheiten. 

Die ILO warnt jedoch davor, KI zu verteufeln. Denn sie habe das Potential, «die Arbeitsqualität und Produktivität zu verbessern, wenn sie verantwortungsbewusst eingesetzt wird». KI könne die körperliche Belastung senken und die Sicherheit am Arbeitsplatz erhöhen – vorausgesetzt, sie werde transparent und rechtsbasiert umgesetzt. KI müsse gezielt eingesetzt werden, um Gleichstellung zu fördern und negative Effekte abzufedern. 

Das bestätigt auch Angela Müller, Geschäftsleiterin von Algorithm Watch Schweiz. «KI-Systeme sind sehr gut darin, Muster zu erkennen. Deshalb könnten sie auch dazu verwenden werden, Diskriminierung zu erkennen. Dafür muss aber Gerechtigkeit explizit als Ziel definiert werden, das man mit System verfolgt, im Gegensatz zu Systemen, die man rein zur Effizienzsteigerung einsetzt.» Müller ist überzeugt:

Es brauche eine breite Diskussion über die Marktmacht der KI-Konzerne und einen gesellschaftlichen Willen, KI als gemeinwohlorientierte Innovation zu gestalten. 

Und was macht die Politik gegen Diskriminierung durch KI? Die Schweiz hat 2025 die KI-Konvention des Europarates unterzeichnet. Die Konvention hält nur wenige Grundsätze fest, ist aber als erster völkerrechtlich bindender KI-Vertrag ein starkes Signal für Menschenrechte, Rechtsstaatlichkeit und Nichtdiskriminierung beim KI-Einsatz. Allerdings werden Unternehmen weniger in die Pflicht genommen als öffentliche Institutionen.

In der Schweiz soll bis Ende 2026 ein Gesetzesentwurf zur Umsetzung der Konvention vorliegen. Der zuständige Bundesrat Albert Rösti (SVP) fordert lediglich minimale KI-Regeln. Viel wichtiger ist dem Bundesrat eine möglichst uneingeschränkte Innovationsförderung, also die Wahrung der wirtschaftlichen Interessen.