KI-Expertin über FairTech: „Frauen dürfen nicht die Verliererinnen sein“

Frau Saidze, sind Algorithmen ungerecht?
Sie können es sein, und sie sind es noch zu oft. Natürlich sind Algorithmen nicht aus einer bösen Absicht heraus oder in unserem moralischen Sinne ungerecht. Aber sie bilden vorhandene, teilweise ungerechte Verhältnisse ab und ziehen daraus Schlüsse, die zu weiteren Ungerechtigkeiten führen können.

Was bedeutet das im Arbeitsleben für die Chancen unterschiedlicher Menschengruppen?
Das fängt ganz früh an, noch vor der Bewerbung: Erfahre ich überhaupt von Jobchancen in einer bestimmten Branche oder Firma? In den sozialen Medien wird personalisierte Werbung ausgespielt, und dabei kommen Kennzeichen wie das Geschlecht, Alter oder die Hautfarbe zum Tragen. Eine Studie aus den USA zeigte, dass breit angelegte Anzeigen auf Facebook für Supermarkt-Kassiererinnen einem Publikum von 85 Prozent Frauen gezeigt wurden, während Stellen bei Taxiunternehmen an ein Publikum gingen, das zu 75 Prozent schwarz war. Der Algorithmus reproduzierte also Vorurteile aus der realen Welt.

Das jeweilige Publikum, das diese Anzeigen erhält, ist sich der Verzerrungen meist nicht bewusst.
Deswegen ist es nötig, dass alle mehr über KI wissen. Das ist mein Ansatz in meinem Buch „FairTech“ und der von mir gegründeten Beratungs- und Lobbyorganisation „Inclusive Tech“. Es geht darum, diese mächtigen Technologien zu demokratisieren und gerecht zu gestalten. Dazu braucht es vor allem Bildung: Nur wer Daten verstehen und kommunizieren kann und weiß, was KI ist und wie wir damit umgehen, kann in unserer Gesellschaft in Zukunft teilhaben. Bis 2025 wird erwartet, dass fast 70 Prozent der Mitarbeitenden in ihrem Beruf viel mit Daten arbeiten werden – 2018 waren es noch 40 Prozent. Das heißt nicht, dass jeder programmieren lernen muss. Aber ein Grundverständnis ist nötig.

Im Moment sind von den Beschäftigten in der Tech-Branche nur 17 Prozent Frauen. Auch die Start-up-Szene, ob Tech oder nicht, ist sehr männlich geprägt.
Genau das muss sich ändern. In anderen Ländern ist der Frauenanteil an den Tech-Berufen deutlich höher, in Indien liegt er zum Beispiel bei 40  Prozent. Viele Frauen glauben, dass Tech-Jobs trocken und langweilig wären. Aber das stimmt nicht: In diesen Jobs hat man viel mit Menschen zu tun. Wer neue Tech-Produkte entwickelt oder vorantreibt, braucht viel Empathie, Kreativität und Kommunikationsfähigkeit, um zwischen Abteilungen und Teams zu vermitteln. Mehr Frauen sollten sich für diese Jobs öffnen – auch damit sie Produkte entwickeln, die die Bedürfnisse und Perspektiven von Frauen besser widerspiegeln. Das gilt genauso für andere unterrepräsentierte Gruppen, etwa für ethnische Minderheiten.

Durch Künstliche Intelligenz werden neue Jobs entstehen, aber auch viele alte verloren gehen …
… und die Gefahr besteht, dass Frauen in diesem Prozess die Verliererinnen sind. Wir sprechen hier von ,Substituierbarkeitspotenzial‘: Frauen sind überproportional in Jobs beschäftigt, die sich durch Automatisierung ersetzen lassen, etwa die Kassiererin im Supermarkt oder die Angestellte am Check-in-Counter, Steuerfachangestellte und Bankkaufleute.

Allerdings sind auch besonders viele Frauen in Bereichen tätig, die die künstliche Intelligenz nicht ersetzen kann: als Erzieherin, Altenpflegerin, Lehrerin …
Das stimmt. Aber auch in diesen Bereichen wird es zunehmend wichtig sein, mit Daten umgehen zu können. Deswegen brauchen wir eine breit angelegte Bildungsoffensive und ein neues Schulfach „Datenkunde“, um die junge Generation auf die veränderte Arbeitswelt vorzubereiten und den Älteren den Anschluss zu ermöglichen.

Was können Unternehmen tun, um ihre Prozesse gerechter zu gestalten?
Sie müssen im Recruiting wegkommen vom Bauchgefühl und hin zu einem evidenzbasierten Handeln. Sie sollten verstärkt auf People & Culture Analytics setzen und erfassen: Wer guckt sich unsere Webseite an? Welche Gruppen sprechen wir damit an oder schließen wir aus? Wer bewirbt sich bei uns, ist unser Talentpool, sind unsere Mitarbeitenden divers, alle Gruppen angemessen repräsentiert?

Also: Messen, messen, messen?
Was ich nicht messen kann, kann ich nicht anfechten. Wir brauchen diese Daten, um das Ausmaß der strukturellen Ungleichheit erkennen und dem entgegenwirken zu können.

Ihre Eltern sind Anfang der 1990er Jahre aus Afghanistan nach Deutschland gekommen, Sie sind in Hamburg geboren …
… und ich habe natürlich auch Diskriminierung erfahren, habe mich oft sozusagen wie der Ausreißer im Datensatz gefühlt. Deswegen liegt mir so viel daran, dass diese Technologien gerecht eingesetzt werden. Die Tech-Branche bietet gerade Menschen aus weniger privilegierten Verhältnissen große Chancen. Durch gezielte Fort- und Weiterbildung haben auch Quereinsteiger:innen viele Möglichkeiten. Ich hätte es sonst nicht geschafft. Dafür bin ich dankbar.