Du bist nicht mit dem Internet verbunden.
Corporate logo
ComputingHintergrund 3113

Sexistisch, rassistisch und mit Tunnelblick: Drei kritische Punkte von KI

Empfehlungen von Suchmaschinen, auf User zugeschnittene Werbung oder Verkehrszählungen: Der Einsatz von KI ist vielfältig. Das kann sehr positive Effekte haben, aber auch sehr negative. Ich verrate dir, wo Chancen und Risiken von Künstlicher Intelligenz lauern.

Ich schreibe gerade einen Artikel über eGPUs und benötige dafür mal wieder Windows 10. Nach der Installation begrüsst mich Cortana. Die Stimme habe ich gefühlte tausend Mal gehört, obwohl ich im Alltag nicht vom Microsoft-Sprachassistenten gebrauch mache. Dieses Mal werde ich stutzig. Wieso sprechen die smarten Helferlein alle standardmässig mit weiblicher Stimme?

Wodurch sich KI, Machine Learning und Deep Learning unterscheiden
ComputingHintergrund

Wodurch sich KI, Machine Learning und Deep Learning unterscheiden

Künstliche Intelligenz – Wann gilt sie als intelligent?
SmarthomeHintergrund

Künstliche Intelligenz – Wann gilt sie als intelligent?

Sexistische KI?

Mittlerweile kannst du auch männliche Stimmen auswählen. Aber bis hierhin hat es ein paar Jahre gedauert. Auf der Suche nach Erklärungen stosse ich auf eine Studie der EU. In dieser steht, dass die IT-Technologien zu einem grossen Teil von Männern entwickelt werden. Frauen seien in Europa bei Informatik-Berufen immer noch massiv untervertreten.

Das Thema wurde bereits diskutiert. Laut offiziellen Stellungnahmen der Entwickler erachten wir Menschen weibliche Stimmen als angenehmer und vertrauenserweckender als männliche Stimmen. Das mag sein. Dass ich die Sprache des Assistenten, zumindest in deren Anfängen, nicht wählen konnte, finde ich trotzdem nicht in Ordnung. Wieso? Weil suggeriert wird, dass Assistenten weiblich sind und das Weibliche als untergeordnet betrachtet werden muss. Das Weibliche – repräsentiert durch die feminine Stimme des Assistenten – ist da, um dem Besitzer oder der Besitzerin zu dienen. Die AssistentIN befindet sich so in einer hierarchisch untergeordneten Rolle. Sie ist das Schwächere von zwei Gliedern.

Vielleicht denkst du dir jetzt, dass das nicht weiter schlimm ist, es betrifft ja nur die Sprachausgabe des Assistenten.

Apropos: Ist dir etwas aufgefallen?

Wir benennen die Assistenten ausschliesslich in ihrer männlichen Form. Wir sprechen nicht von Assistentinnen, sondern von Sprachassistenten. Das Intelligente an der Technologie bezeichnen wir als männlich, obwohl es mit einer weiblichen Stimme zu uns spricht. Hier ziehen wir sprachlich eine Grenze zwischen Technologie als männlich und intelligent und dem ausführenden Ding – also der dienenden Sprachassistentin –, als weiblich.

Es ist diese systematische Unterordnung des Weiblichen, die es bei der Entwicklung von KI zu hinterfragen gilt. Ansonsten wird das Bild des Weiblichen als hierarchisch untergeordnet nicht nur in den Köpfen von uns Menschen gefestigt, sondern unbewusst auch von Künstlichen Intelligenzen übernommen. Ich behaupte nicht, dass männliche Entwickler durchs Band sexistisch sind. Aber wir alle werden von gewissen Bildern und Vorstellungen beeinflusst, und dessen sind wir uns häufig nicht bewusst. Wir reflektieren sie nicht. Bei einer Berufsgruppe, bei der der Anteil von Männern so gross ist, wie in der IT, kommen gewisse Vorurteile mehr zur Geltung.

Das Beispiel zeigt gut, dass KI sehr wohl beeinflusst werden kann und deshalb nie wirklich vorurteilsfrei ist. Wenn sich Entwickler und Entwicklerinnen diesem Umstand bewusst sind, und aus diversen Teams bestehen, kann dem Rechnung getragen werden. Mit diversen Teams meine ich solche, die aus Personen verschiedenen Geschlechts, Alters und Herkunft bestehen. So kann KI tatsächlich vorurteilsfreier werden.

Filterblasen

Das Internet ist frei. Jeder oder jede kann sich die Informationen beschaffen, die er oder sie will. So zumindest die Theorie. Mit den Social-Media- oder Suchmaschinen-Algorithmen stimmt das aber nicht ganz. Die KI von Social Media zeigt Usern nur jene Inhalte, die ihren Interessen entsprechen. Wenn ich etwas like, dann werden mir ähnliche Inhalte angezeigt. Durch das Filtern der Inhalte wird mein Sichtfeld reduziert: Ich sehe nur die Inhalte, die meinen Interessen entsprechen.

Folge ich beispielsweise Steve Bannon auf Twitter, erhalte ich vor allem Empfehlungen für politisch rechte Inhalte. Folge ich hingegen der DigitalFoundry auf Youtube, erhalte ich vor allem Empfehlungen für Game-Tech-News. Mein Horizont wird eingeschränkt. Fake News lässt grüssen.

Was einerseits ein Nachteil ist, kann sich auch ins Gegenteil umkehren. Wenn ich mich für andere Inhalte interessiere, eröffnen mir die Social-Media- oder Suchmaschinenen-Algorithmen neue Perspektiven. Ich komme schneller in neue Themen rein, knüpfe Kontakte mit neuen Leuten und erweitere meinen Horizont.

Kulturelle Implikationen

Dieser Punkt ist eine Konsequenz von Filterblasen. Wie die meisten anderen Streaminganbieter hat auch Spotify eine Empfehlungsfunktion. Das hat grosse Auswirkungen darauf, wer sich was anhört.

Gehen wir davon aus, dass Spotify dank Big Data mehr über uns weiss, als was wir uns so anhören. Aufgrund unseres Alters, Geschlechts und Herkunft gibt uns Spotify nun spezifische Empfehlungen basierend darauf, was andere User mit ähnlichen Merkmalen hören. Als Mann Mitte 30, gebürtiger Schweizer und leidenschaftlicher Gamer, empfiehlt mir Spotify am ehesten Metal. Ein in der Bronx wohnhafter Afro Amerikaner erhält hauptsächlich Empfehlungen zu Hip Hop.

Racial Profiling lässt grüssen.

Du merkst: Auch in diesem Punkt habe ich ein Problem damit, dass wir in ein gewisses Schema gedrückt werden. Und das tut die KI in diesem Beispiel. Sie schreibt uns vor, welche Musik wir aufgrund gewissen Eigenschaften zu hören haben. Dabei gäbe es soviel zu entdecken. Und wer lässt sich gerne in ein Schema drücken? Persönlich finde ich die Welt viel interessanter, wenn nicht jede oder jeder einem bestimmten Klischee entspricht.

Fazit

KI an sich ist weder Gut noch Böse. Sie birgt aber Chancen und Risiken. In welche Richtung sie tendiert, hängt von ihrer Entwicklung und Nutzung ab. Sie kann uns helfen, wertfreier zu sein und Diversität in all ihren Facetten zu erleben. Sie kann aber auch zu einer Homogenisierung führen, bestehende Vorurteile festigen sowie bestimmte Gruppen und Personen stereotypisieren.

In welche Richtung KI geht, bestimmen – zumindest bis jetzt – immer noch wir. Dazu müssen wir aber bestehende soziale Umstände reflektieren und in die Entwicklung von KI einfliessen lassen. Diverse Teams können zusätzlich helfen, KI möglichst wertfrei zu halten.

Diese Beiträge könnten dich auch interessieren

Acer Swift 5: In jedem Fall ein Leichtgewicht
ComputingReview

Acer Swift 5: In jedem Fall ein Leichtgewicht

Lenovo Yoga C930: Scharfes Teil
ComputingReview

Lenovo Yoga C930: Scharfes Teil

MacBook Air 2018: Wieso gibt es dich noch?
ComputingReview

MacBook Air 2018: Wieso gibt es dich noch?

User

Kevin Hofer, Zürich

  • Editor
Technologie und Gesellschaft faszinieren mich. Die beiden zu kombinieren und aus unterschiedlichen Blickwinkeln zu betrachten ist meine Leidenschaft.

31 Kommentare

3000 / 3000 Zeichen
Es gelten die Community-Bedingungen.

User MakeAppsNotWar

Find ich jetzt bissl überzogen und weit hergeholt.
Man nennt es Assistant und nicht Assistäntin, da 1. Man im Englisch kein Verweiblichungs form davon hat. Es ist einfach the assistant.

Und zweitens, wenn man von Gruppen redet, redet man eigtl. immer in Männlicher Form.

Schau mal die Gruppe Giraffen. Auch wenn diese weiblich wären.

Klar. Es ist generell besser Optionen zu haben. Aber es ist pbertrieben wenn alles und überall exakt 100% Gleichgewicht herst.

Zudem ist es ja auch faktisch belegt, dass Männlein als aich Weiblein Frauen stimmen bevorzugen.

14.09.2018
User Kevin Hofer

Hi MakeAppsNotWar
Merci für deinen Kommentar. Es freut mich, dass du meinen Text kritisch liest. Klar, im Englischen gibt es keine weibliche Form, wir sprechen aber ja auch Deutsch und hier gibt es eine weibliche Form. Und wieso müssen wir eigentlich bei Gruppen immer die männliche Form verwenden?

Und genau darum geht es mir bei meinem Text: Wir sollten gesellschaftliche "Gegenheiten" stets hinterfragen und eben nicht einfach als gegeben hinnehmen. Nur so entwickeln wir uns als Gesellschaft weiter (ob nun ins Positive oder Negative sei dahingestellt). Vergleich's mit der Softwarentwicklung: Wenn was in Version 1.0 nicht richtig läuft, verbessern wir's in Version 1.1

14.09.2018
User 01andiplayz

Oder wir machen nochmals Version 1.0. Einfach auch mit männlicher Stimme, sodass Sie nichts mehr zu meckern haben...

14.09.2018
User MakeAppsNotWar

Hey Kevin, danke für die Antwort :)
Naja. Das sind halt einfach Gegebenheiten die sich so eingebürgert haben.
Muss sich das wirklich ändern?
Da halt ichs ja fast noch für sinnvoller Men aus Women zu entfernen. Auch wenn das schon bescheuert ist.
Klar. Wechsel fördert die Gesellschaft, aber ds gibts nun wirklich besseres das man mal wechseln sollte, also solche Pipifaxxe.

Und eigtl. kannst dus auch anderst rum ansehen:
Wir ehren die Frauen, in dem wir sie in den Vordergrund stellen.
Wieso denn immer alles negativ betrachten?

14.09.2018
User RealMajor

genau MakeAppsNotWar.. zudem ist einfach einfacher gruppen mänlich zu schreiben.. es ist kürzer und die einfachere form des grundnomen... zudem gedruckt benötigt es mehr papier und tinte.. macht schon alles seinen sinn so... die sprache hat sich auch zur effizienz hin entwickelt erst mit dem binnen-i hat der ganze unfug angefangen '^ ^ und das man in woman steht ja auch für mensch und nicht nur mann man wie mankind... würde man da anfangen könnte man sich fragen ob das eine oder andere geschlecht das andere überhaupt noch als mensch sieht.. bei allen hinterfragen ich sehe diesbezüglich überhaupt kein fortschritt.. man kanns ja auch mal gut sein lassen =) und BTW dieser kommentar kann spuren von sarkamus und ironie enthalen... wollte zuerst eigentlich besser gar nix zu schreiben ;-)

15.09.2018
User ZORB

Weiso muss man Ki's überhaupt ein Geschlecht zuordnen? Das macht für Nicht-biologische Lebewesen gar keinen Sinn. Kann man nicht einfach eine Stimme zwischen typisch männlich und typisch weiblich wählen?

02.10.2018
Antworten
User Dr. Ache

Hallo Kevin

Ich möchte darauf hinweisen, dass der Genus eines Wortes nicht mit dem biologischen Geschlecht des Trägers zutun hat. Auch wenn mir der eine oder andere Feminist da widersprechen würde, aber rein linguistisch ist es Unsinn, zu sagen, dass ein Assistent keine Frau sein kann.

14.09.2018
User Dr. Ache

Genau so bin ich als Mann immer eine Person, eine Frau ist immer ein Mensch. Eine Frau kann ein Gast, aber niemals eine Gästin sein. Nur weil wir ein Kind waren, heisst das nicht, dass wir unser Geschlecht erst bekommen haben, als wir dann als Mann oder Frau bezeichnet wurden. Und ein weibliches Kind verliert keinen Penis, weil sie zuerst als Säugling und später als Mädchen bezeichnet wird.

14.09.2018
Antworten
User phaupt

Ehrlich gesagt finde ich das ganze im Artikel schon etwas überdramatisiert.
Ich verwende meistens die männliche Form, weil sie kürzer ist. Ich warte nur noch darauf, bis unsere Sprache deswegen angepasst werden muss ;)
Dass sich Spotify meinem Musikgeschmack anpasst sehe ich ausschliesslich als Vorteilhaft.

14.09.2018
User Redang

Wer etwas sexistisch oder rasisstisch sehen und/oder auffaussen will, wird es immer tun. Wir müsse dauernd neue Wörter und Bezeichnungen akzeptieren, weil irgend jemand denkt es sei schlimm jemanden so zu bezeichnen. Ist es rassistisch wenn mir jemand sagt ich bin weiss? nope.

14.09.2018
User Redang

Sage ich jedoch einem andersfarbigen er/sie/es sei schwarz, gelb oder was weiss ich, dann ist die Kacke am dampfen, Am ende des Tages liegt es im Auge des Betrachters.

14.09.2018
User Redang

Btw. finde ich es absolut daneben dass Kacke weiblich ist und nicht männlich. Absoluter sexismus ;)

14.09.2018
Antworten
User gozxmoney

"Weil suggeriert wird, dass Assistenten weiblich sind und das Weibliche als untergeordnet betrachtet werden muss." Der ganze Zeitverschwender den du hier Artikel nennst basiert auf deinem subjektiven, abschätzigen Bild eines Assistenten Jobs. Assistieren zu können ist eine Stärke. SJW scheiss halt

15.09.2018
User RealMajor

genau... gute assistenz ist gold wert =) weiss doch jeder gutes personal rar ist =P man kann ja nicht alles selbst machen... (witztäfeli)

15.09.2018
Antworten
User KKTVCAM

Sogar Siri versteht, dass "079" von Lo und Leduc nicht rassistisch ist.

14.09.2018
User Yuppie

es wäre sexistisch

14.09.2018
Antworten
User 01andiplayz

Der Artikel ist doch etwas gar überzogen. Gerade Spotify funktioniert sehr gut, was Musikempfehlungen angeht. Nach welchem Konzept das gemacht wird kann mir als Konsument doch eigentlich egal sein.

14.09.2018
User 01andiplayz

Auch zum Thema Filterblasen muss man eines sagen: Alle Plattformen die hier erwähnt wurden verfügen über Suchfunktionen. Das heisst also, dass ich bei Interesse selbst auch nach anderen Inhalten suchen kann. Es ist nicht die Aufgabe der KI mich politisch weiterzubilden sondern nur mir Inhalte zu zeigen die mich interessieren. Und das funktioniert wohl auch unbestritten.

14.09.2018
User 01andiplayz

Zu guter letzt bleibt wohl noch eines zu sagen: Die Technologie mit den Sprachassistenten steckt noch in den Kinderschuhen. Klar kann man sich darauf konzentrieren, dass sowohl männliche als auch weibliche Stimmen verfügbar sind. Man könnte aber auch die Ressourcen in die Weiterentwicklung der KI stecken - ich denke das bringt die Menschheit eher vorwärts...

14.09.2018
Antworten
User chiggifan

Anstatt alles darauf abzuschieben, dass wir halt sexistisch sind: informieren Sie sich doch mal darüber, wie männliche und weibliche Stimmen verarbeitet werden und warum wir weibliche Stimmen besser und genauer decodieren. Das hat nichts mit Sexismus, sondern mit Wissenschaft zu tun.

14.09.2018
User chiggifan

Auch Assistenten in Militärflugzeugen, die kritische und überlebenswichtige Anweisungen an den Piloten geben haben weibliche Stimmen. Obwohl gerade bei Militärpiloten wohl weibliche Kompetenz eher selten ist (das ist ein Fakt, nicht sexistisch. Es gibt nur sehr wenige weibliche Militärpiloten). Aber unser Hirn verarbeitet die Anweisungen einer Frau besser.
Bezüglich der "Informationsblasen" und Fake News bin ich aber ganz einig.

14.09.2018
Antworten
User Jonas.

Entschuldigt die Ausdrucksweisse, doch bei diesem Artikel komt mir direkt das Mittagessen wieder hoch. So etwas schimpft sich "Autor"? Vielleicht gehen Sie nochmal in die Schule Herr Hofer und ziehen ihren Alu-Folien-Hut aus.

17.09.2018
User owi99

Ziemlich überspitzter Artikel. Bitte nicht in solch ein SJW-Schema abdriften, ich möchte hier gerne normale Artikel über Technik lesen. :)

17.09.2018
User iElda

Spotify passt sich auch deinem Musikgeschmack an. Dazu musst du halt erst ein wenig Musik auf Spotify hören. Ich glaube kaum das man es als Rassismus bezeichnen kann, aufgrund seines Alters und seines Wohnortes Vorschläge zu bekommen. Gibt ja schliesslichli auch Charts nach Ländern. Keiner zwingt dich ja die vorgeschlagene Musik anzuhören.

16.09.2018
User chriskfreeze

"wieso müssen wir eigentlich bei Gruppen immer die männliche Form verwenden?"
Ist das nicht die deutsche Sprache?
Mehrzahl von Männern: die Assistenten/Lehrer whatever
Mehrzahl von Frauen: die Assistentinnen/die Lehrerinnen
Mehrzahl aus beiden Geschlechtern: die Lehrer, die Assistenten
oder wie seit einiger Zeit "die LehrerInnen", was ich persönlich recht nervig finde weil ich faul bin (wie die meisten Menschen) und lieber wenig lese und schreibe als zuviel.
Deswegen ist es doch gut wenn man sagt, dass "die Lehrer" entweder die Mehrzahlform nur für Männer ist oder für beide Geschlechter.
Ich finde nicht, dass dies diskriminierend ist.

19.09.2018
User Cannaprn

Nicholas Rockefeller sagte dazu folgendes: "Der Feminismus ist unsere Erfindung aus zwei Gründen. Vorher zahlte nur die Hälfte der Bevölkerung Steuern, jetzt fast alle weil die Frauen arbeiten gehen. Ausserdem wurde damit die Familie zerstört und wir haben dadurch die Macht über die Kinder erhalten.

16.09.2018
User Cannaprn

Sie sind unter unserer Kontrolle mit unseren Medien und bekommen unserer Botschaft eingetrichtert, stehen nicht mehr unter dem Einfluss der intakten Familie. In dem wir die Frauen gegen die Männer aufhetzen und die Partnerschaft und die Gemeinschaft der Familie zerstören, haben wir eine kaputte Gesellschaft aus Egoisten geschaffen, die arbeiten (für die angebliche Karriere), konsumieren (Mode, Schönheit, Marken), dadurch unsere Sklaven sind und es dann auch noch gut finden."

16.09.2018
User Yuppie

ach stimmt, die juden sind daran schuld…

17.09.2018
User Yuppie

ich korrigiere, die zionistischen Juden meintest du

17.09.2018
Antworten
User swissjuan

Es heisst ja auch Sekretärin da Sekretär ein Möbel ist. Weiber sind dazu gemacht dem Mann zu dienen egal was die nutzlosen Feministinnen und ihre Hündchen sagen.

18.10.2018
User Yuppie

Amen, ausser: EntwicklerInnen. Das sieht auch besser aus, und spart Platz ;-)

14.09.2018