Wer hat Kl gebaut und für wen?

Uneditiertes Transkript zur Folge (mit KI Tool entstanden)

Fearless Prefection, der Podcast über Kreativität, Inspiration und Empowerment, der dich ermutigt, einfach loszulegen, bevor du dich bereit fühlst. Hi, ich bin Barbara. In Staffel 9 gehe ich der Frage nach, ob man KI feministisch nutzen kann. Sieben Folgen, sieben Prinzipien des Data Feminism von Catherine D’Ignazio und Lauren Klein und eine Menge Fragen über Macht, Daten, Technologie und eben Feminismus. Wer hat KI gebaut bzw. die großen LLMs, die im Moment alle benutzen? Und für wen? In der ersten Folge geht es heute um das erste Data-Feminism-Prinzip, Examine Power. Wenn du die KI fragst, wie sieht eine Führungskraft aus oder wie sieht ein Mensch, der in der Pflege arbeitet, aus, sind die Bilder meistens recht eindeutig. Die Führungskraft männlich, weiß, 40 bis 50 und in der Pflege bestimmt eine Frau. KI ist nicht neutral, sie ist ein Spiegel der Daten. Dieser Spiegel wurde von jemandem aufgehängt. Das erste Prinzip von Data-Feminism geht darum, dass man untersucht, woher diese Macht kommt, weil Daten Spiegeln macht. Die erste Frage, die gestellt wird, ist, wer hat hier Macht? Daten sind keine objektive Wahrheit, sondern ein Abdruck, ein Ausdruck einer ungleichen Welt. Und Algorithmen ohne Machtfrage zementieren diesen Status Quo. Welche Daten man reingibt, ist das, wie das Tool dann funktioniert und was die Datenbasis ist. Patricia Hill Collins, eine schwarze feministische Soziologin, hat Macht auf vier Ebenen aufgeteilt. strukturell, also Gesetz und Institution, disziplinär, wie Gesetze im Alltag umgesetzt werden, hegemonial, was Kultur als normal definiert, wobei normal hier in Anführungsstrichen ist, und zwischenmenschlich, was du persönlich erlebst. Und KI, also vor allem die großen LLMs, operieren auf allen vier Ebenen gleichzeitig. Deshalb ist es wichtig, dass du dir die drei W-Fragen stellst. Wer baut das? Wer hat das gebaut? Bei den großen LLMs, KI, überwiegend weiße Männer aus dem globalen Norden, Frauen und andere Minderheiten sehr viel seltener. Die zweite Frage ist, wessen Ziele zählen? Datenerhebung kostet Geld und dient denen mit Geld. Das heißt, da spricht man auch gerne von den drei S, Science, Surveillance Und Selling? Wissenschaft, Überwachung und Verkauf.
Für welchen dieser Zwecke wurden die Daten erhoben? Und die dritte Frage ist, was fehlt? Mimi Onuar hat eine Library of Missing Datasets erstellt. Das sind leere Aktenordner für Daten, die niemand erhebt. Fehlen ist keine Lücke, es ist eine Entscheidung. Wer in Machtpositionen sitzt, sieht Probleme oft nicht, weil er sie nicht erlebt hat. Entwickler bauen die KI bzw. die großen LLMs für Menschen wie sie. Und da funktioniert sie. Für andere eben nicht. Ich habe dazu zwei Beispiele mitgebracht. Joy Buolamwini hat eine Gesichtserkennungs-KI ausprobiert und weil sie schwarz ist, wurde ihr Gesicht nicht erkannt. Bei weißen Kolleginnen war das kein Problem. Mit einer weißen Maske hat es auch bei ihr funktioniert. Grund dafür sind die Trainingsdaten. Die Trainingsdaten sind zu 84 Prozent weiße Gesichter und zu 78 Prozent männlich. Die, die es entwickelt haben, waren wahrscheinlich vor allem weiß und männlich und deshalb ist es ihnen beim Testen einfach nicht aufgefallen. Was bei fehlenden Daten auch passieren kann, ist wie zum Beispiel bei Serena Williams, die bei der Geburt ihrer Tochter fast gestorben ist, weil das medizinische Personal ihre Schmerzangaben ignoriert hat. In USA sterben schwarze Frauen tatsächlich häufiger bei Schwangerschaften, unabhängig von Bildung und Einkommen, weil die Daten fehlen. Wenn du dich jetzt fragst, ob dich das alles betrifft? Ja, es betrifft dich. Egal, ob du KI nutzt oder noch Zweifel hast, ob du es nutzen sollst. Ich möchte in dieser ganzen Staffel nicht die Frage stellen, ob KI gut oder schlecht ist. Ich möchte mehr die Frage stellen, wessen KI das eigentlich hier ist. Und für dieses erste Prinzip habe ich ein paar Fragen mitgebracht, die du dir bei deiner KI-Nutzung stellen kannst. Am Ende der Staffel wird es auch ein kleines Handout geben, das bekommt ihr dann über mein Newsletter. Also, die erste Frage für dein KI-Alltag. Wer hat dieses System gebaut und wessen Erfahrungen fehlen daran? Wer entscheidet, welche Probleme KI lösen soll und wessen Probleme kommen nicht vor? Wer verrichtet die unsichtbare Arbeit dahinter und unter welchen Bedingungen? Welche Schäden werden in Kauf genommen, weil sie nicht in den Gewinnmodellen auftauchen? Verstärkt dieses System bestehende Ungleichheiten oder wirkt es Ihnen entgegen? Wessen Erfahrungen gelten hier als Fakten und wessen Daten fehlen ganz? Probiert doch diese Woche mal ein KI-Tool bewusst aus und beobachte, nicht ob es gut oder schlecht ist, sondern wessen Welt spiegelt es. Nächste Woche geht es dann um das zweite Prinzip des Data Feminism, Challenge Power, also fordere die Macht heraus. Es geht darum, wo bei KI konkret etwas schief läuft und was du dagegen tun kannst. Als Abschlussgedanke für diese Woche, was wäre möglich, wenn du aufhörst, KI als neutrales Werkzeug zu sehen und anfängst sie als politischen Raum zu verstehen. Bis nächste Woche. Das war Fearless Prefection, dein Reminder, dass KI kein neutrales Werkzeug ist und du KI feministisch nutzen kannst, wenn du dir die richtigen Fragen stellst im Umgang mit KI und den LLM. Ich bin Barbara, Content- und KI-Mentorin für Female Empowerment, feministischen und spielerischen Umgang mit KI und Content Creation mit Haltung. Wenn du dich zu deiner feministischen Nutzung von KI austauschen möchtest, meine Links zu Instagram und LinkedIn findest du in den Shownotes. Und hab immer Stift und Papier dabei, denn deine nächste große Idee wartet schon darauf von dir festgehalten zu werden.