#148 Wer profitiert eigentlich von KI (Künstlicher Intelligenz)?

00:00:01: Hallo und schön, dass du da bist beim Equality Three Hundred and Sixty-Five Podcast dem Ort an dem Gerechtigkeit keine Grenzen

00:00:08: kennt.

00:00:09: KI verspricht Fortschritt!

00:00:12: Aber Fortsschritt für wen?

00:00:13: In dieser Folge spricht Eva Gengler darüber wie Technologiealte Machtverhältnisse reproduziert warum KI aktuell vor allem den mächtigen

00:00:21: dient

00:00:22: und warum wir ihr trotzdem nicht ausgeliefert sind.

00:00:25: Hört selbst Ja es ist wieder soweit eine neue Folge von Equality three sixty five Ist wieder eine Gäste in der Stadt Eva Gengler, die schon mal bei mir war.

00:00:41: Du warst einer meiner ersten Gästenin ungefähr vor einigen Jahren und wir haben auch damals schon über KI gesprochen, über ethische KI, ich glaube so haben wir es damals eher an den Kontext gesetzt.

00:00:51: und heute sprechen wir über feministische KI und wir fragen uns wer profitiert eigentlich von KI?

00:00:57: Aber wie genau und wieso wir darüber reden, erfahrt ihr die, die heute zuhören dann natürlich im Verlauf des Gesprächs.

00:01:06: Liebe Eva ich würde dich einmal bitten stelle ich gerne einmal vor was möchtest du von dir teilen?

00:01:12: Ja erst mal danke Isabel für die Einladung.

00:01:14: es freut mich total sich wieder hier sein darf und ich verfolge natürlich auch immer ganz ja aufkriegt oder das finde ich total schön zu sehen was bei dir alles so passiert ist dass es schon toll zu sehen Ja, was sich in wenigen Jahren so alles ergibt.

00:01:26: Wer bin ich?

00:01:28: Ich habe promoviert an der FU Erlang Nürnberg jetzt vier Jahre lang, bin letzten Oktober fertig geworden und habe promowiert zur künstliche Intelligenz aus einer feministischen, intersektionalen Perspektive und aus einer Perspektiven auch Machtstrukturen.

00:01:44: also ich hab mir angeschaut warum KI Probleme mit sich führt weil es hat Ungerechtigkeiten reproduziert, verstärkt.

00:01:54: Warum das so ist und wie wir das feministisch verändern können?

00:01:58: Ich habe nebenbei ein Unternehmen mitgegründet, Enable You.

00:02:01: Wir sind eine Umsetzung zur DiT-Beratung Und mein Fokus liegt auch hier auf feministischer KI.

00:02:06: ich mache Vorträge und Workshops In dem Bereich.

00:02:10: Und ja, ich verstehe mich da auch ein Stück weit aktivistisch.

00:02:14: Ich möchte etwas verändern.

00:02:15: Ich habe die Feminist-AI-Community mitgegründet und hier sind wir eine Community an Personen, die zu lernen wollen, sie sich austauschen wollen und ja, die gemeinsam irgendwie was an der Welt mit KI verändern wollen.

00:02:30: Ja das bin ich!

00:02:32: Ja, speaking of am Zahn der Zeit.

00:02:34: Also ich würde sagen alles das was du hier aufgebaut hast und bist ist so krass am Zahnen der Zeit.

00:02:39: tatsächlich habe ich mich gerade gefragt wusste also hast Du dir diesen Pfad ausgesucht weil du wusstest dass es auch ein Thema ist Was jetzt in den nächsten Jahren immer größer wird oder ist es hattest du einfach ein wahnsinniges Interesse für KI?

00:02:50: Nee ich hab mir nicht strategisch ausgesuchte.

00:02:52: Ich muss sagen Ich glaube, ich weiß nicht, ob wir es im letzten Podcast hatten.

00:02:56: Ich hatte ursprünglich ein Jahr Geophessenschaften studiert und dann Grundschullehramt mit Hauptfachkunst.

00:03:02: Weil in der Schule ... Also, ich hab immer gern gemalt und gezeichnet.

00:03:05: Und ich wusste aber eigentlich nicht so richtig wo ich hin will.

00:03:08: Und am Ende bin ich bei BWL gelandet im Bachelor.

00:03:11: Den habe ich fertig gemacht.

00:03:12: Das hat mein Papa von Anfang an gesagt, das tun soll!

00:03:16: Aber in den anderen Weinstühlinggängen hab ich mich extrem unwohl gefühlt.

00:03:19: Das konnte ich einfach nicht machen.

00:03:22: Ja, BWL fand ich dann zumindest halt das Gefühl okay.

00:03:24: Da kann ich irgendwas mit anfangen.

00:03:25: Das war jetzt nicht mein absoluter Traum.

00:03:27: Aber ich hatte irgendwie auch so ein Gefühl okay... Also ich habe sehr viel auswendig gelernt.

00:03:31: Ich hätte irgendwie so das Gefühl, ich kann irgendwie noch mehr oder ich möchte noch was anderes machen?

00:03:35: Ja es war wirklich ja!

00:03:37: Und dann hab' ich Wirtschaftsinformatik studiert also CIS International Information Systems.

00:03:42: Es war also Wirtschaftsininformatik quasi auf Englisch und ich war im Auslandsemester in Indien und hab' mit ganz vielen coolen Internationals zusammenstudieren dürfen und zwar eine richtig coole Erfahrung Und ich hatte auch da eigentlich nicht so viele Schnittpunkte zu künstlicher Intelligenz.

00:03:56: Ich habe im Jahr zwei Jahrzehntzehnte angefangen und bin seit dem Jahrzehnzehnten fertig geworden, hab aber meine Masterarbeit dann geschrieben zur KI – und zwar zu ethischen Implikationen von KI im Recording.

00:04:10: Das Thema oder was Ähnliches hat mir mein Prof vorgeschlagen bei dem ich letztendlich auch promoviert Aber ansonsten weiß ich gar nicht, ob ich bei dem Thema gelandet wäre als Vater tatsächlich Interesse.

00:04:22: Ich fand dieses Thema Ethik oder so kritische Betrachtungsweise sehr spannend und an diesem Thema bin ich dann hängen geblieben.

00:04:27: also ich habe dann sehr schnell festgestellt okay KI ist nicht neutral KI macht erst mal vermutlich eher schlechter als besser Und insbesondere zum Beispiel für Frauen und aber auch andere marginalisierte Menschen.

00:04:38: Ich hab mich dann nach meinem Studium ehrenamtlich damit beschäftigt habe in einem Verein dazu Events organisiert, Projekte durchgeführt.

00:04:48: Hab frei beruflich drin gearbeitet und dann angefangen zu promovieren.

00:04:51: Also es war ein Weg dahin aber strategisch war der nicht sondern das ist eher einfach passiert.

00:04:56: Ja voll spannend!

00:04:57: Ich glaube tatsächlich über dieses KI also ethische KI und auch Recruiting haben wir beim letzten Podcast da war so ein bisschen der Fokus weil es tatsächlich ja auch ein sehr spannendes Thema ist oder ein spannender Bereich ist.

00:05:09: so ne?

00:05:11: Jetzt mal noch so zu deiner Person.

00:05:13: Gab es irgendwie in letzter Zeit Eva bei dir ein Gedanke oder vielleicht auch sogar einen Ärger, der dich so doll gepackt hat?

00:05:19: Dass du sagen würdest das ist mein nächstes Buch.

00:05:21: Darüber möchte ich auch nochmal schreiben.

00:05:25: Also ich glaube ich ärgere mich nicht mehr ganz so sehr wie vor einigen Jahren noch weil ich bei vielen Dingen mir einfach denke Es überrascht mich nicht und das ist irgendwie, es ist eine gewisse Resignation vielleicht auch.

00:05:37: Also ich finde, es gab jetzt so viele Fälle, sei's mit Chiselle Perlicot oder am Ende jetzt auch rund um den Fall Ulmen, Collin Fernandez, Deepfakes... Ja!

00:05:49: ...es gibt so viele.

00:05:50: und also all die Beispiele von Gewalt an Frauen die unfassbar schockierend sind, aber mich nicht mehr überraschen.

00:06:01: Sie schockieren mich schon irgendwie und das ärgert mich.

00:06:04: Was mich ärgerte ist vor allem ... dass so wenig Reaktion darauf gibt.

00:06:09: Es sind immer wieder wir Frauen, die uns dazu positionieren, die vielleicht auf die Straße gehen.

00:06:16: Es gibt auch immer mehr Männer zum Glück, die der Partei ergreifen und sich öffentlich äußern.

00:06:21: Aber es scheint sich nichts zu ändern.

00:06:24: Deswegen wegen deinem Buch.

00:06:28: Also die Frage zum Buch, also ich glaube dieses Thema mit... Ja eigentlich sind wir doch schon gleichberechtigt.

00:06:36: Ich glaube es gibt ja das Buch von Aleksandar Zykonov, das heißt Aleksandra Zykunov Wir sind doch alle längst gleichberechnet oder sowas.

00:06:42: die Richtung?

00:06:43: Ein bisschen in so eine Richtung!

00:06:44: Also dieser Punkt von eigentlich wissen wir ist doch schon absolut dass wir absolut noch nicht gleich berechtigt sind und es noch ganz viel Ungerechtigkeit gibt.

00:06:52: aber irgendwie scheinen all diese vielen Fälle trotzdem als Einzelfälle hingenommen zu werden und das sind doch nicht alle Männer.

00:06:58: Also vielleicht irgendwie dieser Kontext, also ich weiß noch nicht genau was es wird aber das ist etwas was mich doch ein Stück weit immer wieder triggert auch wenn's mich nicht mehr so krass ärgert weil es mich wie gesagt leider nicht mehr überrascht.

00:07:07: Ja voll finde ich sehr spannend.

00:07:10: Ich bin da auch ehrlicherweise immer so ein bisschen überfragt, weil ich jedes Mal bei diesen Themen denke es ist ja ein systemisches Problem.

00:07:19: und wie ändert man jetzt den System?

00:07:20: Weil wir wissen das System können wir nicht einfach so verändern.

00:07:23: Das braucht ja Zeit und das braucht vor allem aber auch starke Allies wenn du so möchtest die eine Power haben die irgendwie in den richtigen Positionen sitzen und dass sind Politik Wirtschaft und Gesellschaft am besten um da wirklich was zu drehen.

00:07:36: Und Wissenschaft, danke gerade da auch.

00:07:38: Weil auch da ist ja dieses Gefälle zwischen Mann und Frau immer noch sehr groß wie ich lernen durfte.

00:07:45: Ich finde, ich frage mich immer was ist denn der richtige Weg?

00:07:48: Weil das wir alle, also wir jetzt irgendwie alle dafür kämpfen und uns wirklich für diese Themen aktiv einsetzen.

00:07:54: Diese Themen immer wieder ins Licht bringen immer wieder den Finger in die Wunde legen.

00:07:57: Wir gelten aber am Ende einfach nur als verbitterte Feministinnen, die ja alle irgendwie immer einen Aber haben.

00:08:04: Was du und ich, wir wissen es sind wir nicht!

00:08:06: Und es ist auch absolut nicht so dass wir meinen... Es ist immer ein Mann in dem klassischen Sinne Ja, es ist ja trotzdem so.

00:08:15: Die Faktenlage zeigt genau das.

00:08:17: Also ist die Frage wie verändern wir denn jetzt wirklich mal was?

00:08:20: Dass wir nicht mehr über diese Themen reden müssen und dass solche Vorfälle nicht ständig wiederkommen.

00:08:24: Weil um auch das nochmal zu ergänzen, auch Tillindemann, auch das Beispiel... Dann hier Jerome Boateng, auch dieses Beispiel.

00:08:31: Was ist denn aus den ganzen Beispielen geworden?

00:08:32: Nichts!

00:08:33: Sie sind irgendwann einfach im Sande verlaufen und da geblieben.

00:08:36: Und die Frauen leiden bis heute drunter.

00:08:41: Wie löst man das

00:08:41: auf?!

00:08:43: Also ich denke, das Wort was du genutzt hast, System ist glaube ich das absolut Wichtige und ich glaube... Ich glaube immer mehr.

00:08:51: Oder vielleicht noch der Punkt den Du gesagt hast in Bezug auf dass wir dann gelten als verbitterte Feministinnen ja?

00:08:57: Und ich glaube am Ende macht es uns auch müde weil immer wieder quasi diese in Anführungszeichen Kämpfe führen zu müssen immer wieder dieser Erklärungsarbeit leisten zu müssen das aufzuzeigen.

00:09:06: Das ist anstrengend Ja und jetzt machen wir ja gegen Widerstände.

00:09:11: Ich glaube, es wird auch sehr oft erwartet von Frauen zum Beispiel in Unternehmenskontexten, dass sie hinweisen darauf.

00:09:16: Wenn sexistische Muster passieren dabei wäre es viel besser und wichtiger wenn das Männer tun.

00:09:22: Es ist für Männer viel einfacher auf so was hinzuweisen als wenn zum Beispiel eine Meeting ein sexistischer Spruch fällt, also dass das Thema Stoelais angesprochen hast.

00:09:30: Dann ist es viel einfacher für Männer darauf hinzuweisen als für Frauen die dafür bestraft werden.

00:09:35: Also Frauen werden dafür negativ betrachtet.

00:09:38: dann hat sie wieder den Witz nicht hingenommen und ist doch zumfindlich.

00:09:41: und sonst alles.

00:09:42: wenn einen Mann das aufgreift und anspricht hat das eine ganz andere Wirkung.

00:09:46: und ich glaube, dass ist was wenn quasi all diese Arbeit auch noch von Frauen geschultert werden muss die ohnehin schon mehr zu tragen haben.

00:09:54: Ist es einfach ungerecht.

00:09:56: wie können wir's verändern?

00:09:57: Ich glaube Es geht wirklich nur dadurch, dass wir viele sind und dass viele von uns das immer wieder... sichtbar machen.

00:10:06: Also ein Stück weit ist auch daraus dieses Thema mit der Community entstanden, ich glaube wirklich dass es nur geht wenn wir viele sind.

00:10:13: Ich glaube im Bezug auf jetzt zum Beispiel Diebfelks haben wir jetzt ja auch ein stückweit Bewegung gesehen in der Politik.

00:10:17: ob das jetzt genau die richtigen Schritte sind die da gegangen werden ist nochmal was anderes.

00:10:22: aber Es gab so einen großen Aufschrei so eine große Bewegung und da haben sich auch sehr prominente Frauen zusammengeschlossen, sehr auch prominente Männer.

00:10:31: Und ich glaube das ist was wirklich helfen kann und wir haben es an verschiedenen Bereichen auch in Bezug auf KI gesehen dass wenn große gesellschaftliche Bewegungen also wenn hier wirklich ein Stück weit auch Image-Schaden droht dann haben Unternehmen nachgebessert Und ich glaube, diesen Druck können und müssen wir nutzen.

00:10:49: Auf der anderen Seite denke ich es sind eigentlich alles politische Verantwortlichkeiten.

00:10:53: Ich würde sie ganz klar in der Politik sehen und natürlich auch in der Führung von Unternehmen aber... ...ich bin jetzt auch nicht völlig naiv!

00:10:58: Ich sehe aktuell jetzt nicht dass wir da die großen Schritte gehen außer es gibt vielleicht großen öffentlichen Druck.

00:11:04: deswegen wie können wir das verändern?

00:11:05: Systeme können wir alleine definitiv nicht verändern sondern nur wenn ganz viele von uns das tun.

00:11:11: Das ist nicht einfach.

00:11:12: Und auch da, wenn wir wieder auf KI schauen, warum denke ich das es aktuell so wichtig ist dass wir auch bei KI was verändern?

00:11:19: Das liegt daran, dass KI-Systeme aktuell oder auch schon in den letzten Jahren ja bestehende Strukturen, Machtstrukturen verstärken aus bestehenden Datensätzen lernen die ja oft Jahrzehnte zurückgehen und das heißt aktuell verstärkt KI eigentlich die Ungerechtigkeit die schon da ist.

00:11:37: Das dürfen wir nicht geschehen lassen, weil das bedeutet, dass wir nicht nach vorne.

00:11:41: Wir kommen nicht zu den vielen kleinen Veränderungen, die wir täglich versuchen, sondern wir machen eher Rückschritte und ich glaube, das ist was, was wir wirklich nicht zulassen dürfen.

00:11:49: und auch hier brauchen wir viel mehr gesellschaftliches Verständnis dafür.

00:11:53: gesellschaftliche Arbeit und das ist am Ende oft unbezahlte Arbeit, das aktivistische Arbeit, es ehrenamtliche Arbeit wird auch oft von Frauen geschult hat Und Frauen wieder komplett in die Schuhe schieben, aber ich glaube wir brauchen mehr Aufschrei.

00:12:08: Weil am Ende sonst viele Rückschritte drohen, die wir so nicht

00:12:12: wollen.".

00:12:13: Ich bin gerade total schockiert, im EV um ehrlich zu sein.

00:12:15: Weil ich mich wie gesagt an unser Gespräch vor knapp zwei Jahren erinnere.

00:12:20: und da hast du genau das Gleiche gesagt also wie KI dazu beihilft mehr oder weniger dass eben bestimmte Machtstrukturen etc.

00:12:26: Oder auch Ungerechtigkeiten einfach reproduziert werden.

00:12:29: Und jetzt sagst Du heute irgendwie zwei Jahre später, dass es eigentlich immer noch schlimmer wird?

00:12:34: Ich hätte jetzt irgendwie gehofft, dass Du sowas sagst wie ne es hat sich verbessert Dank dieser und dieser Situation und wenn wir jetzt alle das mehr machen dann wird's noch besser.

00:12:44: Da bin ich tatsächlich gerade so ein bisschen schockiert und gleichzeitig habe ich auch irgendwie wahrscheinlich dann doch nichts anderes erwartet.

00:12:53: Die Frage ist, wie lösen wir das auf?

00:12:56: Also auch da wieder... Was kann man konkret tun?

00:12:59: Also weil wir sprechen viel irgendwie bei KI über Effizienz, über Fortschritt und über Produktivität.

00:13:04: Und was mir in dieser Erzählung leider immer noch – und das merke ich jetzt hier an deiner Antwort wieder bei Innovation im Verloren geht es – wie kann man denn KI aus feministischer Perspektive überhaupt richtig denken und betrachten?

00:13:22: Ich will das auch nicht alles nur negativ reden!

00:13:24: Es gibt schon, würde ich sagen seit unserem letzten Gespräch….

00:13:27: also ich bin auf verschiedenste Beispiele, ich habe es im Buch Use Cases genannt gestoßen wo KI aus einer feministischen Perspektive genutzt wird mit feministischen Prinzipien, feministischen Ansätzen entwickelt worden ist und wo KI wirklich eingesetzt wird oder wo zumindest die Idee dahinter ist der Sinn dahinter, der Zweck dahinter dass wir mit KI gewisse Prozesse gerechter machen.

00:13:52: Und deswegen Ich glaube, wir müssen weiterhin warnen.

00:13:58: Also ich werde zum Beispiel öfters gefragt ja bin ich denn jetzt so naiv dass ich glaube ich werde jetzt Meta und Google verändern?

00:14:03: Und die werden ab morgen für Ministrische KI machen?

00:14:05: Nein!

00:14:05: Also nee sehe ich auch nicht, da brauchen wir politische Einflussnahme aber... Es gibt schon auch ganz viele positive Beispiele und ich finde dieses positiv narrativ trotzdem auch total wichtig, weil wir können Einfluss nehmen.

00:14:18: Also vielleicht gleich noch mal was wir genau tun können.

00:14:20: aber es gibt auch verschiedenste Beispile wo eben genau das getan wird sei in der Bildgenerierung sei es in der Medizin im Recruiting in verschiedenen Bereichen wirklich wo KI schon zum Einsatz kommt im Gerichtsverfahren und wo explizit sich... Unternehmen, NGOs aber auch Einzelpersonen wirklich dafür engagieren.

00:14:42: Dass wir KI einsetzen um was zu verändern.

00:14:44: und ich glaube diese positiven Beispiele müssen wir auch hervorheben weil es geht anders und am Ende ist das nicht irgendwie schlechter für die Organisation sondern am ende treffen wir bessere Entscheidungen wenn wir KI wenn wir versuchen KI objektiver einzusetzen Wenn wir KI versuchen dafür zu nutzen dass wir bestehende Prozesse verbessern und nicht einfach nur automatisieren.

00:15:03: Und ich glaube das ist der größte Hebel überhaupt.

00:15:07: ja wir wollen am ende mit k.i du sagst effizienter innovativer werden.

00:15:11: ja ich glaube das ist dass es sicherlich ein punkt.

00:15:14: aber eigentlich würde mir auch sagen wollen wir wollen vermutlich eigentlich bessere entscheidungen mit ke treffen und nicht einfach nur die gleichen effiziente oder schneller sondern wir wollen ja eigentlich besser werden.

00:15:24: Ich glaube, da kann KI ein großer Hebe sein.

00:15:27: Wenn wir überlegen wie können wir dann eigentlich bestehende Prozesse und Systeme umdenken ja?

00:15:31: Und auch diese gerechter machen.

00:15:33: Da müssen wir natürlich erst mal erkennen okay es gibt bisher Probleme.

00:15:35: vielleicht ist das bisher nicht alles ganz gerecht zugegangen.

00:15:39: zum Beispiel recruiting ist halt einfach ein klassischer Fall weil da einfach auch Menschen Fehler machen Vorurteile haben Kreditvergabe in der Medizin wo wir wissen dass es einfach zu wenig Informationen zu weiblichen Körpern gibt zu weiblichen Krankheitsbildern usw.

00:15:54: Hier können wir auch KI nutzen, um was zu verändern.

00:15:56: Und ich glaube das ist am Ende die große Chance, die uns gesellschaftlich weiterbringen kann, die einfach zu mehr Gerechtigkeit führen kann aber die am Ende auch dazu führt dass Organisationen absolut profitieren.

00:16:09: Aber geht denn dieses Umdenken eigentlich wirklich in einer Welt, die eben kapitalistisch ausgerichtet ist und quasi nach dem Motto Profit Over People funktioniert?

00:16:20: Ich denke es wird nicht automatisch passieren, sondern ich glaube wir müssen das wirklich wollen.

00:16:25: Also tatsächlich hatte in meiner Masterarbeit die zwei Forschungsfragen waren in etwa so kann KI-Recruiting fairer machen?

00:16:31: und wenn ja wie war glaube ich ungefähr die Frage?

00:16:36: Und

00:16:39: ich denke also dass ich immer noch eigentlich bei der gleichen Schlussfrage rum bin Wenn wir jetzt, wenn wir das nicht explizit vorhaben, dass wir KI dafür nutzen.

00:16:49: Dann wird es auch nicht passieren weil dann ist es viel wahrscheinlicher, dass KI den Status quo reproduziert und Es ist auch leid also es ist auch weniger einfach würde ich sagen, dass ihr mit KI was wirklich was verändern können.

00:17:02: Weil das eben nicht, weil das nicht quasi der... Also das wäre, das ist nicht die Norm.

00:17:07: ja aber wir können etwas verändern.

00:17:09: Ich sehe es ganz ähnlich in überlegen Erst wenn Organisationen verändern müssen oder dass wir umdenken müssen in Bezug auf KI.

00:17:17: Ich halte immer wieder Vorträge, ich bin auf Panels und... ...ich finde es immer besonders gut, wenn bei solchen Events auch hohe Führungsperson aus Unternehmen mit dabei sind.

00:17:26: Weil das sind die Personen, bei denen Macht liegt.

00:17:28: Das sind die Person, die wirklich Entscheidungsbefugnisse haben, die was wirklich verändern können.

00:17:33: Und.. Meistens so, dass diese Personen sich bisher das nicht so bewusst waren, dass sie wirklich einen Einfluss auf KI-Systeme haben.

00:17:42: Die haben es eher als was Technisches angesehen und die haben eher gedacht okay, das liegt eben in Entwicklungsteams.

00:17:47: Das liegt vielleicht bei den Teams, die KI jetzt für Sie verändern.

00:17:53: Also viele Unternehmen kaufen ja KI- Systeme ein sogenanntes Feintuning für den eigenen Kontext.

00:18:00: Die sehen das eher in diesen Teams und waren sich weniger dessen bewusst, dass ihre eigene Arbeit, den eigenen Rahmen, den sie stecken eben so einen großen Einfluss darauf hat was am Ende für Ergebnisse rauskommt.

00:18:10: Und da würde ich jetzt sagen habe ich eher dieses positive Learning jetzt für mich mitgenommen... die Person, dass eher als was Gutes empfunden haben darauf aufmerksam gemacht zu werden.

00:18:22: Und jetzt sagt er, also ich meine ob sie es am Ende wirklich tun das kann ich dann nicht sagen aber die wirklich auch gesagt haben okay sehen nehmen sich das für sich mit und sehen ist für sich jetzt Aufgabe, dass Sie da besser hinschauen müssen.

00:18:34: Deswegen auch hier würde ich sagen ein Stück weit als positive Narrativ in Bezug auf darauf, dass da schon auch eine Wille da ist.

00:18:42: natürlich muss ich auch sagen dass ich verschleicht dann auch eher in Organisationen unterwegs bin, die dafür offen sind und vielleicht auch Personen dann eher, also vielleicht Vorstandinnen eher zu diesen Events kommen, die da auch grundsätzlich eine gewisse Offenheit mitbringen.

00:18:53: Sonst wären sie vielleicht nicht da.

00:18:55: Also es ist vielleicht ein gewisser Bayes an dieser Vorauswahl aber das sind wirklich große Unternehmen und ich glaube dieses Verständnis muss einfach erstmal herrschen.

00:19:04: Ja, ich finde das ganz toll was du da sagst.

00:19:06: Weil es ein schöner Perspektivwechsel ist.

00:19:08: weg von die sind alle gemein, die wollen uns etwas Böses hinzu, nee, die verstehen's vielleicht teilweise selber nicht richtig und deswegen ist jetzt nach wie vor wichtig in dieser Welt immer wieder aufzuklären.

00:19:18: Immer wieder aufklären dadurch inspirieren, motivieren und im besten Fall sogar dann vielleicht auch einen Fuß in die Tür kriegen und sagen hey ich unterstütze euch sogar dabei!

00:19:27: Ich helfe euch dabei dass alles ethischer und so weiterzumachen, feministisch an dem Kontext Mega cool.

00:19:33: Wieso ist es denn jetzt deiner Meinung auch so wichtig, dass wir diesen feministischen Blick eben auf solche Themen wie KI haben?

00:19:40: Und was bedeutet das genau?

00:19:41: Weil ich glaube, dass ganz viele mit diesem Wort Feminismus A immer etwas Negatives verbinden und B das auch nicht richtig greifen können.

00:19:47: Was meinen wir damit eigentlich?

00:19:50: Also ich glaube Feminismus – also man spricht in der Forschung zum Beispiel auch von Feminist-Männen weil gesagt wird, es ist ja nicht den einen Feminismus gibt und ich glaube das ist absolut korrekt.

00:19:59: Wenn wir jetzt auch mal zurückgucken eher in die Historie dann spricht man oft von drei Wellen.

00:20:03: da will ich gar nicht so näher drauf eingehen.

00:20:04: aber Wir können oft sehen dass wenn wir jetzt eher In die Anführungszeichenanfänge vom Feminismus zurückgehen weil ich glaube hat sich Gift-Feminismus eigentlich schon sehr lange Frauen seit Jahrtausenden benachteiligt worden sind und meins erachtet schon seit Jahrthausend auch dagegen ankämpfen.

00:20:19: Und für mich ist das Feminismus, aber meistens wird es so nicht definiert.

00:20:24: Aber Es gab da viele Bewegungen wo zum Beispiel auch gerade in den USA wenn's darum ging ums frauenwahlrecht.

00:20:30: Das waren oft auch weiße frauen aus dem mittelstand und die haben Für ihre rechte gekämpft und zum beispiel explizit auch nicht für Die rechte schwarzer frauen zu wählen.

00:20:38: und wann da sogar eher dagegen.

00:20:39: und also ich glaube dass ist was Was ich als aus heutiger Perspektive jetzt nicht als für mich ein Feminismus bezeichnen würde.

00:20:48: Ähnlich, ich schreibe es auch in meinem Buch... Ich bin mit den Büchern von Harry Potter aufgewachsen und ich höre die immer noch gerne zum Einschlafen weil ich also... Die Stimme, ich hör sie meistens auf Englisch, also ich finde das extrem.

00:21:03: Also für mich ist das extrem entspannt, weil ich die Geschichte so gut kenne.

00:21:08: Aber ja, ich sehe es absolut kritisch, weil die Autorin, wie sie sich jetzt äußert in Bezug auf Transpersonen ... Ich find's wirklich unfassbar, eine kleine marginalisierte Gruppe.

00:21:21: Ich kanns einfach nicht nachvollziehen.

00:21:22: und das für mich als Feministin ist für mich kein Feminismus, den ich irgendwie nur angehören möchte.

00:21:30: Deswegen, wenn ich von Feminismus spreche, dann denke ich an einen inklusiven Feminismus und einen intersektionalen Feministmus.

00:21:37: Und der kommt ursprünglich aus dem Black-Feminism, aus dem Schwarzen Feminisme, weil women of color verstanden haben dass sie vor mehreren Formen von Diskriminierung betroffen sind.

00:21:48: diskriminiert von Sexismus und von Rassismus.

00:21:50: Und das ist was anderes, als... Was weiße Frauen erfahren?

00:21:53: Das ist anders als schwarze Männer erfahren!

00:21:55: Und es ist eine deutlich größere Diskriminierung.

00:21:57: Also man kann die nicht einfach quasi addieren und man sagt, äh ...quasi die, weil man zumiert jetzt Sexismus-Diskriminierung mit Rassismusdiskriminierungen und dass es dann was schwarzen Frauen erfahren sondern das ist ne andere Form von Diskriminierung und die ist stärker.

00:22:14: Ja, und ich glaube das ist das was am Ende für mich Feminismus ausmacht.

00:22:18: Das geht für mich nicht nur um Frauen es geht insbesondere Nicht nur um weiße frauen sondern es geht um eine sehr komplexe Verständnis von Diskriminierungsformen Und darum dass zu verändern.

00:22:30: und eigentlich geht's darum würde ich sagen Für alle die weltgerechter zu machen.

00:22:33: ja ja und das ist so und Ich glaube das is das wo ich immer hake wo ich Wo es mir total schwer fällt irgendwie?

00:22:42: Ich weiß nicht so weg zu gucken, weil ich mir denke wenn wir etwas machen was ja allen erstmal eigentlich mehr Möglichkeiten verschafft.

00:22:48: Jeder Mensch bekommt dadurch eine Chance.

00:22:50: Wieso gibt es Menschen die dagegen treten wollen?

00:22:54: Das geht gar nicht darum immer wieder ins negative einzutauchen und auch die positiven Seiten zu sehen sondern ein absolutes Unverständnis dafür wieso menschen Wieso nicht alle Menschen pro Gerechtigkeit sind?

00:23:04: Ja, klar.

00:23:04: Und jetzt weiß ich... Jetzt kann man sagen, weil jeder Mensch natürlich auch Gerechtigkeit für sich selbst definiert.

00:23:10: Auch da fängt es ja schon irgendwie bei an.

00:23:13: Jetzt sagen wir also in dem Kontext geblieben und vielleicht auch in dieser weiterhin kritischen Haltung gebliebene.

00:23:18: Wir sprechen ganz oft über faire KI.

00:23:21: Das klingt jetzt ... In diesem Kontext finde ich fast ein bisschen harmlos, weil das eigentliche Problem eben nicht nur Bayes ist sondern auch die Frage, wem gehören diese Systeme eigentlich Genau?

00:23:33: und nicht nur wem gehören sie, sondern wem dienen sie vor allem auch.

00:23:37: Das ist das glaube ich das Wichtigste.

00:23:38: hat man gerade auch in dem Fall jetzt mal wenn wir mal nach Richtung Amerika schaut Mark Zuckerberg Ich glaube der wurde vor einer Weile angeklagt von einer jüngeren Frau.

00:23:48: Also so diese ganzen Themen da fragt man sich ja schon wen dient es eigentlich wirklich?

00:23:52: Wir denken alle uns macht das irgendwie besser effizienter innovativer etc.

00:23:57: pp.

00:23:57: aber was wäre deine Antwort darauf?

00:24:00: Also ich glaube die kurze Antwort wäre für mich, dass KI mit am meisten den schon mächtigen dient.

00:24:08: Ja also das am meisten denen nutzt... Das sind Einzelpersonen aber es sind auch Staaten, das sind große Organisationen die schon Geld haben.

00:24:17: wenn man jetzt drüber nachdenkt zum Beispiel diese großen Sprachmodelle.

00:24:20: also vielleicht auch da noch kurz was verstehe ich eigentlich unter KI?

00:24:23: Ich verstehe eben nicht nur darunter große Sprachmodelle wie Chatchity, Gemini, Claude und so weiter sondern auch viele Systeme, die eingesetzt werden.

00:24:32: Zum Beispiel eben in der Medizin um vielleicht Medikamente auszuwählen, die eingesetzt werden auf Social Media um gewisse Inhalte anzuzeigen oder nicht zu zeigen Suchmaschinen und so weiter.

00:24:42: also ganz breites Verständnis von künstlichen Intelligenz Und da merkt man vielleicht auch wie dass sie deswegen unser Leben schon wirklich stark beeinflusst weil sie eben schon eigentlich überall eingesetzt wird.

00:24:52: Wir sehen hier, dass wenn wir zum Beispiel jetzt eben auf große Sprachmodelle schauen, dass wir extrem viel Geld brauchen um solche Systeme entwickeln zu können.

00:25:03: Solche Systeme trainieren zu können.

00:25:04: das heißt es sind nicht nur Einzelpersonen wie jetzt Elon Musk, Zuckerberg, Bezos und so weiter.

00:25:11: Sondern das sind auch deren große Firmen mit großen Finanzstärke die überhaupt sowas sich dann nur leisten können oder vielleicht auch starten.

00:25:18: also ist natürlich viel einfacher für USA am Ende vielleicht auch Deutschland da wirklich Geld in die Hand zu nehmen als für ein Land vielleicht in Asien in Afrika dass noch mit ganz anderen Stabilitätsprobleme zu tun hat die eigentlich da aktuell gar nicht wirklich mitmischen können weil sie diese diese Möglichkeiten gar nicht haben.

00:25:37: Und ich glaube, was auch hier ganz extrem mitspielt ist ein Blick auf oder ein Verständnis dass das auch einen Stück weit neue kolonialistische Strukturen genau deswegen hat weil wir nutzen ja schon Arbeitskräfte in diesen Ländern die sollen wie mit Daten umgehen die sollen sogenannte Daten Labeling machen also dass sie unsere Daten die wir dann fürs Training nutzen irgendwie aussortieren dass sie da toxische Inhalte entfernen dass sie aber auch solche langweiligen Tätigkeiten tun wie auf Bildern gewisse Details zu markieren und sagen, hier ist eine Tomate.

00:26:09: Das ist ein Stuhl, das ist ein Mensch usw.

00:26:12: Also langweilige Tätigkeit oft so sehr prekären Bedingungen.

00:26:17: Das sind oft frei beruflich tätige Personen also ohne feste Arbeitsverträge die auch sehr schnell wieder quasi entlassen gekündigt werden können und die aber einen ganz ganz wichtigen Beitrag zur unserer sogenannten Karrierevolution tragen zu sehr schlechten Konditionen und am Ende am wenigsten profitieren, weil auch gerade in diesen Staaten dann oft die Möglichkeit eben weniger da ist, dass sie selbst eigene Systeme entwickeln.

00:26:43: Und insbesondere nicht zu den Preisen, die dann quasi die großen Anbieter aus dem USA zum Beispiel dort anbieten und am ende diese Personen vor Ort abhängig machen von KI-Systemen, die vielleicht gar nicht gut zu ihnen passen.

00:26:56: Also ich glaube es ist ein ganz großes System und vielleicht noch mal kurz zurückzukommen auf deine Frage dazu... Ich glaube aktuell und das sehen wir eben auch an sowas wie Deepfakes, die Deepfake-Pornografie, die sich gegen Frauen richtet.

00:27:10: Dass erst mal überhaupt solche Funktionalitäten da drinstecken in den Systemen ist ja schonmal das Erste.

00:27:16: also es wurde entschieden wahrscheinlich von Männern tatsächlich oft aus Businessgründen das wir Systeme entwickeln, die eben die Möglichkeit bieten dass wir Personen auf Fotos Ausziehen nackt darstellen in pornografische Inhalte und Gewalt Kontext reingeben.

00:27:30: also es wurde ja entschieden.

00:27:31: Also das ist gibt's ja nicht einfach sondern Menschen haben das entwickelt Und Es wird auch eingesetzt und auch da wissen wir dass das mit absoluten großen Großteil Männer einsetzen und nutzen und am Ende gegen Frauen.

00:27:44: also und das ist die andere Wahrheit Am ende sind es die Organisationen die das entwickeln und am Ende sind es aber auch natürlich Personen, die das nutzen.

00:27:52: Und das sehen eben auch viele Männer und da sind sehr oft marginalisierte Personen negativ betroffen.

00:27:59: Ich finde es total schön, dass du heute da bist Eva.

00:28:01: Ich habe gerade darüber nachgedacht wieso.

00:28:03: vor allem aber weil ich finde das du eine der wenigen Stimmen bist in einer Gesellschaft die eben auch kritisch über KI spricht und das passt ganz gut zu dem Thema was wir gerade besprechen.

00:28:12: oder dieser explizite Inhalt weil mir auch ein Social Media ne?

00:28:16: Du hast es grade gesagt so ChatGDP zum Texte schreiben und sowas und so weiter nutzen.

00:28:22: Da fällt mir auf, dass es immer mehr Menschen gibt die über KI schreiben Und das ist aber immer durchweg positiv.

00:28:28: Und meine Vermutung ist, dass es durchweg positiv ist weil die wissen, dass der Algorithmus das nach oben zieht und das natürlich befeuert.

00:28:34: Weil natürlich möchte LinkedIn Instagram TikTok, you name it... Ich bin ehrlicherweise gar nicht bei TikTok, aber ich glaube da wird's wahrscheinlich auch so sein.

00:28:41: Werden diese Themen natürlich durch Konsorten wie Amerika, du hast es gesagt, Basos, Zuckerberg, Elon Musk

00:28:49: etc.,

00:28:50: werden solche Themen nach oben gepusht?

00:28:51: Weil das wollen sie ja!

00:28:53: Das heißt Wenn ich irgendwie jetzt als Creator erfolgreich sein möchte, dann hüpfe ich schnell aufs Thema KI.

00:28:59: Lassen mir einen positiven Beitrag dazu schreiben.

00:29:00: so worauf ich hinaus will ist wir fördern damit ja einen Narrativ der Okay ist, bis zu einem gewissen Grad.

00:29:10: Solange er nicht überschattet, dass es eben auch eine Kehrseite gibt über die wir genau so reden müssen.

00:29:15: und von dieser Kehr-Seite also diese unbequeme Wahrheit über KI darüber reden wir zu selten und es gibt so ich kann ehrlich aber ich kenne niemanden außer dich nee stimmt nicht Ich habe gerade ihren Namen vergessen Die auch sehr aktiv darüber spricht.

00:29:29: Ich glaube, die macht das auch noch sehr kritisch.

00:29:31: Ja doch ich kenne wohl noch eine Handvoll aber es ist ja viel zu wenig.

00:29:34: also dass mir... Das ist schon der Punkt, dass mir nur eine Hand vor Leute anfangen, die sich dazu negativ kritisch äußern und das sind im Übrigen fast alles nur Frauen.

00:29:43: Finde ich wieder bedenklich weil des... Und darum geht's mir!

00:29:46: Weil das ja ein Narrativ in der Gesellschaft fördert den wir glauben, denen sich alle anhören.

00:29:50: und dann sitzen wir da und sagen ne KI ist total toll und vergessen aber alles negative dabei.

00:29:54: und es geht nicht darum KI a.k.a.

00:29:57: Innovation schlecht zu machen, sondern einfach noch mal ein bisschen kritischer zu beäugen und zu schauen wie können wir da versorgen dass Ungerechtigkeiten dadurch wirklich abgebaut werden und nicht verschlimmert werden?

00:30:06: Und deswegen meine Frage an dich was wäre denn diese eine unbequeme Wahrheit über KI die obwohl sie eigentlich längst wissen sich bis heute hält und schwer den Gauss gemacht bekommt?

00:30:18: Also ich kenne tatsächlich auch, also ich kenn schon viele Menschen die sich da kritisch äußern.

00:30:22: Aber ich würde dir absolut zustimmen es sind mehrheitlich Frauen und das sind doch oft Personen die eher aus der Wissenschaft vielleicht kommen oder vielleicht ein bisschen aktivistisch tätig sind.

00:30:30: aber es sind vermutlich dann doch wieder die Personen die vermutlich am Ende nicht so gut bezahlt werden und die vielleicht eigentlich nicht den großen also den großen Einfluss in Bezug auf Ich kann wirklich an den Hebeln der Macht drehen sind.

00:30:42: Absolut Ich schaute tatsächlich in meinem Buch, habe ich so sechs Mythos, hab' ich's genannt.

00:30:48: Rund um KI habe ich aufgeführt und dann ein bisschen versucht sich mal zu entlarven oder eine gewisse Einschätzung dazu zu geben.

00:30:55: Da war sowas dabei wie ... KI wird die Weltherrschaft übernehmen, KI nimmt uns alle Jobs weg... Und der Mythos den ich aber glaube am gravierendsten finde und der sich glaube ich am meisten hält ist meines Erachtens immer noch, KI ist irgendwie neutral und objektiv.

00:31:10: Jetzt sind – ich wurde kurz nicht die Frage gestellt, okay was ist neutral?

00:31:14: Neutralität gibt es wahrscheinlich eigentlich grundsätzlich nicht.

00:31:17: Ja, es gibt es nicht in der KI.

00:31:18: Es gibt auch im normalen Leben nicht.

00:31:20: deswegen ich möchte jetzt keine Definition von neutral anfangen aber ich glaube wir nehmen KI immer noch sehr häufig als etwas ein Stück weit also eben nicht menschlich war und meinen deswegen okay weil das eben berechnet weil das irgendwie statistisch ist oder vielleicht auch gar nicht verstehen wie's funktioniert muss doch irgendwie stimmen.

00:31:37: Und ich glaube dass die größte Gefahr auch dabei Wie viele Menschen jetzt Mittlerweile Chatchabity, ich glaube größter als Chachabity aber auch andere Sprachmodelle nutzen um Antworten zu bekommen auf ganz viele Fragen.

00:31:51: Und diese Antworten sind einfach nicht unbedingt richtig und die sind auch nicht neutral in einem Sinne.

00:31:59: Also sie sind aus einer gewissen Richtung Perspektive quasi geschrieben was daran liegt welche Daten zugrunde liegen.

00:32:04: also es ist nicht eine Wahrheit die daraus kommt das kein Lexikon Das hat nicht eine richtige Antwort oder Wahrheit dahinter, sondern das sind statistische Programme, die basieren darauf wie viele Inhalte quasi zu einem gewissen Thema eben da sind.

00:32:18: Und wenn die mehrheitliche Antwort in den Daten zum Beispiel zur Feminismus jetzt eine negative wäre und jetzt die Entwicklerinnen von diesen Systemen dann nicht nachgebessert hätten, dann kommt diese negative Antwort daraus.

00:32:32: Das heißt nicht dass sie stimmt ja?

00:32:33: Oder dass sie nicht stimmt, sondern es ist einfach eine statistische, generierte Antwort aus ganz vielen Datenpunkten.

00:32:41: Die irgendwie aus dem Internet kommen und dieses Verständnis fehlt.

00:32:46: Und ich glaube eben auch das Verständnis davon dass das Neutralität wahrscheinlich einfach nicht gibt.

00:32:51: die gibt es nicht bei Menschen und die gibt's aber insbesondere in KI-Systemen die von menschlichen Entscheidungen lernen.

00:32:57: Das ist glaube ich immer noch viel zu wenig da.

00:32:59: und auch dieser Punkt mit im Bezug auf Innovation und KI positiv verstehen.

00:33:05: Ich glaube, so viele Unternehmen wollen jetzt um den KI nutzen und ich verstehe das.

00:33:08: Ich würde nicht sagen es ist falsch.

00:33:09: Das sollte mir ein Stück weit vielleicht auch aber wir sollten uns dessen bewusst sein was es bedeutet wenn wir KI-Systeme nutzen und wo sie vielleicht auch nicht nutzen wollen.

00:33:19: ja weil eben wir wissen dass die nicht neutral sind.

00:33:24: Was würdest du dir hier konkret wünschen?

00:33:28: Also ich glaube einen Schlagwort was da immer wieder auftaucht ist KI Kompetenz auf Englisch AI Literacy.

00:33:35: Also ich glaube, dass wir einfach viel mehr wissen.

00:33:39: Eigentlich genau das was du vorhin wieder gesagt hast Aufklärung dazu brauchen.

00:33:42: Das ist jetzt nicht nur... also es ist sicher eine kritische Perspektive auf KI Aber müssen auch einfach verstehen wofür sind sie denn sinnvoll einsetzbar?

00:33:50: Wo sind denn Chancen wo sind Risiken wo sind Grenzen?

00:33:52: Was können Sie dann vielleicht nicht?

00:33:53: gut Ja woför Köln sollten wir sich vielleicht nicht nutzen?

00:33:57: und

00:33:57: Ich glaube das sind teilweise vielleicht auch Fragen, die sich Menschen gar nicht trauen zu stellen.

00:34:01: Weil sie vielleicht denken es ist eine dumme Frage und ich glaube ... Die denken euch eher okay ich bin hinterher, ich muss es jetzt in mir auch nutzen... Und ich glaube wir sollten wirklich auch die Frage stellen und auch zulassen wofür sollten wir's nutzen?

00:34:16: Wofür nicht!

00:34:17: Und wo ist es nicht sinnvoll?

00:34:19: Genau, ich glaub die müssen wir in Unternehmen stellen, ich glaube da brauchen wir auch zweite Bildungen Einfach mehr Bewusstsein dafür, aber die müssen sie sicherlich auch ein Stück weit gesellschaftlich und politisch stellen.

00:34:28: Und da gibt es ja auch gewisse Weichenstellungen in Bezug auf Regulierung

00:34:32: usw.,

00:34:32: Aber... Da ist auch Kompetenz glaube ich noch zu wenig dar.

00:34:36: und vielleicht noch als letzter Punkt Das ist sicherlich was das an Schulen gehört.

00:34:40: Am besten schon Kindergärten!

00:34:41: Aber wir brauchen das auch im Bildungssystem.

00:34:43: natürlich Wir müssen hier beibringen wie kann man deepfakes erkennen also falsche Inhalte die nicht echt sind.

00:34:50: Wir müssen hier erklären, was ist denn KI?

00:34:52: Dass eben das nicht komplett einfach eingesetzt wird für jede Hausaufgabe.

00:34:55: Und sonst war es da.

00:34:57: auch hier wissen wir dass wir am Ende dümmer werden wenn wir einfach nicht mehr selbst denken.

00:35:00: also ich glaube weiter Bildung ist eigentlich das Schlagwort für mich.

00:35:05: Ja absolut Diebfakes.

00:35:07: kann man die erkennen?

00:35:08: würdest du das sagen?

00:35:10: Ich glaub bisher kann man sie schon oft noch erkennen.

00:35:12: Also es gibt zumindest schon immer wieder Punkte, die man sich angucken kann.

00:35:15: Ich meine anfangs waren es so ganz klassische Sachen wie Hand hat keine Finger.

00:35:19: Das ist heute meistens nicht mehr der Fall!

00:35:22: Ich glaube trotzdem dass man aktuell das schon oft noch erkennen kann.

00:35:28: aber es wird immer schwieriger und vielleicht ist dann eher weniger dass ich das wirklich in einem Bild erkenne sondern eher wirklich die Frage Ich glaube vielleicht nicht sofort den Inhalt, den ich sehe.

00:35:38: Sondern ich muss noch mal nach recherchieren und wirklich hinterfragen

00:35:40: lernen.".

00:35:41: Also vielleicht ist es dann eher das?

00:35:42: Ja also das war... Ich glaube die werden immer besser und wenn wir nicht davon ausgehen und davon können wir nicht ausgehen dass jeder KI-Content als solcher auch gekennzeichnet wird weil man natürlich Falschwendungen verbreiten möchte würde man das ja nicht drauf schreiben.

00:35:57: Dann ist mir glaube ich hier eher Kinder Menschen dazu Schulen Inhalte zu hinterfragend nicht einfach alles zu glauben.

00:36:04: Und vor allem glaube ich auch zu fragen, wo kommt das her?

00:36:07: Was ist die Quelle?

00:36:08: Wer hat es geteilt?

00:36:09: und eben vielleicht auch nicht direkt alles selbst direkt weiter teilen bevor wir nicht hinterfragt haben.

00:36:14: Wo das herkommt?

00:36:16: weil viele von diesen Fake Content, die ja geteiled worden sind auch über Naturkatastrophen und sonst was Das haben einfach Menschen gesehen.

00:36:23: Es hat die schockiert und die haben also sich in Windeseile weiter verbreitet, weil so viele Menschen geteild haben.

00:36:28: Also ich glaube eher dass wieder an uns arbeiten müssen Weil wir werden es irgendwann nicht mehr erkennen

00:36:33: Ja eher total logisch.

00:36:35: Und sowieso, also das ist ja bei diesen ganzen, finde ich Gerechtigkeitsthemen sag' ich immer so gerne, da werde auch ganz oft nach einer Lösung gefragt.

00:36:42: Ja sagt doch mal die konkrete Lösung und ich denke dann jedes Mal ne es gibt nicht die eine Lösung.

00:36:46: Die eine Lösung ist dass du bei dir anfängst und vielleicht mal bei dir schaust was du in deinem Umkreis mit der Art und Weise, mit der Haltung, mit den Werten die du so hast dich auseinandersetzt und dann versuchst sie eben zum positiven einzusetzen.

00:36:57: Also genau da fängt's an.

00:36:58: wir sind alle irgendwie Teil des Problems und können damit aber auch Teil der Lösungen sein.

00:37:03: irgendwie zu verstehen und zu verinnerlichen ist auf jeden Fall der absolut beste Schritt.

00:37:08: Jetzt hast du gerade schon über dein Buch gesprochen, also du hast das buch geschrieben feministische KI.

00:37:13: und ich habe mich gefragt gab es da eigentlich beim schreiben einen moment in dem du selbst gemerkt hast dass du deine vielleicht ursprüngliche optimistische sicht auf KI doch nochmal korrigieren muss oder vielleicht auch weiß versa?

00:37:26: Als ich dabei sich das Buch geschrieben hab war mir schon relativ bewusst welche probleme wir haben.

00:37:32: Ich habe im Buch ganz viele Beispiele aufgelöstet dazu, wie KI Ungerechtigkeiten reproduziert und also einfach welche Probleme es gibt.

00:37:39: Und ich glaube das war schon ... Das war auch ein schwieriger Prozess weil... Weil ich eigentlich gar nicht so viele negative Beispiele kennen wollte und es gab aber sehr vieles.

00:37:50: Ja!

00:37:53: Ich glaube trotzdem, also ich hab trotzdem versucht irgendwie ein Stück weit einen, sag' ich mal positives Buch zu schreiben oder ein Buch was was am Ende eher zum Handeln anregt und uns Mut macht, als es uns quasi zurücklässt.

00:38:06: Und dass wir denken okay Gott die Welt ist schlecht.

00:38:10: Ich würde auch immer noch dabei bleiben weil ich glaube wir haben ganz viele Möglichkeiten etwas zu verändern und für mich ist immer noch das positivste eigentlich daran dieser Zweck.

00:38:18: also warum setzen wir KI ein?

00:38:21: Warum entwickeln wir sie?

00:38:23: hier gibt es einfach ganz ganz ganz viele möglichkeiten wie wir KI einsetzen können und das sind auch Systeme wie generative KI, die nicht inherent feministisch sind um etwas zu verändern.

00:38:34: Wir können sie einsetzen, um Texte zu hinterfragen, um uns ein Stück weit ausgeben zu lassen wo es vielleicht nicht inklusiv genug ist um gendergerechte Sprache einzusetzen.

00:38:43: ich würde sagen dass es perfekt ist.

00:38:45: aber wir können also gerade das was du eigentlich gesagt hast Sie auch nutzen uns selbst zu hinter fragen.

00:38:49: Das ist vielleicht nicht der naheliegendste erste Schritt für den wir sie nutzen würden, aber das können wir tun.

00:38:57: Und es gibt auch einfach... Ich bin auf so viele coole Initiativen gestoßen die KI schon anders nutzen, um etwas zu verändern.

00:39:06: Ein Beispiel ist zum Beispiel Imoa AI.

00:39:08: Das wird ein KI-System was entwickelt wird in Latein Amerika und da geht's darum Gerichtsurteile analysiert werden, wo es genderspezifische Gewalt gab an Frauen.

00:39:22: Und erst mal wurden diese Daten überhaupt digitalisiert weil die stehen nicht digitalisiert zur Verfügung und sie sollen quasi dieses System wird ein Stück weit auch pilotiert schon eingesetzt und soll Frauen helfen, die dann solche Prozesse starten.

00:39:35: Dass sie quasi da recherchieren können, dass sie ja rausfinden können wie wo ist denn die Urteil der Zustande gekommen?

00:39:40: Und einfach... Also ich würde sagen es dreht ein Stück weiter an Macht um weil dann Personen also Frauen, die oft dort ein stückweit auch oft verloren in Posten stehen oder einfach nicht diese Ressourcen haben.

00:39:50: Den wird mehr Macht gegeben mit so einem System.

00:39:52: Deswegen würde es nicht perfekt sein, das System.

00:39:55: Darum geht's auch nicht aber es verändert gewisserweise Machtstrukturen und ganz ähnlich vielleicht auch bei Systemen also ich bin ja aus Bayern, ich lebe in Bayern.

00:40:06: Frau Herz-KI ist ein System was entwickelt wird und da geht es darum dass wir weibliche Herzenfakte früher diagnostizieren weil wir wissen dass menschliche Ärztinnen das oft zu spät tun oder gar nicht tun.

00:40:18: Dann hat der weiblichen Symptome, die einfach weniger bekannt sind und hier wird auch ein System explizit entwickelt dafür um ein menschliches Problem zu... Also nicht allein zu lösen, nicht allein technisch sondern das soll dann Ärztinnen dabei helfen dass diese Symptöme besser zu erkennen.

00:40:33: und es gibt einfach ganz viele Beispiele die mich auch wieder extrem positiv stimmen auch gerade in Kontexten wie Bayern ja wo ich das nicht unbedingt erwarten würde und es wird mit von bayerischen Ministerien gefördert das Projekt.

00:40:44: also Ich hab ganz viele Probleme gesehen und ich würde schon auch sagen, dass seitdem wir gesprochen haben sich vieles auch leider verschlechtert hat.

00:40:51: Nicht alles aber viele Strukturen nicht mehr.

00:40:54: gerade durch Trump und viele andere schreckliche Männer die unfassbar in der Welt rumwüten.

00:41:00: Würde ich sagen hat sich viel was verschlechtert.

00:41:02: Aber ich habe auch ganz viele tolle positive Beispiele gefunden und die machen mir auch extrem Mut Und das sind ganz viele Tolle Menschen die da jeden Tag aufstehen um etwas zu verändern.

00:41:12: Ja das hast du schön gesagt Und auch schön zu wissen, also danke fürs Teilen.

00:41:16: Jetzt ist es ja so dass in Europa seit einer Weile schon würde ich sagen der Wunsch oder ein sehr starker politischer Wunsch, würde ich sogar sagen nach dem KI-Wettbewerb eben auch in Europa ist beziehungsweise das wir eben auch was KI an geht hier in Europa aufholen sollen.

00:41:35: Und auch da noch mal, was geht denn in solchen Innovationsnarrativen und auch Debatten besonders schnell verloren?

00:41:41: Du hast jetzt schon so ein paar Sachen genannt.

00:41:42: Aber gibt es hier vielleicht auch nochmal explizit etwas?

00:41:44: also... Was würdest du dann solchen Entscheiderinnen sagen wenn ihr mit ihnen am Tisch sitzt und sie dir sagen ja wir müssen das aber unbedingt weil das ist wichtig für Europa und wir müssen hier im KI-Wertbewerb aufholen Wir hängen irgendwie total weit hinten ran.

00:41:56: Das klingt für mich als Laie und als Außenstehende immer nach einem sehr profitorientierten To-do, der erstmal nur profitorientiert ist.

00:42:05: Und deswegen frage ich mich immer was würdest du da entgegnen?

00:42:09: Also stimmt... Was ich tatsächlich positiv sehe es gibt ja die KI Regulierungen auf EU Ebene den sogenannten AI Act und was dem so ein bisschen dahinter steht und was auch im Text drin steht dass man eigentlich einen Gleichgewicht schaffen möchte aus Innovation stärken und ich glaube sie haben vertrauenswürdige KI oder Verantwortung vor der KI Trust with the AI.

00:42:36: Ich glaube, das ist für mich eigentlich genau der richtige Weg.

00:42:39: Und da wurde zumindest die Initiative gesetzt, dass Europa eigentlich zu einem Ort werden soll, der auch gerade für eine verantwortungsvollere vertrauenswürdigere KI stark ist und ich glaube das ist am Ende der richtige weg.

00:42:56: Ich glaube nicht, dass wir gewinnen oder versuchen sollten zu gewinnen in einer KI, die absolut Profit getrieben ist und kapitalistisch Profit maximiert.

00:43:07: Das ist für mich der absolute falsche Weg und ich glaube auch exakt können wir darin gar nicht gewinnen.

00:43:10: Da sind USA und China deutlich weiter.

00:43:13: Ich glaube tatsächlich dass wir die Chance haben und nutzen sollten das wir uns stark machen im Bezug auf eine sichere KI.

00:43:21: Eine KI die aber Chancen wirklich heben kann, weil also das ist was ich vorhin gesagt habe.

00:43:27: Ich glaube dass Unternehmen wollen ja mit KI bessere Entscheidungen treffen die wollen etwas positiv verändern Die wollen ihre Prozesse einfacher gestalten aber sie wollen nicht ungerecht gestalten im Normalfall Das ist nicht das Ziel dahinter und dass wir uns wirklich fragen Wie können wir KI Systeme entwickeln?

00:43:43: Das ist bei der Regulierung wo und wie können wir Sie einsetzen um am Ende auch bessere Entscheidungen zu treffen, nicht nur gerechtere.

00:43:51: Also das ist auf jeden Fall mein Antrieb dass wir mehr Gerechtigkeit wollen.

00:43:55: aber es geht für mich einher damit dass wir auch besseren Entscheidungen treffen und ich glaube das ist für mich das was ich auch den Entscheiderinnen sagen würde deswegen stückweit auch weiter wie bisher weiter diesen Leitlinien folgen die es eigentlich gibt und gab.

00:44:11: ... am Ende eher versuchen, dass wir mit dem Weltmarktführerinnen oder das... also dass sie uns stark machen führt.

00:44:17: Die Werte die wir eigentlich auch in Bezug auf Menschenrechte und so immer wieder so hoch halten,... ...die ich aber auch aktuellen Europa nicht immer absolut voll abgedeckt sehe sondern auch hier glaube ich machen wir,... ...ja wir machen da Rückschritte oder Abstriche.

00:44:31: Aber ich glaube das wäre für mich der Weg wo ich auch wirklich den ich richtig fände,... ...wo ich aber wirklich Potenzial sehe und ich glaube denen geht zum Beispiel gerade die USA auf jeden Fall nicht.

00:44:40: Also hier würde ich sehen, dass wir auch wirklich die Chance haben vorhin dran zu sein.

00:44:47: Und wie groß siehst du diese Chance?

00:44:48: Sorry!

00:44:49: Ich muss wieder kritisch sein wenn wir den Blick in die Politik wagen und uns einfach die Männer-und Menschen anschauen, die da gerade so eine Politik... Auch hier in Deutschland oder auch in Europa.

00:45:06: Ich sehe es begrenzt.

00:45:07: also Aktuell gibt es auch wieder Debatten über den AI-Akt, dass man den stückart abschwercht und pausiert.

00:45:15: Also ich glaube was zum Beispiel bräuchte wären mehr Investitionen oder Investitioner gebunden an solche Kriterien?

00:45:20: Es gibt ganz viele öffentliche Fördermittel für KI-Projekte und hier wäre für mich eigentlich absolut verpflichtend das da etwas reingehört wie wenn ihr Geld vom Staat bekommt.

00:45:31: Das sind ja auch viele Unternehmen, die Geld von Staat kriegen um KI-Projekte umzusetzen.

00:45:34: aber auch in der Wissenschaft dann müssen gewisse Mindestanforderungen da sein.

00:45:39: also ihr müsst euch angucken gibt's Bayes?

00:45:41: Ihr müsst euch an gucken.

00:45:42: können wir eigentlich solche KI Systeme dahingehend einsetzen dass wir zum Beispiel wenn es im Medizinkontext geht hier Gender Gaps schließen und so weiter?

00:45:50: das wäre für mich was ich sag wirklich einfach wäre um zu setzen Aber es würde Finanzen an etwas binden, also es würde ja dazu führen dass positive Anreize gesetzt werden weil alle Unternehmen und Wissenschaftlerorganisationen möchten diese Gelder bekommen.

00:46:02: Und sie müssten das dann einfach auch tun wenn Sie's nicht inherent tun.

00:46:05: Also ich sehe da überhaupt kein Problem.

00:46:09: Ich versehne dich warum das nicht im großen Stil passiert?

00:46:11: Weil das wäre meistens eine ganz einfache Möglichkeit.

00:46:14: Sehe ich das aktuell passieren vermutlich nicht in großem Stil.

00:46:17: nein!

00:46:17: Ich sehe glaube ich eher in kleineren Bereichen ist man.

00:46:20: es gibt auch viele Stiftungen die sowas fördern wollen, wo explizit sowas auch im Vordergrund steht.

00:46:27: Also ich will nicht sagen es gibt's gar nicht aber ich sehe es jetzt nicht im großen politischen... Ich sehs nicht im Fokus definitiv nicht mehr.

00:46:33: Ja ja danke schön Eva wir sind jetzt fast am Ende und ich würde dir gerne noch eine letzte Frage stellen und zwar habe ich mich gefragt Gibt es noch irgendetwas was du zum Thema feministische KI unbedingt teilen möchtest?

00:46:45: Wo du sagen würdest das muss noch geteilt werden das müsst ihr wissen hören fühlen.

00:46:55: Ich glaube, ich würde wirklich wieder sagen das positive.

00:46:57: Ich würde sagen wir alle können was tun und wenn es auch nur ganz viele kleine Schritte sind.

00:47:05: Wir können überlegen welches KI-System nutzen wir?

00:47:09: Wir können den KI System Feedback geben und sagen hey ich fand die Antwort nicht gut.

00:47:14: warum kam dies so?

00:47:15: Warum hast du zum Beispiel nur Männer dargestellt wenn's um sie ausgeht ... an ganz vielen kleinen Stellschrauben können wir drehen und da kommt es auf uns an.

00:47:23: Und deswegen fand ich es vorhin auch so schön, wenn du gesagt hast wie sollten bei uns starten?

00:47:26: Ich glaube aber auch das ist bei KI der Fall!

00:47:28: Beim Ende sind wir den nicht ausgeliefert... Wir können da ganz viele Entscheidungen mit treffen und... Das ist für mich auch das Positive.

00:47:35: Deswegen, dass... Das sind keine Riesenschritte die wir gehen können weil du hast das ganz richtig gesagt, es ist ein großes System was dahinter steht mit ganz viel Macht.

00:47:44: Aber wir haben in ganz vielen... Kleinpunkten Einfluss und ich glaube das ist was.

00:47:51: Was für mich, was mich trotzdem auch weiterhin positiv schauen lässt weil ich sehe viele negative Entwicklungen aber ich seh auch Ich lerne so und hab so viele tolle Menschen kennengelernt.

00:47:59: Auch trotz wie dich Und auch über dein Netzwerk auf LinkedIn habe ich so viele Tolle neue weitere Personen kennengelernen die täglich sich einsetzen was zu verändern.

00:48:07: und Ja also da sehe ich eine Riesen Chance deswegen dass es glaube ich für mich auch mein positives Narrativ was ich Was mir Freude macht, da jeden Tag was zu tun und nicht ausgeliefert fühlen.

00:48:19: Super!

00:48:19: Das ist ein schönes Ende.

00:48:22: Vielen lieben Dank für deine Zeit Eva zum zweiten Mal, es ist mir eine Ehre ich finde das ganz toll dass du da warst.

00:48:27: Ich finde deine Arbeit bewundernswert eben drum weil es nicht immer einfach ist und weil man ständig gegen Windmühlen kämpfen muss und weil wir ständig irgendwie immer wieder auf den Boden der Tatsachen zurückkommen.

00:48:36: aber wie du so schön sagst KI ist nicht gerecht und gleichzeitig haben wir die Möglichkeit sie mit zu verändern und dieses Leben mit KI neu zu gestalten und das sollten alle tun.

00:48:46: danke für den Appell Danke für dein Buch für ministerische KI dass du da warst.

00:48:50: Ja vielen Dank, danke auch für deine Arbeit!

00:49:00: Bis zum nächsten

00:49:02: Mal!