Paola Lopez über Mathematik und Künstliche Intelligenz

00:00:01: Krummel

00:00:01: Straße ist der gemeinsame Podcast, der Zeitschrift

00:00:04: Merkur

00:00:05: und des kulturwissenschaftlichen Instituts Essen.

00:00:09: Einmal im Monat sprechen wir mit Gästen aus Wissenschaft und Kultur.

00:00:13: Manchmal interessiert uns ein Thema – manchmal die Personen und ihr Schaffen.

00:00:17: Entsprechend unterschiedlich ist das Format der Gespräche.

00:00:22: Die Krumme Straße können Sie auch abonnieren auf Spotify, Apple-Podcasts, YouTube und überall wo es Podcast gibt!

00:00:30: Und natürlich direkt auf den Seiten des Merkur und des KWI.

00:00:35: Gastgeber sind heute Hannah Engelmeier vom Kulturwissenschaftlichen Institut Essen, und Eckhard Knörer, Herausgeber des Merkur.

00:00:43: Ja willkommen zur neuesten Folge der Krummen Straße das gemeinsamen Podcast von Merkur & KWi-Essen!

00:00:52: Wir haben heute zu Gast Paola Lopez die den Merkurleser in bekannt sein dürfte als KI-Expertin und dann auch sehr bald KI-Kolumnistin in der Zeitschrift.

00:01:05: Ich habe heute noch mal nachgeguckt, dein erster Text war tatsächlich tatsächlich vor fünf Jahren schon bei uns.

00:01:10: also du bist jetzt wirklich unsere langjährige KI-expertin.

00:01:15: Ich werde dich gar nicht weiter vorstellen weil es heute zwar auch sehr viel um KI gehen wird denke ich aber es wird auch tatsächlich um Dich gehen Werdegang und auch tatsächlich um deinen Roman, den du nämlich auch geschrieben hast.

00:01:32: Ich lese kurz vor wie du im Klappentext des Romans vorgestellt wirst.

00:01:37: Da steht nämlich Paola Lopez ist Mathematikerin und promoviert interdisziplinär überkünstliche Intelligenz oder es ist auf der Seite des Verlags Klett-Kotter.

00:01:46: Du bist auch noch Verlachsgenossin dazu.

00:01:49: Der Merkur erscheint ja auch bei Klett Kotter.

00:01:55: Meine Frage wäre oder das ist eine ungewöhnliche und interessante Biografie.

00:02:01: Nicht nur für Merkur-Autorin, weil es nicht aus der Geisteswissenschaft kommt sondern du bist wirklich gelernte Mathematikerin und hast dich von da aus aber auch anders wohin bewegt?

00:02:11: Du bist interdisziplinär unterwegs.

00:02:13: deine Promotion entsteht wenn ich das richtig verstanden habe sogar an einem Institut dass er juristisch in Wien ist.

00:02:19: also wie kommt es dazu und wie ging dieser Weg?

00:02:23: Ja erstmal vielen Dank für die Einladung.

00:02:25: Ich freue mich sehr.

00:02:29: Ursprünglich zur Mathematik gekommen bin ich in der Schule eigentlich, also da hat mir das immer großen Spaß gemacht und vor allem so dieses Denken und das Anstrengen beim Denken solange bis es hierhin sich verknotet und irgendwie schmerzt.

00:02:43: Und das fand ich schön.

00:02:44: Das habe ich immer gesucht wie eine Art High vielleicht und so dieses komplette Fokussieren und das Ausblenden von allem anderen außer dem Problem das gerade vor einem liegt.

00:02:55: Das ist halt gut für mathematisches Arbeiten.

00:02:57: Das ist nicht gut für viele andere Arten des Arbeitens, wenn man den ganzen Kontext ausblendet.

00:03:03: Aber ja die Mathematik belohnt einen dafür, weil man sich komplett fokussiert und alles ausblendert.

00:03:09: Und wenn man vor so einem mathematischen Problem sitzt dann schrumpft die Welt sozusagen zusammen vor einem und wird sein kleines Modell von der Welt vielleicht... ...und das fand ich immer toll!

00:03:22: Dann habe ich mich für das Mathestudium entschieden und habe dann auch einige Jahre als klassische wissenschaftliche Mitarbeiterin an der Mathefakultät der Uni Wien gearbeitet.

00:03:31: Ich wollte eigentlich in sogenannter Rainer Mathematik promovieren, falls es jemandem was sagt im Gebiet der Automorfen Formen im Langlands Programme, im Gebiete Special Values of L Functions – schick das mal da in den Etat!

00:03:45: Und das gehört so ziemlich zu den abstraktesten Dingen, die man überhaupt irgendwie machen kann.

00:03:51: Das Arbeiten war auch super analog und sehr old-school vielleicht?

00:03:56: Wir sind da wirklich gesessen mit Stift und Papier und mit Havel und Kreide und haben doll nachgedacht!

00:04:04: Und so speziell wie du auch sehr klein international.

00:04:07: bei Konferenzen gab es zum Beispiel keine Calls für Papers oder so.

00:04:11: Man wurde halt eingeladen... Weil es dann immer die gleichen... Einfach

00:04:13: alle, die das machen, kommen dann auch.

00:04:15: Genau!

00:04:16: Also wie so ein Klassentreffen so'n bisschen?

00:04:18: Und aber was für einen Bereich der Mathematik ist das so grundsätzlich also für den totalen Leinen

00:04:23: gefragt?

00:04:23: Zahlentheorie, also sozusagen die Physik der Primzahlen vielleicht.

00:04:28: Aber das sagt natürlich auch wieder alles und nichts.

00:04:31: Es sind sehr altes Gebiet deswegen auch sehr spezialisiert und es hat doch die Eigenschaft dass man als Vimy, als Frischgeschlüpfter Vimy erst mal jahrelang lesen muss um überhaupt die objekte zu verstehen, um die es da geht.

00:04:46: Weil das so eine voraussetzungsvolle geschichte schon alles hat und entsprechend kann ich das hier auch nicht erzählen und ich konnte dass auch freundinnen und freunden dann nicht erzählten.

00:04:55: Es war irgendwie sehr unkommunikativ und insgesamt dann vielleicht ein bisschen einsam.

00:05:00: also außer mit diesen vierzig-fünfzig anderen Leuten kann man dann nicht mit jemandem sprechen Und... Das ist wundervoll und das hat mega Spaß gemacht aber ich wollte das dann irgendwie auch nicht mein Leben lang machen.

00:05:11: Aber ist das sozusagen ein Gebiet, auf dem es dann auch schon klar definierte offene Fragen gibt?

00:05:15: Ja

00:05:16: und die werden dann ganz inkrementell und ganz kleinteilig gelöst und das ist ein wahnsinnig reichhaltiges Gebiet wo es sehr viel zu tun gibt und für viele Leute ist das genau das Ding und für mich war das dann irgendwann ja nicht mehr so dass das Schönste was man machen kann.

00:05:37: Gleichzeitig, so eine parallele Entwicklung war das dann so.

00:05:39: So im Jahr zwei tausend achtzehn, zweitausend neunzehn habe ich durch verschiedene Medienberichte mitbekommen was mit algorithmischen Systemen so gemacht wird und der Anderen gab es dann diesen, da hab' ich eben mehr Kuh darüber geschrieben recht ausführlich in einem S-Algorithmus von Österreich, wo er im Testbetrieb eingeführt, zwei taussend acht zehn oder neunzen So ein Prädiktsionssystem im Bereich der Erwerbsarbeitslosenunterstützung, wo für individuelle Arbeitssuchende eine Prognose gemacht werden sollte.

00:06:06: Daten basiert wie gut ihre Chancen am Arbeitsmarkt stehen.

00:06:09: dann wurden sie in drei Gruppen geteilt und entsprechend gab es dann unterschiedlichen Zugang zu Förderessourcen.

00:06:15: Und für mich war dann ganz faszinierend und irgendwie ja das war dann wie so einer Einstiegsdroge vielleicht in dieses Gebiet weil ich dann wirklich ganz klar gesehen habe explizit benachteiligende Dinge in die Mathematik eingeschrieben wurden, so ganz klar.

00:06:37: Das hat mich dann irgendwie gefangen und das war der Einstieg in dieses Gebiet.

00:06:44: Ich weiß nicht mal wie man das jetzt lernen kann, kritische KI-Forschung, Critical Algorithm Studies oder von der Informatikperspektive mehr so fernes Accountability and Transparency in Machine Learning

00:06:55: Aber es ist ja mathematisch eigentlich ein ganz anderer Bereich.

00:06:58: Also das hier Statistik, Stochastik... Genau, Maschinen

00:07:01: und ich.

00:07:01: ...dass du dich da auch

00:07:02: eingearbeitet?

00:07:04: Ja also ich werde jetzt keine neuen KI-Methode erfinden aber über bestehende werde ich einiges sagen weiterhin.

00:07:14: Und was hat dich daran vor allem gereizt?

00:07:17: Du hast gerade beschrieben dass dein Start in der Mathematik oder die Dinge, mit denen du dich zuerst beschäftigt hast.

00:07:27: Ganz abstrakt gewesen sind und eines der abstraktesten Forschungsgebiete, die man da wählen kann das was du jetzt beschreibst und was auch in verschiedenen anderen deiner Merkur Kolumnen über KI vorkommt also zum Beispiel die Diversität der Daten für diejenigen, die das nachlesen möchten sind ja alles Fragen ganz existenzielle ethische Probleme eigentlich berühren, die auch eine besonders große Zahl von Menschen eigentlich berührt.

00:08:00: Miche so die Frage von Verteidigungsgerechtigkeit in diesem Fall von Mitteln der öffentlichen Hand wenn es um Sozialleistungen.

00:08:10: Und tatsächlich dieser Konkretionsschub, das gewesen was dich gereizt hat auch im Sinne der... Anstoßfähigkeit im Gespräch.

00:08:24: Also mich hat das gerade berührt, dass du gesagt hast, du hast ein Gebiet gearbeitet wo man nur mit vierzig Leuten auf der ganzen Welt drüber reden kann und dann muss man mit denen ja auch über diese Sache reden.

00:08:36: und falls wir mit den dann auch noch was anderes reden möchten die sind unangenehm oder so ist natürlich wirklich schwierig.

00:08:44: also kannst du es noch ein bisschen erzählen wie deine Vorliebe fürs konkrete geweckt wurde

00:08:51: Ja.

00:08:53: Also noch mal ein kurzes Kommentar zu meiner Ex-Forschungs-Community, da hatte ich tatsächlich Glück die waren alle total... Die Ex-forschungskommunität!

00:09:02: Ich hab auch so einen aber ich sag mich welche.

00:09:06: Also die waren auch zum Glück wirklich sehr cool und angenehme Leute, aber das war dann trotzdem irgendwie zu unkonkret wie du gesagt hast.

00:09:18: Und diese zwei Tendenzen oder diese zwei Interessen habe ich ja immer noch, also das streitet sich so ein bisschen.

00:09:27: Also ich vermisse gerade sehr dieses Nachdenken bis es hier in Schmerz und sich auf eine kleine Sache fokussieren.

00:09:33: und dieses abstrakte Arbeiten, das fehlt mir gerade.

00:09:37: aber...

00:09:38: Dazu auch nochmal eine Rückfrage ist so Ich kann das einerseits sehr gut verstehen was du beschreibst aber andererseits wirres jetzt aus Gebiet wie den Geisteswissenschaften oder auch Literaturwissenschaft in meinem Fall, wo man ständig mit ganz plastischen Phänomen eigentlich zu tun hat oder zu tun haben kann.

00:09:59: So sagen ich mal Sehnsucht danach mich mit Problemen beschäftigen die tatsächlich lösbar sind oder die irgendwie endlich sind.

00:10:07: also es gibt eine Forschungsfrage und man kann darauf nach Antwort finden dann macht man das nächste.

00:10:14: Das ist letztlich bei Forschungsfragen, die es in den Gebieten, in denen ich mich aufhalte oder aufgehalten habe ist das nie so.

00:10:22: Also weil die letztlich immer auch mit historischen Kontexten verbunden sind, die ändern sich, spielen teilweise an der Gegenwart und haben alle, die verändert sich immer.

00:10:32: Das ist überhaupt nicht in dem Sinne feststellbar.

00:10:35: Konkretion hat sehr viele Nachteile!

00:10:40: Ja, und vor allem auch Kontextualisierung.

00:10:42: Manchmal vermisse ich wirklich sehr diese Welt der Mathematik wo es richtig und falsch gibt und wo es eine Sache gibt die dann bewiesen ist und dann ist sie aktueller Stand und das hat dann einer Person bewiesen und dass es ganz klar wäre und dann geht man von da weiter.

00:10:53: Das ist halt so ein kumulatives Aufbauen Und... ...das war tatsächlich auch eine Sache, die mich sehr irritiert hat.

00:11:03: zu Beginn bei der Publikationskultur.

00:11:05: also weg von der Mathematik weil in der Mathematic Wenn man irgendein Resultat auf ein anderes zurückführen kann, dann lohnt es sich nicht darüber zu publizieren oder nur so ein bisschen.

00:11:16: Das ist kein großes Resultats, sondern so ein kleines das aus einem anderen folgt.

00:11:22: Also diese Wissenschaft hat etwas sehr Reduktives.

00:11:25: Man versucht immer etwas auf was anderes zurückzuführen, was es schon gibt und in den Kultur-, Geistes-Sozialwissenschaften ist es ja eigentlich umgekehrt.

00:11:32: also man versucht eher noch eine Nische der Komplexität zu finden die man auch ... betrachtet hat oder eine Betrachtungsweise aufzufächern, also das was sehr... ... expansiv ist in der... ... vielleicht Wissensgewinnung.

00:11:46: Und entsprechend wird es immer konkreter und... ... kleinteiliger und vielleicht faseriger und... Das finde ich auch total schön.

00:11:55: aber ich vermisse ja auch manchmal die Welt des richtiges und falsch.

00:12:00: Du hast dann auch institutionell die Welt der reinen Mathematik verlassen?

00:12:05: Und du warst dann gleich an dem Weizenbaum-Institut.

00:12:07: oder wie war der Weg dahin?

00:12:10: Ich hatte dann, also nach meiner Zeit an der Mathefakultät, war ich dann am Weizemam als Weizmarm-Institute für die Fenerziegesellschaft in Berlin.

00:12:18: Als Fellow ein paar Monate.

00:12:20: Das war auch... Meine Fellowship hat begonnen im Mitte März, hier erinnert euch eine sehr kommunikative tolle Zeit wo es wunderbar ist irgendwo neu zu starten und Leute kennen zu lernen.

00:12:34: Aber ja, das hat trotzdem gut funktioniert.

00:12:36: Bei dem Institut bin ich immer noch affiliiert und da funktioniert interdisziplinäre Forschung total gut.

00:12:43: Und dann hatte ich für meinen Dissertationsprojekt an der rechtswissenschaftlichen Fakultät in Wien wieder ein gutes Zuhause gefunden am Rechtsphilosophie-Institut.

00:12:52: Da gibt es einen kleinen PhD Studiengang, der heißt Interdisciplinary Legal Studies – und da hat mein Projekt genau reingepasst!

00:12:59: Ich habe auch früher viele Lehrveranstaltungen im Jura belegt Und deswegen hat das dann gut hingehauen.

00:13:05: Was ist dein Projekt genau?

00:13:08: Da geht es um die rechtzilosophische Bewertung von KI oder datenbasierten algorithmischen Systeme in der Anwendung von staatlichen Kontexten mit einigen Fallstudien und da also auch so eine interdisziplinäre Methodik als Erprobungen, und aus die Frage wie... Oder was für einen Level der Granularität sinnvoll ist, um über diese Dinge zu sprechen.

00:13:34: Also danke erstmal für die Darstellung von dem Projekt, das mir auch nochmal einleuchtet weil es tatsächlich ein Thema ist dass in deinen Kolumnen dann immer wieder vorkommt.

00:13:46: So was einmal eben das Beispiel des S-Algorithmus aus Österreich genannt der bei der Verteilung von Sozialleistungen.

00:13:55: Wichtig war.

00:13:56: in einem anderen Deiner Texte kommt ein ähnlicher Fall Niederlanden vor bei dem tatsächlich auch Reparationsleistungen gezahlt werden muss, wenn ich das richtig verstanden habe.

00:14:09: Weil sich herausgestellt hat dass Migrationshintergrund da als ein Risikofaktor bewertet wurde bei der Frage danach wer eventuell Kindergeldbetrug beginnen konnte.

00:14:22: Genau so eine nicht-ridoländische Staatsangehörigkeit?

00:14:24: Ja

00:14:24: genau

00:14:25: ja.

00:14:26: und Das würde also bedeuten, dass von den ethischen Fragen die dich interessieren mit Blick auf KI man das eigentlich noch ein bisschen verengen kann und es dir insbesondere sehr stark um Fragen von sozialer Gerechtigkeit eigentlich dabei geht.

00:14:50: Und von der rechtlichen Perspektive auch Fragen von Diskriminierung was ja auch viel engerer Begriff ist als nur Benachteiligung.

00:14:58: Ja, aber auch in einem großen Maßstab was das für eine Gesellschaft bedeutet wenn immer mehr Entscheidungen ausgelagert werden und die Verantwortung für Entscheidungen ausgelagert wird auf Systeme die entweder total black boxig sind.

00:15:12: Die irgendeine Ergebnisse ausspucken dass gut genug ist.

00:15:15: Was soll man das heißt?

00:15:18: Ja, vielleicht kommen wir da noch mal ansetzen.

00:15:19: Weil das auch ein Punkt ist den du diskutierst.

00:15:22: was ist ein Ergebnis dass gut genug ist in einer Entscheidung durch eine KI oder warum?

00:15:29: es ist ein Problem das überhaupt so zu formulieren?

00:15:32: Das Problem oder das gute und das schlechte an technologischen Systemen, an digitalen Systemen ist dass man sehr spezifisch sein muss in dem was man will.

00:15:43: also das gilt vom jetzt überall bekannten Prompten, bis hin zu anderen auf früheren Einbettungen.

00:15:50: Wenn man irgendeine Prognose übernimmt zum Beispiel im AMS-Fall.

00:15:55: dann sagt man irgendwer hat vielleicht seventy acht Prozent Wahrscheinlichkeit in den nächsten sechs Monaten drei Monate lang eine Arbeit zu finden.

00:16:05: das sind so ganz konkrete Dinge.

00:16:07: da muss man bestimmen welche Schwellenwerte man wählt.

00:16:12: Was ist jetzt, was mache ich mit diesen seventy- acht Prozent?

00:16:15: Das ist eine konkrete Zahl.

00:16:16: Es ist alt und siebzig Prozent viel.

00:16:18: Ist es wenig?

00:16:19: Man musste so einen Werteinfügen ab dem man sagt ab, weiß ich nicht, sechsensechzig Prozent sowie das in dem System der Fall war kommen Leute in diese Gruppe unter Sechsundseßig Prozent in die andere Gruppe.

00:16:31: und dieses Spezifizierung oder dieser... Man kann nur mit KI-Systemen arbeiten wenn man eben spezifische Anweisungen gibt.

00:16:41: Das ist ein produktives Moment der gesellschaftlichen Auseinandersetzung, wenn man dann sagen kann ja aber warum sind sechsundsechzig Prozent viel.

00:16:47: Warum ist es wenig?

00:16:48: Was heißt das genau?

00:16:50: und das ist so ein eher potenziell diskutierbares Moment was man da öffnen kann weil diese Entscheidungen werden ständig getroffen Und sie müssen aber explizit getroffen und irgendwo eingegeben unter Anfangstrichen werden und dass ist dann wieder angreifbar Und das ist halt produktiv für einen gesellschaftlichen Diskurs.

00:17:14: Und so der Frage, wann das gut genug ist?

00:17:19: Was bedeutet das in dem Zusammenhang?

00:17:21: Also gut genug würde bedeuten es macht irgendwas operationalisierbar, worüber man sprechen möchte also in dem Fall Risiken zum Beispiel von Langzeitarbeitslosigkeit oder irgendwie sowas.

00:17:35: Ja also gut genug verwend ich immer ein bisschen als... bisschen polemischen Begriff vielleicht, weil jeder Institution beschließt für sich selbst was gut genug heißt und was überhaupt gut heisst.

00:17:45: Und was ein erfolgreiches Outcome ist und um welche Optimierungen es da geht.

00:17:51: Geht das darum Leute aus den Statistiken rauszuholen?

00:17:55: Geht es darum Leute in Arbeitsmärkte reinzubringen?

00:17:59: wie lange?

00:18:00: Das sind alles Entscheidungen die eine Institution trifft und dann operationalisiert, um dann für Ergebnisse zu bekommen.

00:18:10: Also dein Einsatz wäre eigentlich immer der, zu sagen es gibt die Möglichkeit über KI und algorithmische Verfahren sozusagen Entscheidungen operationalisierbar zu machen aber ihr müsst immer bedenken was ihr euch damit einhandelt oder einkauft.

00:18:28: das sind die Voraussetzungen dafür sind.

00:18:31: und vor allem dass ist niemals euch die entscheidenden Vorentscheidungen abnimmt weil die müsst ihr selber treffen.

00:18:39: Also das wäre sozusagen eigentlich der Einsatz, deinen rechtsphilosophischen Einsatz sozusagen.

00:18:44: Ja also man muss auf jeden Fall als Institution gerade stehen vor jedem einzelnen Ergebnis und wenn dann ganz klar diskriminierende Muster in einem System drin sind... ...dann also der handelsübliche Move wäre dann eine Sachbearbeiterin hinzusetzen die dann die letzte Entscheidung trifft?

00:19:10: und manche Entscheidungen übernimmt oder manche Entscheidung nicht übernmt.

00:19:13: Und dann auch so ein bisschen diese diskriminierende Wirkung verhindern soll, aber das schiebt recht viel Verantwortung auf einen Individuum, dass dann in einem Arbeitsplatz sitzt und irgendwelche Dinge entscheiden muss.

00:19:28: Ja also oft wird ein KI-System angewendet um etwas zu lösen was gar nicht problematisiert wurde.

00:19:37: Also man hat Es ist nicht eine Lösung für ein Problem, das vorher erkannt wurde.

00:19:42: Sondern man sieht es gibt ein datumusiertes System.

00:19:45: Das kann irgendetwas... Man schaut wofür wir das einsetzen können und da müsste man sich überlegen was will ich überhaupt als Institution?

00:19:53: Was will ich lösen?

00:19:54: Was möchte ich erreichen?

00:19:56: Was wäre ein gutes Outcome oder ein schlechtes Outcome?

00:19:59: Was soll nachher wirklich messbar besser sein nach dem Einsatz eines Systems?

00:20:04: Es geht um Kostenersparnis.

00:20:08: Personal ersparen ist, geht es um weniger Beanstaltungen nachher.

00:20:12: Geht das um mehr bearbeitete Fälle?

00:20:14: Geht es um... ...weniger... ...diskriminierungsklagen?

00:20:19: Das alles?

00:20:19: wenn man das expliziert dann kann man auch schauen ob das System wirklich geeignet ist zu lösen.

00:20:23: Das ist oft nämlich nicht.

00:20:28: Arbeitest du da selbst auch empirisch also diese eine Geschichte mit dem Arbeitsamt?

00:20:33: Das ist irgendwie für dich schon ein Ausgangsfeier.

00:20:37: Oder arbeitest du in einem Kontext, wo die Leute dann auch wirklich empirisch arbeiten und arbeiten können?

00:20:41: Und da in Behörden und sonst wohin gehen dürfen?

00:20:44: oder ist das eh alles abgeschottet.

00:20:47: Wie meinst du?

00:20:48: Also jetzt dieser Einsatz findet ja in öffentlichen Institutionen statt im privaten Institution statt.

00:20:56: Die Frage ist Arbeitest du selbst empirisch also gehst du dahin und untersuchst wie das passiert oder gibt es in deinem Feld Leute die das machen und wird das überhaupt zugelassen?

00:21:06: von dem Feld jeweils?

00:21:08: Ja, ich verstehe.

00:21:09: Es ist eine sehr zweischneidige Sache weil man wird da wenn man irgendwie so KI-kritischer Erklärbär ist und irgendwie bekannt ist als KI-kritischer Erklärbär wird man dann manchmal eingeladen um so ein Projekt, um so Meinungen abzugeben für etwas und gibt damit ein bisschen einen Stempel, einen Siegel für.

00:21:32: wir haben uns Input geholt einen Expertenworkshop haben wir organisiert und wir haben uns kritischen Input geholt.

00:21:39: Und dann steht man mit einem Namen irgendwo drauf, der kritische Input wird umgesetzt oder auch nicht.

00:21:47: Das kann recht schwierig sein.

00:21:48: oder wenn Kollegen von mir haben eine recht kritische Studie zu einem System gemacht und haben internen Zugang bekommen.

00:21:57: Die wurden nachher von der Institution total angegriffen weil die Ergebnisse nicht das waren was die Institution gerne hätte.

00:22:05: Ich war auch mal in so einem Consulting-Projekt auf EU-Ebene, bei einem Bezüglich eines Einreisesystems ETIAS heißt das.

00:22:17: Was für Einreisen aus Drittstaaten eine Risikoprognose machen soll für Leute, dass gerade entwickelt wurde.

00:22:22: und da war es immer wieder schwierig weil einerseits die natürlich in ihren Kontexten arbeiten mussten Kontextlosen oder Institutionen, kontextlose Kritik schon sehr viel gegen Wände gelaufen sind und das ist dann.

00:22:42: manchmal kann das frustrierend sein aber es kann auch sehr nutzbringend sein.

00:22:47: Ich habe da noch nicht final beschlossen ob mir das lieber ist tatsächlich komplett von extern mit nur Informationen die für jeden Bürger jede Bürgerin verfügbar sind da Kritik darauf zu basieren oder ob man sich den privilegierten Zugang verschafft durch Vereinbarungen wo man dann auch ein bisschen gucken muss, wie man darüber publizieren kann und wie man drüber sprechen kann.

00:23:12: Also das hat immer auch einen Preis.

00:23:14: Und direkt der institutionelle Einfluss hat immer noch einen Preis und da bin ich auch gerade am Ausloten was am besten ist.

00:23:22: Von so einer vielleicht demokratie theoretischen Perspektive wäre es gut... viel Kritik üben zu können auf Basis von etwas, was komplett transparent und allgemein verfügbar ist.

00:23:36: Allein auch methodisch, dass man sich eben nicht diesen privilegierten Forscherinnenstatus beschaffen muss durch Vereinbarungen sondern Dass es viel mehr Transparenz gibt und man eben nicht intern dazu gehören muss

00:23:50: Wobei dieser Punkt wenn ich dich richtig verstehe ja auch Grenzen hat.

00:23:56: also einer deiner Texte für die

00:24:01: Kolumne

00:24:02: hier im Merkur, der mir besonders gut gefallen hat ist der über die quäcksilbrige KI, wo es vor allem anfangs auch noch mal grundsätzlich um den Begriff.

00:24:11: Ich meine das ist ja schon ein Kürzel-KI Prinzip geht und du ziehst da das Buch AI Snake Oil von Abend Naranian die Rede über KI damit vergleichen, dass man in einer Parallelwelt lebt.

00:24:35: Und dort gibt es also keine unterschiedlichen Namen für Fahrräder, Autos, Raumschiffe oder Schlauchboote, sondern nur Fahrzeuge sozusagen und alles, womit man von A nach B kommt ist das Fahrzeug.

00:24:53: Und dann wird natürlich ein Gespräch schwierig, wenn man mit seinem Schlauchboot in die Autowerkstatt geht und sagt so hier jetzt klebt mal bitte das Produkt ist schlecht da geht die Luft immer raus.

00:25:10: Also ich meine gut in der Autowerkstadt geht das sogar vielleicht noch weil die was dann irgendwie so einen Pflaster von einem Reifen haben oder keine Ahnung.

00:25:16: aber es ist ja klar zu welchen Missverständnissen das kommen kann.

00:25:23: Das ist vielleicht auch das Problem beim Sprechen über KI, weil ich glaube dass die meisten Leute im Moment sich da Chatbots darunter vorstellen und da vielleicht ins besondere ChatGPT oder Claude.

00:25:36: Weil das ist was sehr viele Leute benutzen und tatsächlich bezeichnet KI aber ja eben alles möglich andere.

00:25:45: also du hast gerade eben vor allem immer von von Instrumenten gesprochen, die bei Entscheidungsfindungen beispielsweise in Institutionen eingesetzt werden.

00:25:56: Und wenn man sich jetzt diese Situation vor Augen führt wäre für mich die Frage wie viel tatsächlich die von dir geforderte Transparenz bringt?

00:26:10: Also alle sind immer für Transparents und ich bin auch dafür klar.

00:26:14: aber setzt das nicht fünf Stufen zu hoch an.

00:26:19: Müsste man erst mal irgendwie mehr darüber sprechen, was überhaupt gemeint ist mit diesem Begriff KI?

00:26:31: Ja ... Mit diesem Transparenzbegriff oder mit diesen Transparensforderungen geht immer auch so ein Begriff an Herr der gern Algorithmic Literacy genannt wird.

00:26:43: Wo es denn darum geht dass Individuen bemächtigt werden sollen, selbst Entscheidungen zu treffen über die Nutzung oder selbst irgendwelche Wirkungsweisen zu verstehen von algorithmischen Systemen.

00:26:54: Und das ist meiner Ansicht nach auch immer so eine große Individualisierung.

00:26:58: Also wenn man sagt hier ja wir machen alles transparent hier ist das Modell.

00:27:01: Hier sind die weiß nicht das neue chinesische Chemie-Modell hat jetzt zwei Komma acht irgendwas Billionen Parameter offen gelegt.

00:27:12: Hier, da habt ihr sie!

00:27:14: Das könnt ihr alles nachgucken.

00:27:15: Das ist natürlich keine brauchbare Transparenz in dem Sinn und da sind tatsächlich wir auch von der Wissenschaft und auch so ein ganz großes breites Gefüge an Wissenschaft, Wissenschaftskommunikation gefragt um diese Übersetzungsarbeit dann zu machen was das bedeutet Millionen Milliarden, wie auch immer Gewichten auf sich hat und ob man da tatsächlich irgendwelche Schlüsse daraus ziehen kann oder ob andere Aspekte der Transparenz nicht wichtiger wären.

00:27:49: Wie kommen die Daten her?

00:27:51: Was genau wurde wir entschieden bei der Entwicklung?

00:27:53: Also so eine Transparens ist irgendwie wird oft verwendet wie so ein Hinknallen von irgendwelchen vielleicht Ordnern.

00:28:03: So hier habt ihr das.

00:28:04: Hier ist eure Transparents.

00:28:06: aber wenn man das eher versteht alles in der Art bringen Schuld, das eigene Produkt und die eigene Forschung dann auch verstehbar zu machen.

00:28:14: Und nicht auf Algorithmic Literacy zu warten sondern tatsächlich eine Verstehbarkeit herzustellen.

00:28:21: Dann wäre es wahrscheinlich produktiver.

00:28:24: Vielleicht können wir an der Stelle so in den Rahmen mal in Richtung KI weiter aufziehen also im ersten Text für uns aus dem April.

00:28:34: Das war vor ... den großen JetGPT-Kneuen.

00:28:37: Ja,

00:28:38: da gab's auch KI-Schein!

00:28:39: Genau und da schreibst du... Also war es zu Beginn der Entwicklung noch das Ziel... ... mittels Computerprogrammen einen kognitiven menschenähnlichen Gedankenprozess zu simulieren?

00:28:48: Was in der Regel nicht gut funktionierte?

00:28:50: So gründet der neueste Stand der AI Forschung heute auf Methoden des datenbasierten Machine Learning.

00:28:55: Also deine Klammer ist... Es gab ja Jahrzehntelang KI-Forschungen die immer wieder große Versprechen gemacht hat und das wenigste davon wirklich je einlösen konnte.

00:29:05: Tatsächlich bedeutet das Datenbasierte Machine Learning, woraus dann die LLMs wurden was mit einem sogenannten Nachbild-neuronalen Netzwerke zu tun hat.

00:29:16: Bedeutet schon ein Paradigmenwechsel der aber tatsächlich ja würdest du sagen zu dem Durchbruch geführt hat?

00:29:22: Aber welche ... Was ist der Durchbrug und welche Sorte Durchbrucht?

00:29:25: wohin ist es?

00:29:29: Also wenn wir dann bei dem Starten was KI genannt wird, einfach der Begriff KI künstliche Intelligenz Artificial Intelligence den gibt es seit Mitte der fünftiger.

00:29:39: Der kam nämlich zuerst vor in einem Drittmittel-Amprag.

00:29:43: wo sonst?

00:29:45: Um den US-amerikanischen Informatiker John McCarthy, wo es um so ein kleines Sommerprojekt ging, wo sie in zwei Monaten mit ich weiß nicht zwanzig Leuten die Probleme des der Künstlichen Intelligenzen lösen wollten.

00:30:00: Und diesen Drittmittelantrag, den kann man auf der Suchmaschine der Freien Wahl anschauen, suchen und anschauen und mit Blick auf heutige Drittmittelandräge kommen einem da echt einfach die Tränen weil sie haben nur hingeschrieben wir würden gerne das und das machen und wir glauben dass es total wichtig gibt uns Geld und alle so ja...

00:30:20: Das ist der Kern der Sache!

00:30:22: Ja, nur jetzt muss man irgendwie hundert Milliarden Seiten andere Dinge mit einreichen.

00:30:27: Aber da wurde eben dieser Begriff geprägt und da kam der meines Businesses erst einmal vor.

00:30:32: Und aus einer methodischen Perspektive hat das mit heutiger KI nichts zu tun weil es darum ging Aufgaben auf menschliche Art zu lösen.

00:30:43: Darum geht's jetzt auch noch dieses menschlichen Art der Aufgaben oder menschlicher Art des Denkens.

00:30:47: Das ist so eine Ziellinie die sich die ganze Zeit verschiebt.

00:30:50: Aber damals in den Fünfzigern, das steht auch explizit so in diesem Antrag drinnen war die Annahme dass jeder kognitive menschliche Prozess sich so genau beschreiben lässt.

00:31:02: Dass ein Computer insimulieren kann.

00:31:04: Da geht es also um die explizite anweisungsbezogene Beschreibung von Prozessen und das ein anderes Wort dafür ist sogenannte symbolische Systeme Die auf so einer wenn dann Logik basieren.

00:31:20: Und ganz wichtig ist aber dieses Einspeisen von genauen Anweisungen und als Beispiel vielleicht die Übersetzung von Sprache, von Deutsch auf Englisch zum Beispiel.

00:31:31: Um das in so einem symbolischen System zu implementieren braucht man erstmal ganz explizite Einspeisungen von Vokabellisten.

00:31:40: also Tisch heißt Desk und Tasche heißt Bag und eben ganz ganz expliziert.

00:31:46: Man muss jedes Vokabel einzeln, einspeisen und dann muss man Ausnahmen kodieren wie zum Beispiel Bank kann heißen Bench oder Bank.

00:31:54: Und all das muss expliziert werden.

00:31:57: Und jede grammatikalische Regel muss auch expliziert werden und jeder Ausnahme davon usw.

00:32:02: Ihr könnt euch schon vorstellen dass ist wahnsinnig viel menschliche Arbeit und man nennt es skaliert schlecht.

00:32:10: also man muss sehr viel Arbeit reinstecken um ein bisschen mehr Komplexität dabei rauszuholen, weil man alles explizit einspeisen muss.

00:32:18: Und der andere, also die sogenannte Revolution oder dieser Durchbruch wohin auch immer nennt man die subsymbolische Systeme, die arbeiten impliziert und finden Muster in Daten, die eingespeist werden.

00:32:34: Also nach diesem Ansatz wird das Wissen aus Daten gewonnen und diese expliziten Anweisungen muss man eben nicht machen.

00:32:40: mit dem Beispiel der Sprachübersetzung Braucht man nicht Vokabellisten, wo dann jedes Wort einzeln mit auch dem entsprechenden Artikeln und Regeln und sowas expliziert werden.

00:32:53: Sondern ganz viele Textmengen einmal auf Deutsch, einmal auf Englisch.

00:32:58: Und in den Mustern wird dieses Wissen implizit gewonnen.

00:33:06: Also da ich das ja alles hier als der Älteste von uns noch erinnere aus den neunziger Jahren oder so, es gab immer die Versuche ... der künstlichen Übersetzung.

00:33:15: und also meine Erfahrung war immer, das ist so schlecht.

00:33:19: Das wird nie was.

00:33:20: Also ich glaube jeder, der sich um dieses System angeguckt hat... ... ist zu dem Ergebnis gekommen.

00:33:25: Da können die noch Jahrzehnte und Jahrhunderte dran forschen dass wenn es besser wird dann so incrementell.

00:33:29: da ist irgendwie das Grundprinzip nicht okay.

00:33:32: Insofern dachte ich lange mit KI das kannst du vergessen weil so wird es nix.

00:33:37: Und dann kam eben dieser Paradigmenwechsel.

00:33:41: Also nach der Methode der symbolischen Systeme könnte man das auch mit großer Rechenkraft nicht so eine Performance, wie man es nennt, gewinnen.

00:33:53: Aber gerade dann sind so viele Entwicklungen gleichzeitig passiert nämlich dass einerseits hat sich viel des menschlichen Lebens ins Digitale verschoben Es gab einen wahnsinnigen Anstieg an Kapazitäten zur Speicherung von Daten, ein Anstiege vom Kapaziten zur Verarbeitung Und all das zusammen hat dazu geführt, dass man jetzt riesige Datenmengen einspeisen kann und mit großer Rechenkraft vergleichsweise schnell aber natürlich ressourcenintensiv Muster extrahieren kann.

00:34:26: Und es wirkt vielleicht wie so ein magisches Ding, dass plötzlich etwas was jahrzehntelang ganz schleppend und irgendwie ganz schlecht funktioniert hat.

00:34:35: Plötzlich super gut funktioniert.

00:34:36: aber der Schlüssel oder das wo diese Magie drin steckt oder die Rückseite der Magie ist dieser riesen infrastrukturelle Ressourcenaufwand den man da reinstecken muss.

00:34:46: also das kann auch keine Privatperson machen.

00:34:48: das sind riesige jetzt gerade Unternehmen die riesigen Mengen an Daten sammeln und verarbeiten müssen mit riesigen Mengen an Energieressourcen.

00:34:57: Das ist alles eigentlich viel voraussetzungsvoller als diese symbolischen Systeme, nur halt nicht menschliche Arbeit und deswegen besser skalierbar.

00:35:09: Was wäre deine Prognose?

00:35:11: Also das ist ja so ein gestarkt Umstritten wenn man es immer weiter skaliert.

00:35:15: Wie viel, wie exponentiell womöglich kann es sich immer noch in seiner Performance steigern oder siehst du da irgendwann auch ein Ende erreicht?

00:35:27: Ich finde mir sehr vorsichtig mit Prognosen.

00:35:31: Das ist schwierig zu sagen, ich glaube irgendwann stößt die Welt an ihre Grenzen und diese Globalpolitische Wahnsinn und dieser Ressourcenaufwand und dieses KI-Wettrennen wird, glaube Wer platzt, wie man sagt?

00:35:56: Die KI-Blaser platzt vielleicht bald.

00:35:59: Aber ich bin da sehr vorsichtig.

00:36:01: Keine Ahnung, wie sich das entwickeln könnte.

00:36:05: Du hast gleichzeitig oder nicht gleichzeitig in einem Deiner Texte davon gesprochen, dass wirst dich interessiert einen möglichst entzauberter Zugang zur KI.

00:36:17: ist es eine Zitat von jeder drin.

00:36:20: Worin würde das vor allem bestehen?

00:36:21: also du hast jetzt gerade darauf hingewiesen Herstellung der großen Sprachmodelle, auf den das beruht und die Weiterentwicklung der Systeme eben vor allem extremen Ressourcen intensiv ist.

00:36:36: Dass das nur von sehr großen Unternehmen geleistet werden kann oder bestenfalls eigentlich staatlichen Organisationen.

00:36:49: Wohin besteht vor diesem Hintergrund, einen Zauberter Zugang zur KI?

00:36:53: Darin das immer wieder sichtbar zu machen.

00:36:56: Dass was ist, was nicht individuell weiterentwickelt werden kann und auch nicht sollt oder... Was möchtest du

00:37:03: v.a.?

00:37:04: Entzaubern?

00:37:06: an welcher Stelle fängst du an?

00:37:11: Ja vielleicht mit so diesen Bild der Spitze des Eisbergs.

00:37:15: Also die Spitze is diese sehr unauffällige kleine Vielleicht charmante Eingabezeile, die so aussehen.

00:37:22: Das wäre irgendwie fast nichts und da gibt man dann irgendwas ein und dann kommt so ganz viel Tolles raus.

00:37:30: Und diese Verflechtungen dieser Ausbeutungsregime im Reinigen der Trainingsdaten Die ganzen Urheberrechtsverletzungen, die man machen muss um an diese ganzen Daten zu kommen mit denen man trainiert das ist Dann der Rest des Eisbergs und das kommt immer mit.

00:37:48: also dass es bei jedem Der Ressourcenverbrauch.

00:37:55: Das ist aber gleichzeitig auch nicht so, dass der nur die KI betrifft, die Systeme künstlicher Intelligenz sondern auch... sondern auch andere Suchmaschinen alleine schon gut, die jetzt alle KI implementiert bekommen haben.

00:38:13: Wir verbrauchen ja auch diese Ressourcen.

00:38:16: Warum ist die KI dann so ein besonderer Spezialfall um davon zu sprechen?

00:38:23: Weil der Verbraucher schon viel höher ist und viel mehr getan wird als wäre das sein magisches Werkzeug dass jetzt alles löst

00:38:37: es unumgänglich ist, das zu

00:38:39: benutzen?

00:38:39: Ja genau.

00:38:40: Also dieses Narrativ der Zwangsläufigkeit und auch ein bisschen der Resignation... Das befeuert so eine Gestaltungs-Apartie.

00:38:47: vielleicht also dass alle verwenden LLMs weil alle LLM's verwenden und man will nicht abgehängt werden als Person, als Behörde, als Institutionen, als Unternehmern, wie auch immer.

00:38:58: Und ja da tun wir uns glaube ich nicht unbedingt einen Gefallen wenn wir dass wirklich übernehmen, was einem so überall entgegen gebrüllt wird.

00:39:09: Dass das die komplette Zukunft ist.

00:39:11: und auch diese ganze Narrative mit KI bricht aus und hackt irgendwelche Systeme.

00:39:16: Das befeuert auch dieses Machtlosigkeitsgefühl, dass man dann als Gesellschaft vielleicht hinnimmt oder in eine Verantwortung abgabe.

00:39:28: Und ich finde auch dieses Narrativ schwierig wo es darum geht effizient und mächtig ist, aber leider halt diese ganzen Probleme hat.

00:39:41: Also es ist zwar ganz, ganz toll, aber hat ethische und ressourcentechnische und Ausbeutungs- spezifische Probleme.

00:39:48: und wenn man ethisch wertvoll handeln will dann muss man sich irgendwie in so Verzicht oder so üben und weniger verwenden oder stark regulieren.

00:39:56: und also diese einerseits andereseits Logik finde ich schwierig weil insgesamt KI oder das Projekt KI jetzt gerade ist etwas, dass in sich selbst glaube ich nicht aufgeht.

00:40:11: Also es braucht zu viel und es ist nicht effizient und funktioniert fantastisch aber man hat ethische Bedenken sondern in sich diese ganzen Urheberrechtsverletzungen.

00:40:21: wenn OpenAI für jedes Trainingsdatum angemessen zahlen müsste, dass es verwendet würden sie's nicht machen weil dann lohnt es sich nicht und es basiert auf so einer eigentlich unmöglichen Rechnung in sich schon

00:40:37: Ja, also das ist würde ich sagen zu optimistisch gedacht dass das ein Einwand sein könnte der wirklich greifen wird.

00:40:43: aber auch das wird man wahrscheinlich erleben.

00:40:48: Also zur Frage kommen so einen zurück wie gefährlich es zum Beispiel auch KI bin.

00:40:54: ich lese sehr viel dazu und bin immer hin und her gerissen weil es gibt schon sehr ernst zu nehmende Menschen Der ein Argument ist, das Problem mit dieser Form von KI ist grundsätzlich, dass sie nicht kontrollierbar ist.

00:41:06: Die ist so gebaut, dass die Leute die ganzen Entwickler wissen ja auch tatsächlich nie was genau jeweils rauskommt und dass das je größer eskaliert und je mehr es sich der Beobachtung und der Berechnungen von außen entzieht desto unkontrollierbarer kann es werden.

00:41:24: und sobald das Ding anfängt selbst neue Sachen agentisch zu programmieren Kann das wirklich, wie immer man es nennen will ausbrechen ist ein blöder Begriff.

00:41:35: Aber kann es sich auf eine Weise der Kontrolle entziehen die wirklich sehr gefährlich wird?

00:41:38: Würdest du das auch sehen?

00:41:40: Vielleicht können wir uns ganz kurz nochmal konkretisieren weil's ja gerade einen ganz aktuellen Fall gab wo das passiert ist also der sogenannte Hugging Face Incident von dem du wahrscheinlich... gehört hast und den wir, denke ich kurz rekonstruieren müssten.

00:41:56: Weil wenn dieser Podcast ausgestrahlt wird, sage ich mal ist das auch schon wieder ein paar Wochen her aber vielleicht können wir es anhand... Ja

00:42:03: weißt du was bis dahin noch alles passiert sein wird?

00:42:05: Aber gut wäre ja

00:42:06: vielleicht können Wir es an Hand dessen kurz...

00:42:08: Das würde ich wirklich nur Paola recapitulieren lassen weil ...

00:42:13: Ich möchte das auch auf keinen Fall erklären weil ich ansonsten naja gut also Kannst du es erklären?

00:42:23: Ja, da muss ich leider enttäuschen.

00:42:25: Ich war jetzt zwei Wochen im Urlaub und musste wirklich viel nachlesen.

00:42:30: Also bevor ich da was klug ist dazu sagen kann, muss ich noch ein bisschen

00:42:33: reden.

00:42:33: Dann streichen wir das.

00:42:35: Aber ich schreibe gerne mal drüber.

00:42:39: Also vielleicht ein bisschen Zeitversetze dann aber genau...

00:42:42: Aber also um dass der Grundsatz schreit auch darum ist, wie gravierend ist eigentlich das, was da passiert ist ... was dann letztlich auf die Frage zuläuft, ist diese Sandbox in der das alles eigentlich hätte gefangen bleiben sollen.

00:42:57: War die problematisch aufgesetzt?

00:42:59: Vielleicht sogar aus Marketinggründen... Also auch da wird man nicht zu einem endgültigen Ergebnis kommen.

00:43:05: Es bleibt einfach konkret und nicht konkret die Grundsatzfrage also wie gefährlich kann das werden.

00:43:11: Und ich glaube niemand weiß es wirklich.

00:43:14: Interessen der von der Industrie das auch als gefährlich darzustellen, weil die natürlich die Geld haben wollen.

00:43:20: Aber wie sagt es gibt auch genug sehr ernstzunehmende Leute, die die Sache sehr kritisch sehen und gar keine Propaganda auf den Leim gehen, die das für tatsächlich sehr gefährlich halten?

00:43:30: Ja absolut.

00:43:31: also wir sehen ja auch gerade in bestimmten anderen Ländern dass Dinge die komplett warnwitzig wirken einfach passieren und zugelassen werden.

00:43:47: Woran denkst du da speziell?

00:43:48: USA, natürlich!

00:43:54: Man ist jeden Tag einfach nur sprachlos über jede Art der Neuigkeiten die von darüber kommen und man fragt sich okay das war alles jeder Schritt war komplett sichtbar wie konnte das passieren und wie kann es weiter passieren?

00:44:12: und vielleicht so ähnlich.

00:44:13: also Nichts von all dem ist eine Überraschung.

00:44:20: Man wundert sich.

00:44:21: Ja und zugleich ist ja auch schon die Frage, man kann viel über Regulierung reden.

00:44:25: aber auch da ist die Frage wo ansetzen was lässt sich überhaupt regulieren unter welchen Voraussetzungen?

00:44:31: Also müsste man nicht viel früher hätte man nicht Viel früher ansetzen müssen.

00:44:37: Das ist dann wo interdisziplinäre Arbeit total wertvoll ist oder die Juristen-Juristinnen ... total gefragt sind.

00:44:45: Und also von Urheberrechtsverletzungen, da gibt's ja wahnsinnig viele Klagen gerade... ... bis hin zu vielleicht Wettbewerbsrecht und allen möglichen anderen Regimen die ich... ... wo ich mich wirklich überhaupt nicht auskenne.

00:44:58: aber da geht es total darum einen... ... transdisziplinären Dialog zu finden.

00:45:05: Aber also da ich in meinem Leben auch schon mit Interdisziplinarität zu tun gehabt habe, kommen wir nochmal auf den Anfang zurück.

00:45:11: du beschreibst das sehr positiv?

00:45:12: Also das scheint ... in dem Kontext gut zu funktionieren.

00:45:16: Interdisziplinär geht an sich?

00:45:18: Ja, ich würde sagen... Ich habe Kontexte erlebt, in denen es extrem schwierig gewesen ist,... ... weil man verschiedene Sprachen spricht,... ...weil man eigentlich ständig mit dem Klären von Grundlagen,... ...worüber man hier eigentlich jetzt gerade spricht beschäftigt ist und weil es überhaupt viel weniger einfach ist als man denken sollte.

00:45:37: Unterschiedliche Denkwelten miteinander... kommunizieren, sinnvoll kommunizierend zu lassen.

00:45:43: Ohne dass es aneinander vorbeirehnen oder streiten oder ausfranzen oder sonst was wird?

00:45:50: Ja total ich stimme dir total zu.

00:45:54: Ich habe beim interdisziplinären Kommunizieren verfehlt man einander immer also das ist nicht möglich ohne eine bestimmte Art der Reduktion oder Vereinfachung transdisziplinäert zu sprechen und Die Vereinfachungen prüft man dann selbst.

00:46:09: Man muss dann selbst entscheiden, was behalt dich drinnen an Komplexität und was vereinfache ich?

00:46:13: Weil das jetzt gerade wirklich nicht so wichtig ist... ...und dafür trägt man Selbstverantwortung für die eigene Kommunikationskultur natürlich auch für das Zuhören und da kann wahnsinnig viel schief gehen also gerade wenn man in einer vielleicht Forschungsbubble unterwegs ist wo ich nicht unterwegs bin aber von denen habe ich gehört wo man auch mit Disziplinen, Freunden Freundinnen wahnsinnig vielleicht streng ist und wo dann Konferenzvorträge eigentlich nur so Kämpfe sind.

00:46:47: Wo dann irgendwer was vorträgt und die anderen warten nur darauf das irgendwie zu zerreißen.

00:46:53: Das verhindert natürlich auch jede Art von interdisziplinärer Kooperation weil dann jeder Gap zwischen Begriffswelten da wird ja dann nur noch gekämpft und gestritten.

00:47:07: Aber ja, ich glaube wichtig ist es man sich nicht zu sehr irritieren lässt von dieser Lücke – und das sind auch beide Parteien oder alle fünf oder ich weiß nicht, Disziplinen die gerade zusammenkommen immer wissen dass man sich immer ein Stück weit verfehlen wird, dass vielleicht dass man auch sein Publikum gut kennt.

00:47:28: wenn ich irgendwo in einem technischen Venue Vortrage mache, das ganz anders als im nicht-technischen Venues Da geht es um eine Auswahl von Begrifflichkeiten.

00:47:39: Im schlimmsten Fall gehe ich in ein technisches Venue mit meinen Inhalten und werde dort als vielleicht isoterisch und wuhu gesehen, weil ich zu sehr über Gesellschaft spreche.

00:47:50: Und im schlimmsten fall der Spiegelfall gehe ich an ein nicht-technisches Venues und werde als zudeterministisch und platt gesehen, zu platt das Bild vom Gesellschaft also dass sowas ist.

00:48:00: dann gilt es dann zu verhindern und irgendwie sich in diesem Zwischen Welten zu bewegen und ein Riesen Unterschied, den ich gemerkt habe war in der Rolle von Texten.

00:48:13: Und vom Schreiben weil oder überhaupt.

00:48:16: das ist sehr eng verknüpft mit der Frage was überhaupt ein Resultat ist?

00:48:21: Was ist etwas über dass es sich zu sprechen lohnt?

00:48:25: Was is etwas über das sich zu publizieren lohnt?

00:48:28: Weil unsere Währung ist ja immer das Publizieren jetzt immer mehr.

00:48:34: Ein großer Unterschied zwischen Natur, vielleicht Ingenieurstechnikwissenschaften und anderen ist das in der Naturwissenschaft.

00:48:42: Ich weiß nicht wer das mal gesagt hat aber irgendwer hat das man so toll formuliert Das sind Zeigewissenschaften.

00:48:48: Man macht irgendein Experiment oder führt eine Berechnung durch oder findet irgendeinen Algorithmus da etwas schneller macht oder beweist irgendwas.

00:48:54: Und in einem Text so drei Meter weiter sozusagen, beschreibt man dann Ex-Post was man gerade getan hat und sagt, die habe ich das gemacht?

00:49:04: Und diese Flüssigkeit mit der vermischt oder diesen Algorithmus auch das angewendet.

00:49:08: Diese Methode lalalala!

00:49:10: Der Text ist eine Erzählung oder ein kommunikatives Dokument über das was man eigentlich gemacht hat.

00:49:15: Das was man actually gemacht hat ist drei Meter weiterechts im Experiment oder in der Berechnung.

00:49:21: In den Kultur-, Geistes- und Sozialwissenschaften ist es ja ganz anders.

00:49:24: also da Die Erstellung des Textes ist ja die Erstellung das Resultat sehr oft.

00:49:32: Also da geht es darum, ein Argument auszuformulieren oder auch in den Rechtswissenschaften irgendwas schlüssig zu argumentieren einen Framework zu entwickeln und das auf etwas anderes anzuwenden und schlüßig zu augmentieren warum das sinnvoll ist oder Begriffe zu entwickeln.

00:49:48: Und da ist der Text das Resultan.

00:49:51: und trotzdem beide Textformen nennt man dann Publikation und irgendwie darüber muss man sich auch mal verständigen.

00:50:00: Mercur Texte sind auch Publikations, also wir waren natürlich total glücklich als dein erster Text in den ersten Texten hier bei uns einfach reingeschneit sind.

00:50:08: Wir bekannten uns nicht.

00:50:10: Du hast es einfach geschickt was sehr häufig passiert beim Mercur das müssen wir dazu sagen.

00:50:15: oder dass ist eigentlich auch Unser Glück und das Glück dieser Zeitschrift, dass hier ständig Texte von Leuten reingeschneid kommen die toll sind.

00:50:22: Und denen wir noch nie gehört haben also ständig ist vielleicht übertrieben.

00:50:26: Übrigens was neuerdings ständig passiert ist das Text der Reinkommen die zum großen Teil vom KI geschrieben sind.

00:50:31: Es ist zwar irgendwie auch Thema aber das müssen wir irgendwann anders mal genauer besprechen was das eigentlich alles bedeutet.

00:50:40: Ja

00:50:40: vor allem auf woran ihr das merkt.

00:50:42: Ja, auch das ist schon wieder ein Thema für sich.

00:50:44: Also natürlich haben wir inzwischen Pangram abonniert aber auch dass es natürlich schwierig genug sich darauf zu verlassen.

00:50:52: Aber ich glaube, das müssen wir wirklich einen anderen Mal besprechen.

00:50:55: also ich wollte dich wirklich fragen wieso?

00:50:58: Das ist ja so eine andere Textform, das ist keine wissenschaftliche Textform sondern du hast wirklich auch das Bedürfnis gehabt das einer breiteren Öffentlichkeit zu vermitteln.

00:51:07: war das der Anstoß einfach?

00:51:11: Ja, und ich finde diese lang Essay-Form total toll.

00:51:16: Also da so denke ich eigentlich am liebsten... ...und auch im Schreiben der Mercur Texte bin ich auf so viel draufgekommen, dass sich dann auch woanders das gar nicht in den Text kamen sondern in irgendeine andere Textform.

00:51:33: aber dieser Langessay finde ich eine fantastische Form um sich selbst beim Denken zuzusehen.

00:51:39: vielleicht ja

00:51:41: Aber dann wäre das wirklich genau das, was du als geisteswissenschaftliches Text produzieren beschreibst.

00:51:46: Nämlich durch das Schreiben und das Vorankommen des Textes selber auch geistig voranzukommen?

00:51:52: Ja absolut!

00:51:55: Eine Formulierung die bei dir auch in mehreren Texten vorkommt, die mich mit Blick auf das worüber wir jetzt gerade sprechen, auch interessiert ist es... Du mehrfach forderst sich zu überlegen Mit Blick auf den Output von Chatbots, vor allem glaube ich was erwartet man von einem Text um eben auch zu bewerten.

00:52:21: Was man damit jetzt anfangen kann und was eben nicht und also ob man dem zum Beispiel glaubt oder nicht oder was das bedeutet wenn da halluciniert wird usw.

00:52:33: Du hast es ja schon ein bisschen gesagt aber was erwartest du von deinem Text sozusagen?

00:52:38: Was willst du vor allem machen?

00:52:40: Das ist ja eben nicht das, was einen KI Text macht natürlich.

00:52:43: Also ein Output von ChatGPT, sondern was erwartest du denn eigentlich von deinem Text?

00:52:50: Von einem Merkur-Text oder...

00:52:52: Ja!

00:52:53: Von deinem eigenen Text auch.

00:53:00: Also ich hoffe dass die Texte eine Brücke ein bisschen schlagen und also zwischen nicht technischen und technischen oder nicht technisch und technisch disziplinierten Menschen und dass sie genau diese Zwischenposition einnehmen, eineseits bisschen differenziert über Gesellschaft zu sprechen.

00:53:23: Andererseits ein bisschen differenziert über Technik zu sprechen und in Beidem nicht komplett alles zu verfehlen.

00:53:31: Das wäre schön!

00:53:34: Also ich kann ja nicht sagen was du von deinem Text erwartest und ich erwarte natürlich vom Text der MRQ steht.

00:53:43: Bestimmt ist vielleicht auch, was das wäre könnte man auch noch mal sagen.

00:53:46: Aber vielleicht kann ich mir eher sagen, was ich vor allem aus deinen Texten auch bekommen habe oder einen Punkt der mich wirklich auch interessiert mit Blick auf deine Arbeit insofern sie dann eben auch ins terroristische Feld geht.

00:54:01: Was ich vor allen Verstanden hab aus deinem Text und also allen aus dem Merkur die ich gelesen haben ist das eines der Hauptprobleme beim sprechen über KI ist, dass man einerseits sich immer wieder vor Augen... führen muss, dass man es nicht mit einer menschlichen Intelligenz zu tun hat und deswegen Fehler ist die zu anthropologisieren.

00:54:25: Also so zu behandeln.

00:54:26: Und andererseits hat man aber quasi keine andere Chance weil schon alleine durch die Art und Weise wie man darüber spricht nämlich das sie zum Subjekt in einem Satz wird sozusagen das schwer ist darum herumzukommen und das eben auch die Begriffe die dafür zur Verfügung stehen was damit passiert und wie sich verhält zb lernen einem Text, das so ausführlicher darüber geschrieben.

00:54:50: Was Lernen eben bedeutet für maschinelles Lernen und was es eben nicht bedeutet?

00:54:57: Nämlich menschliches Lernen im Sinne von Kenntnis-Erweiterung oder sonstwas, sondern dass es bei diesem maschinellen Lernen eine bestimmte Art von Eterierung von Datenzuordnung geht.

00:55:07: Ich weiß jetzt richtig sage... Und das ist einer der Dinge finde ich die man bei dir besonders gut lernen kann, welche Spannungsverhältnisse ein das bringt.

00:55:21: Wenn man darüber nachdenkt, wenn man darüber spricht und wie man auch dann darüber schreibt was mich interessiert in deinen Texten ist überhaupt der Umgang mit Wahrheit und Wahrheitsbegriffen in der KI und also eines der Hauptprobleme die immer wieder auch thematisiert wird dass es so viele Halluzinationen gibt, was heißt?

00:55:48: Das sind Outputs die irgendwie plausibel erscheinen.

00:55:53: Aber nicht auf irgendeine faktische Zurechenbarkeit zu irgendwas in der realen Welt hindeuten.

00:56:00: und das ist natürlich ein Problem wenn man sich Menschen vorstellt, die das als Suchmaschine benutzen da dann über irgendwas informieren wollen, also zum Beispiel den Zitronensäurezyklus und dann wissen sie da was ganz Falsches tut bei hinterher.

00:56:14: Man kann sich ja noch schlimmere Fälle vorstellen.

00:56:17: Ich wollte aber mal fragen inwiefern das nicht zb fürs literarische Schreiben?

00:56:23: Und das tust du eben auch nicht auf etwas Anregendes sein könnte weil man ja auch sagen kannst dass genau das ist was eine Fiktion eben häufig macht die muss ich was ausdenken oder die soll was darstellen was plausibel ist in einer bestimmten Welt.

00:56:42: Es muss einem wahrscheinlich vorkommen, damit man mitmacht.

00:56:46: Irgendwie so das Banschen auf Disbelief sozusagen.

00:56:50: Könnte man nicht an der Stelle auch mal etwas Freundliches über die KI sagen und sagen, man könnte sich angucken wie sie das macht?

00:56:57: Und da auch Dinge übernehmen, die vielleicht ja auch unterhaltsam sind oder mit denen man irgendwie weiterkommt.

00:57:05: Gibt es das auch für dich oder gibt's ... Wurst ist nicht schlecht.

00:57:13: Dadurch, dass ich mich den ganzen Tag mit KI befasse auf eine sehr kritische Art habe ich da eine ziemliche Grenze gezogen zum literarischen Schreiben.

00:57:25: also das ist mein KI-freier kleiner Raum in dem ich von alldem nichts hören möchte.

00:57:39: Ja, das gilt ja für ganz viele Leute.

00:57:42: Es gab vor ein paar Wochen große Empörung über die Literatur Nobelpreuß-Trägerin Olga Tukacok, die gesagt hat, dass sie durchaus mit Systemkünsticherintelligenz arbeitet um zu recherchieren.

00:57:57: Ob ich es verstanden habe?

00:57:58: Vor allem ihre Texte und meinetwegen zu überprüfen ob in einer bestimmten... Historischen Epoche, dieses oder jenes ... So

00:58:06: ein Lied gehört wurde.

00:58:08: Ja

00:58:08: zum Beispiel.

00:58:11: Findest du das verwerflich?

00:58:12: Also weil ich muss sagen dass ich die Empörung darüber nachvollziehen konnte.

00:58:20: insofern ist eben eine allgemeine Kritik an der Verwendung von bestimmten Systemen betroffen und man sagen will wollen wir aufgrund der politischen Implikation, die dieses oder jenes Unternehmen hat.

00:58:33: Wollen wir das eben überhaupt nicht benutzen?

00:58:34: Also das kann ich noch nachvollziehen aber zu sagen Ich verwende Das als Recherche-Tool Grundsätzlich Zu verteufeln fand ich auch Nicht clever oder angemessen.

00:58:49: wie siehst du das?

00:58:50: Oder kannst es nachvollziehend?

00:58:51: würdest Du auch sagen man darf das gar nicht benutze Sobald das in den Bereich der Literatur geht?

00:59:00: Ich treffe für mich die Entscheidung, aber ich bin in überhaupt keiner Position.

00:59:04: Olga Tokatschuk irgendwie anzugreiten, irgendwas anzukreiden.

00:59:09: Das soll jeder Person für sich selbst entscheiden.

00:59:11: also da...

00:59:13: Aber warum muss das so sein?

00:59:14: Also das macht dann die Literatur doch auch zu einem Gebiet der auf eine Art Enthoben von Gegenwart ist und von Möglichkeiten das zu erweitern, was man ansonsten vielleicht selbst machen könnte.

00:59:32: Also mich stört an der Kritik daran die eine Literatur fordert, die zu einhundert Prozent unberührt von Möglichkeiten von Chatbots.

00:59:45: Das muss man ja auch noch sagen also die Autoren, die man sich jetzt so vorstellen kann, die irgendwo zu Hause im Kämmerlein sitzen und an irgendeiner Stelle nicht weiter kommen ob in den Siebzigerjahren irgendwo dieses oder jenes gehört werden, konnte das sagen.

01:00:00: Das ist aber dann eine Kontamination der Literatur wenn da auf dieser Art recherchiert wird.

01:00:06: ich seht es nicht.

01:00:07: also ich finde dass auch ne ungünstige Überhöhung von dem was Literatur ist und was Recherche sein könnte oder so.

01:00:21: Also ich würde ja noch viel weiter gehen.

01:00:25: Entweder man entscheidet das überhaupt nicht zu nutzen, dann ist man nicht mehr von dieser Welt.

01:00:29: Weil alle das inzwischen nutzen.

01:00:31: also dass kann man so schrecklich und bedauerlich finden wie man will es ändert halt nichts.

01:00:35: aber wenn man diese Entscheidung das ist wie ja man kann auch entscheiden sich nicht mehr durch die welt zu bewegen weil das immer CO-Zwei produzieren wird Aber mit

01:00:45: atmen aufhören.

01:00:47: Also ich halte wirklich für eine weise welt fremd Die auch schon wieder gefährlich ist.

01:00:53: egal.

01:00:54: Aber warum soll man es nicht, wenn es einem hilft und anregt?

01:00:56: Warum soll man das dann nicht nutzen?

01:00:57: Das ist das Ding.

01:00:59: In der KI ist mehr oder weniger das gesamte Wissen der Menschheit auf eine Art verdatet.

01:01:05: Wir ja absurd nicht zu denken dass da interessante Kombinationen dabei rauskommen könnten.

01:01:11: Sehe ich übrigens auch in der Qualität der KI-Texte die uns erreichen.

01:01:14: Die sind ja alle leider nicht nur schlecht.

01:01:16: Das wäre beruhigend.

01:01:19: Zumindest Texte die mit KI Hilfe entstanden sind.

01:01:22: Also ich sehe durchaus, dass da Steigerungsformen des menschlichen durch die Hybridisierung passieren.

01:01:28: Kann man ethisch alles super verwerflich finden?

01:01:31: Aber gut sind wir ein bisschen vom Thema abgekommen.

01:01:35: Nee finde ich eigentlich gar nicht.

01:01:38: also man kann es ja auch nochmal anders betrachten und zum Beispiel als... ... Trainingsprogramm für eigene Text benutzen.

01:01:45: Also ich zum Beispiel habe neulich K.I.

01:01:48: befragt, wie sie meinen Text findet einen bestimmten und was für Einwände man dagegen erheben könnte... ...und was wenn da möglichst übelwollende Perspektive aufman dagegen sagen weil ich das wissen wollte.

01:02:02: Weil mich das beschäftigt und irgendwie ist sozusagen eher ein psychologisches Programm gewesen um dann rauszufinden, was könnte denn kommen?

01:02:12: Weil das möglicherweise Sachen sind, die für mich nicht naheliegend sind.

01:02:15: Das heißt ja nicht dass ich das ändere aber es ist Möglichkeiten Gespräch zu führen darüber was dann kommt.

01:02:23: Also wir werden in den nächsten Heften auch Texte haben bei denen die Autorinnen erklärtermaßen mit KI gearbeitet haben.

01:02:31: Wir führen da jetzt einfach eine Klausel, so eine Transparenzklausel am Ende ein wo steht wie das stattgefunden hat und das natürlich letztlich die Verantwortung ... zuhundert Prozent bei den Autoren der Sache bleibt.

01:02:43: Das ist ja auch eine methodische Frage, also da... das fragen wir uns an den Unis natürlich sehr in die ganze Zeit irgendwelche KI-Abgaben bekommen und wir kommen langsam an einen Punkt wo wir sagen es gehört so ein Methodik eines Textes dazu genau nachvollziehbar zu machen.

01:03:00: war es genau wofür genau wie genau mich ausführlich dokumentiert verwendet wurde?

01:03:05: und wenn dann herauskommt okay, ... ... neunundneinzig Prozent von einem Text sind eigentlich AI-Output, dann ist das methodisch nicht in Ordnung.

01:03:16: Gut aber dann kommen wir jetzt doch wirklich zu dem in diesem Fall tatsächlich wie du gesagt hast anderen Themen nämlich deines Romans der heißt die Summe unserer Teile ist letztes Jahr bei Klettkotter erschienen

01:03:31: Bei

01:03:31: Tropen bei Kletkotta.

01:03:32: genau das ist das Imprint das Berlin Imprint von KlettKotter.

01:03:39: Ja, also du hast gerade schon gesagt dass das für dich ein anderes Spielfeld ist als jetzt die Wissenschaft und alles was mit KI zu tun hat.

01:03:51: Was hat dich auf dieses Spielfeld gedrängt oder gebracht?

01:03:54: Wolltest du schon immer einen Roman schreiben?

01:03:56: W wolltest du es schon immer diese Geschichten erzählen?

01:04:00: Was war der Grundimpuls dafür?

01:04:06: Das ist lustig, weil das ist eine der Sachen die ich am wenigsten hinterfrage eigentlich und wo ich auch am wenigstens Gründe dafür parat habe.

01:04:13: Also ich weiß nicht warum mich das tut.

01:04:17: Ich schreibe schon recht lange also das ist der dritte Roman aber der erste den er es in ein buch geschafft hat Und ich würde doch nicht auf die Idee kommen damit aufzuhören.

01:04:29: und vielleicht ja also die.

01:04:30: das interesse an sprache und an dem finden von bildern Und an präziser Sprache, das zieht sich natürlich durch.

01:04:38: Das ist ja auch in der Mathematik wahnsinnig wichtig, dass man die eigenen Objekte präziise benennt, dass wir die eigenen Konstellationen mit denen man arbeitet präcise benannt und ... In meinem Lieblingswitz geht es auch um Mathe und Sprache.

01:04:55: Bitte erzählen!

01:04:58: Man kann nicht Lieblungswitz sagen,

01:05:00: um weiterzugehen.

01:05:02: Eckhardt, danach erzählst du deinen Lieblingswitz und ich hab keinen.

01:05:07: Wie oft wurden hier im Podcast schon Witze?

01:05:09: Wir haben über Comic gesprochen.

01:05:12: Aber halt nicht über Witz.

01:05:13: Das wurde ja auch festgestellt ist es werden viel zu wenig Witze erzählt.

01:05:16: wir werden das ab jetzt zur Auflage machen.

01:05:21: Ich

01:05:22: kann aber

01:05:23: keine Witze erzählen.

01:05:27: Gut.

01:05:28: Eine Ingenieurin, eine Physikerin und eine Mathematikerin fahren mit dem Bus durch Schottland.

01:05:35: Sie sehen ein schwarzeschaf.

01:05:37: Da sagt die Ingenieurin Oh!

01:05:40: In Schottlands sind die Schafe wohl schwarz?

01:05:44: Sagt die PhysikerInnen Nee das kannst du so nicht sagen.

01:05:46: Das Einzige was wir sagen können ist In Schotland gibt es einen schwarze Schaf Dass wir hier gerade sehn.

01:05:52: Die Mathematikerin flippt komplett aus Und er sagt ne, dass alles falsch.

01:05:58: Das Einzige, was wir wirklich sagen können ist es gibt mindestens einen Schaf das auf mindestens einer Seite schwarz ist.

01:06:07: Und ich liebe dieses Mindestens eine Schaf dass auf mindestens einer Seite Schwarz ist.

01:06:11: und genau da ist dieser übermäßige Präzision wo auch Dietmar Dat im Roman Dirac eins meiner Lieblings-Zitate geschrieben hat nämlich gibt es Menschen die es fertig bringen die Welt genauer zu sehen als sie.

01:06:27: Dieser Wunsch, der natürlich immer auch eine Fiktion ist.

01:06:30: Der ist in der Mathematik drinnen, der ist im literarischen Schreiben drin und er ist im Essay-Schreiben drinnen.

01:06:34: Irgendwer dieser Wunsche oder diese Streben danach die Welt genauer zu sehen oder genauer beschreiben als sie vielleicht sind.

01:06:44: Aber das ist eigentlich doch was?

01:06:46: Was wenn man das jetzt einen literarischem Text übersetzt würde ich sagen... nicht unbedingt erfolgsversprechend ist, weil es dann eben natürlich komisch wird wie in dem Witz.

01:07:00: Weil man eigentlich nichts mehr sieht sondern ich würde sagen dass das auch der Unterschied hier zu jetzt einem wissenschaftlichen Text also Wissenschaft begrenzt benannt für das was ich davon kenne und im literarischen Text der literarische Text eigentlich verwischen muss an bestimmten Stellen und unschärfen herstellen muss, die sich die Wissenschaft nicht erlauben kann.

01:07:34: Und zwar damit ein überzeugendes Bild entsteht.

01:07:38: also ich weiß nicht ob du den Wissenschaftsphilosophin Peter Lipton kennt.

01:07:46: Es gibt einen Buch von ihm, wo ich neugteren gelesen habe das heißt Inference to the Best Explanation also wie man Sachen gut erklärt.

01:07:54: und da gibt es die super Unterscheidung finde ich zwischen lovely and likely explanations.

01:08:01: und die lovely explanation ist diejenige vielleicht auch was Unwahrscheinliches anbietet als Erklärung für irgendein Phänomen, aber irgendwie besonders überzeugend ist bei sich auf so einen großen Skopart.

01:08:17: Also die umfasst sehr viel und man kann viel damit erklären.

01:08:20: das war vielleicht nicht so.

01:08:22: wahrscheinlich Verschwörungstheorien würden zum Beispiel auch dazu gehören sind lovely explanations für bestimmte Sachen.

01:08:28: und dann gibt es die

01:08:29: süße Name für Verschwörungen.

01:08:30: und dann gibts die likely explanation die halt möglichst präzise ist vielleicht irgendwie öde und irgendwie auch unbefriedigend sein kann.

01:08:42: Aber richtig ist sozusagen, er bringt da glaube ich das Beispiel dafür warum Leute Opium rauchen und dann kommt nicht die wollen ihre schreckliche Kindheit vergessen oder sonst was muss ja auch nicht sein sondern irgendwie die physiologische Wirkweise dafür.

01:09:03: ungefähr so ist es.

01:09:06: Ich finde diese Unterscheidung hilfreich, weil sie für mich eben fast über Literatur und Wissenschaft erklärt.

01:09:10: Weil ich sage, die Literatur ist halt sehr häufig irgendwie auf der Seite der Lovely Explanation.

01:09:18: Und deswegen find' ich eben auch so extrem spannend dass du eben beides machst also das du eben auch im Bereich der Lovely explanations sozusagen unterwegs ist und auf deinen eigenen Roman bezogen, finde ich kann man das auch genau sehen oder kann man es auch beobachten als ja auch in der Familiengeschichte geht.

01:09:46: Der Hauptfigur Lucy Wittenberg und deren Verhältnis zu ihrer Mutter und auch ihrer Großmutter über die sie dann im Laufe des Romans immer mehr erfährt, um das mal nicht spoilermäßig zu verraten.

01:10:04: Und der Roman arbeitet finde ich ganz genau und sehr schön eben vor allem an den Beziehungen zwischen diesen Personen und findet aber ja vielleicht auch eher lovly als eigentlich Explanations dafür dass die so sind wie sie sind oder?

01:10:29: Also ich finde, dass dieses die Welt genauer sehen als sie ist.

01:10:32: Da steckt schon so eine Effektion drinnen weil sie ist ja wie sie ist und genauer ist sie ja nicht... ...als sie ist!

01:10:37: Und wenn man dann die eigenen Bilder mit rein nimmt oder sich so richtig in die eigene... jetzt zwar ein Glitzismen Weirdness hinein nerdet meine Weirdness wäre dann naturwissenschaftliche Bilder verwenden für Relationen oder für Gefühle, die er überhaupt nicht mechanistisch sind, sondern da dann in diesem Vergleich oder in diesem Finden des Bilds vielleicht so ein ganz genaues Hinschauen gibt auf etwas was gar nicht so vergleichbar ist aber doch irgendwie Stimmig ist.

01:11:12: Vielleicht mit Blick auf diesen Lovely Begriff.

01:11:15: Da finde ich das ist gar kein Widerspruch.

01:11:18: Aber ja jetzt habe ich den Pfand verloren.

01:11:23: Also das stimmt natürlich dass dein Roman relativ, also man muss dazu sagen die drei Frauen sind auch alle Naturwissenschaftlerin beziehungsweise.

01:11:30: Also Chemikerin, Medizinerin und Programmiererin wahrscheinlich Lucy studiert noch.

01:11:36: Wahrscheinlich Informatik programmierte ein Spiel im ersten Kapitel.

01:11:41: Und der Roman ist wirklich durchsetzt mit Bildern, die eher aus dem Bildbereich der Naturwissenschaften kommen.

01:11:48: Wobei ich sagen würde natürlich sind die präzise und vielleicht auch übergenau.

01:11:54: nur Ein Bild ist natürlich nie genau, weil das Bild schon Übertragungseffekte in Gang setzt die nie genau sein können.

01:12:02: Also in dem Sinne jedenfalls in den wissenschaftlichen Sinne.

01:12:04: Ja diese Angleich oder dieses nebeneinander setzen ist dann das was Spaß macht.

01:12:08: und vor allem ja wenn man dann Bilder aus Bereichen nimmt die gar nicht so funktionieren wie zwischen menschliche Beziehungen oder wie Gefühle oder Zustände Dann ist in dieser Verschiebung auch in diesem Bruch liegt für mich ein großer Spaß.

01:12:24: Der Roman hat eigentlich das Zeug zu einem riesen E-Pors muss man sagen, weil er über Generation erzählt ist.

01:12:31: Über die ganze Welt sozusagen erzählt ist.

01:12:33: also die Großmutter ist in Polen geboren musste dann fliehen gelangt nach Beirut Die Tochter ist dann in München die Enkelin in Berlin aber und dann gibt es aber auch noch eine Reise nach Polen zurück.

01:12:46: Also da schließen sich Kreise oder wie immer man auch ein Bild Da werden jedenfalls Verbindungen wiederhergestellt, die gekappt schienen.

01:12:53: So könnte man vielleicht sagen das geht auch bis zu den Sprachen.

01:12:56: also die Enkelin kann kein polnisch aber lernt so ein paar Worte dann einen polnischen Mann kennen.

01:13:02: Es ist aber kein Riesenepost.

01:13:03: Das ist ein relativ schmaler Roman von zweihundertvierzig Seiten oder so Was?

01:13:11: Also Hättest du ihn auch epische erzählen können wollen oder hat es einen guten Grund dass das auf diese Weise auch verdichtet ist.

01:13:19: Also vieles nur andeutet, manches tatsächlich sehr bewusst

01:13:24: ausspart.".

01:13:25: Ja nee das war sehr absichtlich.

01:13:28: also dass da alle möglichen Lücken zu füllen, das wäre möglich gewesen.

01:13:35: aber ich fand gerade diese Auslassungen und dieses schlaglichtartige Beleuchten von einzelnen Momenten oder einzelne Konstellationen wo man nicht weiß, was passiert ist und nur vielleicht erahnen kann.

01:13:51: Was passiert das?

01:13:52: Das fand ich besonders spannend.

01:13:53: also wie wenig oder wie viel braucht es um sich trotzdem kurz fassen zu können und Figuren zu schreiben die die man greifen kann aber die nicht klischeehaft sind weil am kürzesten kann man sich ausdrücken mit Klischees.

01:14:11: und dass war was mich daran interessiert hat möglichst reduziert aber pointiert und nicht klischeehaft zu schreiben.

01:14:21: Sogleich stellt sich in dem Fall irgendwie unweigerlich die Frage, wo du das Material her hast?

01:14:25: Weil es ja wirklich von hier und jetzt und Wien aus oder wo immer du bist an sehr unwahrscheinliche Orte geht zeitlich vielleicht noch weniger Aber sagen Diese Bewegung allein von Polen nach Beirut ist absolut ungewöhnlich.

01:14:42: Also gibt es da Vorbilder?

01:14:45: Wie viel hast du recherchiert, von wo aus ist es überhaupt losgegangen?

01:14:49: also der ganze Stoff?

01:14:50: Ja das hat mir im Verlag auch überlegt ob dass in die Autorinnen Bio mit reinkommt.

01:14:56: aber die Großmuttergeneration also die Frau als junge Frau aus Polen in den Libanon Fleet im Zweiten Weltkrieg.

01:15:04: Das ist tatsächlich die Geschichte meiner Großmütter.

01:15:07: Also ziemlich faktisch so sehr ich weiß, was passiert ist.

01:15:12: Ist es in dem Buch drinnen und entsprechend ist auch meine Mutter in Beirut aufgewachsen und dann zwar nicht nach München aber nach Wien gekommen und nicht Ärztin geworden sondern Pianistin.

01:15:24: Und diese Zeit Ebene hatte ich recherchiert über Gespräche mit meiner Mutter und das war total schön.

01:15:33: also weil sonst fragt man einander ja nicht Wie hat die Straßenbahn ausgesehen in den Sechzigern?

01:15:40: Und was für Blumen gab es und so.

01:15:43: Da habe ich lauter Sprachnachrichten auf WhatsApp von meiner Mutter, wo sie mir irgendwas erzählt, was ihr gerade einfällt zu Beirut aus den Fünfzigern, Sechzigeren.

01:15:53: Die sind sehr wertvoll.

01:15:56: Das wäre ja auch noch mal ein Punkt zur Frage wie recherchiert man und benutzt man zum Beispiel auch KI dafür denn... Wenn du das so beschreibst als den Prozess, dann ist es ja was, was eure Beziehung vermutlich auch noch mal auf eine andere Ebene gewogen hat oder auf eine Weise aktiviert hat die sonst vielleicht nicht aktiviert worden wäre und die sich auch nicht abkürzen lässt.

01:16:23: Du in dem Moment, indem du fragst wie sieht denn die Straßenbahn dann und dann aus?

01:16:28: oder was gab es da darauf angewiesen bis zu warten wann sie dir antwortet.

01:16:35: Und das ist eine der Dinge die zum Beispiel ich den Studierenden immer sage mit denen ich zu tun habe und die natürlich auch die ganze Zeit mit KI arbeiten oder so dass Sie das natürlich machen können, aber dass ich sie immer gerne darauf hinweisen würde was für ein Prozess sie sich dadurch selbst wegnehmen.

01:16:58: Und der hat etwas mit diesem Warten und dem sich entfalten der eigenen Fragen in diesen Warten eben auch zu tun.

01:17:09: Denn eine der Dinge die meine Erfahrung mit KI ist man mit dem Chatbot redet eben ist es, dass man seine eigenen Fragen oft schnell vergisst weil so schnell geantwortet wird.

01:17:22: Also das eigentlich ... Es ist von der Geschwindigkeit her oft zu schnell.

01:17:28: Weil ich glaube, dass die Gedanken

01:17:30: oft

01:17:33: länger brauchen und gerade beim Medium, dass auf Langsamkeit so angefielten ist wie Literatur würde ich sagen besteht was das angeht Verlustgefahr natürlich,

01:17:50: sowieso.

01:17:51: Und ja also das vielleicht nur als Kommentar von der Seite.

01:17:57: und gerade wenn man dann eben drei Generationen umspannt kommt die Frage nach Zeit auch nochmal anders in den Text hinein wie man das gestalten möchte.

01:18:11: Wie hast du es gemacht?

01:18:13: Also du hast schon gesagt wir wollten vor allem mit Auslassungen arbeiten um sie jetzt aber den Leserinnen und Lesern zum Füllen anzubieten oder...

01:18:24: Ja, also begonnen hat das Projekt mit so ein paar wirklich so Miniaturen wo ich nicht wusste ob die überhaupt zusammen passen.

01:18:32: Also ganz das erste Bild war das Klavier dass auch in der ersten Szene vorkommt.

01:18:41: da hatte ich plötzlich so ein hartnäckiges Bild von einem Konzertflügel in einem viel zu kleinen studentischen WG-Zimmer.

01:18:49: Und daraus ist dann so ein Teil der Geschichte entstanden, wo Lucy nach Hause kommt und plötzlich dieses Klavier vorfindet das sie extrem nicht bestellt hat.

01:19:00: Von ihrer Mutter?

01:19:01: Von Ihrer Mutter genau!

01:19:06: Das finde ich auch eine der schönen Sachen am Schreiben.

01:19:13: Einerseits hat man der totale Kontrolle über jedes Wort, weil man jedes Wort schreibt.

01:19:17: Wenn man nicht mit KI schreibt und andererseits sind da diese Bilder, die kommen oder diese Ideen oder diese Geschichtenfragmente, die sich einem dann aufdrängen und die man dann irgendwie einarbeiten muss was überhaupt nicht kontrolliert wirkt sondern ja von irgendwo kommt fast.

01:19:38: Könnte man sagen, weil wir ja damit angefangen haben oder du damit begonnen hast zu beschreiben Für dich hieß, an mathematischen Modellen oder an mathematische Gedanken zu arbeiten.

01:19:47: Nämlich sozusagen diese Komplettkonzentration komplett ausblenden.

01:19:51: Wahrscheinlich ist das literare Schreiben irgendwie so eine Mischung daraus weil das Schreiben selbst ist vermutlich auch ähnlich.

01:19:57: zugleich muss ja ganz viel Welt mit rein

01:20:00: Ja es muss ganz viel welt mit rein Genau ja.

01:20:03: und also eigentlich in dieser wirklich tatsächlichen Praxis des Schreibens habe ich extrem viel aus der Mathematik mitnehmen können vor allem was so Frustrationstoleranz betrifft oder so.

01:20:16: Also es ist für mich kein Problem sehr, sehr lange an irgendwas zu sitzen und nicht zu wissen ob das jemals irgendwas wird.

01:20:22: also so dass es die erste Seite ich im Studium gelernt habe lang an irgendwas sitzen und sich nicht zu sehr kränken über die eigenen Grenzen des eigenen Hirns und einfach weiterzutun und das ist beim Schreiben ein sehr brauchbarer Skill nicht traurig zu werden, wenn das Ding noch nicht so aussieht wie man es gerne hätte.

01:20:46: Gut, das ist glaube ich ein guter Tipp für uns alle?

01:20:51: Ja, es ermutigen auch für alle Merkur-Autorinnen die vielleicht zuhören dass sie sich nicht entmutigen lassen sollen, wenn's noch nicht ausseht Wie Sie wollen oder wie in diesem bekannten Meme mit dem selbstgemalten Pferd und der der Vorlage des prächtigen Rosses.

01:21:11: aus der Wirklichkeit und der eigenen Zeichnung davon, denke ich persönlich jeden Tag dran.

01:21:21: Gut dann sagen wir einfach Dankeschön!

01:21:25: Ja vielen dank euch

01:21:26: dass du hier warst.

01:21:27: ja ganz herzlichen danken für den Besuch in der Krummstraße.

01:21:37: In der nächsten Folge der krummen Straße sprechen Eckhard Knöhrer und Hannah Engelmeier mit der Germanistin Roxanne Phillips über das Thema

01:21:44: Komik.