Abstracts

KI-generierte Bücher, die den Markt überschwemmen, und Skandale um KI-generierte Passagen in literarischen Werken – die Nutzung von generativer KI scheint Authentizität und Autorschaft als Ordungskategorien literarischer Produktion zu unterlaufen. Sollten wir also notgedrungen Kategorien verteidigen, die in Philosophie und Literaturwissenschaft, schon lange nicht mehr selbstverständlich, sondern Gegenstand tiefgreifender Debatten sind?

In meinem Beitrag schlage ich vor, Erzählen als Praxis zu analysieren, um mich dieser Frage anzunähern. Dabei stütze ich mich zum einen auf Catherine Elgins (2014) Auffassung, dass Literatur zu unserem Verständnis der Welt beitragen kann, indem sie Aspekte dieser Welt exemplifiziert. In dieser Hinsicht funktioniert literarisches Erzählen (laut Elgin) ähnlich wie Gedankenexperimente und Experimente in der empirischen Forschung. Dieses experimentelle Exemplifizieren werde ich zum anderen mit Überlegungen zur Veränderung von Schreibkompetenz unter den Bedingungen von KI verbinden.

Elgin, Catherine Z. (2014): “Fiction as Thought Experiment”, in: Perspectives on Science 2014, vol. 22, no. 2, doi:10.1162/POSC_a_00128

In Science Fiction entscheiden häufig Computer und deren Berechnungen über Menschenleben - ein Sinnbild für autoritäre Machtverhältnisse und die Machtlosigkeit des Einzelnen gegenüber festgelegten Entscheidungsregeln. In ihrem Vortrag beschreibt Dr. Hermann einige der Bücher und zeigt auf, wie Menschen dort mit der Situation umgehen und wie uns heute die Science Fiction beeinflusst. Gleichzeitig stellt sie gemeinsam mit Katharina Zweig auch die Narrative der Informatik in Frage: Können und sollten heutige Softwaresysteme über Menschenleben entscheiden?

Auch wenn LLMs in einem strikten Sinne keine Autoren sein können, so gibt es doch Praktiken, in denen ihnen diese Rolle zugewiesen wird. Sie werden dort als vollwertige Interaktionspartnerinnen behandelt, die uns verstehen und die wir verstehen können. Ihnen wird häufig sogar eine Überlegenheit zugeschrieben, oder die ‚Beziehung‘ zu ihnen wird mitunter im Vergleich zu zwischenmenschlichen Beziehungen als erfüllender oder besser angesehen. In diesem Beitrag wollen wir an Beispielen aus verschiedenen Handlungskontexten herausarbeiten, wie Menschen ihre Interaktion mit Maschinen beschreiben und wie sie den Maschinen Intentionalität sowie Emotionalität zuschreiben. Unsere Analyse erfolgt auf der Basis einer theoretischen Beschäftigung mit dem Begriff personalen Verstehens. Den Ausgangspunkt bildet dabei das sogenannte „Oktopus-Szenario“ von Bender und Koller, welches grundlegende Unterschiede zwischen personalem Verstehen und Mensch-Maschine-Interaktionen veranschaulicht. Im Anschluss an Th. Fuchs arbeiten wir dann heraus, inwiefern personales Verstehen an Lebendigkeit, Wechselseitigkeit und „Konvivialität“ gebunden ist und wie dies mit Referenz und Autorschaft zusammenhängt. Auch wenn ein solches (inter-)personales Verstehen in der Kommunikation mit Maschinen nicht erreichbar ist, so kann es nichtsdestoweniger sein, dass Mensch-Maschine-Interaktionen für viele Personen nützlich oder hilfreich sind bzw. erscheinen; sie weisen z.B. einem LLM-Chatbot oder einem Avatar eine soziale Rolle zu, und sie nehmen ihm gegenüber gleichzeitig eine soziale Rolle ein. Welche Aspekte von Kommunikation mit KI werden trotz (oder gerade wegen) fehlender Autorschaft und Referenz von den Nutzern als schätzenswert betrachtet? Ist es in bestimmten Kontexten/Interaktionstypen pragmatisch akzeptabel, dass es sich nicht um verantwortlich handelnde Personen handelt? 

Bender, Emily/Alexander Koller (2020): Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. In: Proceedings of the 58th Annual Meeting of theAssociation for Computational Linguistics, 5185–5198. aclanthology.org/2020.acl-main.463/

Fuchs, Thomas: Understanding Sophia? On human interaction with artificial agents. Phenomenology and the Cognitive Sciences (2024) 23, 21– 42. doi.org/10.1007/s11097-022-09848-0

In den aktuellen Debatten um große Sprachmodelle ist zunehmend das sogenannte Grounding-Problem in den Fokus gerückt. Dabei steht in Frage, ob sich die Bedeutung sprachlicher Zeichen ausschließlich aus dem Verweis auf andere sprachliche Zeichen ergeben kann oder ob dafür eine nichtsprachliche Verankerung (Referenz) erforderlich ist. Diese Debatte schließt deutlich — wenngleich in veränderter Terminologie — an die Frage an, ob Semantik aus reiner Syntax gebildet werden kann, was bekanntermaßen u.a. Searle bestritt. In diesem Zusammenhang ist dann die Frage nach der Anwendung intentionaler Prädikate wie etwa „verstehen" auf technische Systeme gestellt worden.

Intentionalität ist dabei zunächst ein phänomenologischer Grundbegriff zur Charakterisierung des Bewusstseins. In den Debatten um KI im Allgemeinen und große Sprachmodelle im Besonderen ist er allerdings eher spärlich in seiner phänomenologischen Bedeutung aufgegriffen worden; viele Beiträge gehen stattdessen unmittelbar von Searle oder Dennett aus. Im Vortrag möchte ich eine Interpretation von Intentionalität vorstellen, die das Grounding-Problem aus phänomenologischer Perspektive zum Ausgangspunkt nimmt und die zeigt, warum Ansätze zu seiner Lösung am Problem vorbei gehen. 

Schreiben unter praxistheoretischer Perspektive zu betrachten, bedeutet, die kulturelle Dimension des Schriftgebrauchs in den Fokus zu rücken und danach zu fragen, wie sich Schreiben und Lesen als situierte, soziale Praktiken zeigen. Der Wandel von Lese- und Schreibpraktiken, wie er durch Automatisierung und das Aufkommen textgenerativer KI in den letzten Jahren zu beobachten ist, wirft die Frage nach der „Entwicklung partiell neuer sozialer Praktiken“ (Reckwitz 2003, 295) im Umgang mit Schrift und Text auf. Die Frage nach solchen Praktiken gilt vielleicht umso mehr, als textgenerative KI die Formulierung und Überarbeitung von Texten zunehmend aus den Köpfen von Schreiber:innen in die Blackbox von Programmen verschiebt und immer weniger sichtbar werden lässt, wie Texte, Artefakte oder schlicht: Outputs entstehen. KI-Technologien bedingen in diesem Sinne Schreibkonstellationen, die auch das Schreibersubjekt in anderer Weise hervorbringen:

Technology (...) is not positioned simply as a tool for empowerment but rather as one actor within a broader literacy assemblage in which human agency and subjectivity produce and are produced coactively with and through texts and technologies. (Robinson 2023: 121).

Der Beitrag stellt Beobachtungen aus verschiedenen Studienprojekten mit Studierenden der Germanstik heraus, in denen die Beteiligten beim Schreiben ihrer Texte (teils unbegrenzt) KI nutzen durften ud anschließend ihre Wahrnehmungen und Erfahrungen zur Koaktivität mit KI-Programmen mit Blick auf Autorschaft, Schreiben und Erkenntnisbildung schriftlich reflektieren sollten. Teil der empirischen Erhebungen waren außerdem Gruppeninterviews mit Studierenden. Dabei sind – eher zufällig – interessante Äußerungen zum Behalten und Vergessen der eigenen Schreibaktivitäten mit und ohne KI entstanden, die ins Zentrum der Ausführungen im Beitrag rücken (könnten). 

Reckwitz, Andreas (2003): Grundelemente einer Theorie sozialer Praktiken. Eine sozialtheoretische Perspektive. In: Zeitschrift für Soziologie 32 (4), 282–301.

Robinson, Bradley (2023): Speculative propositions for digital writing under the new autonomous model of literacy. Postdigital Science and Education 5 (1), 117–135.

LLMs generieren Sprache in verschiedenen Kontexten mit überraschend großem Erfolg (nicht immer und überall). Das mutet aus menschlicher Perspektive seltsam an, weil LLMs mit informatisch-statistischen Methoden arbeiten, die weder (objektive) Referenz noch (subjektive) Intention zu beachten scheinen. Mein Beitrag möchte dazu beitragen, diese seltsame Andersheit zu analysieren.

Dabei nimmt er eine sprachphilosophische Perspektive ein: der späte Wittgenstein hatte Sprachspiele als zentralen Begriff entworfen, die eben vom Gebrauch der Sprache selbst ausgehen, also von einer semiotischen Ebene, und gerade nicht von Repräsentation oder Intention. Es gibt, so meine These, ein aufschlussreiches Spannungsverhältnis zwischen Referenz, Representation und der Dynamik der Zeichen selbst. Diese These führt der Beitrag durch eine Fallstudie aus, die in der Entstehungszeit der Quantentheorie angesiedelt ist, nämlich der Kontroverse zwischen Erwin Schrödinger und Werner Heisenberg um die angemessene Haltung zu Formalismus und Semantik.

Der Titel übrigens bezieht sich auf eine Pointe, die im Abstract noch nicht verraten wird.

Indikatoren spielen in "evidenzbasierten" Entscheidungsprozessen eine enorme Rolle. Sie können auch rein analog erstellt werden, haben aber mit informatisch berechneten Zeichenketten den algorithmischen Ursprung gemein: sie werden nach vorgegebenen Regeln berechnet. Sie sollen Vergleichbarkeit gewährleisten und Entscheidungsfindungen informieren, erleichtern oder sogar ermöglichen, indem sie Komplexität reduzieren und von Expertenwissen unabhängig machen. Im Grenzfall ist auch die Entscheidung selbst algorithmisch, indem sie z.B. durch Grenzwerte vorgegeben ist. In der Praxis ist dieser Prozess in der Regel komplizierter, da die Urteilskraft, von der der Indikator entbinden soll, in seiner „vernünftigen“ Verwendung wieder bemüht werden muss. Die Verwendung von Indikatoren schreibt sich somit in ein Wechselspiel aus De- und Rekontextualisierung ein.

In diesem Vortrag soll einmal ganz grundsätzlich gefragt werden: „Was sind Indikatoren eigentlich?“, um auf dieser Grundlage Möglichkeiten und Grenzen ihrer Verwendung abzustecken.