KI und Gegenwart

Die erzeugbare Welt

Über KI, Darstellung und die Herkunft dessen, was wir sehen

Eine Frau erhält eine Sprachnachricht.

Sie erkennt die Stimme sofort. Den Tonfall, die Sprechweise, kleine Pausen zwischen den Sätzen. Es ist die Stimme eines Menschen, den sie gut kennt.

Später erfährt sie:

Dieser Mensch hat diese Worte nie gesprochen.

Die Stimme war erzeugt.

Was sie gehört hat, war real. Der Ton kam aus ihrem Telefon. Sie hat ihn wahrgenommen. Vielleicht hat er sie erschreckt, beruhigt oder zu einer Handlung veranlasst.

Nur das Ereignis, auf das sie diese Wahrnehmung bezogen hat, hat nie stattgefunden.

Jemand hat nicht gesprochen.

Eine Darstellung ohne Ereignis

Menschen haben immer Dinge dargestellt, die es nicht gab.

Mythen erzählen von Göttern. Romane von erfundenen Menschen. Maler erschaffen Landschaften, die sie nie gesehen haben. Filme zeigen Welten, die nur für die Kamera gebaut wurden.

Fiktion ist keine Erfindung künstlicher Intelligenz.

Auch Täuschung ist es nicht.

Bilder wurden manipuliert, Dokumente gefälscht, Zitate erfunden und Stimmen imitiert, lange bevor es generative Systeme gab.

Die Veränderung liegt deshalb nicht darin, dass Menschen plötzlich etwas sehen oder hören können, das nie geschehen ist.

Sie liegt in der Beziehung zwischen Darstellung und Herkunft.

Eine Fotografie trug lange die Erwartung in sich, dass irgendwann Licht von etwas Vorhandenem auf einen Film oder Sensor gefallen war. Eine Tonaufnahme verwies darauf, dass ein Laut stattgefunden hatte. Eine gefilmte Bewegung setzte voraus, dass sich vor einer Kamera etwas bewegt hatte.

Diese Erwartungen waren niemals unfehlbar. Aber sie gehörten zur kulturellen Bedeutung dieser Medien.

Generative Systeme lockern diese Verbindung.

Ein Bild kann aussehen wie eine Fotografie, ohne dass es einen fotografierten Moment gab.

Eine Stimme kann nach einem bestimmten Menschen klingen, ohne dass dieser Mensch gesprochen hat.

Ein Video kann die sichtbaren Merkmale eines Ereignisses besitzen, ohne dass dieses Ereignis stattgefunden hat.

Nicht die Fiktion ist neu. Neu ist, dass die Form des Zeugnisses keinen Zeugen mehr voraussetzt.

Die Spur

Eine Fotografie war nie die Wirklichkeit selbst.

Sie zeigte einen Ausschnitt. Perspektive, Zeitpunkt, Objektiv und Auswahl bestimmten mit, was sichtbar wurde. Fotografien konnten inszenieren, verschweigen und täuschen.

Und dennoch besaßen sie eine besondere Beziehung zu einem vergangenen Moment.

Etwas musste vor der Kamera gewesen sein.

Gerade deshalb konnten Fotografien zu Zeugnissen werden.

Das Familienfoto sagte nicht nur: So sah jemand aus. Es sagte auch: Dieser Mensch stand einmal dort.

Eine Tonaufnahme sagte: Diese Stimme hat zu diesem Zeitpunkt einen Laut hervorgebracht.

Das machte solche Medien nicht wahr. Aber es gab ihnen eine Herkunft.

Mit generativen Bildern und Stimmen verändert sich diese Voraussetzung. Was wie eine Spur aussieht, muss keine Spur mehr sein.

Das bedeutet nicht, dass wir synthetischen Bildern oder Stimmen grundsätzlich misstrauen müssten. Die meisten werden uns vermutlich nicht täuschen wollen. Sie können gestalten, erklären, unterhalten, übersetzen oder Möglichkeiten sichtbar machen, die vorher nur vorstellbar waren.

Aber die Erscheinungsform allein sagt immer weniger darüber aus, wie sie entstanden ist.

Was haben wir gesehen?

Stellen wir uns ein Bild vor.

Eine überflutete Straße. Menschen stehen bis zu den Knien im Wasser. Im Hintergrund ein beschädigtes Haus.

Das Bild könnte eine reale Überschwemmung dokumentieren.

Es könnte aus einem anderen Ereignis stammen.

Es könnte bearbeitet worden sein.

Oder die gesamte Szene könnte erzeugt sein.

In allen Fällen sehen wir zunächst dasselbe: ein Bild.

Was sich unterscheidet, ist seine Herkunft.

Und diese Herkunft entscheidet darüber, was das Bild bezeugen kann.

Ein synthetisches Bild einer Überschwemmung kann zeigen, wie eine überflutete Straße aussehen könnte. Es kann eine zukünftige Gefahr veranschaulichen oder eine fiktive Geschichte erzählen.

Es kann aber nicht aus sich heraus bezeugen, dass diese Straße überflutet war.

Die Unterscheidung zwischen beidem liegt nicht notwendig im Sichtbaren.

Sie liegt in der Beziehung des Bildes zu einem Ereignis außerhalb seiner selbst.

Wenn Herkunft unsichtbar wird

Damit entsteht eine neue Aufgabe für Wahrnehmung.

Lange konnten Menschen vieles aus der Form eines Mediums ableiten.

Ein Gemälde stellte andere Ansprüche als eine Nachrichtensendung. Ein Roman andere als ein Dokument. Eine Illustration andere als ein Pressefoto.

Diese Grenzen waren nie vollkommen eindeutig.

Aber sie halfen bei der Orientierung.

Wenn erzeugte Bilder, Stimmen und Texte die vertrauten Erscheinungsformen dokumentarischer Medien annehmen können, reicht diese erste Einordnung nicht mehr immer aus.

Dann verschiebt sich eine Frage.

Nicht nur:

Was sehe ich?

Sondern:

Woher kommt das, was ich sehe?

Herkunft wird damit zu einem Teil von Urteilskraft.

Nicht weil jeder Mensch künftig jedes Bild technisch überprüfen müsste. Das wäre weder möglich noch vernünftig.

Menschen waren immer auf Vertrauen angewiesen: auf Journalisten, Wissenschaftler, Archive, Institutionen, andere Menschen und Verfahren der Überprüfung.

Gerade eine Welt erzeugbarer Darstellungen macht dieses Vertrauen nicht überflüssig.

Sie macht seine Bedingungen sichtbarer.

Die andere Möglichkeit

Es wäre jedoch zu kurz gegriffen, diese Entwicklung nur als Verlust zu beschreiben.

Die Trennung von Darstellung und vorausgegangenem Ereignis eröffnet Möglichkeiten.

Ein Mensch kann einen Ort sichtbar machen, den es noch nicht gibt.

Ein Architekt kann einen Raum betreten lassen, bevor er gebaut wurde.

Eine historische Situation kann anschaulich rekonstruiert werden.

Menschen können Bilder für Erfahrungen finden, die sie selbst nicht zeichnen oder filmen könnten.

Darstellung wird dadurch in einem neuen Umfang verfügbar.

Das kann Vorstellungskraft erweitern.

Und gerade deshalb ist die Unterscheidung wichtig.

Ein erzeugtes Bild muss nicht weniger wertvoll sein, weil es kein Dokument ist.

Es muss nur nicht für etwas gehalten werden, das es nicht ist.

Die Frage ist nicht, ob eine Darstellung künstlich erzeugt wurde. Die Frage ist, welchen Anspruch wir mit ihr verbinden.

Die Welt bleibt

Der Titel „Die erzeugbare Welt“ führt deshalb in die Irre.

Die Welt selbst wird nicht erzeugbar.

Ein erzeugtes Bild eines brennenden Waldes verbrennt keinen Baum.

Eine synthetische Stimme hat keinen Satz ausgesprochen.

Das Bild eines verstorbenen Menschen bringt ihn nicht zurück.

Realität behält ihren Widerstand.

Was sich verändert, ist die Schicht der Darstellungen, durch die Menschen dieser Realität begegnen.

Sie kann dichter werden, überzeugender, personalisierter – und immer schwerer aus ihrer Erscheinungsform allein auf ihre Herkunft schließen lassen.

Deshalb liegt die kulturelle Herausforderung künstlicher Intelligenz nicht nur darin, dass sie täuschend echte Inhalte erzeugen kann.

Sie liegt in einer grundlegenderen Verschiebung:

Erzeugbar wird nicht die Welt. Erzeugbar wird, was wie eine Spur der Welt aussieht.

Und damit wird eine alte Frage neu gestellt:

Woran erkennen wir, was tatsächlich geschehen ist?

Der übersprungene Weg

Über Schreiben, Denken und künstliche Intelligenz

Zwei Studenten erhalten dieselbe Aufgabe.

Sie sollen einen Essay schreiben.

Der erste gibt die Fragestellung in ein KI-System ein. Wenige Sekunden später erscheint ein vollständiger Text. Er liest ihn, verändert einige Formulierungen und gibt ihn ab.

Der zweite beginnt ebenfalls mit einem KI-System. Er lässt sich Positionen erklären, fragt nach Gegenargumenten, widerspricht einer Antwort. Er liest einen Text nach, verwirft eine erste These, formuliert einen Absatz und lässt ihn kritisieren. Am Ende schreibt er seinen Essay neu.

Beide haben künstliche Intelligenz benutzt.

Vielleicht hat der zweite sie sogar intensiver genutzt als der erste.

Und doch ist auf dem Weg zum Ergebnis etwas Unterschiedliches geschehen.

Das sichtbare Ergebnis

Ein fertiger Text lässt nur begrenzt erkennen, wie er entstanden ist.

Das war immer so.

Ein guter Aufsatz konnte das Ergebnis intensiven Nachdenkens sein. Er konnte aber auch Bekanntes wiederholen, fremde Gedanken geschickt zusammenfügen oder sprachliche Sicherheit vortäuschen, die im Denken nicht vorhanden war.

Generative KI hat dieses Problem nicht erfunden.

Aber sie verschärft eine Trennung, die bisher weniger sichtbar war.

Ein sprachlich überzeugendes Ergebnis kann heute entstehen, ohne dass derjenige, unter dessen Namen es erscheint, die gedanklichen Schritte selbst vollzogen hat.

Das muss kein Problem sein.

Wer eine Terminbestätigung formulieren lässt, muss daran nicht geistig wachsen. Wer einen Routinebericht zusammenfassen oder einen Standardbrief verbessern lässt, kann schlicht Zeit gewinnen.

Nicht jeder Weg ist wertvoll, nur weil ein Mensch ihn selbst gegangen ist.

Die entscheidende Frage beginnt dort, wo der Weg Teil des Ergebnisses sein sollte.

Warum wir schreiben

Warum lassen wir einen Studenten überhaupt einen Essay schreiben?

Vermutlich nicht, weil die Welt dringend einen weiteren Text über sein Seminarthema benötigt.

Der Text ist das sichtbare Ergebnis.

Aber sein eigentlicher Zweck liegt auch in dem, was während seiner Entstehung geschieht. Wer versucht, einen Gedanken zu formulieren, bemerkt manchmal erst im Schreiben, dass er ihn noch nicht verstanden hat.

Ein Satz funktioniert nicht.

Ein Begriff bleibt ungenau.

Zwei Behauptungen widersprechen einander.

Eine Begründung trägt nicht.

Dann muss man zurück.

Lesen. Vergleichen. Streichen. Neu beginnen.

Schreiben ist in solchen Situationen nicht nur die Übertragung eines bereits fertigen Gedankens in Sprache.

Manchmal wissen wir erst, was wir denken, wenn wir versuchen, es zu sagen. Der Umweg gehört dann zum Denken selbst.

Eine Maschine als Abkürzung?

Es wäre trotzdem falsch, daraus eine einfache Gegenüberstellung zu machen.

Hier der Mensch, der mühsam denkt.

Dort die Maschine, die ihm das Denken abnimmt.

Ein KI-System kann den Denkprozess auch erweitern.

Es kann einen Einwand formulieren, auf einen Widerspruch hinweisen, eine Gegenposition vertreten oder eine Frage stellen, auf die der Schreibende selbst nicht gekommen wäre.

Ein Mensch kann im Gespräch mit einem technischen System seine Position verändern. Und jemand, der ohne KI schreibt, kann vollkommen gedankenlos Bekanntes reproduzieren.

Nicht die Verwendung des Systems entscheidet darüber, ob Denken stattfindet. Entscheidend ist, welche Tätigkeit an das System delegiert wird.

Damit verschiebt sich die Frage.

Nicht:

Hat ein Mensch diesen Text allein geschrieben?

Sondern:

Was hat der Mensch auf dem Weg zu diesem Text selbst getan?

Wenn die Antwort vor der Frage kommt

Generative Systeme verändern dabei eine Reihenfolge. Sie können eine plausible Antwort bereitstellen, bevor der Nutzer eine eigene gefunden hat.

Das ist oft hilfreich.

Wer etwas nicht versteht, kann sich einen Einstieg erklären lassen. Wer vor einem leeren Blatt sitzt, kann Möglichkeiten sehen, an die er selbst nicht gedacht hat.

Aber eine vorhandene Antwort verändert auch die Situation des Denkens.

Es ist etwas anderes, eine eigene Position entwickeln zu müssen, als eine bereits formulierte Position zu beurteilen.

Im ersten Fall muss ein Gedanke entstehen.

Im zweiten kann er ausgewählt, verändert oder zurückgewiesen werden.

Beides verlangt geistige Fähigkeiten. Aber nicht notwendig dieselben.

Genau deshalb ist die Vorstellung zu einfach, KI nehme Menschen grundsätzlich das Denken ab.

Sie kann Denkprozesse ersetzen.

Sie kann sie aber auch verlagern.

Dann wird möglicherweise weniger das Hervorbringen einer ersten Formulierung wichtig – und stärker die Fähigkeit, Vorschläge zu prüfen, Unterschiede zu erkennen, Einwände zu formulieren und zu entscheiden, was man selbst vertreten kann.

Die Frage lautet deshalb nicht nur, welche Fähigkeiten verloren gehen.

Sondern auch, welche unter den neuen Bedingungen entstehen müssen.

Was ein Ergebnis nicht zeigt

Hier berührt der Text eine Veränderung, die auch für andere künstlich erzeugte Inhalte gilt.

Ein Bild kann aussehen wie die Spur eines Ereignisses, das nie stattgefunden hat.

Ein Text kann aussehen wie das Ergebnis eines Denkprozesses, der so nie stattgefunden hat.

In beiden Fällen ist das Ergebnis vorhanden.

Unsicher wird seine Herkunft.

Doch beim Schreiben kommt etwas hinzu. Es geht nicht nur darum, ob wir wissen, wie ein Text entstanden ist. Es geht darum, was mit dem Menschen geschieht, wenn bestimmte Prozesse seiner Entstehung nicht mehr notwendig sind.

Denn Fähigkeiten existieren nicht unabhängig von ihrer Ausübung.

Man lernt argumentieren, indem man argumentiert.

Man lernt unterscheiden, indem man Unterschiede prüfen muss.

Man entwickelt Urteilskraft, indem man urteilt – und mit der Möglichkeit lebt, sich zu irren.

Das Ergebnis bleibt sichtbar. Der Weg, der zu ihm führte, kann verschwinden.

Der Spiegel

Vielleicht zeigt künstliche Intelligenz hier weniger eine Schwäche der Maschine als eine Unklarheit des Menschen.

Solange das Verfassen eines Textes notwendig war, um einen Text hervorzubringen, mussten wir nicht genau unterscheiden, was uns eigentlich wichtig war.

Der Aufsatz und das Schreiben des Aufsatzes gehörten zusammen.

Das Ergebnis und der Weg schienen eine Einheit zu bilden.

Jetzt lassen sie sich trennen.

Und plötzlich müssen wir genauer sagen, was wir erhalten wollen.

Geht es um einen guten Text?

Dann kann es vernünftig sein, das beste verfügbare Werkzeug zu benutzen.

Geht es darum, schreiben zu lernen?

Dann kann nicht jeder Schritt delegiert werden.

Geht es darum, einen Gedanken zu entwickeln?

Dann muss gefragt werden, welche Auseinandersetzung notwendig ist, damit dieser Gedanke tatsächlich der eigene werden kann.

Künstliche Intelligenz beantwortet diese Fragen nicht.

Sie macht sichtbar, dass wir sie stellen müssen.

Noch einmal die beiden Studenten

Vielleicht ist der Essay des ersten Studenten sogar besser.

Klarer aufgebaut. Sprachlich sicherer. Fehlerfrei.

Der zweite hat gestrichen, gezweifelt, neu begonnen. Sein Text enthält möglicherweise eine schwächere Passage und einen Gedanken, der noch nicht ganz ausgereift ist.

Welcher von beiden hat die Aufgabe besser erfüllt?

Das lässt sich erst beantworten, wenn wir wissen, wozu die Aufgabe gestellt wurde. Wenn nur das Ergebnis zählt, ist der bessere Text das bessere Ergebnis.

Wenn aber auf dem Weg etwas entstehen sollte – Verständnis, Können, Urteilskraft –, reicht der Vergleich der fertigen Texte nicht mehr aus.

Dann müssen wir auch auf den Prozess sehen.

Nicht jeder Weg muss gegangen werden.

Nicht jede Anstrengung macht einen Menschen klüger.

Technischer Fortschritt bestand immer auch darin, unnötige Wege abzukürzen.

Aber manche Wege waren nicht nur Hindernisse auf dem Weg zum Ergebnis.

Auf manchen Wegen entstand etwas, das im Ergebnis allein nicht sichtbar ist.

Wer entscheidet?

Über künstliche Intelligenz, Urteil und Verantwortung

Ein Arzt steht vor einer Entscheidung.

Die Befunde seines Patienten sind nicht eindeutig. Aufgrund seiner Erfahrung hält er Behandlung A für richtig. Ein diagnostisches System empfiehlt Behandlung B.

Das allein wäre noch kein ungewöhnlicher Konflikt. Ärzte arbeiten seit langem mit Laborwerten, Leitlinien, statistischen Modellen und technischen Untersuchungen.

Doch in diesem Fall kommt etwas hinzu:

Das System hat sich bei vergleichbaren Diagnosen als zuverlässiger erwiesen als der einzelne Arzt.

Was wäre jetzt verantwortliches Handeln?

Der eigenen Erfahrung folgen?

Oder der Empfehlung eines Systems, das mehr vergleichbare Fälle berücksichtigen kann, als ein Mensch jemals gesehen haben wird?

Die Frage wird noch schwieriger, wenn es nicht nur um unterschiedliche Einschätzungen geht.

Der Patient kann sterben.

Die bessere Empfehlung

Es wäre beruhigend, die Grenze eindeutig zu ziehen.

Maschinen berechnen.

Menschen entscheiden.

Doch je leistungsfähiger technische Systeme werden, desto weniger genügt diese Unterscheidung.

Ein System kann Wahrscheinlichkeiten vergleichen, Muster erkennen und Risiken gegeneinander abwägen. In bestimmten Bereichen kann seine Empfehlung zuverlässiger sein als das Urteil eines einzelnen Menschen.

Dann wäre es nicht notwendig verantwortungsvoll, auf der eigenen Entscheidung zu bestehen.

Im Gegenteil.

Wer eine nachweislich bessere technische Empfehlung ignoriert, nur weil sie von einer Maschine stammt, könnte gerade dadurch unverantwortlich handeln.

Die Verwendung technischer Systeme bedeutet deshalb nicht automatisch einen Verlust menschlicher Verantwortung.

Sie kann Teil verantwortlichen Handelns sein.

Menschen haben Entscheidungen ohnehin nie vollkommen allein getroffen. Sie verlassen sich auf Erfahrungen anderer, auf wissenschaftliche Erkenntnisse, Messgeräte, Regeln, Experten und Institutionen.

Künstliche Intelligenz erfindet die Delegation des Urteils nicht.

Aber sie verändert ihr Ausmaß.

Denn erstmals können technische Systeme nicht nur Informationen bereitstellen, sondern selbst Bewertungen und Empfehlungen erzeugen, die dem menschlichen Urteil überlegen sein können.

Damit verändert sich die Frage.

Nicht mehr nur:

Was empfiehlt die Maschine?

Sondern:

Was bedeutet eigenes Urteil, wenn es vernünftig sein kann, einem fremd erzeugten Urteil zu folgen?

Wenn etwas schiefgeht

Nehmen wir an, der Arzt folgt dem System.

Behandlung B wird durchgeführt.

Der Patient stirbt.

Wer trägt die Verantwortung?

Der Arzt, der die Empfehlung übernommen hat?

Das Krankenhaus, das das System eingeführt hat?

Der Hersteller, der es entwickelt hat?

Diejenigen, die seine Verwendung geregelt haben?

Oder das System selbst?

Die letzte Antwort wirkt zunächst naheliegend. Schließlich hat das System die Empfehlung erzeugt.

Aber Verursachung und Verantwortung sind nicht dasselbe.

Eine Maschine kann an einer Entscheidung beteiligt sein. Ihre Berechnung kann Folgen haben. Sie kann Fehler produzieren.

Doch Verantwortung bedeutet mehr.

Wer Verantwortung trägt, muss grundsätzlich für sein Handeln einstehen können. Von ihm können Gründe verlangt werden. Sein Verhalten kann ihm zugerechnet werden. Er kann verpflichtet werden, Folgen zu tragen.

Ein System kann Gründe ausgeben.

Aber es steht für diese Gründe nicht ein.

Eine Maschine kann an einer Entscheidung beteiligt sein. Aber Beteiligung und Verantwortung sind nicht dasselbe.

Die Unterschrift

Eine Institution kann auf dieses Problem reagieren.

Ein Krankenhaus kann festlegen, dass ein technisches System lediglich Empfehlungen gibt und die endgültige Entscheidung beim Arzt bleibt. Es kann verlangen, dass ein Arzt die Empfehlung prüft, bestätigt oder eine Abweichung begründet.

Am Ende steht eine Unterschrift.

Damit kann institutionell oder rechtlich bestimmt werden, wem eine Entscheidung zugerechnet wird.

Aber die Unterschrift beantwortet noch nicht, wo das Urteil entstanden ist.

Stellen wir uns vor, der Arzt folgt dem System fast immer.

Nicht aus Bequemlichkeit.

Sondern weil die Erfahrung zeigt, dass dessen Empfehlungen zuverlässiger sind.

Das Krankenhaus erwartet seine Verwendung. Der Arzt kennt die Grundlagen des Systems, kann aber nicht jeden einzelnen Schritt nachvollziehen, der zu einer konkreten Empfehlung geführt hat.

Trotzdem unterschreibt er.

Formal bleibt die Entscheidung menschlich.

Aber wie viel eigenes Urteil verlangt diese Entscheidung noch?

Und was genau bestätigt die Unterschrift?

Dass der Arzt selbst zu diesem Ergebnis gekommen ist?

Oder dass er es nach Prüfung für vernünftig hält, sich auf ein anderes Urteil zu verlassen?

Diese Unterscheidung wird wichtiger.

Das Recht kann Verantwortung zurechnen. Es beantwortet damit noch nicht, wie das Urteil entstanden ist.

Der umgekehrte Fall

Nun verändern wir den Fall.

Der Arzt vertraut seiner Erfahrung und entscheidet sich gegen die Empfehlung des Systems.

Behandlung A wird durchgeführt.

Der Patient stirbt.

Später zeigt sich, dass Behandlung B mit hoher Wahrscheinlichkeit erfolgreicher gewesen wäre.

Ist der Arzt jetzt verantwortlicher, weil er selbst entschieden hat?

Wohl kaum.

Vielleicht wird ihm gerade vorgeworfen werden, dass er eine zuverlässigere Empfehlung ignoriert hat.

Damit gerät eine verbreitete Forderung unter Druck:

Am Ende müsse eben immer ein Mensch entscheiden. Das klingt zunächst wie eine Sicherung von Verantwortung. Aber menschliche Beteiligung garantiert noch kein besseres Urteil.

Ein Mensch kann voreingenommen sein, übermüdet, unerfahren oder schlicht im Irrtum.

Technische Systeme können menschliche Fehler korrigieren.

Sie können Entscheidungen konsistenter machen und Wissen verfügbar machen, das einem einzelnen Menschen fehlt. Deshalb kann die Lösung nicht darin bestehen, technische Systeme möglichst weit von wichtigen Entscheidungen fernzuhalten.

Die schwierigere Aufgabe besteht darin, zu bestimmen, wie menschliches und technisches Urteil miteinander verbunden werden sollen.

Wer entscheidet eigentlich?

Vielleicht liegt ein Teil des Problems bereits in der Frage.

„Wer entscheidet?“ unterstellt, dass sich am Ende ein einzelner Entscheider finden lassen müsse.

Aber auch bisher entstanden wichtige Entscheidungen selten so.

Der Arzt urteilt auf Grundlage wissenschaftlicher Studien, diagnostischer Geräte, Gespräche mit Kollegen, medizinischer Leitlinien und eigener Erfahrung.

Ein Krankenhaus schafft Verfahren.

Fachgesellschaften entwickeln Standards.

Gesetzgeber bestimmen Grenzen.

Versicherungen und Gesundheitssysteme setzen Rahmenbedingungen.

Entscheidungen entstehen innerhalb von Strukturen.

Künstliche Intelligenz macht diese Strukturen nicht erst notwendig. Aber sie kann einen immer größeren Teil des fachlichen Urteils innerhalb dieser Strukturen übernehmen. Dadurch wird sichtbar, was der Satz „Der Arzt entscheidet“ schon immer vereinfachte:

Eine Entscheidung kann einem Menschen zugerechnet werden, obwohl an ihrer Entstehung viele beteiligt waren.

Mit künstlicher Intelligenz kommt nun ein Beteiligter hinzu, der Empfehlungen erzeugen und Handlungen beeinflussen kann, selbst aber keine Verantwortung im menschlichen Sinn übernimmt.

Das verändert die Architektur der Verantwortung.

Wenn Verantwortung wandert

Gerade deshalb wird die institutionelle und rechtliche Gestaltung entscheidend. Eine Gesellschaft kann festlegen, wer ein System einsetzen darf.

Wer seine Empfehlungen prüfen muss.

Wann Menschen von ihnen abweichen dürfen oder müssen.

Wer dokumentiert.

Wer kontrolliert.

Und wer für Schäden einzustehen hat.

Solche Regeln lösen nicht jede moralische Frage. Aber sie verhindern, dass technische Beteiligung zu einem Raum wird, in dem Verantwortung verschwindet.

Denn genau diese Gefahr besteht.

Der Arzt verweist auf das System.

Das Krankenhaus auf den Hersteller.

Der Hersteller auf die vorgesehenen Einsatzbedingungen.

Die Verantwortlichen auf die statistische Zuverlässigkeit.

Jede einzelne Erklärung kann nachvollziehbar sein.

Und trotzdem ist ein Mensch gestorben.

Verantwortung kann sich verteilen. Die Folgen tun es nicht.

Das gilt nicht nur für Medizin. Ein selbstfahrendes Fahrzeug trifft auf eine Situation, in der ein Mensch verletzt wird. Ein automatisiertes System beeinflusst, ob jemand einen Kredit erhält. Eine Behörde verwendet technische Bewertungen bei Entscheidungen über Menschen.

Je mehr Beteiligte und Systeme an solchen Entscheidungen mitwirken, desto wichtiger wird nicht nur ihre technische Zuverlässigkeit.

Es muss auch geklärt bleiben, wer für ihre Verwendung einzustehen hat.

Was die Maschine sichtbar macht

Vielleicht liegt darin eine der unbequemeren Einsichten künstlicher Intelligenz.

Menschen haben Verantwortung auch bisher nicht immer gern getragen. Sie haben sich auf Regeln berufen, auf Vorgesetzte, Verfahren, Statistiken und Sachzwänge.

„Ich habe mich an die Vorschrift gehalten.“

„Das Verfahren sieht es so vor.“

„Die Zahlen ließen keine andere Entscheidung zu.“

Technische Systeme erfinden diese Entlastung nicht. Aber sie schaffen eine neue Möglichkeit, sie zu perfektionieren. Denn je leistungsfähiger ein System wird, desto vernünftiger kann es erscheinen, ihm zu folgen.

Und desto leichter kann aus einem guten Grund für die Verwendung eines Systems eine Ausrede dafür werden, die Verantwortung für seine Folgen nicht mehr als die eigene zu betrachten.

Hier zeigt die Maschine etwas über den Menschen.

Nicht nur seine Bereitschaft, Entscheidungen abzugeben. Sondern auch seinen Wunsch, von der Last unsicherer Entscheidungen entlastet zu werden.

Doch gerade diese Last gehörte immer zur Verantwortung.

Nicht weil Menschen alles wissen können.

Sondern weil sie handeln müssen, obwohl sie es nicht können.

Wer trägt die Folgen?

Vielleicht wird die Zukunft deshalb weniger davon geprägt sein, ob Menschen oder Maschinen entscheiden. Viele Entscheidungen werden gemeinsam entstehen: aus menschlichem Urteil, technischen Empfehlungen, institutionellen Regeln und automatisierten Verfahren.

Die entscheidende Frage lautet dann nicht mehr, ob eine Entscheidung ausschließlich menschlich war.

Sondern ob Verantwortung dort noch auffindbar bleibt, wo Entscheidungen verteilt entstehen.

Ein Krankenhaus kann einem Arzt eine Unterschrift abverlangen.

Ein Gesetz kann Haftung festlegen.

Eine Institution kann Verfahren definieren.

All das ist notwendig.

Aber keine dieser Regelungen macht die Maschine selbst verantwortlich.

Sie ordnet Verantwortung Menschen und Institutionen zu, die entschieden haben, dass und unter welchen Bedingungen ein solches System handeln oder empfehlen darf.

Darin liegt die Grenze der Delegation.

Eine Gesellschaft kann Berechnungen technischen Systemen überlassen.

Sie kann ihnen Empfehlungen, Auswahlprozesse und in bestimmten Bereichen auch Handlungen übertragen.

Sie kann sogar zu dem Ergebnis kommen, dass es verantwortungsvoller ist, einer Maschine zu folgen als einem einzelnen Menschen.

Was sie nicht tun kann, ist mit der Entscheidung auch jede Verantwortung an die Maschine weiterzugeben.

Die gefährlichste Delegation beginnt nicht dort, wo Menschen Entscheidungen abgeben. Sondern dort, wo mit der Entscheidung auch die Verantwortung weitergereicht wird.

Was bin ich wert?

Über Arbeit, Leistung und künstliche Intelligenz

Ein Übersetzer liest einen Text, den eine künstliche Intelligenz in wenigen Sekunden übertragen hat.

Er kennt beide Sprachen seit Jahrzehnten. Er weiß, wie lange es dauert, einen Ton zu treffen, eine Mehrdeutigkeit zu erkennen, einen Satz nicht nur richtig, sondern angemessen zu übersetzen. Vieles davon hat er über Jahre gelernt.

Der erzeugte Text ist nicht perfekt.

Aber er ist gut.

Vielleicht erschreckt ihn gerade das mehr als ein offensichtlicher Fehler.

Denn vor ihm liegt in wenigen Sekunden etwas, wofür er selbst lange gebraucht hat, um es zu können.

Was genau ist in diesem Moment bedroht?

Sein Arbeitsplatz?

Sein Einkommen?

Sein Können?

Oder etwas, das schwieriger zu benennen ist:

die Bedeutung, die dieses Können für ihn selbst hatte?

Wenn Können gewöhnlich wird

Technische Systeme haben Menschen immer wieder Tätigkeiten abgenommen.

Sie rechnen schneller, heben größere Lasten, produzieren genauer und wiederholen Abläufe zuverlässiger.

Vieles davon empfinden Menschen nicht als Kränkung. Kaum jemand zweifelt an seinem menschlichen Wert, weil ein Taschenrechner schneller multipliziert oder eine Maschine größere Lasten bewegen kann.

Generative künstliche Intelligenz berührt andere Bereiche.

Sie schreibt, übersetzt, programmiert, analysiert, gestaltet Bilder und erzeugt Musik.

Sie dringt damit in Tätigkeiten ein, die nicht nur als Arbeit galten. Mit ihnen waren Bildung, Erfahrung, Kreativität und berufliches Können verbunden.

Menschen haben Jahre damit verbracht, darin gut zu werden.

Und plötzlich wird zumindest ein Teil der sichtbaren Leistung in Sekunden verfügbar.

Das bedeutet nicht, dass menschliches Können wertlos wird.

Aber es verändert seine Knappheit – und möglicherweise die Anerkennung, die daran gebunden war.

Die Frage lautet deshalb nicht mehr nur:

Kann eine Maschine meine Arbeit übernehmen?

Sondern:

Was bedeutet mein Können noch, wenn eine Maschine etwas Ähnliches hervorbringen kann?

Vier verschiedene Ängste

Die Angst vor dem Verlust von Arbeit erscheint häufig wie eine einzige Angst.

Sie ist es nicht.

Da ist zunächst die materielle Angst.

Wer seine Arbeit verliert, kann Einkommen, Sicherheit und Zukunftspläne verlieren. Vielleicht die Möglichkeit, eine Familie zu versorgen oder die eigene Wohnung zu bezahlen.

Das ist keine philosophische Verunsicherung.

Es ist eine reale Bedrohung.

Daneben steht die gesellschaftliche Angst.

Berufe verleihen Status. Sie bestimmen mit, wie Menschen von anderen wahrgenommen werden, welchen Platz sie in einer Gesellschaft einnehmen und wofür sie Anerkennung erhalten.

Dann gibt es die Angst um das eigene Können.

Wer zwanzig Jahre gelernt hat, etwas besonders gut zu tun, hat nicht nur Arbeitszeit investiert. Er hat einen Teil seines Lebens in eine Fähigkeit verwandelt.

Wenn diese Fähigkeit plötzlich weniger gebraucht wird, kann sich das wie eine Entwertung dieser Jahre anfühlen.

Und schließlich gibt es eine vierte Erfahrung:

Menschen erleben sich in ihrer Arbeit häufig als wirksam.

Sie lösen ein Problem. Sie bauen, pflegen, unterrichten, gestalten, reparieren, organisieren oder erklären.

Etwas ist nach ihrer Tätigkeit anders als vorher.

Existenzsicherung, Anerkennung, Können und Selbstwirksamkeit liegen in modernen Arbeitsgesellschaften eng beieinander.

Deshalb kann der Satz „Diese Arbeit kann künftig eine Maschine erledigen“ sehr verschiedene Ängste zugleich auslösen.

Was Arbeit mit dem Menschen macht

Karl Marx hat Arbeit nicht nur als Mittel zum Lebensunterhalt betrachtet.

In der Arbeit verändert der Mensch die Welt – und verändert sich in dieser Tätigkeit zugleich selbst.

Arbeit bringt nicht nur etwas hervor. Auch der Arbeitende wird durch seine Tätigkeit zu jemandem, der etwas kann, Erfahrungen besitzt und sich in seinem Tun wiedererkennt.

Gerade deshalb war für Marx die entfremdete Arbeit ein so grundlegendes Problem. Wenn Menschen nicht mehr über ihre Tätigkeit und deren Ergebnis verfügen, betrifft das nicht nur ihren Lohn. Es betrifft ihr Verhältnis zum eigenen Tun und damit auch zu sich selbst.

Doch daraus folgt nicht, dass Arbeit um jeden Preis bewahrt werden müsste.

Viele Tätigkeiten sind monoton, gefährlich, erschöpfend oder fremdbestimmt. Menschen von ihnen zu entlasten, kann ein Gewinn an Freiheit sein.

Eine Maschine, die solche Arbeit übernimmt, nimmt dem Menschen nicht notwendig einen Raum der Selbstverwirklichung.

Vielleicht gibt sie ihm einen zurück.

Die entscheidende Frage lautet deshalb nicht, ob Menschen Arbeit brauchen.

Sondern:

Welche menschlichen Erfahrungen haben wir so eng an Arbeit gebunden, dass ihr Verlust wie der Verlust eines Teils unserer selbst erscheint?

Arbeit ist nicht gleich Wert

Diese Verbindung ist nicht selbstverständlich.

Gesellschaften haben den Wert eines Menschen sehr unterschiedlich begründet: durch Herkunft, Stand, Familie, Religion, Besitz oder gesellschaftliche Funktion. Viele dieser Ordnungen waren keineswegs gerechter als unsere.

Aber sie zeigen, dass die Vorstellung, ein Mensch müsse seinen gesellschaftlichen Wert vor allem durch individuelle Leistung erwerben, keine anthropologische Notwendigkeit ist.

Auch die moderne Vorstellung der Menschenwürde setzt an einem anderen Punkt an.

Würde muss nicht erarbeitet werden.

Sie steigt nicht mit Produktivität.

Sie sinkt nicht, wenn jemand weniger leisten kann.

Und trotzdem sprechen moderne Gesellschaften eine zweite Sprache.

Menschen sollen leistungsfähig sein, sich entwickeln, produktiv bleiben, etwas beitragen und gebraucht werden.

Beide Vorstellungen existieren nebeneinander:

Der Mensch besitzt einen Wert, den er nicht verdienen muss.

Und:

Der Mensch soll zeigen, was er wert ist.

Künstliche Intelligenz macht diesen Widerspruch sichtbarer.

Doch daraus folgt nicht, dass Leistung bedeutungslos wäre.

Menschen wollen etwas können. Sie wollen gestalten und erleben, dass ihre Tätigkeit einen Unterschied macht. Die Freude eines Musikers, einer Handwerkerin oder eines Wissenschaftlers an dem, was sie können, lässt sich nicht auf eine Leistungsideologie reduzieren.

Können kann Teil eines gelungenen Lebens sein.

Problematisch ist deshalb nicht die Erfahrung, etwas bewirken zu können.

Problematisch wird die Gleichsetzung:

Ich kann etwas. Also werde ich gebraucht. Also bin ich etwas wert.

Denn wenn diese Gleichung gilt, muss eine Maschine, die dasselbe besser oder schneller kann, mehr bedrohen als einen Arbeitsplatz.

Sie berührt das Selbstverständnis des Menschen.

Was die Maschine sichtbar macht

Künstliche Intelligenz kann Berufe verändern. Sie kann Einkommen bedrohen, eine erworbene Fähigkeit ökonomisch entwerten und gesellschaftliche Anerkennung verschieben.

All das ist real.

Aber daraus folgt nicht, dass sie den Menschen entwertet, der diese Fähigkeit besitzt.

Der ökonomische Wert einer Leistung und der Wert eines Menschen sind nicht dasselbe.

Dass dieser Satz selbstverständlich klingt, macht ihn gesellschaftlich noch lange nicht selbstverständlich.

Denn moderne Arbeitsgesellschaften haben sehr unterschiedliche Dinge eng miteinander verbunden: Einkommen, Anerkennung, Können, Selbstwirksamkeit und gesellschaftliche Teilhabe.

Solange diese Verbindung funktionierte, musste sie kaum begründet werden.

Künstliche Intelligenz beginnt sie auseinanderzuziehen.

Die Angst, ohne Arbeit weniger wert zu sein, ist deshalb eine kulturelle Frage.

Die Angst, ohne Arbeit nicht leben zu können, eine materielle.

Beides kann denselben Menschen treffen.

Aber es ist nicht dasselbe.

Der Übersetzer sitzt noch immer vor dem künstlich erzeugten Text.

Vielleicht wird seine Erfahrung weiterhin gebraucht. Vielleicht verändert sich seine Arbeit. Vielleicht wird irgendwann niemand mehr bereit sein, für eine Leistung zu bezahlen, die ein System nahezu kostenlos erzeugt.

Das sind sehr unterschiedliche Zukünfte.

Die Maschine entscheidet keine davon.

Aber sie zwingt ihn – und uns – etwas auseinanderzuhalten, das lange zusammengehörte:

den Wert seiner Arbeit,

den Wert seines Könnens

und seinen Wert als Mensch.

Vielleicht bedroht künstliche Intelligenz weniger den menschlichen Wert als eine Vorstellung davon, worauf dieser Wert beruhen soll.

Dann wäre die entscheidende Frage nicht, wie der Mensch seinen Wert gegenüber der Maschine beweisen kann.

Sondern warum er ihn überhaupt beweisen muss.