Erzeugbare Welt

Die erzeugbare Welt

Über KI, Darstellung und die Herkunft dessen, was wir sehen

Eine Frau erhält eine Sprachnachricht.

Sie erkennt die Stimme sofort. Den Tonfall, die Sprechweise, kleine Pausen zwischen den Sätzen. Es ist die Stimme eines Menschen, den sie gut kennt.

Später erfährt sie:

Dieser Mensch hat diese Worte nie gesprochen.

Die Stimme war erzeugt.

Was sie gehört hat, war real. Der Ton kam aus ihrem Telefon. Sie hat ihn wahrgenommen. Vielleicht hat er sie erschreckt, beruhigt oder zu einer Handlung veranlasst.

Nur das Ereignis, auf das sie diese Wahrnehmung bezogen hat, hat nie stattgefunden.

Jemand hat nicht gesprochen.

Eine Darstellung ohne Ereignis

Menschen haben immer Dinge dargestellt, die es nicht gab.

Mythen erzählen von Göttern. Romane von erfundenen Menschen. Maler erschaffen Landschaften, die sie nie gesehen haben. Filme zeigen Welten, die nur für die Kamera gebaut wurden.

Fiktion ist keine Erfindung künstlicher Intelligenz.

Auch Täuschung ist es nicht.

Bilder wurden manipuliert, Dokumente gefälscht, Zitate erfunden und Stimmen imitiert, lange bevor es generative Systeme gab.

Die Veränderung liegt deshalb nicht darin, dass Menschen plötzlich etwas sehen oder hören können, das nie geschehen ist.

Sie liegt in der Beziehung zwischen Darstellung und Herkunft.

Eine Fotografie trug lange die Erwartung in sich, dass irgendwann Licht von etwas Vorhandenem auf einen Film oder Sensor gefallen war. Eine Tonaufnahme verwies darauf, dass ein Laut stattgefunden hatte. Eine gefilmte Bewegung setzte voraus, dass sich vor einer Kamera etwas bewegt hatte.

Diese Erwartungen waren niemals unfehlbar. Aber sie gehörten zur kulturellen Bedeutung dieser Medien.

Generative Systeme lockern diese Verbindung.

Ein Bild kann aussehen wie eine Fotografie, ohne dass es einen fotografierten Moment gab.

Eine Stimme kann nach einem bestimmten Menschen klingen, ohne dass dieser Mensch gesprochen hat.

Ein Video kann die sichtbaren Merkmale eines Ereignisses besitzen, ohne dass dieses Ereignis stattgefunden hat.

Nicht die Fiktion ist neu. Neu ist, dass die Form des Zeugnisses keinen Zeugen mehr voraussetzt.

Die Spur

Eine Fotografie war nie die Wirklichkeit selbst.

Sie zeigte einen Ausschnitt. Perspektive, Zeitpunkt, Objektiv und Auswahl bestimmten mit, was sichtbar wurde. Fotografien konnten inszenieren, verschweigen und täuschen.

Und dennoch besaßen sie eine besondere Beziehung zu einem vergangenen Moment.

Etwas musste vor der Kamera gewesen sein.

Gerade deshalb konnten Fotografien zu Zeugnissen werden.

Das Familienfoto sagte nicht nur: So sah jemand aus. Es sagte auch: Dieser Mensch stand einmal dort.

Eine Tonaufnahme sagte: Diese Stimme hat zu diesem Zeitpunkt einen Laut hervorgebracht.

Das machte solche Medien nicht wahr.

Aber es gab ihnen eine Herkunft.

Mit generativen Bildern und Stimmen verändert sich diese Voraussetzung.

Was wie eine Spur aussieht, muss keine Spur mehr sein.

Das bedeutet nicht, dass wir synthetischen Bildern oder Stimmen grundsätzlich misstrauen müssten. Die meisten werden uns vermutlich nicht täuschen wollen. Sie können gestalten, erklären, unterhalten, übersetzen oder Möglichkeiten sichtbar machen, die vorher nur vorstellbar waren.

Aber die Erscheinungsform allein sagt immer weniger darüber aus, wie sie entstanden ist.

Was haben wir gesehen?

Stellen wir uns ein Bild vor.

Eine überflutete Straße. Menschen stehen bis zu den Knien im Wasser. Im Hintergrund ein beschädigtes Haus.

Das Bild könnte eine reale Überschwemmung dokumentieren.

Es könnte aus einem anderen Ereignis stammen.

Es könnte bearbeitet worden sein.

Oder die gesamte Szene könnte erzeugt sein.

In allen Fällen sehen wir zunächst dasselbe: ein Bild.

Was sich unterscheidet, ist seine Herkunft.

Und diese Herkunft entscheidet darüber, was das Bild bezeugen kann.

Ein synthetisches Bild einer Überschwemmung kann zeigen, wie eine überflutete Straße aussehen könnte. Es kann eine zukünftige Gefahr veranschaulichen oder eine fiktive Geschichte erzählen.

Es kann aber nicht aus sich heraus bezeugen, dass diese Straße überflutet war.

Die Unterscheidung zwischen beidem liegt nicht notwendig im Sichtbaren.

Sie liegt in der Beziehung des Bildes zu einem Ereignis außerhalb seiner selbst.

Wenn Herkunft unsichtbar wird

Damit entsteht eine neue Aufgabe für Wahrnehmung.

Lange konnten Menschen vieles aus der Form eines Mediums ableiten.

Ein Gemälde stellte andere Ansprüche als eine Nachrichtensendung. Ein Roman andere als ein Dokument. Eine Illustration andere als ein Pressefoto.

Diese Grenzen waren nie vollkommen eindeutig.

Aber sie halfen bei der Orientierung.

Wenn erzeugte Bilder, Stimmen und Texte die vertrauten Erscheinungsformen dokumentarischer Medien annehmen können, reicht diese erste Einordnung nicht mehr immer aus.

Dann verschiebt sich eine Frage.

Nicht nur:

Was sehe ich?

Sondern:

Woher kommt das, was ich sehe?

Herkunft wird damit zu einem Teil von Urteilskraft.

Nicht weil jeder Mensch künftig jedes Bild technisch überprüfen müsste. Das wäre weder möglich noch vernünftig.

Menschen waren immer auf Vertrauen angewiesen: auf Journalisten, Wissenschaftler, Archive, Institutionen, andere Menschen und Verfahren der Überprüfung.

Gerade eine Welt erzeugbarer Darstellungen macht dieses Vertrauen nicht überflüssig.

Sie macht seine Bedingungen sichtbarer.

Die andere Möglichkeit

Es wäre jedoch zu kurz gegriffen, diese Entwicklung nur als Verlust zu beschreiben.

Die Trennung von Darstellung und vorausgegangenem Ereignis eröffnet Möglichkeiten.

Ein Mensch kann einen Ort sichtbar machen, den es noch nicht gibt.

Ein Architekt kann einen Raum betreten lassen, bevor er gebaut wurde.

Eine historische Situation kann anschaulich rekonstruiert werden.

Menschen können Bilder für Erfahrungen finden, die sie selbst nicht zeichnen oder filmen könnten.

Darstellung wird dadurch in einem neuen Umfang verfügbar.

Das kann Vorstellungskraft erweitern.

Und gerade deshalb ist die Unterscheidung wichtig.

Ein erzeugtes Bild muss nicht weniger wertvoll sein, weil es kein Dokument ist.

Es muss nur nicht für etwas gehalten werden, das es nicht ist.

Die Frage ist nicht, ob eine Darstellung künstlich erzeugt wurde. Die Frage ist, welchen Anspruch wir mit ihr verbinden.

Die Welt bleibt

Der Titel „Die erzeugbare Welt“ führt deshalb in die Irre.

Die Welt selbst wird nicht erzeugbar.

Ein erzeugtes Bild eines brennenden Waldes verbrennt keinen Baum.

Eine synthetische Stimme hat keinen Satz ausgesprochen.

Das Bild eines verstorbenen Menschen bringt ihn nicht zurück.

Realität behält ihren Widerstand.

Was sich verändert, ist die Schicht der Darstellungen, durch die Menschen dieser Realität begegnen.

Sie kann dichter werden, überzeugender, personalisierter – und immer schwerer aus ihrer Erscheinungsform allein auf ihre Herkunft schließen lassen.

Deshalb liegt die kulturelle Herausforderung künstlicher Intelligenz nicht nur darin, dass sie täuschend echte Inhalte erzeugen kann.

Sie liegt in einer grundlegenderen Verschiebung:

Erzeugbar wird nicht die Welt. Erzeugbar wird, was wie eine Spur der Welt aussieht.

Und damit wird eine alte Frage neu gestellt:

Woran erkennen wir, was tatsächlich geschehen ist?

→ zum Themenraum