Macht & Gestaltung

Wer die Bedingungen technischer Wirklichkeit verändern kann

Technische Systeme entstehen nicht einfach.

Sie werden entwickelt, finanziert und betrieben. Menschen und Unternehmen entscheiden darüber, welche Ziele sie verfolgen, welche Daten sie verwenden, welche Möglichkeiten sie eröffnen und welche begrenzen. Staaten setzen Regeln, Institutionen wählen Systeme aus, Nutzer entscheiden innerhalb der Möglichkeiten, die ihnen angeboten werden.

Diese Entscheidungen sind nicht gleich verteilt.

Ein Mensch kann eine Empfehlung ablehnen, eine Antwort zurückweisen oder einen Dienst verlassen. Andere können das System verändern, seine Regeln bestimmen oder darüber entscheiden, unter welchen Bedingungen es eingesetzt wird.

Damit stellt sich eine Machtfrage, die über die Wirkung technischer Systeme hinausführt:

Wer kann die Bedingungen verändern, unter denen andere handeln, erfahren und entscheiden?

Diese Frage wird wichtiger, wenn technische Systeme nicht mehr nur einzelne Tätigkeiten übernehmen. Sie werden zunehmend Teil jener Umgebungen, in denen Menschen lernen, arbeiten, urteilen und Orientierung suchen.

Damit verändert sich auch die Frage nach menschlicher Kontrolle.

Es genügt nicht, dass Menschen formal eingreifen können. Sie müssen verstehen und beurteilen können, wann ein Eingriff notwendig ist. Doch auch diese Fähigkeiten entstehen unter Bedingungen – durch Erfahrung, Übung, Widerspruch und die Möglichkeit, Fehler selbst zu erkennen.

Künstliche Intelligenz kann solche Fähigkeiten unterstützen. Sie kann aber zugleich an den Bedingungen beteiligt werden, unter denen sie entstehen und erhalten bleiben.

Die Texte dieses Themenraums fragen deshalb nicht nach einer allgemeinen Theorie technischer Macht. Sie untersuchen einen engeren Zusammenhang:

Wer kann technische Bedingungen gestalten und korrigieren – und was geschieht, wenn diese Bedingungen zunehmend auch an der Entstehung der Fähigkeiten beteiligt sind, die zu ihrer Kontrolle notwendig sind?

Wer kann korrigieren?

Über technische Macht und die Voraussetzungen menschlicher Kontrolle

Ein Entwickler arbeitet mit einem künstlichen System.

Er kann Vorgaben verändern, Fehler untersuchen und Teile des Systems anpassen.

Ein Nutzer desselben Systems besitzt andere Möglichkeiten. Er kann eine Antwort zurückweisen. Er kann Einstellungen verändern, eine Beschwerde schreiben oder den Dienst verlassen.

Beide können reagieren.

Aber sie können nicht dasselbe verändern.

Der eine bewegt sich innerhalb der Bedingungen des Systems.

Der andere kann an diesen Bedingungen arbeiten.

Diese Unterscheidung führt zu einer Frage, die bei der Diskussion über künstliche Intelligenz leicht hinter einer anderen verschwindet. Häufig wird gefragt, ob technische Systeme kontrollierbar bleiben.

Doch bevor diese Frage beantwortet werden kann, muss eine andere gestellt werden:

Wer kann korrigieren?

Die ungleiche Möglichkeit der Korrektur

Menschen können ihr Urteil verändern. Sie können neue Informationen berücksichtigen, Erfahrungen anders einordnen oder eine Überzeugung aufgeben.

Auch technische Systeme können verändert werden. Modelle können angepasst, Regeln verändert, Anwendungen begrenzt oder abgeschaltet werden.

Doch die Möglichkeit dazu ist ungleich verteilt.

Ein Nutzer kann erkennen, dass ein System ihm immer wieder bestimmte Inhalte empfiehlt. Er kann diese Empfehlungen ablehnen.

Er kann jedoch meist nicht verändern, nach welchen Kriterien das System entscheidet, was ihm überhaupt begegnet.

Eine Lehrerin kann feststellen, dass ein technisches System die Arbeit ihrer Schüler verändert. Vielleicht kann sie entscheiden, ob es in ihrem Unterricht verwendet werden darf. Sie entscheidet jedoch nicht darüber, welche Systeme entwickelt werden, welche Funktionen selbstverständlich verfügbar werden oder welche Erwartungen dadurch außerhalb ihrer Schule entstehen.

Eine Gesellschaft kann Regeln für künstliche Intelligenz beschließen. Doch auch ihre Handlungsmöglichkeiten hängen davon ab, wer über Modelle, Daten, Wissen, Rechenleistung und die Infrastruktur verfügt, auf der diese Systeme beruhen.

Korrigierbarkeit ist deshalb nicht nur eine Frage der Offenheit für Widerspruch.

Sie ist auch eine Frage der Macht.

Denn es macht einen Unterschied, ob jemand eine Entscheidung zurückweisen kann – oder die Bedingungen verändern kann, unter denen solche Entscheidungen entstehen.

Die Möglichkeit, dass es anders sein könnte

Technische Macht zeigt sich deshalb nicht erst dort, wo Menschen zu etwas gezwungen werden. Sie kann bereits darin liegen, Möglichkeiten zu strukturieren.

Ein Empfehlungssystem verbietet das unbekannte Buch nicht.

Eine Navigation verbietet den Umweg nicht.

Ein KI-System verbietet einem Menschen nicht, selbst zu schreiben.

Doch wenn bestimmte technische Lösungen alltäglich werden, verändern sie die Ausgangslage, innerhalb derer Menschen handeln.

Was technisch möglich ist, kann zur Erwartung werden.

Was schneller erledigt werden kann, muss zunehmend begründet werden, wenn es weiterhin langsam geschieht.

Was zuverlässig vorausgewählt werden kann, erscheint irgendwann unnötig, selbst zu suchen.

Nicht jede solche Veränderung ist problematisch. Viele erleichtern das Leben und erweitern menschliche Möglichkeiten. Die Machtfrage beginnt deshalb nicht mit dem Verdacht, hinter jeder technischen Entwicklung stehe eine Absicht.

Sie beginnt mit einer einfacheren Feststellung:

Bedingungen, die menschliches Handeln prägen, werden von unterschiedlichen Akteuren mit unterschiedlich großen Möglichkeiten gestaltet.

Deshalb braucht eine korrigierbare technische Welt mehr als die Möglichkeit, Fehler in einem einzelnen System zu beheben.

Sie braucht die Möglichkeit, dass technische Bedingungen selbst anders gestaltet werden können.

Wer korrigiert die Gestaltenden?

Demokratische Gesellschaften kennen dieses Problem.

Macht soll kontrolliert werden können.

Unternehmen unterliegen Gesetzen. Behörden können beaufsichtigt werden. Entscheidungen können vor Gerichten angefochten werden. Wissenschaft und Öffentlichkeit können Fehler sichtbar machen. Auch technische Gestaltung kann solchen Verfahren unterliegen.

Doch mit künstlicher Intelligenz entsteht eine zusätzliche Schwierigkeit.

Die Menschen und Institutionen, die technische Systeme kontrollieren sollen, stehen diesen Systemen nicht notwendig von außen gegenüber.

Programmierer verwenden künstliche Intelligenz beim Programmieren.

Juristen können sie bei der Prüfung von Dokumenten einsetzen.

Behörden können sich technische Unterlagen zusammenfassen lassen.

Wissenschaftler können mit ihrer Hilfe Daten analysieren und Literatur auswerten.

Das ist zunächst kein Problem.

Ein Werkzeug kann menschliche Urteilskraft erweitern. Es kann Fehler sichtbar machen, Zusammenhänge erschließen und Menschen ermöglichen, Dinge zu prüfen, die sie ohne technische Unterstützung kaum überblicken könnten.

Aber damit verändert sich die Frage nach Kontrolle.

Handeln können und urteilen können

Technische Abhängigkeit wurde lange besonders dort sichtbar, wo Maschinen menschliche Tätigkeiten übernahmen. Wer etwas nicht mehr selbst tut, kann die Fähigkeit verlieren, es im entscheidenden Moment selbst zu tun.

Bei künstlicher Intelligenz kann eine zweite Form der Abhängigkeit hinzukommen.

Ein Mensch kann ein technisches System verwenden, um eine Tätigkeit auszuführen. Er kann es aber auch verwenden, um zu beurteilen, ob eine technisch ausgeführte Tätigkeit richtig war.

Dann betrifft die mögliche Abhängigkeit nicht mehr nur seine Fähigkeit zu handeln. Sie betrifft seine Fähigkeit, über das System selbst zu urteilen.

Der Programmierer besitzt vielleicht weiterhin die Befugnis, einen Vorschlag zurückzuweisen.

Die Behörde kann eine Entscheidung beanstanden.

Ein Arzt kann einer Empfehlung widersprechen.

Doch diese Befugnisse reichen nicht aus, wenn Menschen zunehmend auf technische Systeme angewiesen sind, um überhaupt beurteilen zu können, wann und warum sie widersprechen sollten.

Damit entsteht eine andere Form technischer Abhängigkeit:

Nicht die Abhängigkeit davon, dass eine Maschine etwas für uns erledigt. Sondern davon, dass wir ohne sie immer weniger beurteilen können, wie sie es erledigt.

Die Rückkopplung

Diese Möglichkeit ist keine notwendige Folge künstlicher Intelligenz.

Menschen können mit technischen Systemen lernen. Ein Programmierer kann durch ein KI-System auf einen Fehler aufmerksam werden und gerade dadurch etwas verstehen, das er vorher nicht verstanden hatte. Ein Arzt kann eine Diagnose besser beurteilen, weil ein System einen übersehenen Zusammenhang sichtbar macht.

Entscheidend ist deshalb nicht, ob künstliche Intelligenz am menschlichen Denken beteiligt ist.

Entscheidend ist, wie sie daran beteiligt ist.

Denn Fähigkeiten entstehen nicht allein dadurch, dass richtige Ergebnisse verfügbar sind.

Menschen lernen unterscheiden, indem sie Unterschiede erkennen müssen. Sie lernen prüfen, indem sie selbst prüfen. Sie entwickeln Urteilskraft auch dadurch, dass ihre Erwartungen scheitern, sie Fehler machen und Gründe gegeneinander abwägen.

Wenn technische Systeme zunehmend an diesen Prozessen beteiligt werden, entsteht deshalb eine Rückkopplung.

Das System, das kontrolliert werden soll, wirkt zugleich an den Bedingungen mit, unter denen die Fähigkeit zu seiner Kontrolle entsteht und erhalten bleibt.

Im Grenzfall kehrt sich damit das Verhältnis zwischen Werkzeug und Anwender auf eigentümliche Weise um:

Die KI programmiert ihren Programmierer.

Nicht weil sie einen Willen hätte.

Nicht weil sie entscheidet, was ein Mensch denken soll.

Sondern weil sie zunehmend an den Bedingungen beteiligt wäre, unter denen diejenigen lernen, arbeiten und urteilen, die sie entwickeln und kontrollieren sollen.

Die Voraussetzung der Korrektur

Damit führt die Machtfrage an einen Punkt, der sich nicht durch technische Kontrolle allein lösen lässt.

Es genügt nicht, festzulegen, dass am Ende einer Entscheidung ein Mensch stehen muss.

Es genügt auch nicht, diesem Menschen formal das Recht zu geben, einer Maschine zu widersprechen.

Er muss noch beurteilen können, warum er widersprechen sollte.

Deshalb führt die Frage

Wer kann korrigieren?

schließlich zu einer zweiten:

Wer kann noch erkennen, dass korrigiert werden muss?

Eine Gesellschaft, die ihre technischen Systeme korrigierbar halten will, muss deshalb nicht nur Verfahren, Wettbewerb und Kontrolle erhalten.

Sie muss auch die Bedingungen erhalten, unter denen Menschen die Fähigkeiten entwickeln und bewahren können, die solche Korrektur erst möglich machen.

Denn die tiefste Form technischer Abhängigkeit entstünde vielleicht nicht dort, wo Maschinen etwas besser können als Menschen.

Sondern dort, wo Menschen sie brauchen, um noch beurteilen zu können, was die Maschinen können.

→ Start