Macht & Gestaltung

Macht & Gestaltung

Wer die Bedingungen technischer Wirklichkeit verändern kann

Technische Systeme entstehen nicht einfach.

Sie werden entwickelt, finanziert und betrieben. Menschen und Unternehmen entscheiden darüber, welche Ziele sie verfolgen, welche Daten sie verwenden, welche Möglichkeiten sie eröffnen und welche begrenzen. Staaten setzen Regeln, Institutionen wählen Systeme aus.

Auch Nutzer entscheiden.

Doch sie entscheiden meist innerhalb von Möglichkeiten, die andere geschaffen haben.

Ein Mensch kann innerhalb eines Systems entscheiden. Andere können darüber entscheiden, wie dieser Raum des Entscheidens beschaffen ist.

Diese Möglichkeiten sind nicht gleich verteilt.

Ein Mensch kann eine Empfehlung ablehnen, eine Antwort zurückweisen oder einen Dienst verlassen. Andere können das System verändern, seine Regeln bestimmen oder darüber entscheiden, unter welchen Bedingungen es eingesetzt wird.

Damit stellt sich eine Machtfrage, die über die Wirkung technischer Systeme hinausführt:

Wer kann die Bedingungen verändern, unter denen andere handeln, erfahren und entscheiden?

Diese Frage wird wichtiger, wenn technische Systeme nicht mehr nur einzelne Tätigkeiten übernehmen. Sie werden zunehmend Teil jener Umgebungen, in denen Menschen lernen, arbeiten, urteilen und Orientierung suchen.

Damit entsteht eine zweite Frage.

Es genügt nicht, dass Menschen formal in ein technisches System eingreifen können. Sie müssen auch erkennen und beurteilen können, wann ein Eingriff notwendig ist.

Die Möglichkeit zur Korrektur ist nicht dasselbe wie die Fähigkeit zur Korrektur.

Doch auch diese Fähigkeit entsteht unter Bedingungen: durch Erfahrung und Übung, durch Widerspruch und durch die Möglichkeit, Fehler selbst zu erkennen.

Künstliche Intelligenz kann solche Fähigkeiten unterstützen.

Sie kann aber zugleich an den Bedingungen beteiligt sein, unter denen sie entstehen und erhalten bleiben.

Damit entsteht eine eigentümliche Rückkopplung:

Menschen gestalten technische Systeme. Technische Systeme gestalten zunehmend die Bedingungen mit, unter denen Menschen die Fähigkeiten entwickeln, diese Systeme zu beurteilen und zu korrigieren.

Die drei Essays dieses Themenraums untersuchen diesen Zusammenhang aus unterschiedlichen Richtungen.

Sie fragen, wer technische Bedingungen verändern kann, was geschieht, wenn Systeme Wirklichkeit für Menschen verständlicher machen – und was aus Fähigkeiten wird, deren Entstehung eigene Auseinandersetzung und Zeit voraussetzt.

Es geht deshalb nicht nur darum, ob Menschen technische Systeme kontrollieren können.

 Es geht auch um die Bedingungen, unter denen die Fähigkeit zu dieser Kontrolle entsteht.

Wer kann korrigieren?

Über technische Macht und die Voraussetzungen menschlicher Kontrolle

Technische Systeme können Entscheidungen vorbereiten, Möglichkeiten ordnen und menschliche Kontrolle unterstützen. Doch Kontrolle setzt voraus, dass Fehler überhaupt sichtbar werden – und dass jemand die Möglichkeit besitzt, einzugreifen.

Der Essay fragt deshalb nicht nur, ob technische Systeme überprüft werden können, sondern wer unter welchen Bedingungen tatsächlich in der Lage ist, sie zu korrigieren.

→ Zum Essay „Wer kann korrigieren?“

Zwischen Reaktion und Urteil

Über digitale Öffentlichkeit und die Fähigkeit zur Distanz

Menschen reagieren, bevor sie urteilen. Zwischen beidem kann ein Abstand entstehen, in dem Eindrücke geprüft, Gründe abgewogen und erste Reaktionen verändert werden.

Digitale Systeme können jedoch bereits mit Reaktionen arbeiten, bevor aus ihnen ein Urteil geworden ist. Der Essay fragt, was dies für die Bedingungen menschlicher Urteilskraft bedeutet.

→ Zum Essay „Zwischen Reaktion und Urteil“

Weiterführende Themenräume

Orientierung

Wie Menschen urteilen und handeln können, wenn Wissen begrenzt bleibt und Entscheidungen dennoch getroffen werden müssen.

→ Themenraum öffnen

KI & Gegenwart

Was über menschliche Entscheidung, Verantwortung und Können sichtbar wird, wenn technische Systeme Leistungen übernehmen oder an Entscheidungen beteiligt sind, ohne den menschlichen Weg ihrer Entstehung gegangen zu sein.

→ Themenraum öffnen