Mensch und Technik – eine komplizierte Beziehung?

Wenn Mensch und Technik interagieren, ist die Hierarchie klar: Der Mensch muss entscheiden. Das ist zunächst unumstritten, aber haben wir es mit einer Wahrheit oder einem Dogma zu tun?

Technisches Versagen war die Ursache des Concorde-Absturzes im Sommer 2000 nahe des Pariser Flughafens Charles-de-Gaulle. 113 Menschen kamen ums Leben. Und dass der Ausfall eines Autopiloten im Juli 2010 nicht zu einer Katastrophe führte lag wahrscheinlich nur daran, dass das Gerät in einer unbemannten Raumsonde montiert war und nicht in einem Verkehrsflugzeug. Die Sonde verfehlte ihr Ziel um drei Kilometer (!), eine manuelle Steuerung war nicht mehr möglich.  

Aktuell beschäftigt uns die Havarie des Kreuzfahrtschiffs Costa Concordia: Der Kapitän setzte sich über das technische Sicherheitssystem hinweg, steuerte auf einen Felsen zu, mindestens 16 Menschen kamen zu Tode, ein Millionenschaden entstand. Abenteuerlust, Geltungsdrang und Selbstüberschätzung wurden in Verbindung mit Ignoranz zur tödlichen Mischung. Oder der Absturz der Tupolew 154 mit dem polnischen Präsidenten und seiner Delegation an Bord im April 2010: Die Technik war intakt, ein Umweg hätte das Unglück verhindern können. Ganz konnten die Umstände nie geklärt werden, aber menschliches Versagen spielte wohl die entscheidende ursächliche Rolle. Größenwahn auf der Brücke, Machtkämpfe und Alkohol im Cockpit – der Technik wäre so etwas nicht passiert. Wir wollen an die Einzigartigkeit dieser Ereignisse glauben, obwohl wir genau wissen: Irgendwann kommt wieder so etwas vor.

Technische Sicherheitssysteme wären in der Lage gewesen, diese Unglücke zu verhindern, aber nur, wenn die technische Aktion in der Hierarchie der menschlichen Entscheidung übergeordnet gewesen wäre, konkret: Wenn die handelnden Personen nicht die Möglichkeit gehabt hätten etwas anders zu tun, als das, was technische Unterstützungssysteme ihnen direkt oder wie im Fall des Tupolew-Absturzes indirekt vorgaben. Genau diese übergeordnete Autorität der Technik löst aber größtes Unbehagen aus. Dass technische Systeme mehr Rechte haben sollen als der sie nutzende Mensch, passt nicht in unser Weltbild. Unser eigenes Wissen, Können und unsere Einschätzungen, gerne auch gesunder Menschenverstand genannt, geben ein Gefühl der Sicherheit. Wir glauben die mit unseren Entscheidungen und unserem Handeln verbundenen Risiken zu kennen und einschätzen zu können. Und wir empfinden sie als zumutbar.

Die Frage der Zumutbarkeit und die Relation aus (potenziellem) Nutzen und (vermeintlichen) Gefahren sind die zentralen Punkte der Diskussion um Risiken. Wir empfinden technische Risiken als weniger zumutbar als menschliche und ziehen daraus die Konsequenz, das letzte Wort haben zu wollen. Technik ist hoch komplex, die meisten Menschen können Funktionsweise und Abläufe nicht einmal andeutungsweise nachvollziehen. Es kommt uns deshalb so vor, als seien technische Risiken unkalkulierbar und schwerer einzuschätzen als die, die von menschlichen Verhaltensweisen ausgehen. Gleichwohl erkennen Menschen nicht immer ihre Verantwortung im Umgang miteinander oder mit Dingen.

Immer dann, wenn zwei oder mehrere Akteure gemeinsam an einem Prozess beteiligt sind, stellt sich die Frage nach der Verantwortung. Und zwar unabhängig davon, wer interagiert: Mensch und Mensch, Mensch und Technik oder Technik und Technik. Verantwortung setzt Bewusstsein und die Fähigkeit zu intendiertem Handeln voraus. Für verantwortliches Handeln muss mindestens eine weitere Entscheidungsalternative bestanden haben und eine freie Entscheidung getroffenen worden sein. Ein technisches System erfüllt diese Voraussetzungen nicht, höchstens setzt der programmierte oder erlernte Algorithmus eine Aktion in Gang. Und wenn dies Aktion A und nicht Aktion B ist, stehen dahinter Menschen, die diese Autonomie gewähren, den Algorithmus programmiert haben und – sachgerechte Anwendung vorausgesetzt -  die Verantwortung tragen, ob sie nun wollen oder nicht. Verantwortung nehmen wir wahr, indem wir technische Systeme so sicher wie möglich machen: Wir auditieren und zertifizieren, wir untersuchen, warten und testen, bis wir schließlich das Restrisiko tolerieren, weil es keine Fehlerfreiheit gibt.

Wenn die Technik versagt, rufen wir nach dem Menschen, und wenn der Mensch versagt, soll die Technik uns retten. Am liebsten hätten wir beides: Die Zuverlässigkeit und Sicherheit technischer Systeme gepaart mit der Fähigkeit des Menschen - anders als in den oben genannten Beispielen - Situationen auch dann realistisch einzuschätzen und zu bewerten, wenn nicht vorhersehbare Konstellationen eintreten.  Aber wer soll wann im Vordergrund stehen? Woher wissen wir, welche Qualität – die menschliche oder die technische – in einer spezifischen Situation gefragt ist? Können Menschen und technische Systeme miteinander konkurrieren, und darf es das geben?

Diese neuen Fragen der Mensch-Technik-Interaktion werden uns beschäftigen – je leistungsfähiger die Technik wird desto mehr. Und eins wissen wir schon heute: Einfache Antworten gibt es nicht.