Atompilz über Nagasaki, 9. August 1945

Mensch und Maschine

»Stanislav Petrovs wacher Instinkt, seine Menschenliebe und sein Ungehorsam haben am 26.9.1983 vermutlich die Menschheit gerettet«—Wolf

Obwohl es darüber einen Dokumentarfilm gibt, war für mich diese Geschichte neu: Am 26. September 1983 hatte Stanislav Petrov im nuklearen Überwachungszentrum der Sowjetunion die Verantwortung für die Nachtschicht. Alles war ruhig, bis plötzlich, eine halbe Stunde nach Mitternacht, sein Bildschirm anzeigte, dass eine mit Atombomben bewaffnete Rakete vom US-Staat Montana aus in Richtung auf die UdSSR gestartet war. Die Sirene heulte, die Leute in seinem Team sprangen in Panik von ihren Stühlen auf und schauten ihn an, ihren Kommandanten – in weniger als 15 Minuten würde die Rakete sowjetisches Territorium erreicht haben. 

Ein paar Sekunden lang blieb Petrov im Schock. Dann der Gedanke: Wenn die USA angreifen würden, dann doch nicht mit nur einer Rakete. Er brüllte seine Leute an, sich wieder zu setzen und schaffte es, zum Telefonhörer zu greifen. Mit vermutlich ein wenig zitternder Stimme meldete er seinem Vorgesetzten: »Fehlalarm«.

Aber dann meldete das System eine zweite, dritte, vierte und fünfte Rakete und die Wahrscheinlichkeit eines Angriffs mit 100 Prozent. Es herrschte Kalter Krieg, und die beiden Supermächte hatten ihre Systeme so eingerichtet, dass ein Erstschlag von einer der beiden Seiten zu einem ebenso vernichtenden Gegenschlag führen würde. Die dem folgende Vernichtung würde die gesamte Menschheit und einen Großteil des tierischen und pflanzlichen Lebens völlig auslöschen. Die Tatsache, dass beide Seiten das wussten, sollte sie von einem Erstschlag abhalten. 

Angst

Der Bodenradar würde Petrov in zehn Minuten sagen, ob es sich um eine echte Attacke gehandelt hatte. Sollte die Meldung des Systems jedoch korrekt sein, würden die Raketen in zwölf Minuten Russland treffen. 

Seine Hände zitterten, als er seinen Vorgesetzen zum zweiten Mal anrief und wieder einen Fehlalarm meldete. Der Offizier am anderen Ende der Leitung war betrunken, gab die Meldung aber weiter. Dann warteten Petrov und seine Leute angstvolle 15 Minuten. Als der Bodenradar auch dann nichts Ungewöhnliches gemeldete hatte, war allen im Raum klar, dass es tatsächlich ein Fehlalarm gewesen war. Sie und mit ihnen der Rest der Menschheit war einem Tod à la Hiroshima noch einmal entronnen. Der beobachtende Satellit hatte die Reflektion von Wolken hoch über Dakota, wo es zwei Startrampen von mit Atomsprengköpften besteckten Interkontinental-Raketen der US-Armee gab, falsch interpretiert. 

Petrov war zwar Angehöriger des Militärs, aber seine Ausbildung war eine zivile gewesen. Er war zum Wissenschaftler ausgebildet worden. Das hier installierte Überwachungssystem hatte er selbst mitentwickelt, und sein Bauchgefühl hatte ihm gesagt, dass der Alarm ziemlich schnell kam, obwohl es doch 30 Vorgänge der Verifikation im System gab. Dennoch war seine Meldung eines Fehlalarms nur eine etwa 50:50 Vermutung, schrieb der Economist im Nachruf auf seinen Tod am 19. Mai 2017 (einen Großteil der Infos zu diesem Blogeintrag habe ich diesem Nachruf entnommen). Ein Militär auf Nachtschicht anstelle von Petrov hätte vermutlich die Nachricht so, wie das System sie gemeldet hatte, nach oben weitergegeben, und da die politische Lage zwischen den Supermächte gerade sehr angespannt war (siehe auch diverse Wikipedia-Einträge hierzu), hätte Antropow gutmöglich in jener Nacht den Befehl zum »Gegenangriff« gegeben. 

Können wir Maschinen trauen?

Stanislav Petrov wird als scheuer, eher einfacher Mensch beschrieben. Die Heldenpose liegt ihm nicht, und doch hat er möglicherweise in jener Nacht »die Menschheit gerettet«. Vielleicht auch die Biosphäre in der hohen Diversität, wie wir sie jetzt noch, trotz Mensch, haben. Die Geschichte jener Nacht blieb bis 1998 ein militärisches Geheimnis; vermutlich, weil man zu Zeiten des Kalten Krieges befürchten, dass die Geschichte, die ja faktisch wahr ist, vom Gegner hätte ausgenutzt werden können und die russische Seite dabei nicht gut wegkam. 

Für mich stellt sich dabei die Frage, inwieweit wir maschinellen Systemen trauen können. Vermutlich hat Petrovs Instinkt die Welt vor einem Atomkrieg und der Vernichtung alles höheren Lebens bewahrt. Vielleicht war auch seine Menschenliebe einfach nur größer als seine Bereitschaft zum militärischen Gehorsam – auch als russischer Nationalist, der er eventuelle war, hätte er ja als Teil in der Befehlskette zum (vermeintlichen) atomaren Gegenschlag sein geliebtes eigenes Land mit vernichtet. Es hätte ausgehen können wie bei Shakespeares Romeo und Julia: Er denkt, sie habe sich getötet, daraufhin tötet er sich, und im Entsetzen über seinen Tod will auch sie nicht mehr leben. Der Anfangsirrtum, dass sie sich getötet habe, war bei Shakespeare der Auslöser für den Doppelmord. 

Doch zurück zur Technik. Auch Petrovs Misstrauen gegenüber der – von ihm selbst mitentwickelten – Technik hat uns gerettet. Meist allerdings sind auf den Überwachungsstationen dieser Welt eher nicht die Entwickler selbst auf Schicht. Die Wahrscheinlichkeit, dass solch ein Fehlalarm nicht als solcher erkannt wird, ist deshalb höher als dass sie erkannt wird. Heute haben Israel, Pakistan und Nordkorea Atombomben, und der erste Kommandant der USA ist ein leicht kränkbarer, streitsüchtiger Narzisst. Wir müssen schon sehr viel Glück haben, dass da nichts schief geht. 

Ein Friedensengel beendet den Kalten Krieg

Zwölf Jahre nach dieser Nacht des 26. September 1983, sechs Jahre nach Ende des Kalten Krieges traf ich Michail Gorbatschow auf einer Konferenz in San Francisco. Sein Einsatz für die völlige Abschaffung aller Atomwaffen beeindruckte mich stark. Trotzdem war ich mehr auf Umweltprobleme fokussiert als auf die Gefahr eines Atomkrieges, und ich wollte wissen, welche Wirkung seine Frau Raissa auf diesen im sowjetischen System so schnell und steil aufgestiegenen Appratschik gehabt hatte und noch hatte. War sie es, die aus ihm einen Friedensengel gemacht hatte? Raissas Einladung, nach Moskau zu fliegen, um sie dort zu interviewen, konnte ich damals leider nicht folgen – ich bereue es heute, dass ich es nicht trotzdem gemacht habe. Ich war zu sehr darin eingebunden, meinen kleinen Verlag über Wasser zu halten und in dem, wozu ich mich da verpflichtet hatte.

RSS abonnieren

Diskussion zu: Mensch und Maschine

  1. Maschinen kann man sicher nicht völlig vertrauen. Allein schon dadurch, daß man nicht wissen kann, wie KI zu einer Entscheidung kommt: Es gibt da keinen Alogortihmus, den es als Begründung parat hätte.
    Maschinelle Entscheidungen müssten mehrfach abgefedert werden.
    Die Frage ist dann immer: Wo setzt man die Abfederungen hin?

    Ich stelle mir auch vor, dass sie Sache umso komplexer wird, je mehr Maschinen, die jede für sich fehlerhaft sein könnten, sich miteinander verschalten.

    Allerdings müsste es in unserer hochkomplexen Welt mit seinen mittlerweile Myriaden an wissenschaftlichen Zweigen schon längst etwas geben, das Fehleranfälligkeit berechnen kann. So wie man etwa beweisen kann, dass bestimmte Annahmen in der Mathematik tatsächlich unlösbar sind, so müssten eigentlich schon längst solche Werkzeuge/Methoden /Wissenschaftszweige existieren, die sich genau mit solchen Fragen beschäftigen. Alles andere wäre ein Wunder!

  2. Lieber Wolf,

    ja, das ist eine spannende Geschichte! Ich kannte sie auch noch nicht, bis ich vor ein paar Wochen eine Dokumentation dazu im Fernsehen gesehen habe, in der auch Zeitzeugen interviewt wurden.
    Für mich wurde hier ein Mensch porträtiert, der den Maschinen wirklich nicht vertraute (weil er die technischen Probleme kannte) und sicher die Wahrscheinlichkeit eines Fehlalarms nicht 50:50 einschätzte, sondern sehr viel höher. Außerdem traute er irgendwie den Machthabern des „kalten Krieges“, dass keiner von ihnen (nach Hiroshima und Nagasaki) eine solches Szenario wirklich wollen könnte.
    Und das ist für mich der Unterschied zu heute: Ein Machthaber Kim Jong-un ist (zumindest aus unserer westlichen Sicht) menschlich unberechenbar. Einem, der in aller Öffentlichkeit Verwandte auf grausamste Art liquidieren lässt und die Sicherheit hat, dass er dabei ungeschoren davon kommt, ist scheinbar alles zuzutrauen …
    Das Beispiel mit Romeo und Julia finde ich hier auch sehr passend: Es geht wohl um die suizidale Komponente, die in allem mitschwingt. Wenn mir mein Leben nichts wert ist, dann bin ich auch fähig – so ich die Macht besitze – die ganze Welt mit in den Abgrund zu reißen.
    Aus meiner psychologischen Perspektive müssen wir nicht wirklich Angst haben, dass Machthaber, die ihr eigenes Leben lieben, ein nukleares Inferno auslösen werden – dann schon eher irgendwelche Maschinen!

    Mit herzlichem Gruß
    Marianne

Dein Kommentar zu: Mensch und Maschine

*) Pflichtfelder. E-Mail wird nicht veröffentlicht