Bitte keine digitalen Zauberlehrlinge!

Die Frage, ob Computer in absehbarer Zeit denken, oder wenigstens lernen können, beschäftigt mich gerade sehr, nachdem ich in Zürich im IBM Lab einmal einen etwas tieferen Einblick in den aktuellen Stand der Computerforschung nehmen durfte. Dort tüftelt man an neuronalen Systemen, die nach dem Vorbild des menschlichen Gehirnes nicht mehr einfach nacheinander binäre Einser und Nullen abarbeiten, also schlussendlich nur die Befehle ihrer menschlichen Herren befolgen können (nach dem schönen alten Informatikermotto: „garbage in, garbage out“), sondern die selbständig eigene Rückschlüsse aus den ihnen vorliegenden Informationen ziehen können, so wie unsere Gehirne Synapsen bilden: neuronale Verknüpfungen zwischen verschiedenen, durchaus auch weit auseinanderliegenden Hirnzellen. Synapsen können auch Signale während der Übertragung modulieren und Informationen speichern. Die Anzahl der Synapsen im Gehirn eines Erwachsenen beträgt laut Wikipedia etwa 100 Billionen (10¹⁴).

In Zürich hat man mir gezeigt, wie „Watson“, IBMs neuster Superrechner, in der Krebsforschung einem Arzt Ratschläge zur Therapie seltener Karzinome geben kann, die sogar auf die Besonderheiten und Befindlichkeiten einzelner Patienten abgestimmt sind. Eine Frau möchte vielleicht lieber eine Therapie, bei der die Haare nicht ausfallen. Wenn es das gibt, fließt dieser Wunsch in Watsons Recherchergebnisse ein. Natürlich hat Watson das computertechnische Gegenstück zu einem Arztstudium durchgemacht und weiß fast so viel über sein Fachgebiet wie der Arzt selber.

Aber  Watson arbeitet viel gründlicher: Kein Mediziner könnte sich bei jedem Patienten neu hinsetzen und die gesamte Fachliteratur auf der Welt nach möglichen Übereinstimmungen mit gerade diesem einen Fall durchforsten. Watson schafft das mühelos in wenigen Minuten. Er sortiert die Ergebnisse anschließend nach Relevanz, in diesem Fall also nach der anzunehmenden Heilungschance je nach Behandlungsart, und schlägt sie seinem Kollegen im weißen Kittel vor. Die Entscheidung aber muss letztlich der Mensch treffen. Solche „kognitiven“ Computersysteme werden uns also nicht das Denken abnehmen, aber sie werden uns sehr, sehr kluge Assistenten sein – so jedenfalls die Vision von IBM.

Am Frühstückstisch, wo ich meiner Frau davon vorschwärmte, goss sie mir nicht nur Kaffee nach, sondern auch kaltes Wasser in meine Begeisterung: „Aber warum lässt man den Computer nicht gleich entscheiden“, fragte sie. Und ich stutzte. Ja, warum eigentlich nicht. Es wäre doch ein Leichtes, sozusagen den letzten Schalter umzulegen und dem Computer zu gestatten, gleich das Rezept für das Medikament auszustellen oder den Patienten zur Behandlung einzuweisen. „Doktor Computer, bitte ans Telefon“: So könnte beim nächsten Klinikbesuch die Durchsage lauten.

Das in der Tat die Gefahr: Weil etwas möglich ist, wird es gemacht. Ich denke aber, dass die Menschheit zumindest kollektiv nicht so blöd ist, dass sie diesen letzten Schritt geht und sich auf Gedeih oder Verderb seinen elektronischen Assistenten ausliefert, denn was uns dann am Ende blühen würde, das hat der gute alte Goethe in seinem „Zauberlehrling“  schon vor fast 300 Jahren beschrieben:

Herr, die Not ist groß!

Die ich rief, die Geister,

Werd ich nun nicht los.

Und dann kam mir der rettende Gedanke. Der Mensch an sich wäre vielleicht schon so blöd, die Versicherungen aber nicht. Schon heute gibt es zum Beispiel die Möglichkeit, Verkehrsflugzeuge automatisch landen zu lassen. In den Maschinen selbst ist die entsprechende Technik längst eingebaut, viele Flughäfen sind auch schon mit den nötigen Vorrichtungen ausgestattet. Der Pilot könnte also während der Landung ruhig auf die Toilette gehen. Wir könnten auch unsere Flugzeuge führerlos auf die Reise schicken. Aber wir tun es nicht. Warum? Weil keine Versicherungesellschaft der Welt das Risiko versichern würde.

Genauso ist es mit den autonom fahrenden Autos, die gerade fleißig von allen Automobilfirmen sowie von Google & Co. entwickelt werden. Im Vergangenen Herbst fuhr eine Mercedes S-Klasse selbstgesteuert die historische „Bertha-Benz-Strecke“ von Ladenburg nach Pforzheim. Ein SPIEGEL-Redakteur saß auf dem Beifahrersitz und schrieb fleißig mit. Aber wenn man auf dem Foto ganz genau hinschaut sieht man, dass sehr wohl ein Mensch auf dem Fahrersitz saß. Und das muss auch so sein, denn zumindest in Deutschland muss der Fahrzeugführer – und das ist immer ein Mensch – jederzeit die Hände am Steuer haben, also die vollständige Kontrolle über sein Fahrzeug haben. Automatische Lenksysteme, wie sie Daimler jetzt vorgestellt hat, schrammen laut Straßenverkehrsordnung haarscharf an der Illegalität vorbei. Und wenn es damit je einmal zum Unfall kommt und die Polizei kriegt raus, dass der Fahrer gerade eingenickt war oder im Handschuhfach gekramt hat, dann steigt bestimmt die Versicherung aus – darauf jede Wette! Google kann sich sein in den Medien breitgetretenes „Robotaxi“-Projekt, das eine Flotte von fahrerlosen Motordroschken in unseren Innenstädten vorsieht, also eigentlich in die Haare schmieren.

Ich konnte am Ende meine Frau beruhigen. Aber dafür nagt in mir ein leiser Zweifel, und ich kriege ihn einfach nicht los: Sind wir Menschen, so fragt die innere Stimme hämisch, tatsächlich so sehr zum digitale Deppen mutiert, dass wir den Computer wirklich zu den Herren über unser Schicksal machen werden? Nur weil wir es können? Oder genauer gesagt: Weil die es können? Ich hoffe nicht.