Bild nicht mehr verfügbar.
Was in den massiven Rechenzentren von Google und Co passiert, ist nicht nur für die Konsumenten zu weiten Teilen undurchsichtig. In der Ära des Maschinenlernens weiß selbst der Betreiber oft nicht genau, wie Entscheidungen getroffen werden.
Es ist ein Szenario, das die Grundlage für zahlreiche dystopische Science-Fiction-Filme geliefert hat. Der Mensch in seiner Hybris schafft eine Technologie, die er schlussendlich nicht mehr kontrollieren kann – und unweigerlich in sein Verderben führt. Sonderlich fiktional sei all dies allerdings nicht mehr, warnt nun Buchautor James Bridle in einem aktuellen Artikel für den britischen "Guardian", in Teilen wüssten wir längst schon nicht mehr, was die Technologie, die wir geschaffen haben, eigentlich genau macht. Gleichzeitig geben würden wir ihr aber immer stärkere Kontrolle geben.
Kommunikation
Geradezu ein Paradebeispiel hierfür sei ein Forschungsprojekt von Google Brain: Dort hat man vor einiger Zeit drei neuronalen Netzwerken den Auftrag gegeben, untereinander eine sichere Form der Kommunikation zu entwickeln. Über tausende Iterationen waren sie dabei nicht nur erfolgreich, sondern sogar erfolgreicher als erwartet. Sie entwickelten eine Form der Verschlüsselung, die auch für Menschen nicht mehr zu knacken war. Was die Maschinen untereinander reden, bleibt uns also so verborgen.
Börsenmacht
Doch auch an anderer Stelle geben wir den Maschinen immer mehr Macht, warnt Bridle – mit zum Teil fatalen Konsequenzen. Als am 6. Mai 2010 die Kurse an den weltweiten Börsen immer weiter absackten, hatte keiner eine wirklich taugliche Erklärung dafür. Klar, zu diesem Zeitpunkt verunsicherte die Schuldenkrise in Griechenland zum Teil die Märkte, aber dies hätte nicht zu einem dermaßen starken Absturz von mehr als 10 Prozent führen dürfen. Was folgte waren jahrelange Untersuchungen, und eine beunruhigende Erkenntnis: Es waren wohl autonom von Computer gesteuerte Trading-Systeme, die anhand fixer Limits mit automatischen Verkäufen reagierten, und so eine regelrechte Abwärtsspirale auslösten. Ein menschlicher Händler hätte in so einer Situation wohl die Nerven bewahrt.
Weitere solcher "Flash Crashes" sind in den kommenden Jahren immer wieder vorgekommen, im Detail weiß aber – nicht zuletzt aufgrund der strengen Geheimhaltung von einzelnen Händlern – niemand, wodurch sie genau ausgelöst werden. Als etwa nach der Brexit-Entscheidung in Großbritannien negative Schlagzeilen dominierten, gaben die Börsen um sechs Prozent nach – nur um bald wieder um vier Prozent zu wachsen. Wie es zu diesem Absturz kam, und welche Schlagzeile ihn ausgelöst hat, ist bis heute unklar.
Totale Überwachung?
Auf ganz andere Weise beunruhigend findet Bridle eine andere Entwicklung. In seinem Roman Aurora beschreibt Kim Stanley Robinson eine Art intelligentes Raumschiff, das zunehmend die Kontrolle über die Systeme – und so die Menschen – übernimmt. Dabei greift es unter anderem in die Umweltsysteme ein oder erhöht die Lautstärke der eigenen Sprachausgabe so stark, dass es den Menschen Schmerzen bereitet. So weit mögen wir derzeit zwar noch nicht sein, aber mit smarten Lautsprechern wie Google Home oder Amazon Echo, die auch Thermostat und andere Geräte des Haushalts steuern können, würden wir hier gerade die Grundlagen legen, so Bridle.
Und doch bedeute all das nicht, dass wir unausweichlich in die Dystopie marschieren, wie der Buchautor betont. Allerdings gelte es vermehrt unseren Platz in der Welt und unser Verhältnis zu Maschinen neu zu definieren. Es sei unmöglich das Netzwerk an immer schlauer werdenden Systemen wieder komplett zu entfernen – und aus vielerlei Hinsicht auch gar nicht wünschenswert. Immerhin bringen die smarten Computer auch unleugbare Vorteile. Aber man müsse all das eben hinterfragen – und zwar immer und immer wieder. (red, 18.6.2018)