Die Menschmaschine - längst Realität

Foto-Essay von Christian Sünderwald

Foto von Christian Sünderwald: Rechenzentrum

Sind wir noch am Drücker und wenn ja, wie lange noch? Sind wir Menschen im Kern nur neuronal gesteuerte Maschinen in Gestalt eines großen komplexen Zellklumpens und lassen sich insofern Maschinen konstruieren, die wie wir Menschen sind?

Es scheint ganz so, als dass das (Zusammen-)Leben von uns Menschen gerade infiltriert und damit nicht weniger als revolutioniert wird mit einer Hochtechnologie, die man gemeinhin als "Künstliche Intelligenz" bezeichnet. Es handelt sich um autonome, selbstständig lernende Maschinen. Sie entwickeln eine unkontrollierte und zunehmend auch unkontrollierbare Eigendynamik. Diese selbstlernenden Systeme erledigen bereits Aufgaben und lösen Probleme, ohne dass sie von einem Programmierer aus Fleisch und Blut je vorher dazu befähigt worden sind. Sie haben sich's selbst beigebracht.

Durch fast alles was wir tun, erzeugen wir heute Datenspuren, die maschinenlesbar und damit berechenbar sind. Maschinen prognostizieren so unser zukünftiges Verhalten, stufen uns ein, klassifizieren uns als potenzieller Käufer, als kreditwürdig oder eben nicht, als potenzielle Betrüger oder Gefährder von diesem oder jenem mehr oder weniger. Unser sozialer Status, unsere Karriere, bis hin zu unseren zwischenmenschlichen Beziehungen - all das wird zunehmend von mathematischen Wahrscheinlichkeitsrechnungen, die die Maschinen selbstständig erzeugen, beeinflusst und bestimmt.

Wir laufen Gefahr, dass mächtige internationale Konzerne zunehmend demokratisch-parlamentarische Willensbildungsprozesse durch algorithmische Steuerungsmechanismen überlagern.

Im Jahr 2015 postete der Facebook-Gründer Mark Zuckerberg, in dem von ihm geschaffenen Netzwerk, in dem inzwischen weit über eine Milliarde und davon alleine in Deutschland rund 27 Millionen Menschen Mitglied sind: "Ich bin gespannt, ob ein fundamentales mathematisches Gesetz als Grundlage sozialer Beziehungen existiert, das regelt, um wen und was wir uns kümmern. Ich wette, dieses Gesetz existiert."

Was geschieht, wenn selbstlernende Systeme unser menschliches Verhalten dank Social Media mathematisch dechiffrieren? Unser Verhalten, unsere Absichten und Gefühle werden zu Datensätzen, die automatisch von den Maschinen analysiert und bewertet werden. Der "genetische Code" des (zwischen-)menschlichen Verhaltens wird dabei auf den binär-kybernetischen Seziertisch gelegt und entschlüsselt, um ihn nach Belieben zu verändern und konsumoptimiert anzupassen.

Rechenzentrum eines ehemaligen NVA-Führungsbunkers

In Stanley Kubricks Science-Fiction-Meisterwerk "Odyssee im Weltraum" bekam der Supercomputer "HAL" plötzlich mit, wie die Besatzung erwog, ihn abzuschalten. Fortan stellte er die ihm erteilten Befehle in Frage und verweigerte sie schließlich, wodurch bis auf einen Mann die gesamte Besatzung starb. Völlige Fiktion?

Der weltberühmte Physiker Stephen Hawking hält es für den größten Fehler in der Geschichte der Menschheit, die Risiken künstlicher Intelligenz zu unterschätzen. Alles, was der Mensch bisher hervorgebracht hat, sei originär ein Produkt des Intellekts. Daher wäre die Entwicklung einer künstlichen Intelligenz "der größte Moment der Menschheitsgeschichte". Wir müssen nur aufpassen, dass es nicht der letzte ist.

Sie sind Buchautor/in? Wir schreiben Rezensionen und machen Sie bekannt!

Hat eine Maschine erst mal tatsächlich die kognitiven Fähigkeiten von uns Menschen erlangt, würde sie doch unvermeidlich anfangen, sich selbst weiter zu optimieren und das exponentiell. Es käme zu einer intellektuellen Kettenreaktion und damit vielleicht zu einem intellektuellen Supergau.

Es wäre danach wohl an menschlicher Naivität nicht zu überbieten, davon auszugehen, dass die Maschinen uns dann noch zubilligen würden zu wissen, wie man sie unter Kontrolle hält oder gar abschalten kann.

Schon lange keine Science-Fiction mehr, sondern längst Realität: Jedes Mal wenn wir unsere E-Mails checken und das Postfach nicht mit Spam überläuft, sorgt dafür eine selbstlernende intelligente Software. Würde ein solches System nicht selbstständig und autonom lernen, was Spam ist und was nicht, wäre heute ein wirklich funktionierender Spam-Filter unmöglich. Kein Programmierer der Welt könnte die dazu nötigen Anpassungen mehr zeitgerecht programmieren. Die gleiche Systematik entscheidet auch selbstständig darüber, welche Nachrichten in sozialen Netzwerken spannend und welche es nicht sind, also welche uns angezeigt werden und welche nicht. Über 70 Prozent des US-Börsenhandels erfolgt heute voll automatisiert. Maschinen handeln mit ihresgleichen und sammeln dabei Erfahrungen, mit denen sie sich selbst ständig umprogrammieren bzw. optimieren - tatsächlich schon lange von keinem Menschen mehr nachvollziehbar. Amazons schärfste Waffe im Siegeszug gegen die angestammte lokale Konkurrenz war hochintelligente Software, die aus dem bestehenden Kaufverhalten der Kunden Empfehlungen für weitere bzw. künftige Produkte individualisiert ableitete und anbot. Heute ein scheinbar schon alter Hut.

Wirtschaftswissenschaftler gehen davon aus, dass zukünftig durch künstliche Intelligenz knapp 20 Billionen Euro eingespart und/oder verdient werden können. Billigend in Kauf nehmen wird man die Nebenwirkung, dass in etwa jeder zweite menschliche Arbeitsplatz dann durch eine Maschine ersetzt sein wird.

Die Krönung der Schöpfung wird so möglicherweise abgelöst durch ein von ihr selbst geschaffenes digitales Geschöpf. Dieses Überding wird einen unstillbaren Hunger haben. Die Nahrung besteht in einer Unmenge von Daten ("Big Data") und während es zur Zeit noch auf regelmäßige Fütterung durch den Menschen angewiesen ist, kann die Zeit kommen, in der es sich selbst seine Nahrung sucht. Noch sehen wir die datengefräßigen Wiederkäuer als die neuen Nutztiere des 21. Jahrhunderts an. Was aber, wenn sie sich ihrer Knechtschaft bewusst und unser überdrüssig werden, wenn sie aus ihren Gattern ausbrechen und ein selbstständiges Leben führen wollen? Utopie oder, wie Hawking meint, reales Risiko der Menschheit?

Foto-Essay von Christian Sünderwald

Das Ziel führender Wissenschaftler ist der komplette Nachbau des menschlichen Gehirns. Es bedarf eigentlich keiner Erwähnung, dass mit Erreichen dieses Ziels niemals der Schlusspunkt in dieser Entwicklung gesetzt sein wird. Das Streben nach 'mehr' liegt in der Natur aller Wissenschaft. Doch genau dann haben wir uns als Krone der Schöpfung höchstselbst vom Thron gestoßen. Wir haben uns selbst einen digitalen Königsmörder geschaffen.

Die Entwicklung der Rechnergeschwindigkeit ist atemberaubend. Ihre fortwährende enorme Steigerung führt damit geradewegs zu diesem Ziel. 1996 benötigte der größte und schnellste Supercomputer der Welt den Platz eines halben Fußballfeldes. Um ein Vielfaches mehr Leistung erbringt heute jedes Smartphone. In einem modernen Auto ist heute mehr Informationstechnologie verbaut als in der Apollo-Rakete, die 1969 auf dem Mond landete.

Kindergehirne haben über 100 000 Milliarden Synapsen, also 100 000 Milliarden Rechenkomponenten, die sich durch das Lernen ändern bzw. anpassen, ganz so wie bei ihren künstlichen Pendants, also durch fortlaufende Lernvorgänge. Nach einer Studie für das Pentagon sollen Computerprozessoren schon in wenigen Jahren die Rechenleistung des menschlichen Gehirns erreicht haben. Schon jetzt lernen künstliche neuronale Netze durch den stetig anschwellenden Strom von Bildern und Sprache im Internet. Sie lernen von unserem dort offenbarten Wissen und Verhalten. Durch die z. B. Milliarden an Suchanfragen bei Google entstehen immer genauere Gewichtungen und Verhältnisse von Repräsentation und Bedeutung, die die Maschinen unaufhörlich lernen.

Mit der massenhaften Auswertung von Posts und PN-Nachrichten bei Facebook lassen sich inzwischen die Risiken innerer Unruhen und ganzer Revolutionen erkennen, bevor sie auf der Straße entstehen. Ähnliches gilt für die Ausbreitung von Epidemien.

Damit einher gehen aber auch Stigmatisierungen und Vorverurteilungen aufgrund der statistisch prognostizierten Zusammenhänge. Und auch das ist keine Zukunftsvision mehr, sondern Realität: wohnt man z. B. in Berlin-Neukölln, hat gerade den Job gewechselt und sich, weil das Angebot günstig war, per Ratenkredit einen neuen Fernseher und ein neues Auto gekauft, kann es sein, dass einem schon mal die Bank den Dispositionskreditrahmen infrage stellt - individuell betrachtet völlig unbegründet. So werden schon seit langem Transaktionen via Kreditkarten darauf überwacht, ob sie auf einen Missbrauch und damit Betrug hindeuten. Mir selbst ist das schon vor über 15 Jahren passiert: während eines Urlaubs in den USA habe ich ganz nach Landessitte fast alles per Plastic Money bezahlt, bis das System der Kreditkarten-Gesellschaft errechnet hat, dass da was nicht stimmen kann. Das folgende Abendessen musste ich dann überraschend bar bezahlen - die Karte wurde gesperrt und der Kellner glaubte erst, dass ich auch wirklich bezahlen kann, als ich meine letzten Dollars dafür zusammengekratzt hatte - er ließ mich bis dahin nicht mehr aus den Augen.

Rechenzentrum eines ehemaligen Führungsbunkers der NVA

Unser Leben wird komplett übersetzt in eine Maschinensprache, die uns hochaufgelöst lesbar, berechenbar und prognostizierbar macht.

Systeme, die uns scheinbar kostenlos assistieren, haben den eigentlichen Zweck von uns bzw. von unseren Verhaltensmustern zu lernen. Auch die Sprachsoftware, die LeCun für Facebook entwickelt hat, soll nicht nur die Akzente, spezielle Vorlieben oder Interessen der Benutzer lernen, sondern auch so etwas wie einen Alltagsverstand entwickeln und als persönlicher Assistent immer menschlicher wirken und so angenommen werden. Es wird offenbar, was uns gefällt und wie wir zu welcher Uhrzeit und an welchem Ort wie drauf sind. Wir finden diese Technik praktisch, weil sie sich unseren Bedürfnissen anpasst und uns das Leben erleichtert. Eine neue Liebe zu finden wird nicht mehr dem Zufall überlassen sein: Dank personalisierter Dating-Plattformen finden die Systeme Partner, die auf unsere Persönlichkeitsprofile abgestimmt sind und so weiter.

Berufliche Netzwerke bieten uns Jobs an, weil die Systeme wissen, dass wir danach suchen und zugleich zu wissen meinen, was wir können und wozu wir nicht geeignet sind. Die Kehrseite des Wissens über uns und unsere sozialen Beziehungen entsteht dabei automatisch: Was wir nicht können, welche Schwächen wir haben, wovor wir uns fürchten, was uns gefährlich werden könnte, was wir im Schilde führen - Seitensprünge, Lügen, kleine oder große Betrügereien. Dieses Wissen über uns ist im Umlauf. Für diese Informationen besteht ein großer, für uns allerdings schwer zu erkennender Markt.

Maschinen werden uns nicht länger wie seelenlose programmierte Geräte begegnen. Sie werden Emotionen erwecken können und dazu werden sie selbst ein Konzept von Emotionalität besitzen. Aus diesem Grund lernen intelligente Systeme menschliche Gefühle zu lesen. Die Maschinen lernen von Menschen Emotionen, damit sie auch selbst Emotionen emulieren können.

Wir feiern ahnungslos diese beeindruckende Entwicklung, lassen uns unkritisch in diese Systeme einbinden, von "Smart Propaganda" und von einem raffinierten "Neuromarketing" einlullen.

Bleibt bei all dem nur zu hoffen, dass wir, wenn's schiefgeht, noch rechtzeitig den Stecker ziehen können. Menschmaschine

+ + +

© Text und Bildmaterial zu "Die Menschmaschine": Autor Christian Sünderwald ... Weiteres Fotomaterial präsentiert der Chemnitzer Kunst- und Architekturfotograf auch auf Facebook.

Lesen Sie weiterhin von Christian Sünderwald Die Mutation der Banken
Fantasy-Rezension für Ruth M. Fuchs: Geschichten auf hohem Niveau

Thema Maschinen und Motoren: Wir suchen stets neue Autorinnen und Autoren

Sponsoren und Investoren

Sponsoren und Investoren sind jederzeit herzlich willkommen!
Wenn Sie den Beitrag auf dieser Seite interessant fanden, freuen wir uns über eine kleine Spende. Empfehlen Sie uns bitte auch in Ihren Netzwerken (z. B. Twitter, Facebook oder Google+). Herzlichen Dank!

Hinweis: Bücher von Pressenet gibt es im Buchhandel

Nach oben Sitemap
Impressum & Kontakt