{"word_count": 1657, "character_count": 12234}
Dirk BaeckerBemerkenswert am Menschen ist seine Plastizität. Auf einer schmalen, durch die Gravitation, den Sauerstoff, die Körperlichkeit und das Bewusstsein sowie wenige weitere Randbedingungen in den Bereichen der Sensorik und Motorik bestimmten Spur entwickelt er ein reiches Verhaltensspektrum, das von Familie und Alltag, Arbeit und Freizeit, Politik und Wirtschaft, Kunst und Religion, Recht und Wissenschaft je unterschiedlich ausgenutzt und geprägt werden kann. Wenig fehlt und man könnte das Leben der Menschen auf Erden genau so beschreiben, wie Nick Bostrom sich eine der möglichen Formen einer künftigen Superintelligenz vorstellt: eine Vielzahl teleologischer Windungen ("threads") in einer funktionalen Suppe ("functional soup") (Quelle s.u., S. 133).Verblüffend an dieser Plastizität, die ein großes Thema der Anthropologie Helmuth Plessners und Arnold Gehlens gewesen ist, ist nicht zuletzt das eklatante, aber offenbar evolutionär hilfreiche Missverhältnis von Handeln, Denken und Reflexion. Unsere Handlungsräume sind ungleich größer als unsere Denkräume, die wiederum größer sind als unsere Reflexionsräume. Wir können mehr als wir wissen, und wir wissen mehr als wir begreifen. Das Gehirn eilt dem Bewusstsein und das Bewusstsein der Kommunikation voraus.Daran ist zu erinnern, wenn sich gegenwärtig ein Fenster der Beobachtung öffnet, das sich alsbald wieder schließen könnte: die Beobachtung der Entwicklung einer künstlichen Intelligenz, vielleicht sogar einer Superintelligenz. Zu befürchten ist, dass unsere Plastizität uns dabei hilft, uns schneller an neue Verhältnisse zu gewöhnen, als unser Verstand uns dabei hilft, zu verstehen und zu benennen, wie uns dabei geschieht. So wie wir alle bereits global handeln, während wir noch lokal denken (so Ulrich Beck in seiner "Weltrisikogesellschaft", Berlin 2007), so könnten wir bald mit einer Superintelligenz vernetzt sein, während wir noch immer damit beschäftigt sind, auch nur die Gesellschaft der Menschen zu verstehen.Ende letzten Jahres erregte ein Artikel in der New York Times Aufsehen, der die Geschichte jenes Quantensprungs erzählt, der aus Google Translate quasi über Nacht eine Übersetzungsmaschine gemacht hat, die mit ein wenig Nachsteuerung viele menschliche Übersetzer überflüssig macht (Gideon Lewis-Kraus, The Great A.I. Awakening, New York Times, 14. Dezember 2016). In welchem Verhältnis steht die Zahl derer, die es merken, zu der Zahl derer, die sich darüber wundern und nachfragen, geschweige denn derer, die sich als Nutzer unproblematisch auf das neue Angebot einlassen, ohne sich in absehbarer Zeit auch nur daran zu erinnern, dass die von Google Translate erreichte Qualität der maschinellen Übersetzung bis vor kurzem unvorstellbar gewesen wäre? Wer hat die Zeit, genauer nachzufragen? Welche Entscheidungen der Substitution menschlicher durch maschinelle Übersetzer werden getroffen werden, ohne dass dies als Entscheidung noch auffällt? Wer denkt darüber nach (und zieht daraus welche Schlüsse), dass Google mit der Brute Force eines gigantischen Textkorpus "schlicht und ergreifend" einen Algorithmus entwickelt hat, der in diesem Textkorpus die Wahrscheinlichkeit treffender (weil andernorts bewährter) Übersetzungen errechnet? Wer versucht einzuschätzen, welche Korpora anderer Big Data in welchen Bereichen ähnliche Treffsicherheiten in Wahrscheinlichkeitsschätzungen zu erreichen vermögen?Wir haben eine kritische Diskussion über Überwachung und Verhaltensprognosen und eine halb warnende, halb werbende Diskussion über eine "Social Physics" (Alex Pentland, New York 2014), die beschreibt, wie menschliches Verhalten durch die Nachbarschaft von Personen, Praktiken, Material und Gelegenheiten bestimmt ist (wer erinnert sich noch an Gary S. Becker, "A Theory of Social Interactions", Journal of Political Economy 82, 1974, 1063–1093?). Aber was wir nicht haben beziehungsweise nur ahnen, ist eine Theorie der unreflektierten Plastizität des menschlichen Verhaltens. Peter Sloterdijk hat dazu einen Ansatz vorgelegt, indem er den Blick auf die Frage lenkt, wieviel menschliches Verhalten sich weder Intention noch Reflexion, sondern Übung verdankt, und als "ethische Unterscheidung" die Unterscheidung zwischen schlechten (als "schlecht" reflektierten) und guten (als "gut" propagierten) Übungen vorschlägt ("Du mußt dein Leben ändern", Frankfurt am Main 2009).  Man kann sich vorstellen, dass auch dies – Frage und Unterscheidung – nur Ausschnitte unserer Praxis erfasst.Vor diesem Hintergrund, so scheint mir, ist Nick Bostroms Buch über die Superintelligenz ("Superintelligence: Paths, Dangers, Strategies", Oxford 2014, dt. Berlin 2016) zu lesen. Ursprünglich ein Transhumanist und jetzt eher ein Stratege einer "multipolaren" Welt, in der sowohl künstliche Intelligenzen als auch Menschen ihr Auskommen finden, hat der Direktor des Future of Humanity Institute und des Strategic Artificial Intelligence Research Center, beide an der Oxford University (website), ein wahrlich atemberaubendes Buch vorgelegt, in dem das Szenario einer Superintelligenz entworfen wird, an deren Entwicklung wir alle uns ab sofort beteiligen sollen, weil die Zeit, die wir haben werden, über deren Design nachzudenken, umso länger wird, je früher wir uns mit ihr beschäftigen. Denn sie kommt so oder so. Allerorten, nicht nur bei Google, wird an ihr gebastelt. Und wenn man sieht, wie schnell führende Unternehmer des Silicon Valley bereit sind, dem damals noch künftigen Präsidenten der U.S.A. ihre Aufwartung zu machen (New York Times, ebenfalls am 14. Dezember 2016), ahnt man, auf welche politischen Entscheidungen, welchen Ressourceneinsatz und welche Kooperationschancen hier Wetten abgeschlossen werden (auch wenn die Entscheidungen der Trump-Administration zur Einreisepolitik hier eine vorübergehende Abkühlung bewirken, NYT, 29. Januar 2017).Die Superintelligenz, von der niemand weiß, welche entscheidenden Schritte ihr noch fehlen, geschweige denn, wann sie erreicht wird, wird dennoch bereits jetzt als eine Intelligenz definiert, die der menschlichen mindestens gleichkommt, sie jedoch aller Wahrscheinlichkeit nach in Schnelligkeit, Datenzugriff, Lernfähigkeit, strategischem Denken, Fähigkeiten zu sozialer Manipulation, Zugriff auf fremde Systeme, technologischem Erfindungsreichtum und ökonomischer Produktivität weit übersteigt (s. Bostrom 2014, S. 27 und 114). Die Herausforderung, vor die eine Superintelligenz die Menschheit stellt, besteht darin, sie (a) zu realisieren und (b) zu kontrollieren, weil und obwohl sie definitionsgemäß nicht zu kontrollieren sein wird. Was immer die Menschen sich ausdenken, wird die Superintelligenz, einmal freigesetzt, nicht bremsen können.Bostrom stellt sich vor allem dem zweiten Problem mit strenger spieltheoretischer Konsequenz. Kann man dem ersten Teil des Buches zumindest aus soziologischer Sicht noch eine gewisse Naivität in der Überschätzung der Möglichkeit der Entwicklung einer Superintelligenz zuschreiben, so ist der zweite Teil, diese Möglichkeit einmal angenommen, umso düsterer und bedenkenswerter.Die Naivität hängt damit zusammen, dass Bostrom auf eine Definition von Intelligenz verzichtet, sowohl der menschlichen als auch der künstlichen. Dieser Verzicht ist nicht zuletzt damit begründet, dass es keine verlässliche Definition von Intelligenz gibt. Trotzdem bringt der Verzicht das Buch in die Schieflage einer Überschätzung von Technik und Unterschätzung von Evolution, das heißt der Überschätzung von programmierbaren Algorithmen und der Unterschätzung des unkoordinierten Zusammenspiels von Variation, Selektion und Retention. Zum einen kann man sagen, dass Intelligenz mit jüngeren Entwicklungen im Bereich des Maschinenlernens, des Umgangs mit Ungewissheit und probabilistischer Information, der Fähigkeit, Konzepte aus sensorischen Daten und internen Zuständen zu extrahieren, einer flexiblen Kombinatorik (S. 27) und nicht zuletzt des Tiefenlernens dank mehrlagiger neuraler Netzwerke (S. 321) zusammenhängt. Zum anderen jedoch werden die ökologischen und sozialen Bedingungen der Entwicklung von Intelligenz so dramatisch unterschätzt, dass die Annahme formuliert werden kann, was die Evolution der Menschheit in Jahrmillionen und Jahrtausenden zustandegebracht habe, könne man mit genetischen Programmen und intelligenter (!) Programmierung auf einer ingenieurwissenschaftlichen Basis schneller und mit deutlich zufriedenstellenderen Ergebnissen nachvollziehen und übertreffen (S. 28). Man müsse halt die richtigen Fitnessfunktionen definieren. Und man werde noch eine gewisse Zeit brauchen, um herauszufinden, ob das Ziel der Superintelligenz eher auf dem Gebiet der Brain Emulation, des biologischen Verständnisses von Kognition, der Gestaltung von Gehirn/Computer-Schnittstellen oder der Vernetzung künstlich intelligenter Agenten erreicht  werden könne. So oder so sei eher mit einer Explosion der Superintelligenz als mit einer inkrementellen Entwicklung zu rechnen, da es vermutlich Schwellenwerte gebe, an denen eine ganze Reihe von Problemen auf einmal lösbar werde. Und so oder so sei mit einem weltweiten Wettbewerb der Entwicklung einer Superintelligenz zu rechnen, da derjenige, der dieses Ziel zuerst erreicht, dank der dann verfügbaren Intelligenz (Strategie, Manipulation und Hacking) eine Winner-Takes-All-Position erlange.All das klingt wie Science Fiction und ist es auch. Aber es scheint mir dennoch ernst zu nehmen. In den Details der verschiedenen Bemühungen, die gegenwärtig angestrengt werden, sowie vor allem in der strategischen Einschätzung des Wettbewerbs unter Interessenten sowie des aller Voraussicht nach vernachlässigten Kontrollproblems, das während der Entwicklung zu viele Ressourcen bindet, um im Wettbewerb gewinnen zu können, ist Bostroms Buch bestechend.Ich will die Lektüre des Buches hier nicht durch ein Referat ersetzen. Mein Plädoyer beschränkt sich darauf, das Fenster der Beobachtung zu nutzen und die Plastizität des Menschen nicht zu unterschätzen. Unter Umständen gelingt es uns, schneller mitzuspielen als das Spiel zu verstehen. Sich vorzustellen, mit welchen Tricks eine Superintelligenz allen Versuchen, sie durch Beschränkung auf Eingaben und Ausgaben (keine Sensorik, keine Motorik), durch Einsperren (keine Kontakte zu anderen Maschinen und Netzwerken), durch Voreinstellungen der Anreize, auf die sie reagiert (aber auf welche Kurzschlüsse wird sie verfallen), der Werte, an die sie sich hält (wenn sie denn operationalisiert und konditioniert werden können), und der Ziele, die sie zu erreichen versucht (mit welcher Rücksichtslosigkeit), entwischen kann, ist so oder so eine gute Übung in spieltheoretisch, also durch den Verdacht informiertem strategischem Denken. Im Prinzip kann nichts verhindern, dass die Superintelligenz das Universum unter Einschluss der Biomasse Mensch (insoweit sie sie nicht tötet, weil sie ihr gefährlich werden könnte) in "Computronium" verwandelt, um die Zahl pi vollständig ausrechnen zu können (S. 141). Darüber nachzudenken, dass ein intelligentes (!) Design einer Hierarchie zur Kontrolle von Intelligenz darin bestehen kann, an der Spitze mit minimaler und auf der untersten Ebene mit maximaler Intelligenz zu arbeiten (S. 247ff.: wenige Ideen kontrollieren mit maximaler Energie viele Ideen), kann ebenfalls niemandem schaden, der sich mit dem Design von Institutionen beschäftigt. Und nicht zuletzt lohnt es sich, jenem technologischen Optimismus nachzuspüren, der von einer Superintelligenz erwartet, dass sie für uns alle jene Probleme löst (und nebenbei auch die Frage nach dem Sinn des Lebens oder einem Beweis der Riemann-Hypothese beantwortet, von anderen dringenden Fragen zu schweigen) (S. 258), die wir ohne sie nicht lösen können, aber ohne sie unter Umständen auch nicht hätten.Für die Soziologie liegen die beiden wichtigsten Anschlussfragen auf der Hand: Können wir den Beitrag des Sozialen zur Intelligenz der Menschen definieren, modellieren und möglicherweise in die Form eines Algorithmus bringen? Und wenn ja, sollen und dürfen wir das tun? Man sieht, dass der Versuch der Geisteswissenschaften, Intelligenz als undefinierbar zu definieren, seine guten Seiten hat. Aber wer kann ausschließen, dass sie dabei nicht doch etwas entdecken?