Die technologische Singularität

Murray Shanahan, Nadine Miller

• Verlag: Matthes & Seitz Berlin Verlag
• Jahr: 2020
• ISBN:
  9783957574404
• Auflage: 1
• Thema: Biological Sciences
• Thema: Science General

›Technologische Singularität‹ bezeichnet den Zeitpunkt, an dem von künstlicher Intelligenz gesteuerte Maschinen sich fortlaufend selbst so zu verbessern imstande sind, dass sie sich der Beherrschung durch Menschenhand entziehen. Der Robotikspezialist Murray Shanahan beschreibt die unterschiedlichen derzeit weltweit vorangetriebenen technologischen Entwicklungen, die zu einem solchen Ereignis führen können. Er führt auf verständliche Weise in die komplexen Forschungen ein, die unsere nächste Zukunft verändern werden. Aus der Perspektive eines Praktikers beschäftigt er sich mit der Frage, ob künstliche Intelligenz über Bewusstsein verfügen kann, und entwickelt moralische Ansätze zu einem verantwortlichen Umgang mit dieser zumeist als Katastrophenszenario gezeichneten Zukunftsfantasie.

Kapitel 1

Wege zur künstlichen Intelligenz

1.1 Allgemeine künstliche Intelligenz

1950 veröffentlichte Alan Turing, der während des Zweiten Weltkriegs als Codebrecher tätig war und als Pionier der Informatik gilt, in der Zeitschrift Mind einen Aufsatz mit dem Titel »Computing Machinery and Intelligence« [»Kann eine Maschine denken?«].⁵ Dies war die erste ernsthafte, wissenschaftliche Abhandlung über das Konzept der künstlichen Intelligenz. Turing sagte voraus, dass man im Jahr 2000 »widerspruchslos von denkenden Maschinen reden kann«, und stellte sich vor, dass Maschinen zu jenem Zeitpunkt die Prüfung würden bestehen können, die wir heute als den Turing-Test kennen.

Der Turing-Test ist eine Art Spiel. Zwei »Spieler«, ein Mensch und eine Maschine, kommunizieren dabei mit einem Dritten, dem »Schiedsrichter«, vermittels Tastatur und Bildschirm. Der Schiedsrichter führt nacheinander mit jedem der Spieler ein Gespräch und versucht zu erraten, welcher von beiden der Mensch und welcher die Maschine ist. Die Aufgabe der Maschine ist es, den Schiedsrichter davon zu überzeugen, dass sie ein Mensch ist – eine Leistung, die, wie es heißt, gewiss eine Intelligenz auf menschlichem Niveau erfordert. Kann der Schiedsrichter den Menschen nicht von der Maschine unterscheiden, dann hat sie den Test bestanden. Und als Turing dies im Jahre 1950 schrieb, antizipierte er eine Welt, in der Maschinen, die seinen Test bestehen könnten, etwas Alltägliches sein würden, »Denkmaschinen« im Haushalt und am Arbeitsplatz also völlig normal wären.

Turings Prognose zum Trotz gab es bis zum Jahr 2000 allerdings weder eine KI auf menschlichem Niveau noch Anzeichen dafür, dass sie in absehbarer Zeit zu erwarten wäre. Keiner Maschine gelang es auch nur annähernd, den Turing-Test zu bestehen. Dennoch hatte man unlängst einen wichtigen Meilenstein in Sachen künstliche Intelligenz erreicht. Denn im Jahr 1997 hatte Deep Blue, ein IBM-Computer, den damaligen Schachweltmeister Garry Kasparow besiegt. Anders als bei früheren Schachprogrammen, die er geschlagen hatte und die ihm berechenbar und mechanisch erschienen waren, soll Kasparow über Deep Blue gesagt haben, er habe im Spiel eine »fremde Intelligenz« auf der anderen Seite des Schachbretts wahrgenommen.⁶

Es ist aufschlussreich, kurz innezuhalten und diesen Augenblick in der Geschichte der KI zu reflektieren. Denn auf diesem Gebiet war etwas erreicht worden, das ein halbes Jahrhundert zuvor vielleicht als sein krönender Abschluss gegolten hätte: Der Mensch war von einer Maschine überflügelt worden. Natürlich fährt auch ein Auto schneller, als der schnellste menschliche Sprinter laufen kann, und ein Baukran bewegt weit mehr Kilogramm in die Höhe als ein Weltmeister im Gewichtheben. Es sind aber seine intellektuellen Fähigkeiten, die den Menschen von der übrigen Tierwelt abheben, und das Schachspiel ist nun mal ein ausgesprochen intellektuelles Unterfangen.

Das Computerschach war also geknackt, und doch schien es so, als wären wir einer KI auf menschlichem Niveau in keiner Weise nähergekommen als zu Turings Zeit. Wie konnte das sein? Das Problem mit Deep Blue war seine Spezialisierung. Der Computer konnte nichts anderes als Schach spielen. Man vergleiche ihn mit einem typischen erwachsenen Menschen, zum Beispiel mit jener Büroangestellten, die gerade am Fenster des Cafés vorbeigegangen ist, in dem ich mit meinem Laptop sitze. Ihr Tag ist zweifellos ein buntes Sammelsurium aus allen möglichen Aktivitäten – das Lunchpaket einpacken, die Hausaufgaben der Kinder überprüfen, ins Büro fahren, E-Mails schreiben, den Fotokopierer in Ordnung bringen und so weiter. Bei näherem Hinsehen zeigt sich, dass jede dieser Tätigkeiten die Ausübung einer ganzen Reihe von sensomotorischen Fähigkeiten erfordert. Nehmen wir die Vorbereitung des Lunchpakets. Diese Aktivität beinhaltet es, diverse Utensilien und Zutaten von verschiedenen Orten herbeizuholen, Verpackungen zu öffnen, Dinge zu zerhacken, kleinzuschneiden, zu bestreichen und so weiter.

Kurzum, der Mensch ist ein Generalist, ein Alleskönner. Ein menschlicher Schachweltmeister ist zu viel mehr in der Lage als nur zum Schachspielen. Überdies ist der Mensch anpassungs- und lernfähig, denn Fotokopierer richten zu können ist keine angeborene, sondern eine erlernte Fähigkeit. Wäre die Büroangestellte in ein anderes Jahrhundert oder in eine andere Kultur hineingeboren worden, so hätte sie ein ganzes Konglomerat an anderen Fähigkeiten erworben, und sollte sie das Pech haben, ihren jetzigen Job zu verlieren, so kann sie sich umschulen lassen und einer anderen Art von Arbeit nachgehen. Die Errungenschaften der KI-Forschung auf einer Vielzahl von Spezialgebieten (von denen das Schachspiel nur eine Erfolgsgeschichte unter vielen geworden ist) stehen in krassem Gegensatz zu ihrem Scheitern bei der Herstellung einer Maschine mit einer lernfähigen Allzweckintelligenz. Wie also könnten wir eine allgemeine künstliche Intelligenz erzeugen? Bevor wir informierte Spekulationen über eine maschinelle Superintelligenz anstellen können, müssen wir zunächst einmal diese Frage beantworten.⁷

Ein wesentliches Merkmal biologischer Intelligenz ist ihre Verkörperung [embodiment]. Im Gegensatz zu Deep Blue ist ein Mensch ein Tier mit einem Körper, und sein Gehirn ist ein Teil dieses Körpers. Das tierische Gehirn hat sich dahingehend entwickelt, dass es das Wohlbefinden des Körpers zu bewahren und dessen Gene weiterzugeben sucht. Der Körper verfügt über eine Muskulatur, die ihm Bewegung ermöglicht, und Sinne, damit seine Bewegungen an seine Umweltbedingungen angepasst werden und somit seinen Absichten dienen können. Das Gehirn steht im Zentrum dieser sensomotorischen Schleife und bestimmt die Aktionen des Tieres entsprechend seinen Sinneswahrnehmungen. Die menschliche Intelligenz ist nun, all ihren glorreichen Errungenschaften zum Trotz, im Grunde nur eine erweiterte tierische Intelligenz, und die menschlichen Vermögen von Sprache, Rationalität und Kreativität haben allesamt eine sensomotorische Grundlage.

Während im Bestreben, eine allgemeine künstliche Intelligenz zu erzeugen, also auf vieles verzichtet werden könnte, was für das biologische Leben wesentlich ist (etwa auf den Stoffwechsel oder die Fortpflanzung), könnte die Verkörperung ein methodisches Erfordernis darstellen. Denn möglicherweise liegt aller Intelligenz die Notwendigkeit zugrunde, sich mit einer chaotischen, dynamischen, physischen Umwelt voller komplexer und unterschiedlicher Gegenstände sowohl belebter als auch unbelebter Art auseinanderzusetzen. Der Turing-Test ist in dieser Hinsicht ein schlechter Maßstab, da er sich nur um Sprache dreht. Der einzige Weg zu einer zuverlässigen Beurteilung der Intelligenz eines Artefakts bestünde aber darin, sein Verhalten in einer Umwelt wie der unsrigen zu beobachten, und der einzige Weg zur Entwicklung einer KI auf menschlichem Niveau wäre demnach die Robotertechnik. Später werden wir uns mit Problemen befassen, die das Prinzip der Verkörperung infrage stellen, nehmen es bis dahin aber erst einmal als gegeben an. Unsere Grundfrage lässt sich somit wie folgt umformulieren: Wie können wir einen Roboter mit allgemeiner Intelligenz ausstatten?

Vielleicht ist eine allgemeine Intelligenz schlichtweg die Summe vieler spezialisierter sensomotorischer Fertigkeiten, und das Problem liegt einfach darin, dass die KI diese noch nicht ausreichend repliziert hat; hat man den Robotern aber erst einmal eine bestimmte kritische Masse an Fertigkeiten eingebaut, dann wird daraus, so der Gedanke, irgendwie eine allgemeine Intelligenz hervorgehen. Doch selbst wenn wir die vielen Fragen der technischen Umsetzung außer Acht lassen, die dieser Ansatz aufwirft, ist er letztlich nicht überzeugend. Denn seine Ergebnisse könnten vielleicht kurzfristig den Anschein allgemeiner Intelligenz erwecken, würden aber auf lange Sicht niemanden hinters Licht führen. Der Multiexperte würde nämlich sofort ins Schleudern kommen, sobald er mit einem Problem konfrontiert ist, das außerhalb seiner einzelnen Spezialgebiete liegt – ein Ereignis, das in einer sich ständig verändernden Welt unvermeidlich ist.

Möglicherweise reicht es, hier auf eine Lernfähigkeit zu setzen, um die Lücke zu schließen – in einer neuartigen Situation könnte eine neue Spezialkompetenz eben einfach erlernt werden. Nun, eine Fähigkeit zu lernen ist zwar gewiss vonnöten, um ein Repertoire von Fähigkeiten aufzubauen und zu erhalten; tatsächlich bildet das Lernen die Grundlage für jegliche Form von Intelligenz. Aber es ist zeitaufwendig und riskant. Das Kennzeichen einer echten allgemeinen Intelligenz ist ihre Fähigkeit, ein vorhandenes Repertoire von Verhaltensmustern an neue Herausforderungen anzupassen, und zwar ohne dabei auf ein systematisches Erproben im Sinne von Versuch und Irrtum oder auf Anleitung durch Dritte zurückzugreifen.

1.2 Common Sense und Kreativität

Was wäre also erforderlich, um die mit der Spezialisierung verbundenen Limitierungen zu überwinden und eine Maschine mit einer allgemeinen Intelligenz im eigentlichen Sinne auszustatten? Die wichtigsten Anforderungen an eine solche Maschine sind womöglich Common Sense und Kreativität. Common Sense bezeichnet in diesem Zusammenhang das Unterbeweisstellen einer Einsicht in die Funktionsprinzipien der Alltagswelt, besonders was ihre physische und soziale Dimension angeht. Eines dieser Prinzipien ist beispielsweise das, dass man, wenn man ganz um ein Ding herumgeht, wieder am Ausgangspunkt ankommt, und ein anderes das, dass man, wenn man einen eben beschrittenen Weg zurückgeht, auf dieselben Landmarken stößt, nur in umgekehrter Reihenfolge. Solche Prinzipien sind nützlich, weil ihre Anwendung nicht auf bestimmte eng umrissene Bereiche beschränkt ist. Vielmehr sind sie universell und immer wieder anwendbar.

Was bedeutet es, ein Common-Sense-Prinzip zu beherrschen? Um diese Frage zu beantworten, muss man nichts über Mechanismen sagen; vor allem besteht kein Grund zu der Annahme, dass die interne Repräsentation des Prinzips in irgendeiner sprachähnlichen Form für seine Beherrschung erforderlich wäre. Vielmehr wird sie sich im Verhalten manifestieren – oder, was noch wahrscheinlicher ist, das Fehlen einer Facette des Common Sense wird sich im Verhalten manifestieren. So flattert zum Beispiel der junge Hahn, der hinter unserem Haus wohnt, gern in die Höhe und über das Tor hinweg, um seiner Einzäunung zu entkommen. Aber er ist nie lange draußen, bevor es ihn wieder zu seinen Hennen zurückzieht. Er braucht eigentlich nur wieder über das Tor zu flattern. Doch genau dies kommt ihm nie in den Sinn. Stattdessen läuft er aufgeregt davor hin und her. Ihm geht also offensichtlich das Common-Sense-Prinzip ab, dass bestimmte Handlungen umkehrbar sind.

Man könnte einem Tier durchaus Common Sense zusprechen, solange sein Verhalten keine derartigen toten Winkel des Begreifens aufweist. Diese Überlegungen gelten natürlich auch für den Menschen und andere Tiere dort, wo sie die Sphäre des Sozialen betreffen. Besonders dem Wesen der Sprache liegt ein geteiltes Verständnis der Alltagswelt zugrunde. Angenommen, Sie kommen zur Arbeit, und ein paar Ihrer Kollegen stehen draußen vor dem Gebäude im Regen. »Was macht ihr hier?«, fragen Sie den Nächstbesten von ihnen, und es käme Ihnen seltsam vor, wenn er Ihnen, obgleich wahrheitsgemäß, antworten würde: »Ich stehe hier im Regen.« Stattdessen sagt er: »Feueralarm«, womit er ein Common-Sense-Verständnis des menschlichen Informationsbedürfnisses sowie der Rolle, die der sprachliche Austausch bei der Beschaffung von Informationen spielt, unter Beweis stellt.

Die zweite wesentliche Voraussetzung für allgemeine Intelligenz ist Kreativität. Die, die hier in Rede steht, ist allerdings nicht die Schaffenskraft eines großen Künstlers, Komponisten oder Mathematikers, sondern jene Art von Kreativität, die jeder Mensch besitzt und über die besonders Kinder in einem überreichen Maße verfügen. Gemeint ist die Fähigkeit zur Innovation, zur Ausbildung neuer Verhaltensweisen, zur Erfindung neuer Dinge oder zur Verwendung alter Dinge auf neuartige Weise. Diese Kreativität kann exploratorisch oder spielerisch sein, wie etwa dann, wenn ein Kind einen Tanz improvisiert. Aber sie kann auch durchaus zielorientiert sein, zum Beispiel dann, wenn man die Anlage eines Gartens plant oder Möglichkeiten zur Reduzierung der Haushaltsausgaben erwägt. Kleine kreative Akte solcher Art wirken im Gesamtgefüge des menschlichen Lebens vielleicht nicht besonders innovativ, verlangen von der betreffenden Person jedoch, dass sie über ihr etabliertes Verhaltensrepertoire hinausgeht und dessen Elemente entweder umbildet oder sie in bisher unerprobten Kombinationen neu zusammensetzt.

Kreativität und Common Sense ergänzen einander. Erstere ermöglicht dem Einzelnen zwar das Ersinnen neuer Handlungsweisen, aber es braucht ein Common-Sense-Verständnis der Alltagswelt, um die Konsequenzen dieser Handlungen zu antizipieren. Kreativität ohne Common Sense (in dem hier verwendeten Sinne des Begriffs) ist mithin nur ein Tappen im Dunkeln; Common Sense ohne Kreativität allerdings ist starr und unbeweglich. Eine Intelligenz, die beides beherrscht, ist hingegen ein mächtiges Werkzeug: Sieht sie sich mit einer ungewohnten Herausforderung konfrontiert, kann sie dank ihres kreativen Vermögens eine Vielzahl möglicher Handlungsweisen in Erwägung ziehen und dank ihrer Common-Sense-Einsicht in die Folgen des jeweiligen Tuns jedes wahrscheinliche Ergebnis voraussehen, bevor sie auch nur einen einzigen Muskel angespannt oder einen Motor in Gang gesetzt hat.

Ein schönes Beispiel für eine offenbar spontane Innovation berichtete im Jahr 2002 ein Team von Wissenschaftlern aus Oxford unter der Leitung des Tierkognitionsforschers Alex Kacelnik.⁸ Sie untersuchten den Werkzeuggebrauch bei gefangenen Exemplaren der Neukaledonischen Geradschnabelkrähe (einer besonders cleveren Spezies), wobei die Versuchsanordnung aus einem kleinen Eimer mit Futter und einem großen senkrechten Rohr bestand. Um die Vögel herauszufordern, wurde der Eimer in das Rohr hinabgelassen, so dass der Griff gerade außer Reichweite war. Den Tieren wurden nun gebogene Drahtstücke bereitgestellt, die sie bald als Haken zu verwenden lernten, mit denen sie den Futtereimer herausziehen konnten. Einmal standen ihnen jedoch keine Haken zur Verfügung, sondern nur ein gerades Stück Draht, das in ihrem Gehege platziert worden war. Ohne dass ihm etwas Derartiges beigebracht worden wäre, klemmte nun einer der weiblichen Vögel namens Betty ein Ende des Drahts in ein Loch in der Apparatur und bog einen Haken daraus, den sie dann dazu nutzte, um den Eimer mit dem Futter aus dem Rohr zu angeln.

Bettys Tun war eine Mischung aus Kreativität und Common Sense. Es brauchte Kreativität, damit sie auf die Idee kommen konnte, ein an sich nutzloses Stück Draht zu verbiegen, während ein Common-Sense-Begriff dieses biegsamen Materials erforderlich war, um das Resultat zu antizipieren. Wenn diese kognitiven Anteile also schon bei nichtmenschlichen Tieren solche beeindruckenden Ergebnisse produzieren können, um wie viel größer dürfte ihr Effekt dann erst beim Menschen sein, der sich der Sprache bedient! Der Schuljunge, der seinem Mitschüler ein originelles Schimpfwort an den Kopf wirft, verbindet sprachliche Kreativität mit einem Common-Sense-Verständnis der menschlichen Psychologie (selbst wenn es ihm an Common Sense gebricht, ein solches Schimpfwort nicht an seinen Lehrer zu richten). Dies ist nur ein triviales Beispiel. Aber jede menschliche Errungenschaft, von den Pyramiden bis zur Mondlandung, ist das Ergebnis einer Unzahl solcher sich schichtförmig überlagernden erfinderischen Handlungen, und eine allgemeine künstliche Intelligenz auf menschlichem Niveau muss eine ähnliche Verschmelzung von Kreativität und Common Sense an den Tag legen, um vergleichbare Spitzenleistungen vollbringen zu können.

1.3 Der Raum möglicher künstlicher Intelligenzen

Wenn die Anforderungen an eine allgemeine KI also so eindeutig sind – mehr als ein wenig Kreativität und etwas Common Sense braucht es für sie nicht –, wie kommt es, dass man in den ersten 60 Jahren der Forschung auf diesem Gebiet nur so geringe Fortschritte erzielt hat? Gibt es angesichts des ausbleibenden Erfolgs überhaupt Gründe für die Annahme, dass eine KI auf menschlichem Niveau realisierbar ist? Und wenn ihre Herstellung schon so schwierig ist, was für einen Sinn hat es dann, auch noch über eine superintelligente KI zu spekulieren? Wir haben bisher die wesentlichen Verhaltensmerkmale allgemeiner Intelligenz untersucht und es vermieden, die Mechanismen zu untersuchen, durch die sie realisiert werden könnte, sei es im biologischen Gehirn oder in einem Artefakt. Bevor wir uns den genannten Fragen zuwenden können, muss deshalb erst dieses Versäumnis behoben ...

Inhaltsverzeichnis

• Cover
• Titel
• Inhaltsverzeichnis
• Vorwort
• Einleitung
• 1. Wege zur künstlichen Intelligenz
• 2. Gehirnemulation
• 3. Die technische Realisation künstlicher Intelligenz
• 4. Superintelligenz
• 5. KI und Bewusstsein
• 6. KI und ihre Folgen
• 7. Himmel oder Hölle
• Glossar
• Anmerkungen
• Literatur
• Register
• Impressum