Künstliche Intelligenz – Die Geburt einer kontroversen DisziplinUnderstanding Digital Capitalism III | Teil 1

udc-3-01-therapeutic-machine-neu

Das Silicon Valley hat eine neue Lieblingsbeschäftigung. Egal ob Service oder Gadget, Mobilität, Finanzen oder Gesundheitswesen – ohne Künstliche Intelligenz geht nichts mehr. Das Problem dabei sind wie so oft die Dimensionen. Denn was sich im Alltag aktuell noch vornehmlich in der Kommunikation mit Alexa, einem Animoji oder der Fotoanalyse bei Google niederschlägt, soll schon bald alle Lebensbereiche bestimmen. So zumindest das Zukunftsversprechen aller Beteiligten – und die sitzen längst nicht mehr nur in der Bay Area. Grund genug für Timo Daum die 3. Staffel seiner Artikel-Reihe »Understanding Digital Capitalism« der Künstlichen Intelligenz zu widmen. Bei lauter Vorfreude auf eine vermeintlich besserer Zukunft, gilt es nämlich zunächst viele Grundsätzlichkeiten zu klären und aufzuarbeiten. Was Intelligenz wirklich ist, beschäftigt die Wissenschaft heute immer noch genauso wie 1956, als der Begriff der Künstlichen Intelligenz von einer Gruppe von Forschern erfunden und gesetzt wurde, ohne dabei die Rahmenbedingungen und mögliche Auswirkungen ihres Sujets zu durchdenken. Eins steht zu Beginn unserer neuen Reihe jedoch schon fest. Es wird dem Kapitalismus auch mit Künstlicher Intelligenz gelingen, einen Haufen Geld zu verdienen.

1. Einleitung

Künstliche Intelligenz oder Artificial Intelligence hat Konjunktur: Ob es um Bilderkennung, die Vorauswahl von Bewerberinnen und Bewerbern, autonom fahrende Autos oder das so genannte social scoring (die Bonitätsprüfung mittels Daten aus den Sozialen Netzwerken) geht: Künstliche Intelligenz ist immer im Spiel. Werden wir bald von klugen Applikationen, intelligenten Robotern, gar liebenswerten Androiden umgeben sein? Und ist Künstliche Intelligenz die wahrscheinlichste Ursache für den Dritten Weltkrieg, wovon Tesla-Gründer Elon Musk ausgeht?

Die Großen der Algorithmen- und Daten-Ökonomie – Amazon, Facebook, Google, IBM und Microsoft – haben sich jüngst in einer Allianz für „gute KI“ zusammengeschlossen: Von ihrer Partnership on AI soll die gesamte Menschheit profitieren – schon klar. Nach Web 2.0, Social Media oder Big Data stellt sich beim Thema KI die Frage: Segen oder Fluch? Daher das Schwerpunktthema Künstliche Intelligenz für die dritte Staffel der Reihe »Understanding Digital Capitalism«: Was ist das, wo kommt das her, warum ist das wichtig?

Wir widmen uns der Geschichte einer kontroversen Disziplin und spüren ihren Ursprüngen nach: von der Geburtsstunde der Algorithmen bis hin zu aktuellen Entwicklungen. Wir fragen uns, was eigentlich Intelligenz ist, und ob das überhaupt ein adäquater Begriff ist für Software, deren Reaktionen wir für „intelligent“ halten. Sind Tamagotchis, Apples Siri oder Chatbots, die rassistische Sprüche absondern, schon KI? Wenn Algorithmen „dazulernen“, wie machen die das, wie kommen sie zu ihren Lernfortschritten? Können deren Schlussfolgerungen überhaupt noch nachvollzogen werden, oder sind diese zu black boxes geworden, die niemand mehr verstehen, geschweige denn kontrollieren kann? Wer macht das eigentlich, wem gehören die Algorithmen und Daten, die Produktionsmittel der KI-Ökonomie? Wie kann mit Künstlicher Intelligenz Geld verdient werden, schaffen Roboter Mehrwert, und was bedeutet das für den Digitalen Kapitalismus? Was ist von Chinas neuentdeckter Liebe für KI zu halten, und vom Versuch der Partei, bis 2030 die Weltherrschaft bei KI-Anwendung zu übernehmen? Wie sollen die Chinesen in einer Art Kulturrevolution 2.0 mit Hilfe der smart red cloud zu Idealbürgern werden?

Eins steht jedenfalls fest: Künstliche Intelligenz ist dabei, zum Alltagsphänomen zu werden – AI for everybody! Ich wage die Prognose, dass es nicht zum Dritten Weltkrieg kommen wird, sondern dass es dem Kapitalismus vielmehr gelingen wird, auch mit Künstlicher Intelligenz einen Haufen Geld zu verdienen.

Um diese und weitere Aspekte soll es im gewohnten vierzehntägigen Rhythmus gehen. Wie üblich geht es in der Reihe um technische, ökonomische und gesellschaftliche Aspekte einer Entwicklung, die zum nächsten kapitalistischen big thing zu werden verspricht – technologisches Heilsversprechen, soziale Verheißung und finanzieller Hoffnungsträger zugleich. Wir starten mit einer Zeitreise in den Sommer 1956, zur Geburtsstunde einer kontroversen Disziplin.

Joseph Weizenbaum Porträt NEU

Joseph Weizenbaum. Foto: Still aus dem Dokumentarfilm „Weizenbaum. Rebel at Work“ / IL MARE FILM

2. Excuse me, are you real?

Vor kurzem fragte ich eine Künstliche Intelligenz Folgendes: „Excuse me, are you real?“ – auf Englisch natürlich, zusammen mit Mathematik bekanntlich die Weltsprache der Informatik. Die Antwort kam postwendend: „Would you prefer I were not?“ Ich war beeindruckt. Was für eine schlagfertige, witzige, von Selbstbewusstsein zeugende, ja selbstironische – mit einem Wort: intelligente Antwort! Machte ich das Experiment statt mit einer artifiziellen mit einer gewöhnlichen Intelligenz aus Fleisch und Blut, dürfte ich mit einfältigeren Antworten oder gar Schlimmeren zu rechnen haben.

Ich bekam diese Antwort nicht von einer der aktuell avanciertesten KI-Anwendungen wie Watson von IBM, Siri von Apple, Alexa von Amazon oder gar einem geheimen Prototypen aus einem Militärlabor, sondern von einem ziemlich alten Stück Software. Der deutsche Informatiker und KI-Pionier Joseph Weizenbaum hatte es vor sechzig Jahren programmiert und damit den ersten Chatbot der Computergeschichte erschaffen. Er nannte ihn Eliza, in Anlehnung an Eliza Doolittle aus „My Fair Lady“

Der in Deutschland geborene Joseph Weizenbaum gilt als einer der Gründerväter der KI-Disziplin und hat sich als einer der ersten mit machine learning beschäftigt, also der Fähigkeit von Maschinen, Handlungen auszuführen, ohne explizit dafür programmiert worden zu sein. Weizenbaum begann 1964 am MIT zu arbeiten, wo er 1966 das berühmte Eliza veröffentlichte: „Meine Idee war, dass mein Sprach-Analyse-Programm in seiner sprachlichen Ausdrucksweise immer besser, also differenzierter, genauer und raffinierter werden würde, genau wie die Blumenverkäuferin aus dem Musical, unter der Anleitung ihres Lehrers Professor Higgins. Mein Eliza-Programm war als eine Art Zwei-Bänder-Anordnung angelegt.“ Auf der einen Seite der Algorithmus und auf der anderen Seite die vom jeweiligen Gesprächspartner gelieferten Daten. Das Programm konnte natürliche Sprachen „verstehen“, sprich: Texteingaben verarbeiten und in Textform (auf Englisch) beantworten, der entsprechende Fachbegriff dafür lautet natural language processing.

Eliza Screenshot

Eliza, das z.B. im Computerspielemuseum in Berlin „gespielt“ werden kann, imitiert eine Gesprächssituation. Das berühmte Programm funktioniert recht simpel, enthält aber schon die wesentlichen Elemente sämtlicher KI-Anwendungen. Weizenbaum entwickelte zunächst ein Skript für eine Psychoberatung, die er folgendermaßen beschrieb: „Da waren zwei Gesprächsteilnehmer, der Mensch und der Computer. Der Mensch tippte seinen Gesprächsbeitrag in die Tastatur des Computers – damals nannte man es eine Schreibmaschine, die an einen Computer angeschlossen war – und mit Hilfe meines Programms analysierte der Computer diese Aussage und erzeugte eine Antwort, die über die Schreibmaschine ausgedruckt wurde.“ Es gibt zahlreiche Online-Version davon, z.B. hier.

Joseph Weizenbaum im Hamburg

Joseph Weizenbaum erklärt in der Hamburger „Die Zeit“-Redaktion Zugang per Modem zum MIT-Computer. Foto: IL MARE FILM

3. Die therapeutische Maschine

Weizenbaum war aus drei Gründen überrascht über die Reaktionen auf sein Programm. Er beobachtete, dass sich die Nutzerinnen und Nutzer rasch auf das therapeutische Setting einließen, ja sogar begannen, emotionale Beziehungen zu Eliza aufzubauen:

„Einmal führte meine Sekretärin eine Unterhaltung mit ihr; sie hatte seit Monaten meine Arbeit verfolgt und mußte von daher wissen, daß es sich um ein bloßes Computerprogramm handelte. Bereits nach wenigen Dialogsätzen bat sie mich, den Raum zu verlassen.“

(Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft)

Damit einher ging eine Überschätzung der Fähigkeiten des Programms und der sich einstellende Vergleich mit menschlichen Fähigkeiten: „Diese Reaktionen auf Eliza haben mir deutlicher als alles andere bis dahin Erlebte gezeigt, welch enorm übertriebenen Eigenschaften selbst ein gebildetes Publikum einer Technologie zuschreiben kann oder sogar will, von der es nichts versteht.“ Die Frage, ob wir ein Computerprogramm für intelligent halten oder nicht, scheint also eher mit uns selbst zu tun zu haben als mit dem fraglichen Programm und dessen Fähigkeiten oder Komplexität.

Und schließlich ging eine Anzahl praktizierender Psychiater – typisch für eine Zeit, in der Kybernetik, Behaviorismus und der Glaube an Massenmanipulation durch Werbung weit verbreitet war – davon aus, man könnte das Programm ernsthaft zu Therapiezwecken einsetzen und zu einer fast automatischen Form der Psychotherapie ausbauen. Maschinelle Psychotherapie wird so zur kostengünstigen Alternative, und die Übertragung von Emotionen aus anderen Beziehungen, wie etwa Liebe oder Hass für einen Elternteil auf die Analytikerin oder den Analytiker, kann nun im Angesicht der Maschine stattfinden.

Nur zu gern sind wir bereit, einem Mechanismus Leben einzuhauchen – so wie Kinder eine Puppe im Spiel lebendig werden lassen: Wir schimpfen mit ihm, wir sagen, „er arbeitet noch, er spinnt, er hat sich aufgehängt(!). Der Protagonist in Spike Jonzes Film Her verliebt sich in eine virtuelle Assistentin, Wissenschaftler schalten Chatbots ab, weil die angefangen haben, rassistische Sprüche zu generieren. Der Kognitionsforscher Thomas Metziger bezeichnet dies als „soziale Halluzinationen“. Und der Direktor der MIND Group und der Forschungsstelle Neuroethik schreibt: „Roboter lösen etwas in uns aus. Wir Menschen haben die Fähigkeit, uns einzubilden, es mit einem selbstbewussten Gegenüber zu tun zu haben, auch wenn das nicht der Fall ist.“

Joseph Weizenbaum: „This is your captain speaking“, Weizenbaums Sicht auf Geschwindigkeit und Richtung technologischer Entwicklung. Aus dem sehenswerten Dokumentarfilm Weizenbaum. Rebel At Work, DE/AT/US 2006, 80 Minuten. IL MARE FILM, Silvia Holzinger und Peter Haas

4. Künstliche Intelligenz – ein Marketing-Coup

Die Disziplin der KI wurde im Jahre 1956 während einem Sommerlager von Mathematikern ins Leben gerufen, dem Dartmouth Summer Research Project on Artificial Intelligence. Wie der Wissenschaftler und Autor Jerry Kaplan in der gelungenen Einführung seines Buches „Artificial Intelligence: What Everyone Needs to Know“ schreibt, handelte es sich „im Wesentlichen [um] eine ausgedehnte Brainstorming-Session“. John McCarthy, ein junger Assistenz-Professor am Dartmouth-College hatte es organisiert, er war es auch, der den Namen für das neue Forschungsfeld erfand – und damit eine problematische Wortschöpfung, mit der wir uns bis heute herumschlagen müssen: artificial intelligence. Anlässlich dieses historischen Ereignisses lieferte McCarthy gleich eine Definition mit: „Die Herstellung einer Maschine, die sich auf eine Art und Weise verhält, die wir intelligent nennen würden, wenn ein Mensch sich so verhielte.“

John McCarthy

John McCarthy 1967 beim Schachspiel an einem IBM 7090 in einer Fernpartie gegen ein sowjetisches Schachprogramm, das 3:1 für die sowjetische Software ausging. Foto: Stanford University via computerhistory.org

Diese Definition ist aus zwei Gründen nicht sehr präzise. Erstens bemüht sie einen Vergleich mit menschlichem Verhalten bzw. unserer Haltung zu diesem: Menschliches Verhalten, das die Bezeichnung intelligent verdient, ist sicher nicht wissenschaftlich überprüfbar, messbar – was Intelligenz überhaupt sein soll, wird immer noch kontrovers diskutiert. Und zweitens sagt McCarthys Definition nichts über Struktur oder Funktionsweise aus, sondern betrachtet ausschließlich die Wahrnehmung derselben. Definierten wir analog etwa einen Hund als etwas, das vier Beine hat und bellen kann, würde uns das nicht zufriedenstellen – wir haben keine Aussage über das Wesen oder die Funktionsweise getroffen (DNA, Säugetier). Definierten wir analog z.B. einen Motor als etwas, das stinkt und ein Auto bewegen kann, würde uns das auch nicht zufriedenstellen – es enthält keine Aussagen über das Wesen bzw. das Funktionsprinzip des Motors.

Einige Persönlichkeiten, die die neue Disziplin wesentlich prägen sollten, gaben sich bei diesem Sommercamp ein Stelldichein. Neben McCarthy selbst waren das z.B. der Kognitionswissenschaftler Marvin Minsky, der spätere Gründer das MIT-Labor für Künstliche Intelligenz, sowie Nathaniel Rochester, Autor des erste Assembler-Programms. Auch Claude Shannon, der Begründer der Informationstheorie von den Forschungslabors der Bell Telephone Company war dabei.

Die Initiatoren gingen von der Annahme aus, dass „jeder Aspekt des Lernens oder jeder anderen Manifestation von Intelligenz letztlich so genau beschrieben werden kann, dass er auf einer Maschine simulierbar ist.“ Das Programm des Symposiums war sehr ambitioniert: „Es wird versucht herauszufinden, wie man Maschinen dazu bringt, Sprache zu benutzen, Abstraktionen zu bilden, Konzepte zu entwickeln, Probleme zu lösen, die bisher Menschen vorbehalten waren und wie man sie dazu bringt, darin besser zu werden,“ schreiben die Autoren in die Beschreibung des Forschungsvorhabens.

Den Geldgebern wurde vollmundig versprochen, eine Hand voll Mathematiker (ausschließlich Männer) würde das Thema Künstliche Intelligenz im Verlauf des Workshops erschöpfend bearbeitet haben. Auch wenn demgegenüber keinerlei praktischen Ergebnisse des Sommercamps bekannt sind, war mit dem griffigen Namen für eine neue Disziplin der Weg für deren Siegeszug geebnet worden: Die Künstliche Intelligenz war geboren.

Der zweite Teil der dritten Staffel von »Understanding Digital Capitalism« erscheint am 4. Dezember und beschäftigt sich mit dem verzwickten Intelligenz-Begriff und Alan Turings berühmten Test.

  • J. McCarthy, M. L. Minsky, N. Rochester, C. E. Shannon, A proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 31.08.1955. PDF
  • Joseph Weizenbaum, Die Macht der Computer und Die Ohnmacht der Vernunft. Suhrkamp, Frankfurt am Main 1977.
  • Thomas Metzinger, Der Ego-Tunnel: Eine Neue Philosophie Des Selbst. Berlin-Verl., Berlin 2009.
  • Jerry Kaplan, Artificial Intelligence: What Everyone Needs to Know. Oxford University Press, New York 2016.

Zur Übersicht aller bisherigen Texte der Reihe »Understanding Digital Capitalism«.

„Ich manage Enter Sake wie ein Plattenlabel“Im Gespräch mit Richie Hawtin über sein Sake-Business und die kulturellen Ziele dahinter

Mix der Woche – Ozel ABEinmal alles ohne Zucker, bitte