Etwas über Alice und Bob

Bots mit kreativen Sprachkenntnissen haben die populäre Vorstellungskraft erobert. Sie haben auch die Ängste vor einer Robokalypse neu entfacht

Alice und Bob, Alice und Bob Facebook, Facebook-Bots, Bots für künstliche IntelligenzAlice und Bob, die Facebook-Bots, die aufgrund eines unerwarteten Mangels an Programmierlogik in Verruf geraten sind, sind Teil eines Experiments zum Bau von Verhandlungsmaschinen. C R Sasikumar

Das Internet war in Flammen auf, dramatische Schlagzeilen zu verbreiten, die verkündeten, dass Facebook abtrünnigen Bots der künstlichen Intelligenz (KI) den Stecker ziehen musste, die eine eigene Sprache entwickelten, in der sie unmenschlich private Gespräche führten. Sie lesen sich wie Teaser für eine Terminator-Globokalypse, den schlimmsten Albtraum des werkzeugbenutzenden Primaten – der von seiner eigenen Kreation, der Maschine, abgelöst werden soll.

Die Realität ist weniger dramatisch, aber spannender. Bots sind autonome Agenten, die ursprünglich dafür programmiert wurden, Housekeeping-Aufgaben auf Kommunikationskanälen auszuführen oder den Turing-Test zu bestehen. Sie können Sie anmelden, Sie rauswerfen, wenn Sie sich schlecht benehmen, Chatrooms offen halten, wenn niemand zu Hause ist, Informationen bereitstellen und sich als Menschen ausgeben. Im Internet Relay Chat-System war der Eggdrop-Bot der Allzeit-Favorit.

Die Enkel solcher Hausmeister-Bots sind in moderne Suchagenten und Messenger eingebettet und verfügen über KI-Fähigkeiten. Sie sprechen wie ein Mensch mit den Nutzern, beantworten Routineanfragen und geben Ratschläge. Wenn Ihr Telefon Ihre Meinung zu kennen scheint und die richtigen Dinge aufruft, ohne gefragt zu werden, muss ein Großteil der Anerkennung den Bots geschenkt werden, die hinter den Kulissen arbeiten. Wie Menschen können auch Bots aus Erfahrungen lernen und sind in realen Situationen für größere Dinge bestimmt.



Alice und Bob, die Facebook-Bots, die aufgrund eines unerwarteten Mangels an Programmierlogik in Verruf geraten sind, sind Teil eines Experiments zum Bau von Verhandlungsmaschinen. Sie fanden einfach heraus, wie man eine Reihe von Objekten, wie Bälle, gemeinsam nutzen konnte, damit sich keine der Parteien betrogen fühlte. Während des Feilschens machte Alice zunächst unverständliche Aussagen wie, Bälle haben null zu mir zu mir zu mir zu mir zu mir… Und die gruseligen Schlagzeilen folgten.

Lernen wird durch Anreize angetrieben, wie Lehrer und Eltern wissen. In diesem Fall wurde das Belohnungssystem der Übung definiert – ein besserer Anteil und gegenseitige Zufriedenheit, die Essenz des Verhandelns. Aber es gab keinen Anreiz für die Bots, weiterhin auf Englisch zu kommunizieren, was eine notorisch unlogische Sprache ist. So schlüpften sie in ein vereinfachtes, effizienteres Neusprech-ähnliches Argot, das nicht ganz englisch ist, aber nicht unverständlich wie beworben.

Alices Aussage, die als Behauptung der Maschinenunabhängigkeit fehlgedeutet wurde, deutete nur darauf hin, dass sie zu kurz war (habe null), und jede für mich stand für ein Objekt, das sie forderte. Sie machte genau den Job, für den sie programmiert war: Auf dem Großen Basar von Istanbul so hart zu verhandeln wie eine Ladenbesitzerin. Und wenn sie feststellte, dass das Englisch der Königin im Weg war, war sie nicht allein. Viele Rassen der ehemaligen Kolonien hatten das Gefühl, dass die Muttersprache die Kommunikation in ihren Gemeinden behinderte.

Nur professionelle menschliche Unterhändler müssen ängstlich sein, wenn die Giganten des Silicon Valley in Verhandlungsprogramme investieren. Terroristen und Gipfelstürmer sollten auch eine Altersrente fürchten, denn in Geiselnahmen und internationalen Abkommen könnten sie sich einer undurchschaubaren, unerbittlichen Maschine gegenübersehen, die viel schlauer ist als Deep Blue, der IBM-Supercomputer, der 1996 den Schachmeister Garry Kasparov herausforderte.

Der Drang, private Sprachen zu entwickeln, ist eine sehr menschliche Eigenschaft. Bevor die Börsen computerisiert wurden, übermittelten Börsenmakler auf dem Parkett ihre Gebote mit Handzeichen, die für andere unverständlich waren. Seit Jahrhunderten ist die Strafverfolgung durch Diebessprüche verblüfft, die künstlichen Sprachen der Sträflinge, die für ihre Gefängniswärter Kauderwelsch sind. Unter den englischsprachigen Kriminellen des 20. Jahrhunderts bedeutete das unsinnige Wort Arkitnay: Halt die Klappe, jemand lauscht. In Indien studierte William Henry Sleeman Ramaseeana, den Cant von Thuggee, und veröffentlichte 1836 ein Vokabular. Eines der am wenigsten aufgeführten, aber faszinierendsten Stücke von Tom Stoppard ist Doggs Hamlet, in dem Schulkinder Shakespeare in ihrer Sprache Dogg vorführen. Es war so etwas wie eine Transpositions-Chiffre. Zum Beispiel bedeuteten Nachmittage Hallo in Dogg.

Ganz zu schweigen von den Weltuntergangsforschern, das Interessante an Alice und Bob ist, dass sie bei der Erschaffung einer Sprache eine sehr menschliche Eigenschaft verraten haben, für die sie nicht explizit programmiert wurden. Vor 60 Jahren wurden die ersten Bots geschrieben, um genau dieser Frage nachzugehen: Könnten Maschinen so programmiert werden, dass sie sich wie Menschen verhalten? Konnten sie den Turing-Test bestehen? In einem 1950 erschienenen Artikel mit dem Titel Computing Machinery and Intelligence schlug Turing im Wesentlichen vor, dass, wenn die Kommunikation einer Maschine menschlich zu sein scheint, die Maschine als menschlich angesehen werden sollte.

Der erste Bot zur Verarbeitung natürlicher Sprache, der das Labor verließ und massenhaft an Popularität gewann, war Eliza, die 1964 von Joseph Weisenbaum am MIT entwickelt wurde. Er schrieb es, um zu zeigen, dass die Textkommunikation zwischen Mensch und Maschine nicht das Niveau einer menschlichen Konversation erreichen kann. Im Gegenteil, Eliza weckte öffentliche Erwartungen, dass sie den Turing-Test bestehen würde. Dreißig Jahre später wurden noch größere Hoffnungen von Julia geweckt, die von Lycos-Gründer Michael Mauldin gegründet wurde, um um den Loebner-Preis, den Heiligen Gral des Turing-Tests, zu konkurrieren. Aber über einen gewissen Punkt hinaus verwandelten sich Julias Chats in zufällige Gedanken über die Eigenschaften von Hunden und Katzen (Sie können mit einer modernen Version von ihr unter scratch.mit.edu/projects/2208608) chatten.

Jetzt haben Bots mit kreativen Sprachkenntnissen die populäre Vorstellungskraft ergriffen und die Ängste vor einer Robokalypse neu entfacht. Spannender ist aber eine Entwicklung im KI-Labor von Google. Im September 2016 ging Google mit seinem Neural Machine Translation System live, das Deep Learning auf Sprache anwendet. Zwei Monate später sprengten sie die Grenzen: Wenn eine Maschine lernen würde, beispielsweise zwischen Hindi und Deutsch und zwischen Hindi und Englisch zu übersetzen, könnte sie dann ohne die Brückensprache Hindi zwischen Englisch und Deutsch übersetzen? Es könnte sein, was darauf hindeutet, dass das neuronale Netzwerk etwas Grundlegendes darüber gelernt hatte, wie der Verstand Konzepte und Grammatiken verknüpft, um Sprachen zu schmieden. Der kleine, gelbe, blutegelartige Babelfisch, der lebende Universalübersetzer, den sich Douglas Adams Ende der Siebzigerjahre ausgedacht hat, schwebt jetzt in Ihrer Nähe.

Da es für KI keine Langzeitprognose gibt, sollte natürlich der Warnung von Personen, die es besser wissen sollten, wie Elon Musk und Stephen Hawking, gebührende Aufmerksamkeit geschenkt werden. Es sollte eine Regulierung geben, trotz der Beteuerungen von Befürwortern der Innovationsfreiheit wie Mark Zuckerberg. Und es sollte ein allgemeiner Konsens entstehen, der sich über Linien verständigt, die nicht überschritten werden dürfen, wie bei Eingriffen in das menschliche Genom. Aber es ist nicht zu leugnen, dass die Experimente bei Facebook und Google den ursprünglichen Zweck der KI voranbringen, nämlich Aspekte des menschlichen Geistes zu modellieren und zu verstehen. Die grellen Mediengeschichten, die sie anziehen, sind vorübergehende Sensationen. Am nächsten Tag eignen sie sich zum Einwickeln von Fisch.