Die Künstliche Intelligenz hat noch ein paar Bugs
Es ist oft beobachtet worden, dass Donald Trump kein Politiker (im herkömmlichen Sinne) ist, etwa mit Überzeugungen, Werten oder einer Agenda. Vielmehr erstaunt er alle Beobachter dadurch, wie er innerhalb von wenigen Minuten eine Sache und ihr Gegenteil behaupten kann und wie er es schafft, selbst Verbündete zu erbitterten Gegnern zu machen. Das liegt vor allem daran, dass seine Agenda keine andere ist, als Aufmerksamkeit zu erzeugen und zu erhalten. Aber damit gibt es ein Problem...
Trump mag zwar keine Überzeugungen und Werte haben, aber er hat eine binäre Methode. Cathy O'Neil (aka Mathbabe) hat gezeigt, dass hinter Trump ein ganz einfacher, aber fehlerhafter Algorithmus stecken könnte. Cory Doctorow von Boingboing erklärt die Technik so:
"Trumps Algorithmus geht so vor, dass er ziemlich wahllos Dinge sagt, bis die Zuhörer lauthals zustimmen. Dann variiert er in kleinen Abwandlungen diese Statements, um mehr und mehr Zustimmung zu erlangen, bis der Höhepunkt erreicht ist und er etwas neues ausprobiert."Das, was wir da beobachten, ist ein ganz grundlegendes Prinzip des maschinellen Lernens: Durch wahlloses Ausprobieren (wissenschaftlich: "Random Walk") wird ein vielversprechender Pfad gefunden, dann wird nach definiertem Erfolg variiert bis ein Erfolgs-Maximum erreicht ist, an dem dann abgebrochen und ein neuer Weg gegangen wird (wissenschaftlich: "Hill climbing" oder "Bergsteigeralgorithmus"). Durch die Variation des Bergsteigeralgorithmus wird vermieden, dass sich die Maschine an einer Sache festbeißt und andere vielversprechende Wege links liegen lässt.
Zusammengefasst und runtergebrochen: Die Ergebnisse von Trumps Random-Walk (zwischen rassistisch und sozialistisch ist alles drin) werden durch die lautstarke Zustimmung der Zuhörer validiert und sein Bergsteigeralgorithmus (von Mexikanern über TTIP, Terroristen, NRA und Clinton wird alles ausprobiert) vermeidet, dass es langweilig wird. Damit ist das übergeordnete Ziel, um jeden Preis Aufmerksamkeit zu erzeugen und aufrecht zu erhalten, sicher gestellt.
Nach Doctorow und O'Neil gibt es allerdings ein Problem mit Trumps Algorithmus: Nicht nur sind die Erfolgskriterien (Aufmerksamkeit) für politischen Erfolg zu dünn, die Validierungs-Gruppe ist zudem einseitig ausgerichtet, was zu lokalem Erfolg und globalem Scheitern führt. Die Gruppe von Zuhörern, die dem Trump-Algorithmus das positive Feedback für den gelungenen Random-Walk geben, sind diejenigen, die verrückt und fanatisch genug sind, um tatsächlich zu seinen Kundgebungen zu gehen. Es sind also die extremsten und am wenigsten repräsentativen der potentiellen Trump-Wähler, bei denen er Erfolg hat. Einseitig lokale Trainingsgrundlagen sind ein bekanntes Riesenproblem für das Machine-Learning, denn sie schalten die zum globalen Erfolg nötige Varianz aus. Und genau das passiert, wenn Trump zum Beispiel mehr oder weniger subtil zur Gewalt gegen seine Rivalin Clinton aufruft, was bei den Zuhörern der Kundgebung (lokal) natürlich super ankommt, aber beim Rest der Republikaner (global) nur Ablehnung und Kopfschütteln hervorruft.
 |
| Bergsteigeralgorithmus – lokal vs global (Wikipedia) |
Wir sehen gerade, wie der Trump-Algorithmus an diesen zwei Bugs zerbricht: Er befindet sich in einer Selbstzerstörungsspirale, dessen Achse eine kleine radikale und uninformierte Gruppe von Extremisten ist. Da hilft eigentlich nur, den Prozess killen, umprogrammieren und neustarten.
Nach O'Neil können wir daraus lernen, dass falsch aufgesetztes Machine Learning selbst dann Schaden verursacht, wenn ihm gar keine böse Agenda zugrunde liegt. Außerdem stellt sich die Frage, ob man den Trump-Algorithmus nicht perfektionieren könnte, sodass uns dann tatsächlich rationale Roboter anstatt korrupte oder anderweitig defekte Politiker-Persönlichkeiten regieren würden.
Donald Trump ist ein Zeichen aus der #Zukunft.
Das passt dazu:
Keine Kommentare:
Kommentar veröffentlichen