Als Donald Trump 2016 zum 45. US-Präsidenten gewählt wurde, hatte in den Sozialen Medien zuvor eine  Schlacht ungeahnten Ausmaßes um die Meinungshoheit im Netz getobt. Namen wie "Cambridge Analytica" stehen seitdem für eine Welt, in denen man mit KI-Unterstützung politische Strömungen unterstützen, Demokratien destabilisieren und quasi nach Belieben Shitstorms entfachen kann.

Im Mittelpunkt von Diskussionen um diese Medienphänomene: Social Bots. Das sind automatisierte Programme, die auf Plattformen wie Facebook und Twitter die Profile menschlicher Nutzer simulieren und unermüdlich Inhalte generieren, die der politischen (oder werblichen) Intention ihrer Auftraggeber nützen. Themen gibt es genug: So  machte im Frühjahr 2021 die Meldung die Runde, dass in den USA nur zwölf Einzelpersonen für zwei Drittel aller Falschmeldungen zur Corona-Pandemie in den Sozialen Medien verantwortlich seien - geht sowas überhaupt ohne Roboterhilfe?

Unsinnige Forschung

Der Algorithmenethiker Florian Gallwitz hält das alles für stark überzogen. Im Rahmen eines Vortrags auf der Online-Konferenz rc3 des Chaos Computer Clubs im Dezember 2021 stellte der Professor für Medieninformatik an der Technischen Hochschule Nürnberg die steile These auf: Social Bots gibt es gar nicht, ein Großteil der Forschung dazu ist unsinnig. Ihm habe noch niemand einen funktionierenden Social Bot zeigen können, so Gallwitz.

Als Beleg für seine These zog der Algorithmenforscher die Methoden und Tools heran, mit denen in Studien versucht wird, automatisierte Accounts zu identifizieren - und fand dabei zahlreiche methodische Schwachstellen.  So würden viele Studien, die die Häufigkeit von Bots bestimmen, dafür das sogenannte Oxford-Kriterium anwenden. Gemäß dieses Kriteriums werden Accounts, die mehr als 50 Beiträge am Tag veröffentlichen, als Bots klassifiziert.

50 Beiträge pro Tag

50 Beiträge am Tag sind zwar eine Menge Content, aber keineswegs ein sicheres Indiz für einen Roboter. In seinem Vortrag nannte Gallwitz einige politisch aktive Personen, die eindeutig real sind und dennoch viel posten, etwa den Netzaktivisten Cory Doctorow oder den durch die Veröffentlichung der Snowden-Enthüllungen bekannten Journalisten Glenn Greenwald.

Auch das von Forschern häufig genutzte Tool "Botometer", das Twitter-Accounts darauf untersucht, ob sich hinter ihnen Menschen oder Bots verbergen, fällt laut Gallwitz durch seine hohe Fehlerquote auf. Gemeinsam mit Kollegen untersuchte er in einer manuellen Stichprobe Twitter-Accounts, die in einer Studie rund um die Bundestagswahl 2017 als Bots eingestuft waren - und konnte keinen einzigen als Bot entlarven. Oft, so Gallwitz, handelte es sich dabei einfach um wenig genutzte Accounts, von denen wenig gepostet wurde. Bei der Auswertung einer Stichprobe von 68 Accounts fand er nur einen automatisierten Account. Dieser war jedoch darauf programmiert, automatisch eine Twitter-Nachricht zu verfassen, sobald auf einer korrespondierenden Website ein neuer Artikel erscheint. Als Social Bot, so Gallwitz, könne man so was nicht einstufen.

In einer Forschungsarbeit aus Großbritannien wurden Twitter-Accounts automatisch als Roboter eingestuft, wenn der Nutzername aus einem natürlichen Namen und einer achtstelligen Folge von Zahlen bestand. Dabei übersahen die Forscher allerdings, dass dies genau die Art von Name ist, die Twitter neuen Nutzern vorschlägt, wenn sich diese keine eigenen Account-Namen ausdenken.

Chatbots sind zu dumm

Aus seiner Praxis, so schließt der Informatiker, sei es schlicht unplausibel zu glauben, es gäbe heute bereits Bots, die in der Lage wären, glaubhaft Menschen zu simulieren. Heutige Chatbots hätten oft schon Probleme, auch nur eine Verneinung in einem Satz zu verstehen. Allerdings würde dies keineswegs bedeuten, dass es nicht Versuche gebe, die öffentliche Meinung im Netz durch gezielte Kampagnen zu beeinflussen. Dahinter, so Gallwitz, stünden allerdings Menschen, die in der Regel für das Verfassen von Nachrichten bezahlt werden.

Der Vortrag von Prof. Gallwitz lässt sich hier herunterladen.