Social Bots – Wie sie funktionieren, wo sie helfen und wie sie schaden können

Längst sind soziale Netzwerke fester Bestandteil unseres Alltags. Wir sind fasziniert von den unbegrenzten Möglichkeiten, die sich uns dank Facebook, Twitter, Instagram & Co. bieten. Wir können jederzeit und von überall aus mit unseren Freunden und Followern kommunizieren und neue Kontakte knüpfen. Dabei stehen hinter den Accounts längst nicht immer menschliche Nutzer, sondern immer häufiger Computerprogramme, sogenannte Social Bots. Nach Angaben der sozialen Netzwerke selbst sind schätzungsweise 9-15 % aller Nutzer auf Plattformen wie Facebook und Twitter zumindest Fake-Accounts. Statistiken zufolge waren auf Facebook im Jahr 2018 ca. 300.000 Chatbots. Bis Dezember 2020 planen 80 % der Unternehmen, Chatbots einzusetzen. Dies überrascht wenig, wenn man bedenkt, dass 3 von 5 Millennials nach eigenen Angaben bereits Chatbots genutzt haben. Gleichzeitig hinkt der B2B-Bereich aber stark hinterher. Weniger als 1 % der Unternehmen nutzen Chatbots im B2B-Umfeld.

Oft werden die Social Bots mit der gezielten Verbreitung von Fake-News und Hassrede in Verbindung gebracht. Insbesondere durch ihre Aktivitäten während brisanter politischer Debatten, ob US-Wahlkampf, Brexit, Ukrainekonflikt, Coronavirus oder Flüchtlingskrise, stehen Social Bots im Verdacht, die öffentliche Meinungsbildung massiv zu beeinflussen. In den Medien wurden sie daher zuletzt sogar als Gefahr für die Demokratie diskutiert. Schließlich beschäftigt sich auch die Europäische Kommision mit der Bekämpfung von Online-Desinformation. So forderte die Kommission die Anbieter dreier großer Plattformen auf, monatlich über ihre Maßnahmen zu berichten, die sie unternommen haben, um gegen den böswilligen Einsatz von Bots vorzugehen.

Die Exposition der Bürger gegenüber groß angelegten Desinformationen, einschließlich irreführender oder gänzlich falscher Informationen, ist eine große Herausforderung für Europa. Die Kommission arbeitet an der Umsetzung eines klaren, umfassenden und breit gefächerten Maßnahmenpakets, um die Verbreitung und die Auswirkungen der Online-Desinformation in Europa zu bekämpfen und den Schutz der europäischen Werte und demokratischen Systeme zu gewährleisten.

In diesem Blogpost erklären wir, was genau Social Bots sind, wie sie funktionieren und wie Sie selbst einen solchen Bot programmieren können.
Im zweiten Teil unseres Artikels erfahren Sie, wie sie Einfluss auf unsere Gesellschaft und Politik nehmen, ob tatsächlich Handlungsbedarf von offizieller Seite besteht und wie sie entlarvt werden können.

Was ist eigentlich ein Bot?

Anders als der Name vielleicht vermuten lässt, ist ein Bot kein Roboter im eigentlichen Sinne, sondern zunächst einmal ein recht simples Computerprogramm, das selbstständig sich wiederholende Aufgaben abarbeitet. So nutzen Suchmaschinen sogenannte Webcrawler, die automatisch Webseiten besuchen, deren Inhalt analysieren und so die Schlagwortsuche erst ermöglichen. Es gibt Spambots, die beispielsweise darauf programmiert sind, im Internet E-Mail-Adressen zu sammeln, um anschließend unerwünschte Spam-Mails zu versenden. Und es gibt Chatbots, Programme, mit denen man sich (fast) wie mit einem Menschen in Text- oder Sprach-Form unterhalten kann.

Chatbots beruhen auf immer komplexer werdende Algorithmen, die sich auf Regeln oder Machine Learning stützen. Daher können sie durchaus als intelligente Software angesehen werden. Sie dienen der Unterhaltung oder einer bestimmten Funktion, wie etwa der Online-Suche, dem Newsfeed oder dem Online-Kauf und Kundenservice. Während unter dem Begriff Chatbot hauptsächlich textbasierte Kommunikationsassistenten fallen, die grundlegende Fragen-und-Antworten-Konversationen abwickeln, findet man im Alltag auch immer mehr intelligente virtuelle Assistenten. Cortana von Microsoft, Siri von Apple oder auch Alexa von Amazon übernehmen nicht nur spezifische Aufgaben, sondern unterstützen mit einer möglichst hohen Anzahl an verschiedenen Dienstleistungen.

Überhaupt finden Bots immer häufiger innerhalb Instant Messengern Anwendung. Es ist sogar davon die Rede, dass sie eines Tages klassische Websites und Apps verdrängen werden. Mit Hilfe von Bots können Unternehmen ihre Zielgruppe durch verschiedene APIs besser erreichen. Laut Schätzung der Nachrichtenseite Business Insider kann die Einführung von Chatbots dem Gesundheits-, Banken- und Einzelhandelssektor bis 2023 jährlich 11 Milliarden Dollar einsparen. Je nach Branche sehen Unternehmen bereits das große Potenzial und haben die Nutzung von Bots zum festen Bestandteil der Unternehmens-Strategie gemacht. So bietet BMW zum Beispiel einen WhatsApp-Bot, mit dem Kunden den Stand der Autoreparatur abfragen können und HP unterstützt mit ihrem Facebook-Bot HP Print bei der Einrichtung des Druckers.

Und wann spricht man von Social Bots?

Bots können also einem guten Zweck oder der Unterhaltung dienen, oder praktischerweise stumpfsinnige Arbeit abnehmen. Da sich über ein soziales Netzwerk nunmal viele Menschen innerhalb kürzester Zeit erreichen lassen, gibt es auch auf Twitter zahlreiche Bots, die aktuell auf das Wetter, Nachrichten oder neue Inhalte auf der eigenen Webseite hinweisen. (Wir bei Boxcryptor könnten beispielsweise einen Twitterbot programmieren, der Ihnen auf automatisch mitteilt, wenn es hier auf dem Blog etwas Neues gibt.) Praktisch sind auch jene Bots, die automatisch über Erdbeben in gefährdeten Gegenden twittern. Und die BBC News Labs haben für das EU-Referendum und die US-Wahlen Twitterbots entwickelt, die über den aktuellen Stand der Auszählungen informierten, indem sie automatisch Diagramme erstellten und posteten. Oder sehen Sie sich einmal die Tweets von @dscovr_epic an, allesamt eindrucksvolle Bilder unserer Erde, aufgenommen aus dem All vom DSCOVR-Satelliten der NASA und sogar mit Orts- und Zeitangaben.

Ein Social Bot ist demnach ein Bot, der in einem Sozialen Netzwerk, wie etwa Facebook oder Twitter, beheimatet ist. Oft tarnt sich das Programm als normaler menschlicher Nutzer; mit einem realistisch wirkenden Account inklusive Profilbild, Posts und Freunden bzw. Followern.

Social Bots sind darauf programmiert, automatisch Beiträge zu verfassen. Je nach „Intelligenz“ simulieren sie menschliches Verhalten in sozialen Netzwerken mehr oder weniger gut. Die einfachere Variante reagiert auf Schlüsselwörter oder Hashtags, postet dann selbstständig vorgefertigte Inhalte und versieht diesen wiederum mit prominenten Hashtags. Denkbar ist auch, dass der Bot sich automatisch mit anderen Accounts anfreundet oder ihnen folgt. Die komplexe Variante kann Inhalte in den Sozialen Netzwerken oder auf bestimmten Websites analysieren, daraus durchaus geistreiche neue Texte genieren oder sogar nahezu menschlich Unterhaltungen führen. Einige Bots täuschen auch regelmäßige Schlafenszeiten vor. Die Social Bots werden umso „intelligenter“ programmiert, je besser die Algorithmen von WhatsApp, Twitter & Co. in ihrer Erkennung werden.

Bei alldem gilt es zu bedenken: Ein Social Bot kommt selten allein. Erst die große Masse an automatisierten Accounts und deren gemeinsame Aktivitäten können überhaupt etwas bewegen, die politische Diskussion in den Sozialen Netzwerken entscheidend beeinflussen oder gar eine Gefahr für die Demokratie darstellen.

Social Bots sind leicht zu programmieren

Ein einfacher Social Bot ist leicht zu bauen. Diverse Anleitungen oder sogar fertigen Code gibt es frei verfügbar im Internet. Weiterführende Programmierkenntnisse benötigt man erst, wenn es um komplexere Algorithmen und Machine Learning geht. Tatsächlich kann man sich die Mühe des Programmierens je nach Einsatzgebiet des Social Bots auch ganz sparen und die Software einfach im Internet kaufen.

So oder so sieht der Bauplan meist drei Elemente vor:

1. Mehrere Fake-Accounts des jeweiligen Sozialen Netzwerks
2. Zugriff auf dessen Programmierschnittstellen
3. Das eigentliche Computerprogramm, das die Social Bots dann automatisch steuert.

So sind Twitter-Accounts (von Hand oder automatisiert erstellt, oder gehackt) beispielsweise in einer Menge von 10 000 Stück für $100 online erhältlich. Wahlweise kann man für weitere $500 auch die Software für deren Steuerung käuflich erwerben. Eine solche Armee von 10 000 Twitterbots, die gegenseitig prominente Hashtags aufgreifen, kann in Deutschland schon ausreichen, um den Algorithmus für Trending Topics und damit die öffentliche Meinung im Sinne ihres Schöpfers zu manipulieren.

Missbrauch von Social Bots und Fake-News für Manipulation

Problematisch wird es also immer dann, wenn diverse Interessensgruppen, seien es Unternehmen, Politiker, Parteien, Terrororganisationen oder der Staat selbst, Social Bots in Masse dazu missbrauchen, die öffentliche Meinung zu verzerren oder gar zu manipulieren. Durch den Einsatz von Fake-Freunden oder -Followern für den eigenen Account bzw. den Account des Wettbewerbers etwa kann man die eigene Beliebtheit vortäuschen oder dem anderen schaden. Durch das massenhafte Liken, Teilen und die Verwendung prominenter Schlüsselwörter oder Hashtags durch Bots lässt sich zudem Werbung in eigener Sache machen. Eine Armee an Social Bots beeinflusst so unerkannt die Trends in den Sozialen Netzwerken, welche unter dem Stichwort Big Data wiederum immer häufiger für politische und wirtschaftliche Entscheidungen zu Rate gezogen werden.

Dies birgt die Gefahr, dass gerade extreme Positionen vermehrt Zuspruch erhalten.

Zwar ist es unwahrscheinlich, dass gemäßigte Personen plötzlich ihre politischen Überzeugungen über den Haufen werfen. Wenn allerdings durch die automatisierte Verbreitung von extremen Inhalten und Fake-News auf Facebook, Twitter & Co. der Anschein erweckt wird, dass die Mehrheit der Nutzer diese Ansichten teilt, könnten sich für solche Manipulation empfängliche Personen unbedarfter Weise einfach anschließen. Da Social Bots gerade in ohnehin schon brisanten politischen Debatten ihr Unwesen treiben, haben sie durchaus das Potenzial, die öffentliche Meinungsbildung der Demokratie massiv zu beeinflussen.

Im zweiten Teil unseres Artikels nehmen wir die Bot-Aktivitäten während des US-Wahlkampfes, der Brexit-Entscheidung, des Ukraine-Konflikts sowie der Coronavirus- und Flüchtlingskrise genauer unter die Lupe. Außerdem zeigen wir Ihnen, mit welchen Tools Social Bots entlarvt werden können.