Irgendwann war das Maß voll: Verona Pooth, Deutschlands wohl berühmtester B-Promi, kündigte die Schließung ihrer Fanseite auf Facebook an. Grund dafür laut "Bild"-Zeitung: "Zu viel Hass!" Der Nachrichtenagentur DPA verriet Pooth-Manager Alain Midzic, dass die Flut von Hasskommentaren auf dem Profil seiner Mandantin der Grund für den harten Schnitt war: "Facebook macht unfassbar viel Arbeit. Was da teilweise ankommt, ist der blanke Horror. Da sind so viele Verrückte unterwegs, Hater und Pädophile. Wir können und wollen das nicht alles stehenlassen."

Plattformbetreiber im Visier

Können und wollen ist das eine, dürfen das andere: Am 1. Oktober trat das "Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken" in Kraft, besser bekannt als Netzwerkdurchsetzungsgesetz oder kurz: NetzDG. Dieses Gesetz gilt als eins der Lieblingsprojekte des scheidenden Bundesjustizministers Heiko Maas (SPD). Es soll Schluss machen mit rassistischen und beleidigenden Inhalten, die - oftmals anonym - die Kommentarspalten im Netz fluten.

Dabei nimmt das NetzDG weniger Einzelpersonen wie Pooth in die Pflicht, auf deren Profilseite sich Pöbler ausleben. Im Visier des Justizministers sind vor allem Netzwerke wie Facebook, die zunehmend das öffentliche Klima ­beeinflussen. Das Justizministerium beschreibt den Sinn des NetzDG wie folgt: "Um die sozialen Netzwerke zu einer zügigeren und umfassenderen Bearbeitung von Beschwerden insbesondere von Nutzerinnen und Nutzern über Hasskriminalität und andere strafbare Inhalte anzuhalten, werden durch den Entwurf gesetzliche Compliance-Regeln für soziale Netzwerke eingeführt. Vorgesehen sind eine gesetzliche Berichtspflicht für soziale Netzwerke über den Umgang mit Hasskriminalität und anderen strafbaren Inhalten, ein wirksames Beschwerdemanagement sowie die Benennung eines inländischen Zustellungsbevollmächtigten."

Breiter Widerstand von allen Seiten

Seit seiner Verabschiedung am 30. Juni 2017 trifft das Gesetz auf breiten Widerstand. "Die Art und Weise, wie dieses Vorhaben allen Bedenken zum Trotz durchgesetzt wurde, hat dem Ansehen des Rechtsstaates eher geschadet als genützt“, gab Volker Tripp, politischer Geschäftsführer des Vereins Digitale Gesellschaft, damals zu Protokoll: "Das Ergebnis ist ein mit heißer Nadel gestricktes Regelwerk, das schwerwiegende handwerkliche Mängel aufweist und außerdem gegen das Europarecht verstößt." 

Der Staat lagert seine Pflichten aus

Im Zentrum der Kritik steht seitdem der Vorwurf, dass der Staat seine Pflicht zur Rechtsdurchsetzung an private Stellen auslagert - an die Betreiber von Plattformen wie Facebook und Youtube, aber auch ­Heise.de und Spiegel Online. Diese Betreiber sind ab sofort verpflichtet, eindeutig strafbare Inhalte binnen 24 bis 48 Stunden vom Netz zu nehmen. Ist der Fall nicht eindeutig, haben die Betreiber sieben Tage Zeit, um entweder eine Entscheidung zu fällen oder sich rechtlichen Beistand zu suchen.

Was in Deutschland von der Meinungsfreiheit gedeckt und was verbotene Hetze ist, steht im Detail allerdings in keinem Gesetzbuch. So unterlag die Spitzenkandidatin der AfD, Alice Weidel, in einem Verfahren vor dem Landgericht Hamburg mit einem Unterlassungsantrag gegen den NDR. In dessen Satiresendung "Extra 3“ war die rechtspopulistische Politikerin zuvor als "Nazi-Schlampe“ bezeichnet worden. Das Gericht machte sich die Entscheidung nicht einfach und kam nach Abwägung aller Faktoren zu dem Ergebnis, dass es sich hierbei um eine satirische Übertreibung handle, die von der Meinungsfreiheit gedeckt sei. Ob dieses Urteil Bestand hat, ist nicht gewiss: Weidel kündigte nach der Urteilsverkündung Beschwerde beim Oberlandesgericht an.

Im Zweifel lieber löschen als nicht löschen

Geht es nach den Buchstaben des NetzDG, müssen Betreiber von Websites bei der ­Bewertung von Kommentaren eine solche Rechtsabwägung allein treffen, ohne ein Richtergremium im Kreuz. Kritiker ­befürchten, dass diese Situation direkt zu mehr Zensur führt: Bevor ein rechtlich nicht sattelfester Forenbetreiber eine ­saftige Strafe riskiert, entscheide er sich lieber fürs Löschen, so die Sorge. Diese Befürchtung kommt nicht nur von politischen Gegnern von SPD-Minister Maas, sondern sogar von internationalen Organisationen. 

So mahnt die Konferenz für ­Sicherheit und Zusammenarbeit in Europa (KSZE) die Bundesregierung zur Mäßigung. "Das Ziel des Gesetzes zum Schutz der Menschenrechte, insbesondere von Gefährdeten oder gefährdeten Gruppen, ist wichtig und legitim", sagt Harlem Désir, KSZE-Beobachter für Pressefreiheit: "Der Geltungsbereich des Gesetzes bleibt ­jedoch übermäßig weit gefasst, und seine Wirkung könnte die Meinungsfreiheit übermäßig einschränken."

Drakonische Strafen sind möglich

Die Angst vor einer fatalen Wirkung des NetzDG speist sich vor allem aus der Möglichkeit, bei Verstößen drakonische Strafen zahlen zu müssen. Pikant dabei: Das Gesetz ist zwar seit Anfang Oktober offiziell in Kraft, auf die genauen Durchführungsbestimmungen müssen sich die beteiligten Ministerien jedoch noch einigen. Glaubt man einem Entwurf für einen Strafenkatalog, der dem "Handelsblatt" Anfang Oktober zugespielt wurde, teilt das NetzDG ­Online-Plattformen in verschiedene Kategorien ein. Entscheidend für die Höhe der möglichen Bußgelder ist demnach die Zahl der registrierten Nutzer.

• Kategorie A: In diese Kategorie fallen Netzwerke mit mehr als 20 Millionen registrierten Nutzern. Obwohl das NetzDG Bußgelder bis zu 50 Millionen Euro vorsieht, schöpft der Entwurf, den das "Handelsblatt" zitiert, diesen Rahmen nicht aus, es ist "nur" von bis zu 40 Millionen Euro die Rede. In diese Kategorie fällt derzeit ausschließlich Facebook, das in Deutschland rund 31 Millionen registrierte Nutzerprofile hat.
• Kategorie B: In diese Kategorie fallen Netzwerke mit 4 bis 20 Millionen Nutzern. Hier sieht der Entwurf Bußgelder bis zu 25 Millionen Euro vor. Dieser Kategorie dürften auf jeden Fall Youtube und Instagram zugerechnet werden. Ob Twitter auch zur B-Klasse gehört, hängt laut "Handelsblatt" von der genauen Definition des Begriffs "Nutzer" durch das Justizministerium ab.
• Kategorie C: In diese Kategorie fallen Netzwerke mit weniger als 4 Millionen ­registrierten Nutzern – also zahlenmäßig der absolute Löwenanteil aller Chat-­Foren, Communitys und Meinungsplattformen in Deutschland. Hier lässt der bekannt ­gewordene Entwurf Höchststrafen von bis zu 15 Millionen Euro zu.

Im Vorfeld der Einführung des NetzDG hatte Justizminister Maas zu beruhigen versucht: Die drakonischen Höchststrafen würden nur gegen Unternehmen verhängt, die sich hartnäckig weigern, etwas gegen fortgesetzte Hate Speech in ihrem Einflussbereich zu unternehmen. Doch auch die Bußgelder, die der geleakte Entwurf für weniger gravierende Verstöße vorsieht, sind nicht von Pappe. Facebook drohen in einem solchen Fall bis zu 2,5 Millionen Euro Strafe, Youtube könnte bis zu einer Million Euro Bußgeld auf­erlegt werden, und für Unternehmen der Kategorie C wären danach bis zu 250.000 Euro fällig – eine Strafe, die so manches kleinere Portal in den wirtschaftlichen Ruin treiben könnte.

Bei der möglichen Bestrafung von Einzelpersonen bleibt der kursierende Ministerentwurf ebenfalls hinter dem Rahmen zurück, den das NetzDG ursprünglich vorsah. Wurden im Gesetz noch Strafen von bis zu fünf Millionen Euro für einzelne ­Akteure genannt, sieht der Entwurf eine Höchststrafe von bis zu 400.000 Euro pro Kopf vor. Eine Unterscheidung, ob die Person in oder für ein Unternehmen der Kategorie A, B oder C arbeitet, spielt dabei ­offenbar keine entscheidende Rolle, wohl aber die Frage, wie gravierend der Verstoß war: Hier unterscheidet der Entwurf zwischen "außerordentlich schwer", "sehr schwer", "schwer", "mittel" oder "leicht".

Facebook lagert Kontrolle an Bertelsmann aus

Es muss nicht verwundern, dass Medien und Verbände gegen das NetzDG Sturm laufen. Denn nicht nur die drohenden Strafen sorgen für Unruhe, auch die mögliche Einschränkung der Meinungsfreiheit und der Aufwand, den Plattformbetreiber treiben müssen, um nicht mit dem NetzDG in Konflikt zu geraten. 

So verweist Facebook in einer Stellungnahme auf den erheblichen Aufwand, den das Network heute schon betreibt, um ­illegale Inhalte zu löschen. 6.000 Menschen seien weltweit damit beschäftigt, das Netz auf Schmutz zu durchkämmen, davon seien allein 600 für Deutschland zuständig. Wie viele Kontrolleure Facebook tatsächlich in Deutschland dafür angestellt hat, ist dagegen nicht bekannt. Nach einem Bericht der "Süddeutschen Zeitung“ hat die Zuckerberg-Company diese heikle Aufgabe komplett an die Bertelsmann-Tochter Arvato ausgelagert, die in Berlin dazu ein Team aus mehreren Hundert Mitarbeitern aufgestellt hat. Diese sind jedoch offenbar nicht nur für deutsche Beiträge zuständig - dem Bericht zufolge sprechen viele von ihnen noch nicht einmal Deutsch. 

Seitenbetreiber ächzen unter den Kontrollen

Forenbetreiber mit geringeren finanziellen Möglichkeiten ächzen derweil schon lange unter der Last, Tausende von Nutzerkommentaren pro Tag darauf abzuklopfen, ob man sie veröffentlichen kann oder nicht, ohne sich strafbar zu machen. Oder sie kapitulieren vor der Aufgabe - mit direkten Folgen für die Meinungsfreiheit. Auf Tagesschau.de kann man Beiträge, die Flüchtlinge, die Türkei, "Reichsbürger" oder ein anderes sensibles Thema anschneiden, in aller Regel nicht mehr kommentieren, weil die Moderatoren die Kommentarfunktion geschlossen haben - sie kommen einfach mit dem Kontrollieren nicht mehr nach.

Für Sven Oerke gleicht die Situation einem Teufelskreis. Eine generelle Vorzensur aller Beiträge hält der Experte für User Generated Content für wenig zielführend: "Wer einen Kommentar zu einem Beitrag schreibt, der will auch, dass der Kommentar sofort erscheint." Oerke sieht auch eine Verschärfung des Tonfalls im Netz, die er darauf zurückführt, dass sich das Publikum verändert habe. „Vor 20 Jahren war der Umgang im Netz noch freundlicher, was auch damit zu tun hatte, dass ein gewisses technisches Wissen erforderlich war, um sich im Netz zu bewegen." Heute dagegen habe nahezu jeder ein Smartphone, ein Kommentar – auch ein strafbarer – sei schnell geschrieben. 

Um Moderatoren bei ihrer Arbeit zu unterstützen, hat Oerke eine Software entwickelt, die problematische Inhalte identifiziert. Statt auf Spracherkennung und Semantik setzt das Tool auf reine Mathematik. Es untersucht Hassbotschaften, die von Moderatoren zuvor geblockt wurden, auf Kombinationen von Begriffen, sogenannten Taxonomien. Überschreitet die Zahl kritischer Taxonomien in einem Post einen zuvor festgelegten Grenzwert, ist die Wahrscheinlichkeit hoch, dass es sich um einen problematischen Inhalt handelt. Trotz eines mehrjährigen Entwicklungsaufwands kann die Software Moderatoren nicht ersetzen. Oerke: "Wenn die Anlernphase vorbei ist, dann können wir rund 85 Prozent aller Kommentare in 'unproblematisch‘ oder 'Löschen‘ einordnen. Bei den verbleibenden 15 Prozent muss ein Mensch die Entscheidung treffen." 

Mit dieser Methode mag das Analysetool besser funktionieren als dumme Wortfilterprogramme, die stumpf Zeichenketten löschen und damit nicht nur "Analphantasie" tilgen, sondern auch "Analphabet". Grundsätzlich gelöst ist das Problem damit allerdings noch nicht, denn immer mehr Hassbotschaften im Netz kommen nicht in Form von relativ einfach zu analysierenden Texten, sondern von Bildern oder Videos. Community-Spezialist Oerke sieht sich hier am ­Ende seiner Möglichkeiten und verweist auf die erstaunlichen Fähigkeiten, die Google bereits auf dem Gebiet der Bilderkennung gemacht hat: Sein Tipp: "Schalten Sie bei der Google-Bildersuche mal die Option ‚Safe Search‘ aus ..."

Die Kritiker sitzen vielleicht bald in der Regierung

Ob das NetzDG in seiner ursprünglich angedachten Form überhaupt Eingang in die deutsche Rechtspflege findet, ist indes offen, denn SPD-Minister Maas ist nur noch geschäftsführend im Amt, während die Union mit FDP und Grünen über ­Jamaika verhandelt. FDP-Generalsekretärin Nicola Beer hatte bereits im Juni ihre Meinung klargemacht: "Die Abgeordneten im Bundestag sind aufgefordert, das Netzwerkdurchsetzungsgesetz abzulehnen. Sie sind an die verfassungsmäßige Ordnung gebunden und dürfen kein Gesetz beschließen, das gegen rechtsstaatliche Grundsätze verstößt und in unangemessener Weise in die Meinungsfreiheit eingreift." 

Auch die Grüne Renate Künast, im vergangenen Bundestag Vorsitzende des Rechtsausschusses, äußerte Bedenken. Das Vorpreschen Deutschlands könne ­eine Signalwirkung auf andere Länder ­haben - auf demokratische und undemokratische. Anlässlich einer Anhörung zum NetzDG sagte Künast: "Ich habe immer noch das Gefühl, dass der Reiz zu löschen größer ist als der Reiz die Meinungsfreiheit einzuhalten." 

"Enthauptungsvideo" ist richterlich geschützt

Welch große Herausforderungen auf Netzwerkbetreiber zu kämen, die sich einerseits nicht strafbar ­machen, aber andererseits nicht die Grenzen der Meinungsfreiheit enger ziehen wollten, machte die Politikerin - selbst oft Ziel von Hassbotschaften – an einem drastischen Beispiel deutlich. Vor einiger Zeit fand sie in ihrem Facebook-Profil den Kommentar eines Nutzers, der angab, er würde gern ein Enthauptungsvideo von ihr sehen. Diese verbale Entgleisung bewertete ein Gericht anschließend als vom Recht auf Meinungsfreiheit gedeckt.

Interview: Man kann nicht alles festschreiben“

Ein Gespräch mit Sven Oerke, Spezialist für Social Media Software. Er beschäftigt sich seit 20 Jahren mit dem Umgang mit User Generated Content.

Was halten Sie vom NetzDG?
Sven Oerke: Die Regelung, wie sie jetzt beschlossen wurde, halte ich nicht für optimal, denn es wird mit sehr hohen Strafen auch für kleinere Unternehmen gedroht. Grundsätzlich gilt ja, dass derjenige, der eine Seite betreibt, für die Inhalte darauf verantwortlich ist. Das ist bereits seit drei Jahren in einer EU-Richtlinie sehr gut geregelt. Diese Richtlinie wurde allerdings in Deutschland nicht ratifiziert. Genauer: Es hat sich einfach kein deutsches Gericht daran gehalten. 

Wie kam es denn zu dem Gesetz?
Oerke: Vor dem Hintergrund dessen, was in den letzten anderthalb Jahren passiert ist, aber auch im Zuge des Wahlkampfes, wurde natürlich solch ein Thema sehr stark angegangen, sehr stark politisiert. Allerdings gab es sehr viele Anklagen, aber nur ­wenige Lösungsansätze. Dabei ist das Problem seit 20 Jahren dasselbe.

Die feine Linie zwischen Meinungsfreiheit und Volksverhetzung?
Oerke: Genau. Diese Linie ist nicht nur fein, sie ist auch alles andere als trennscharf. Und so wird es jetzt wieder Oberlandesgerichtsurteile geben, die dann als Maßstab genommen werden für diese Trennschärfe, die es nämlich nicht gibt. Man kann nicht alles festschreiben. Vieles ist Interpretations­sache – und wird es immer bleiben.

Woran liegt das?
Oerke: Sie können aus einem Text niemals herauslesen, wie die Emotionalität eines Menschen dahinter war. Manche Menschen drücken sich schriftlich auch nicht so aus, wie sie es mündlich tun würden. Und die Menschen sind auch gewohnt, dass sie im Internet mal richtig Dampf ablassen können. Ich ­habe schon öfter Kontakt mit Leuten aufgenommen, die sehr krasse Kommentare im Netz geschrieben haben. Die hatten oft nicht das geringste Unrechtsbewusstsein.