Netzwerkdurchsetzungsgesetz (NetzDG)

April 2020: CEP Policy Brief: „Terroristische Inhalte Online – Grundlagen für nachvollziehbare Transparenz beim Einsatz automatisierter Entscheidungssysteme (ADM-Systeme) auf Social Media-Plattformen“

Autoren: Alexander Ritzmann (CEP Senior Advisor), Prof. Dr. Hany Farid (University of California, Berkeley, und CEP Senior Advisor)

Download (PDF)

ENGLISH VERSION: Download (PDF)


Um die Rechte der Nutzer*innen in Sozialen Medien wirklich schützen zu können, muss zunächst nachvollziehbare Transparenz über die angewandten Moderations- und Filtersysteme gegeben sein. Gemeinsam mit Professor Hany Farid, einem der weltweit führenden Experten im Feld Künstliche Intelligenz/Maschinelles Lernen (University of California, Berkeley) haben wir einige Grundsätze und Fragestellungen entwickelt, die als Vorgaben für die Transparenzberichte des NetzDG 2.0 dienen könnten.


März 2020: CEP Policy Paper: „NetzDG 2.0: Empfehlungen zur Weiterentwicklung des Netzwerkdurchsetzungsgesetzes (NetzDG) und Untersuchung zu den tatsächlichen Sperr- und Löschprozessen von YouTube, Facebook und Instagram“

Autoren: Alexander Ritzmann (Senior Advisor), Dr. Hans-Jakob Schindler (Senior Director) und Marco Macori (Research Fellow)

Bei Fragen zu diesem Papier kontaktieren Sie uns bitte unter der E-Mail-Adresse [email protected]

Download (PDF)

ENGLISH VERSION: Download (PDF)


In den kommenden Monaten soll des Netzwerkdurchsetzungsgesetz (NetzDG) novelliert werden. In diesem CEP Policy Paper sprechen wir konkrete Empfehlungen für das neue „NetzDG 2.0“ aus, die auch auf einem von uns durchgeführten Stresstest zur Verfahrenslogik des aktuellen NetzDG beruhen.

Die Ergebnisse des Stresstests weisen darauf hin, dass die dem NetzDG zu Grunde liegende Verfahrenslogik von „notice and take down“ (Sperrung/Löschung nach Beschwerde) unzureichend funktioniert und für die Reduzierung rechtswidriger Inhalte online nicht ausreichend ist. Unsere Stichprobe lässt zudem Zweifel daran aufkommen, ob die Erfolgsmeldungen der Internet-Unternehmen der Realität entsprechen.

Unsere Empfehlungen sind deshalb:

  • Mehr Transparenz und Nachvollziehbarkeit von Prozessen und Technologien, die zur Umsetzung von NetzDG-Vorgaben und Community-Richtlinien eingesetzt werden, sind dringend nötig.
  • Für eine systematische und kontinuierliche Suche nach offensichtlich illegalen Inhalten sollten beispielsweise Jugenschutz.Net und/oder Akteure der Zivilgesellschaft beauftragt und dementsprechend finanziert werden.
  • Automatisierte Bilderkennungs-Algorithmen (z.B. Upload-Filter) für Logos und Symbole verbotener Organisationen sollten (stärker) eingesetzt und reguliert werden.

November 2018: CEP-CEPS Bericht und CEP-BIGS Panel-Veranstaltung mit Dr. Hany Farid

Im November 2018 veröffentlichte das Counter Extremism Project (CEP) in Zusammenarbeit mit dem Centre for European Policy Studies (CEPS) einen gemeinsamen Bericht zu den Auswirkungen des Netzwerkdurchsetzungsgesetzes (NetzDG). Der Bericht konnte klar aufzeigen, dass es aufgrund des Gesetzes nicht wie von Kritikern zuvor befürchtet, zu vermehrter Zensur kam.

Das NetzDG trat am 1. Januar 2018 in Kraft und verpflichtet Onlineplattformen illegale Inhalte und Hasskommentare zu löschen. Kommen die Plattformen dieser Auflage nicht nach, drohen hohe Geldstrafen. Das Gesetz ist eine entscheidende Maßnahme zur Bekämpfung von Hass im Netz. Nachforschungen von CEP haben ergeben, dass das Gesetz weder zu einer Flut von Beschwerden geführt hat, noch wurden mehr Inhalte als nötig blockiert. Über diese Erkenntnisse hinaus, enthält der Bericht Vorschläge zur Verbesserung des Gesetzes, beispielsweise durch die Festlegung klarer Berichterstattungsformate. Den Bericht können Sie hier lesen und herunterladen.

In Zusammenarbeit mit dem Brandenburgischen Institut für Gesellschaft und Sicherheit (BIGS) organisierte CEP im Haus der Bundespressekonferenz in Berlin eine Diskussionsrunde zur Effizienz und Effektivität des NetzDG. Einer der anwesenden Diskutanten war Dr. Hany Farid, Professor an der University of California, Berkeley, Erfinder von eGLYPH und Senior Advisor von CEP.

 

 

v.l.n.r. Dr. Daniel Holznagel (BMJV), Christina Dinar (Amadeu Antonio Stiftung), Alexander Ritzmann (CEP Senior Advisor, Radicalisation Awareness Network (RAN)), Jason Pielemeier (Global Network Initiative), Dr. Hany Farid (University of California und CEP Senior Advisor).