NetzDG u. Digital Services Act

September 2020: CEP Policy Paper: “The EU Digital Services Act (DSA) – Recommendations For An Effective Regulation Against Terrorist Content Online”

Authors: Alexander Ritzmann (CEP Senior Advisor), Prof. Dr. Hany Farid (University of California, Berkeley, and CEP Senior Advisor), Dr. Hans-Jakob Schindler (CEP Senior Director)

ENGLISH VERSION: Download (PDF)


In March 2020, CEP Germany carried out a sample analysis to test the extent to which YouTube, Facebook and Instagram block “manifestly illegal” terrorist content upon notification. Our findings raise doubts that the currently applied compliance systems of these companies achieve the objectives of making their services safe for users. As a result, CEP proposed requirements for effective and transparent compliance regimes with a focus on automated decision-making tools and lessons learned from the regulation of the financial industry. This Policy Paper combines all the relevant lessons learned and gives concrete recommendations on how to make the DSA also an effective regulation against terrorist content online.


April 2020: CEP Policy Brief: „Terroristische Inhalte Online – Grundlagen für nachvollziehbare Transparenz beim Einsatz automatisierter Entscheidungssysteme (ADM-Systeme) auf Social Media-Plattformen“

Autoren: Alexander Ritzmann (CEP Senior Advisor), Prof. Dr. Hany Farid (University of California, Berkeley, und CEP Senior Advisor)

Download (PDF)

ENGLISH VERSION: Download (PDF)


Um die Rechte der Nutzer*innen in Sozialen Medien wirklich schützen zu können, muss zunächst nachvollziehbare Transparenz über die angewandten Moderations- und Filtersysteme gegeben sein. Gemeinsam mit Professor Hany Farid, einem der weltweit führenden Experten im Feld Künstliche Intelligenz/Maschinelles Lernen (University of California, Berkeley) haben wir einige Grundsätze und Fragestellungen entwickelt, die als Vorgaben für die Transparenzberichte des NetzDG 2.0 dienen könnten.


März 2020: CEP Policy Paper: „NetzDG 2.0: Empfehlungen zur Weiterentwicklung des Netzwerkdurchsetzungsgesetzes (NetzDG) und Untersuchung zu den tatsächlichen Sperr- und Löschprozessen von YouTube, Facebook und Instagram“

Autoren: Alexander Ritzmann (Senior Advisor), Dr. Hans-Jakob Schindler (Senior Director) und Marco Macori (Research Fellow)

Bei Fragen zu diesem Papier kontaktieren Sie uns bitte unter der E-Mail-Adresse [email protected]

Download (PDF)

ENGLISH VERSION: Download (PDF)


In den kommenden Monaten soll des Netzwerkdurchsetzungsgesetz (NetzDG) novelliert werden. In diesem CEP Policy Paper sprechen wir konkrete Empfehlungen für das neue „NetzDG 2.0“ aus, die auch auf einem von uns durchgeführten Stresstest zur Verfahrenslogik des aktuellen NetzDG beruhen.

Die Ergebnisse des Stresstests weisen darauf hin, dass die dem NetzDG zu Grunde liegende Verfahrenslogik von „notice and take down“ (Sperrung/Löschung nach Beschwerde) unzureichend funktioniert und für die Reduzierung rechtswidriger Inhalte online nicht ausreichend ist. Unsere Stichprobe lässt zudem Zweifel daran aufkommen, ob die Erfolgsmeldungen der Internet-Unternehmen der Realität entsprechen.

Unsere Empfehlungen sind deshalb:

  • Mehr Transparenz und Nachvollziehbarkeit von Prozessen und Technologien, die zur Umsetzung von NetzDG-Vorgaben und Community-Richtlinien eingesetzt werden, sind dringend nötig.
  • Für eine systematische und kontinuierliche Suche nach offensichtlich illegalen Inhalten sollten beispielsweise Jugenschutz.Net und/oder Akteure der Zivilgesellschaft beauftragt und dementsprechend finanziert werden.
  • Automatisierte Bilderkennungs-Algorithmen (z.B. Upload-Filter) für Logos und Symbole verbotener Organisationen sollten (stärker) eingesetzt und reguliert werden.

September 2019: Papier von Alexander Ritzmann: „Fighting Hate Speech And Terrorist Propaganda On Social Media In Germany: ‘Lessons Learned’ After One Year Of The NetzDG Law”, George Washington University

Autor: Alexander Ritzmann, Senior Advisor von CEP

Download (PDF)


November 2018: CEP-CEPS Bericht und CEP-BIGS Panel-Veranstaltung mit Dr. Hany Farid

Im November 2018 veröffentlichte das Counter Extremism Project (CEP) in Zusammenarbeit mit dem Centre for European Policy Studies (CEPS) einen gemeinsamen Bericht zu den Auswirkungen des Netzwerkdurchsetzungsgesetzes (NetzDG). Der Bericht konnte klar aufzeigen, dass es aufgrund des Gesetzes nicht wie von Kritikern zuvor befürchtet, zu vermehrter Zensur kam.

Das NetzDG trat am 1. Januar 2018 in Kraft und verpflichtet Onlineplattformen illegale Inhalte und Hasskommentare zu löschen. Kommen die Plattformen dieser Auflage nicht nach, drohen hohe Geldstrafen. Das Gesetz ist eine entscheidende Maßnahme zur Bekämpfung von Hass im Netz. Nachforschungen von CEP haben ergeben, dass das Gesetz weder zu einer Flut von Beschwerden geführt hat, noch wurden mehr Inhalte als nötig blockiert. Über diese Erkenntnisse hinaus, enthält der Bericht Vorschläge zur Verbesserung des Gesetzes, beispielsweise durch die Festlegung klarer Berichterstattungsformate. Den Bericht können Sie hier lesen und herunterladen.


CEP-CEPS Studie: “Germany’s NetzDG: A key test for combatting online hate”, Nov. 2018

Download (PDF)


In Zusammenarbeit mit dem Brandenburgischen Institut für Gesellschaft und Sicherheit (BIGS) organisierte CEP im Haus der Bundespressekonferenz in Berlin eine Diskussionsrunde zur Effizienz und Effektivität des NetzDG. Einer der anwesenden Diskutanten war Dr. Hany Farid, Professor an der University of California, Berkeley, Erfinder von eGLYPH und Senior Advisor von CEP.


 

 

v.l.n.r. Dr. Daniel Holznagel (BMJV), Christina Dinar (Amadeu Antonio Stiftung), Alexander Ritzmann (CEP Senior Advisor, Radicalisation Awareness Network (RAN)), Jason Pielemeier (Global Network Initiative), Dr. Hany Farid (University of California und CEP Senior Advisor).