NetzDG u. Digital Services Act

NetzDG u. Digital Services Act

Juli 2021: Joint Open Letter by HateAid and CEP to the governments of Sweden, Ireland and Finland: “Are you safeguarding freedom of speech online or protecting Big Tech?”

Download (PDF)

Juni 2021: CEP Policy Brief: “Proposed EU Digital Services Act (DSA): Provisions concerning auditing and opportunities to strengthen this mechanism”

Author: Dr. Hans-Jakob Schindler (CEP Senior Director)

Download (PDF)

The new audit regime that the Digital Services Act (DSA) envisions for very large platforms mirrors in significant aspects audit regimes already deployed in other industries, in particular the financial industry. Given that the audit regime is envisioned to play a key role in ensuring compliance with the provision of the DSA at very large platforms, these discussed improvements could be contemplated.

Juni 2021: CEP Policy Brief: “Proposed EU Digital Services Act (DSA): “Notice and (NO) action”: Lessons (not) learned from testing the content moderation systems of very large social media platforms”

Author: Alexander Ritzmann – Senior Advisor to CEP where he focusses on effective regulation and compliance of “social media” since 2015, working on the EU Internet Forum, the German NetzDG law, the EU Terrorist Online Directive and the DSA.

Download (PDF)

Mai 2021: CEP Policy Paper: “EU Commission consultation – Digital Services Act package – ex ante regulatory instrument of very large online platforms acting as gatekeepers”

The current draft DSA is based on a set of narratives about the role, function and business models of so-called gatekeeper platforms that do not seem to adequately reflect their actual functionality and commercial purpose. This paper will therefore those systemic misunderstandings and provide an alternative narrative that might help to build the internet and intermediary services the EU is actually aiming for.

Authors: Alexander Ritzmann (CEP Senior Advisor), Dr. Hans-Jakob Schindler (CEP Senior Director) and Lucinda Creighton (CEP Senior Europe Advisor)

Download (PDF)

For the key points of the policy paper please see this 2-page summary:

Mai 2021: CEP Policy Brief: “EU Commission consultation - Digital Services Act (DSA): Towards a new understanding of “social” media that can actually protect EU citizens and serve European democracies”

Download (PDF)

September 2020: CEP Policy Paper: “The EU Digital Services Act (DSA) – Recommendations For An Effective Regulation Against Terrorist Content Online”

Authors: Alexander Ritzmann (CEP Senior Advisor), Prof. Dr. Hany Farid (University of California, Berkeley, and CEP Senior Advisor), Dr. Hans-Jakob Schindler (CEP Senior Director)

ENGLISH VERSION: Download (PDF)

In March 2020, CEP Germany carried out a sample analysis to test the extent to which YouTube, Facebook and Instagram block “manifestly illegal” terrorist content upon notification. Our findings raise doubts that the currently applied compliance systems of these companies achieve the objectives of making their services safe for users. As a result, CEP proposed requirements for effective and transparent compliance regimes with a focus on automated decision-making tools and lessons learned from the regulation of the financial industry. This Policy Paper combines all the relevant lessons learned and gives concrete recommendations on how to make the DSA also an effective regulation against terrorist content online.

April 2020: CEP Policy Brief: „Terroristische Inhalte Online – Grundlagen für nachvollziehbare Transparenz beim Einsatz automatisierter Entscheidungssysteme (ADM-Systeme) auf Social Media-Plattformen“

Autoren: Alexander Ritzmann (CEP Senior Advisor), Prof. Dr. Hany Farid (University of California, Berkeley, und CEP Senior Advisor)

Download (PDF)

ENGLISH VERSION: Download (PDF)

Um die Rechte der Nutzer*innen in Sozialen Medien wirklich schützen zu können, muss zunächst nachvollziehbare Transparenz über die angewandten Moderations- und Filtersysteme gegeben sein. Gemeinsam mit Professor Hany Farid, einem der weltweit führenden Experten im Feld Künstliche Intelligenz/Maschinelles Lernen (University of California, Berkeley) haben wir einige Grundsätze und Fragestellungen entwickelt, die als Vorgaben für die Transparenzberichte des NetzDG 2.0 dienen könnten.

März 2020: CEP Policy Paper: „NetzDG 2.0: Empfehlungen zur Weiterentwicklung des Netzwerkdurchsetzungsgesetzes (NetzDG) und Untersuchung zu den tatsächlichen Sperr- und Löschprozessen von YouTube, Facebook und Instagram“

Autoren: Alexander Ritzmann (Senior Advisor), Dr. Hans-Jakob Schindler (Senior Director) und Marco Macori (Research Fellow)

Download (PDF)

ENGLISH VERSION: Download (PDF)

In den kommenden Monaten soll des Netzwerkdurchsetzungsgesetz (NetzDG) novelliert werden. In diesem CEP Policy Paper sprechen wir konkrete Empfehlungen für das neue „NetzDG 2.0“ aus, die auch auf einem von uns durchgeführten Stresstest zur Verfahrenslogik des aktuellen NetzDG beruhen.

Die Ergebnisse des Stresstests weisen darauf hin, dass die dem NetzDG zu Grunde liegende Verfahrenslogik von „notice and take down“ (Sperrung/Löschung nach Beschwerde) unzureichend funktioniert und für die Reduzierung rechtswidriger Inhalte online nicht ausreichend ist. Unsere Stichprobe lässt zudem Zweifel daran aufkommen, ob die Erfolgsmeldungen der Internet-Unternehmen der Realität entsprechen.

Unsere Empfehlungen sind deshalb:

  • Mehr Transparenz und Nachvollziehbarkeit von Prozessen und Technologien, die zur Umsetzung von NetzDG-Vorgaben und Community-Richtlinien eingesetzt werden, sind dringend nötig.
  • Für eine systematische und kontinuierliche Suche nach offensichtlich illegalen Inhalten sollten beispielsweise Jugenschutz.Net und/oder Akteure der Zivilgesellschaft beauftragt und dementsprechend finanziert werden.
  • Automatisierte Bilderkennungs-Algorithmen (z.B. Upload-Filter) für Logos und Symbole verbotener Organisationen sollten (stärker) eingesetzt und reguliert werden.

September 2019: Papier von Alexander Ritzmann: „Fighting Hate Speech And Terrorist Propaganda On Social Media In Germany: ‘Lessons Learned’ After One Year Of The NetzDG Law”, George Washington University

Autor: Alexander Ritzmann, Senior Advisor von CEP

Download (PDF)

November 2018: CEP-CEPS Bericht und CEP-BIGS Panel-Veranstaltung mit Dr. Hany Farid

Im November 2018 veröffentlichte das Counter Extremism Project (CEP) in Zusammenarbeit mit dem Centre for European Policy Studies (CEPS) einen gemeinsamen Bericht zu den Auswirkungen des Netzwerkdurchsetzungsgesetzes (NetzDG). Der Bericht konnte klar aufzeigen, dass es aufgrund des Gesetzes nicht wie von Kritikern zuvor befürchtet, zu vermehrter Zensur kam.

Das NetzDG trat am 1. Januar 2018 in Kraft und verpflichtet Onlineplattformen illegale Inhalte und Hasskommentare zu löschen. Kommen die Plattformen dieser Auflage nicht nach, drohen hohe Geldstrafen. Das Gesetz ist eine entscheidende Maßnahme zur Bekämpfung von Hass im Netz. Nachforschungen von CEP haben ergeben, dass das Gesetz weder zu einer Flut von Beschwerden geführt hat, noch wurden mehr Inhalte als nötig blockiert. Über diese Erkenntnisse hinaus, enthält der Bericht Vorschläge zur Verbesserung des Gesetzes, beispielsweise durch die Festlegung klarer Berichterstattungsformate. Den Bericht können Sie hier lesen und herunterladen.

CEP-CEPS Studie: “Germany’s NetzDG: A key test for combatting online hate”, Nov. 2018

Download (PDF)

In Zusammenarbeit mit dem Brandenburgischen Institut für Gesellschaft und Sicherheit (BIGS) organisierte CEP im Haus der Bundespressekonferenz in Berlin eine Diskussionsrunde zur Effizienz und Effektivität des NetzDG. Einer der anwesenden Diskutanten war Dr. Hany Farid, Professor an der University of California, Berkeley, Erfinder von eGLYPH und Senior Advisor von CEP.

v.l.n.r. Dr. Daniel Holznagel (BMJV), Christina Dinar (Amadeu Antonio Stiftung), Alexander Ritzmann (CEP Senior Advisor, Radicalisation Awareness Network (RAN)), Jason Pielemeier (Global Network Initiative), Dr. Hany Farid (University of California und CEP Senior Advisor).

Daily Dose

Extremists: Their Words. Their Actions.

In Their Own Words:

The current stage demands that we exhaust the enemy until it whines and moans due to economic and military bleeding. It is in this context that the operations outside the theatre in which the enemy expects us to strike, operations on enemy soil and beyond enemy lines becomes evident.

Ayman al-Zawahiri, Leader of al-Qaeda Sept. 11, 2021
View Archive

CEP on Twitter