eGLYPH - Extremismus im Netz Bekämpften

Was ist eGLYPH?

eGLYPH ist eine Software, die auf der PhotoDNA-Technologie basiert und bereits bekannte Bilder, Videos und Audiodateien aufspüren kann, um diese dann gegebenenfalls aus dem Netz entfernen zu lassen. PhotoDNA wurde von Dr. Hany Farid, Informatikprofessor an der Dartmouth Universität in New Hampshire und Experte für digitale Forensik, in Zusammenarbeit mit dem National Center for Missing and Exploited Children (NCMEC) im Jahr 2009 entwickelt, um die Verbreitung von kinderpornographischen Fotos im Netz zu stoppen. Im Jahr 2016, entwickelte Dr. Farid zusammen mit dem Counter Extremism Project die Software eGLYPH, welche in der Lage ist, auch Video- und Audioinhalte schnell und treffsicher zu analysieren.

Warum ist eGLYPH wichtig?

eGLYPH ist eine innovative technologische Lösung um der Verbreitung von extremistischen Inhalten sowohl präventiv als auch reaktiv entgegenzuwirken und um zu verhindern, dass Online-Plattformen Instrumente der Gewalt werden.

Wie funktioniert eGLYPH?

eGLYPH extrahiert eine eindeutige digitale Signatur, oder Hash, aus Bildern, Videos oder Tonaufnahmen, welche gegen nationale Gesetze oder gegen die Geschäftsbedingungen der Internet- oder Social-Media-Unternehmen verstoßen. Diese Signatur wird dann verwendet, um weitere identische oder ähnliche Uploads zu identifizieren. Derartige Funde werden dem Unternehmen mitgeteilt und anschließend gelöscht, wenn ihr Inhalt gegen Gesetze oder die Geschäftsbedingungen verstößt. eGLYPH kann auf zwei Arten eingesetzt werden: 

  1. Internetunternehmen und soziale Netzwerke können eGLYPH auf ihren Plattformen einsetzen, um spezifische Inhalte zu erkennen und diese bereits beim Hochladen als potentiell löschungswürdig zu markieren. Sollten die markierten Inhalte tatsächlich gegen die Geschäftsbedingungen des Unternehmens oder gegen Gesetze verstoßen, werden sie durch das Unternehmen entfernt. 
  2. eGLYPH kann mit einem Webcrawler gekoppelt werden, um so das Internet aktiv nach relevanten Inhalten zu durchsuchen. Werden solche Inhalte erkannt, können die verantwortlichen Unternehmen zu ihrer Entfernung aufgefordert werden.

Welche Rolle spielt das Counter Extremism Project (CEP)?

Seit seinem Start im Jahr 2014, arbeitet das gemeinnützige Counter Extremism Project (CEP) daran, extremistische Inhalte auf Twitter, Facebook, YouTube sowie auf anderen Internetplattformen und sozialen Netzwerken zu identifizieren und zu melden. Der Meldeprozess wurde bisher manuell bearbeitet und ist daher zeitintensiv und ineffizient. Um diesen Prozess zu automatisieren, kooperierte das CEP mit Informatik-Professor Dr. Hany Farid und entwickelte eGLYPH, eine technologische Lösung, die im hohen Maße die Fähigkeit von Extremisten und Terroristen einschränkt, illegale Inhalte zu verbreiten und Online-Plattformen in ihrem Sinne zu missbrauchen. 

Seit 2017 hat CEP ein Büro in Berlin und Kooperationspartner in Brüssel und anderen europäischen Ländern.

Wie unterscheidet sich eGLYPH von anderen Programmen? 

Unternehmen arbeiten bereits daran, Inhalte zu entfernen, die gewaltverherrlichend und volksverhetzend sind und gegen ihre Geschäftsbedingungen verstoßen. Viele setzen bereits auf Hashing-Technologien, wie PhotoDNA, um z.B. den Upload von kinderpornografischem Material zu verhindern und Kinderpornografie aus dem Internet zu entfernen. eGLYPH weitet diese technologischen Möglichkeiten aus und ist in der Lage, auch Video- und Audiodateien zu analysieren und den Identifizierungs- und Entfernungsprozess zu beschleunigen und auszuweiten. Aufgrund dieser technologischen Vorteile, handelt es sich bei eGLYPH um ein hervorragendes Mittel zur Bekämpfung extremistischer Inhalte. 

Ich welchen Fällen soll eGLYPH verwendet werden?

eGLYPH kann theoretisch zur Identifizierung und Filterung jeder beliebigen Audio-, Video- und Bilddatei mit extremistischem Inhalt genutzt werden. Das Counter Extremism Project plädiert dafür, eGLYPH zunächst für die Entfernung eindeutiger Fälle – wie Videos von Hinrichtungen und extremen Gräueltaten – einzusetzen. 

Wie könnte eGLYPH zukünftig angewendet werden?

Im Zusammenspiel mit der Entwicklung einer nationalen (oder europäischen) Datenbank von extremistischen Inhalten, ist eGLYPH ein effizientes Instrument, die Verherrlichung von Gewalt oder die Verbreitung von Propaganda von extremistischen Gruppen zu verhindern. Aus diesem Grund ist die Software sowohl für Internet- und Social-Media-Unternehmen, als auch für zivilgesellschaftliche Gruppen und Sicherheitsbehörden interessant. 

Wie erfahre ich mehr über eGLYPH?

Falls sie noch weitere Fragen zu eGLYPH haben, wenden Sie sich bitte an [email protected]