“Chat-Kontrolle”: Warum die EU Ihre Nachrichten lesen will und was Ashton Kutcher damit zu tun hat

Posted on
“Chat-Kontrolle”: Warum die EU Ihre Nachrichten lesen will und was Ashton Kutcher damit zu tun hat

Die EU-Kommission plant, ein sogenanntes „Chat-Monitoring“ einzuführen und damit die Nachrichten aller umfassend und grundlos zu überwachen. Hollywood-Star Ashton Kutcher bietet dafür eine mögliche Technik an.

“Kampf gegen Kindesmissbrauch” – auf dieser Linie kann wohl niemand protestieren. Vielleicht leitet die EU deshalb ihre Mitteilung zum Gesetzesvorschlag zum Schutz von Kindern genau damit ein. Doch was die EU-Kommission hier beschlossen hat, könnte nichts anderes bedeuten als das Ende der verschlüsselten und damit privaten Kommunikation im Internet. Denn die EU will, dass alle Online-Dienste, einschließlich Whatsapp, Facebook, Signal und Tiktok, „Material über sexuellen Missbrauch von Kindern auf ihren Diensten entdecken, melden und entfernen“.

Damit dies jedoch gelingt, sind geschlossene und automatisierte Maschenkontrollen der Inhalte erforderlich, viele davon dauerhaft. Diese „Chatkontrolle“ stellt alle Nutzer auf allen Plattformen unter Generalverdacht, alles im Namen von Kindern. Oder konkreter: Jede Nachricht auf jeder Plattform, auf jedem Gerät und von jeder Person muss auf Bilder von Kindesmissbrauch und Kriminellen, die Kinder kontaktieren, durchsucht werden.

„Alles, was das Überwachungsherz begehrt“

Der deutsche Politiker Tiemo Wölken befürwortet dieses Projekt klare Worte: Das EU-Projekt enthält “alles, was das Herz der Überwachung begehrt”, ist “eine Katastrophe” und erfordert Technologien, die er “Terrorfilter” nennt. Denn die Maßnahmen, die sich die EU-Kommission ausgedacht hat, sind enorm komplex und daher nur automatisiert zu bewältigen.

Dies erfordert Filtertechnologien, die alle Chats automatisch analysieren. Sie müssen Missbrauchsmaterial entfernen, nach neuen Inhalten suchen, die noch nicht in den Datenbanken aufgetaucht sind, und Verdachtsfälle melden. Wie die Plattformen das umsetzen, bleibt den Betreibern überlassen. Um Abhilfe zu schaffen, will die EU eine zentrale Stelle einrichten, die „insbesondere Online-Dienste dabei unterstützt, ihren neuen Pflichten nachzukommen, Risikobewertungen durchzuführen und Inhalte mit Kindesmissbrauch aufzudecken, zu melden, zu entfernen und zu sperren“.

Natürlich verspricht die EU, dass der Datenschutz bei allem an erster Stelle steht, die Privatsphäre wichtig ist und bei der Überprüfung der Inhalte von Online-Diensten keine Fehler gemacht werden dürfen. Eine gute Theorie, die sich mit dem Ziel „Chatkontrolle“ kaum vereinbaren lässt.

IT-Experten und Datenschützer empört

Auch deshalb werden Kampagnen wie “FÜR Chatkontrolle!” ein sofortiges Ende der Gespräche und eine Neufassung des vorgeschlagenen Gesetzes. Um zu helfen, bietet die Fusion der digitalen Gesellschaft und des Chaos Computer Club zehn Prinzipien, die laut IT-Experten erfüllt sein müssen, bevor eine Technologie, die Nachrichten auf verbotene Inhalte scannt, live gehen kann. Dazu gehört die Forderung, keine Massenüberwachung zuzulassen, gezielte und individuelle Eingriffe vorzunehmen und eine unabhängige Überwachung zuzulassen.

Die Befürworter des Projekts finden sich natürlich vor allem unter verantwortungsbewussten Politikern, aber auch im Herzen der Traumfabrik Hollywood. Bundesinnenministerin Nancy Faeser (SPD) begrüßte den Vorschlag gegenüber „dpa“: „Mit einer klaren Rechtsgrundlage, verbindlichen Informationswegen und einem neuen EU-Zentrum können wir die Prävention und Strafverfolgung EU-weit deutlich stärken. Das wird durchgesetzt.“ Unternehmen in der Zukunft, um sexuellen Missbrauch zu verhindern. Die Identifizierung und Meldung von Kindern ist ein wichtiger und überfälliger Schritt im Kampf gegen Kindesmissbrauch.”

Gut, dass es Lösungen gibt.

Die einzige Frage, die sich stellt, ist, wie ein solcher Filter implementiert wird, oder allgemein die erforderlichen Technologien. Die Arbeit dahinter ist riesig, die Anforderungen an eine unausgereifte künstliche Intelligenz unglaublich hoch. Hier kommen Ashton Kutcher und eine Organisation namens „Thorn“ ins Spiel. Der Schauspieler und Tech-Investor gründete Thorn, um Plattformen zur Erkennung von Inhalten zur Erkennung von Kindesmissbrauch zu entwickeln. Es ist fertig und heißt “Safer”.

Dem Fachmagazin „Netzpolitik“ liegen E-Mails und Chatnotizen vor, aus denen hervorgeht, dass „Thorn“ sich gegenüber den EU-Institutionen als Non-Profit-Organisation präsentierte und immer wieder „Safer“ als mögliche Lösung für „Chat-Kontrolle“ präsentierte. Seinen Zugang zu Schlüsselpositionen in der Kommission verdankt „Thorn“ dem berühmten Gründer, mit dem Ursula von der Leyen seit mehr als zwei Jahren persönlichen Kontakt pflegt.

Laut Netzpolitik zeigt die Lobbyarbeit, dass Thorn vor allem im letzten Jahr sehr aktiv war und viele Verantwortliche innerhalb der EU-Kommission erreicht hat, die eine Lösung suchen, um Kindesmissbrauch im Internet durch automatisierte Kontrollen einzudämmen.

Bislang gibt es offenbar keine Einigung zwischen „Thorn“ und der EU, aber das bereits erwähnte Zentrum für Online-Service-Support könnte zum Einfallstor für kommerzielle Anbieter wie „Safer“ werden, die versprechen, ein komplexes Problem mit vorgefertigten Lösungen zu lösen.

Privatsphäre in privater Hand

Dies wirft zwei Fragen auf, die nicht nur gelten, wenn die Organisation von Ashton Kutcher den Zuschlag erhält: Erstens vermarktet sie den Schutz von Kindern vor Missbrauch, zweitens verschafft sie Dritten Zugriff auf Millionen und Abermillionen privater Nachrichten und Geräte. Beides scheint sehr problematisch zu sein, und man bestätigt es auch. Tweet des ehemaligen Europaabgeordneten Félix Reda.

Als Beispiel dafür, wie sich ein solches Vorgehen in der jüngeren Vergangenheit als kostspieliger Fehler herausstellte, nannte er Luca. Auch in diesem Fall erhielt ein privates Unternehmen mit finanziellen Interessen unter dem Deckmantel einer akuten Notlage astronomische Summen für eine, wie sich später herausstellte, schlechte Performance, ausgelöst durch zahlreiche Datenskandale.

Und dass bei einer App, die mehr oder weniger freiwillig installiert werden könnte, mit einer EU-weiten Verpflichtung, automatisch alle Chats zu durchsuchen, ein Scheitern schlimme Folgen hätte.

noch ist nichts entschieden

Der Bundesdatenschutzbeauftragte Ulrich Kelber gibt grünes Licht, wenn auch in Form von Kritik. Twitter. Er schreibt: „Der Kommissionsentwurf ist mit unseren europäischen Werten nicht vereinbar und kollidiert mit geltendem Datenschutzrecht.“ In anderen Tweets erklärt er warum. Zum weiteren Vorgehen kündigt er an: „Ich werde mich in meiner Funktion als BfDI auf nationaler und europäischer Ebene dafür einsetzen, dass es nicht zu einer Regulierung kommt.“