Wenn Politiker sich dieser Tage zu Problemen der digitalen Welt äußern, dann ist eigentlich volle Deckung angesagt. Der eine – der zugleich auch Minister für freies Rasen mit der dicken Karre ist – beklagt zu viele Bilder von Essen im Internet. Der Energieverbrauch sei immens, ob dat Not tut? Das fragt er. Gut, da kann man noch drüber hinwegsehen, es hätte schlimmer kommen können, er hätte all die Katzenbildchen entdecken können.
Aber dann kommt die EU mit dem Digital Services Act (DSA), das durch seinen grenzüberschreitenden Ansatz es streng genommen ermöglichen kann, dass Viktor Orban aus Ungarn unliebsame Inhalte im Internet einfach ohne Richtervorbehalt europaweit sperren und entfernen lassen kann. Ein fieses Zensurinstrument.
Und nun, kurze Zeit später, noch die Chatkontrolle, der Entwurf für ein Überwachungsmonster, der auch aus der Feder totalitärer Herrscher wie Putin oder Xi kommen könnte.
Für die beiden EU-Dinger kommen Zuschi (hat nichts mit Fisch zu tun, entstammt dem Zensursula -> Uschi -> Zuschi) und Ylva (die heißt wirklich so) ins Spiel. Und Ashton (der auch wirklich so heißt). Und wo die ins Spiel kommen, da sollte jeder aus der Deckung kommen: Die EU plant die anlasslose und flächendeckende Durchleuchtung sämtlicher privater elektronischer Nachrichten zur Suche nach kinderpornografischen Inhalten.
Nichts dagegen, das man nach Kinderpornos sucht. Anonymous Aktivisten engagieren sich energisch für die Entfernung von KiPo aus dem Internet. Aber nicht so. Kinderpornografie dient hier nur als trojanisches Pferd für die Etablierung einer zentralen Überwachungsstruktur, denn was könnte man schon dagegen haben?
Über den Entwurf zur Chatkontrolle selbst hinaus weiß man wenig darüber, wie diese Chatkontrolle technisch ausgestaltet werden soll, denn mit technischen Details geht man sparsam um. Nur so viel: eine neue tolle Superbehörde, angesiedelt in Brüssel in Rufweite zu Europol, soll Hostingprovider und Anbieter von Messengerdiensten, Betreiber von Chats in Online-Games und jeden neuen Dienst, der in seiner Ausgestaltung Kommunikation ermöglicht, dazu zwingen können, die Kommunikation der User auf bekannte und auch bisher unbekannte Inhalte zu Kindesmissbrauch zu scannen. Sogar „das in Videokonferenzen Gesprochene könnte auf Grundlage der geplanten Regelung künftig durchforstet werden“, sagt EU-Parlamentarier Patrick Breyer, das habe die EU-Kommission ausdrücklich bestätigt.
Wie wir alle wissen, gibt es bereits einen Ansatz, nach dem die Anbieter Google, Facebook und Microsoft die Kommunikation ihrer Nutzer nach kinderpornografischen Inhalten durchleuchten können. Doch dem kann man ausweichen, denn wer nutzt schon diese Dienste, ohne dazu gezwungen zu werden? (Google, Facebook, Microsoft? Seriously?)
Diesem EU-Monster kann man kaum entkommen.
Der neue Entwurf geht aber weit über alles hinaus, was Bürgerrechtler und Datenschützer befürchtet hatten, er ist der feuchte Traum manch eines Diktators. Er ist ein Großangriff auf Privatsphäre, Ende-zu-Ende-Verschlüsselung, den Datenschutz und die Grundrechte gleichzeitig. Er setzt die Vertraulichkeit der elektronischen Kommunikation aufs Spiel. Und er zeugt von einer Dummheit und Chuzpe, die ihresgleichen sucht. Auch für EU-Kommissare gilt wohl: „Die Dummheit hat aufgehört sich zu schämen“, denn anders kann man sich nicht erklären, dass es dieser Entwurf überhaupt bis zur Präsentation vor der Presse geschafft hat.
Es ist schon streitig, ob es überhaupt etwas bringt, die Kommunikation nach bekannten und neuen Missbrauchsbildern zu durchsuchen, wenn man sie danach nicht löschen lässt, wie es das BKA handhabt. Es gibt Möglichkeiten, die Inhalte vor dem Versand zu verschlüsseln, doch viel eher werden die Nutzer, die hier im Visier sind, auf andere Plattformen ausweichen. Schon jetzt, so der Deutsche Kinderschutzbund, werde der Großteil der Kindesmissbrauchsinhalte über Plattformen und Foren geteilt. Das Scannen privater Nachrichten sei „weder verhältnismäßig noch zielführend“.
Doch das Scannen nach Bildern ist ja noch nicht alles. Die Anbieter sollen die private Kommunikation nach Mustern von Grooming durchleuchten. Grooming nennt man die gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht. Dieses Grooming laufe nach bestimmten Mustern ab, sei also gut verfolgbar. Das Problem: hier geht es nicht mehr nur um Bilder, sondern um das geschriebene und gesprochene Wort. Und hier kommt die Aushöhlung der Ende-zu-Ende-Verschlüsselung ins Spiel, denn die Anbieter müssten die Nachrichten vor dem Abschicken scannen – oder die Verschlüsselung, wie sie bei Signal oder WhatsApp Standard ist, löchrig machen. Doch genau die möchte man angeblich nicht einschränken, heißt es. Sie sei „ein wichtiges Werkzeug“. Ein unauflösbarer Widerspruch. Also Scan noch vor dem Versand und vor der Verschlüsselung. Dazu darf man getrost „Nein“ sagen, denn hier wird eine „Hintertür“ gefordert, durch die wer genau geht? Nur gute Menschen? Denn Menschen werden prüfend im Hintergrund tätig sein, sagt Ylva Johansson.
Aber nicht nur das, sie hat noch mehr in auf der Pfanne. Die – bislang nicht existierende – Behörde soll „verlässliche“ Technik zur Durchleuchtung bereitstellen, die dann von Unternehmen genutzt werden könne, die keine eigenen Systeme basteln.
Lustig: seit Jahren scheitern Unternehmen eben genau an jener Verlässlichkeit, jetzt soll es ausgerechnet eine Behörde richten? Darüber hinaus soll die Behörde dann auch gleich Anzeige erstatten. Sie soll anonymisiert durchleuchten, den Nutzer bei einem vermeintlichen Treffer identifizieren und anzeigen. Beim Prozess wird dann entschieden, ob das alles gerechtfertigt war. Bei der zu erwartenden Fehlerquote eine Frechheit.
Johansson verteidigt sich, das sei alles mit Spamfiltern bei E-Mail vergleichbar. Technisch vielleicht, aber der Unterschied ist jedoch der, dass man seine Hams selbst wieder raussammelt, kein Hoster prüft den Spamfilter manuell außer dem Empfänger. Johansson aber gesteht ein, dass es auch zu Überprüfung durch menschliche Mitarbeiter dieser Behörde kommen müsse in Zweifelsfällen. Das macht einen Unterschied, denn die manuelle Nachprüfung durch Dritte, sie gibt es bei den Spamfiltern nicht. Und auch kein aktives Mitlesen. Bei einer KI zum Scannen ist dies jedoch zu erwarten. Schaut man sich die Ergebnisse der KI von Twitter in Bezug auf automatische Sperren an, so kann einem nur schwubbelig werden. Viele falsche Verdächtigungen sind zu erwarten.
Ulrich Kelber ist der Datenschutzbeauftragte des Bundes und er ist derselben Meinung. Er hat eine Stellungnahme veröffentlicht, auch er geht auf Mastodon mit dem Entwurf hart ins Gericht.
1. Das flächendeckende Scannen privater Kommunikation wird ausgeweitet auf viele neue Dienste. Der Grundsatz der Vertraulichkeit der Kommunikation wird bedroht.
2. Die absichtliche Schwächung von verschlüsselter Kommunikation öffnet weiterem Missbrauch Tür und Tor. Es gibt Instrumente, die deutlich weniger eingriffsintensiv wären, um das gleiche Ziel zu erreichen.
3. KI-Systeme sollen bei der Durchleuchtung der Kommunikation unterstützen. Da solche Technik sehr anfällig für Fehler ist, wird es massenhaft Verdächtigungen unbescholtener Bürger und Einsicht in deren private Kommunikation geben.
4. Es drohen Upload-Filter, damit auch unbekanntes Material gefunden werden kann, die Strafverfolgungsbehörden dagegen sind aktuell noch nicht einmal verpflichtet, sich um die Löschung bereits bekannten Materials zu kümmern.
5. Das anonyme Internet ist bedroht. Verpflichtende Alterskontrollen sorgen dafür, dass Nutzeridentifikation nötig wird.
https://social.bund.de/@bfdi/108289140436007772
Ich werde mich in meiner Funktion als BfDI auf nationaler und europäischer Ebene dafür einsetzen, dass die Verordnung in dieser Form nicht kommt.
Bämm!
Sein Fazit:
Der Entwurf der Kommission ist nicht vereinbar mit unseren europäischen Werten und kollidiert mit geltendem Datenschutzrecht. […] Da es bei einigen Punkten auf Lösungen hinausläuft, die tief in die Grundrechte eingreifen, sollte die Verordnung auf keinen Fall in dieser Form Bestand haben.
Aber das ficht Zuschi Zensursula von der Leyern ja nicht an. Schließlich war die Kommission schon im Vorfeld sehr taub für Warnungen von Experten. Dagegen haben Berater und Lobbyisten bei ihr leichtes Spiel. Kennt man ja schon aus ihrer Zeit als Verteidigungsministerin, dass da nicht viel bei rumkommt.
Aber hier kommt Ashton Kutcher ins Spiel. Hollywood in Brüssel, und dann noch der, der bei Demi Moore landete. Da glänzen die Augen feucht … Ashton, Zuschi und Ylva, No and a Half Mind.
Naja, jener Ashton – bekannt aus der Sitcom „Two and a half man“ als Nachfolger von Charlie Sheen, aber mit zu kleinen Füßen, hat eine Organisation namens „Safer“ ins Leben gerufen. Darüber berichtet netzpolitik.org heute.
2020 brachte die Organisation „Safer“ auf den Markt, nach eigenen Angaben die erste „umfassende Erkennungsplattform“ für Kindesmissbrauchsinhalte eines Drittanbieters.
https://netzpolitik.org/2022/chatkontrolle-wie-ein-hollywoodstar-fuer-mehr-ueberwachung-wirbt/
Gegenüber den EU-Institutionen tritt Thorn als Charity-Organisation auf, die sich aus idealistischen Gründen gegen Kindesmissbrauch einsetzt. Allerdings brachte die Organisation bei Treffen mit europäischen Behörden immer wieder seine eigens entwickelte Software zum Aufspüren von Kindesmissbrauch ins Spiel. Das zeigen mehr als ein dutzend E-Mails und Gesprächsnotizen, die netzpolitik.org durch Informationsfreiheitsanfragen bei der EU-Kommission, deutschen und schwedischen Behörden erhielt.
„seine eigens entwickelte Software zum Aufspüren von Kindesmissbrauch“ brachten sie ins Spiel und Kutcher war der Türöffner.
Okay, ernsthaft, selbst wenn wir davon ausgehen, dass dieses Gesetz die Entwurfsphase nicht überlebt, im EU-Parlament … nein, da nicht … zu lasch und es sitzen Leute wie Axel Voss da drin … vor dem EUGH und den Verfassungsgerichten spätestens gekippt wird, so kann man sich darauf nicht verlassen. Und genau deswegen sollte man jetzt aus der Deckung kommen, selbst dann, wenn man so wie wir gegen Kindesmissbrauch und Kinderpornographie und Grooming ist. Denn so geht es nicht. So werden die Kinderschänder mit riesigen Kollateralschäden einfach nur in andere Kanäle getrieben.
Dieses Überwachungsmonster, das schon von Matthew Green, einem Verschlüsselungsexperten, als „die ausgeklügelteste Massenüberwachungs-Maschinerie, die je außerhalb Chinas und der UdSSR“ bezeichnet wurde, darf keinen Bestand haben und nicht Realität werden.
Doch es geht viel tiefer: in demokratischen Gesellschaften sollte ein solches Überwachungsmonster es nicht mal vom Gedanken zum Entwurf schaffen. Es sollte die natürliche Idee-FDGO-Schranke nicht überschreiten dürfen, aber in Politikerhirnen ist die Ausgewogenheit der Hirnchemie offenkundig nicht immer geglückt.
Die EU-Kommission täte gut daran, den Entwurf schnellstens zurückzuziehen, öffentlich zu verbrennen. Denn es wird nicht nur Klagen dagegen geben, es wird ansonsten auf Seiten der Politiker, die dem zustimmen, auch viel Grund zum Jammern geben.
Sehr viel.
Und das ist ein Versprechen.