Mai 24, 2022
Von Emrawi
250 ansichten

Hinter dem Vorhaben der EU-Kommission zur Chatkontrolle steht ein ĂŒber 130-seitiger Gesetzentwurf. Wir haben uns durchgearbeitet und Antworten auf die wichtigsten Fragen gesammelt.

Was will die EU mit meinem Handy machen?

Die EU-Kommission will Handys in Alarmanlagen fĂŒr Darstellungen sexueller Gewalt verwandeln. Das gilt auch fĂŒr Laptops und andere GerĂ€te. Geplant ist ein System der Kontrolle und Durchsuchung von Kommunikationsinhalten. Das ist mit „Chatkontrolle“ gemeint. Außerdem will die EU-Kommission ein neues „EU-Zentrum gegen Kindesmissbrauch“ in Den Haag schaffen. Mit der geplanten Regulierung sollen Onlinedienste gezwungen werden können, die Kommunikation ihrer Nutzer:innen zu scannen, wenn sie eine entsprechende Anordnung bekommen haben. Finden sie verdĂ€chtige Aufnahmen oder Texte, mĂŒssen sie die Inhalte an das EU-Zentrum weiterleiten.

FĂŒr das eigene Handy bedeutet das: Kommunikation wĂ€re in Zukunft nicht mehr vertraulich. Das kann auch verschlĂŒsselte Messenger betreffen. Die EU-Kommission will Anbieter nicht nur dazu zwingen können, bereits bekannte Bilder oder Videos zu erkennen. Suchen sollen sie auch nach neuen, verdĂ€chtigen Aufnahmen und nach „Cybergrooming“. So nennt man es, wenn Erwachsene sexuellen Kontakt zu MinderjĂ€hrigen anbahnen. In der Praxis heißt das, dass Anbieter unsere Kommunikation auswerten mĂŒssten.

Messenger wie WhatsApp und Signal sind Ende-zu-Ende-verschlĂŒsselt. Da kann doch niemand mitlesen?

Die Antwortet lautet: Ja, aber. Es stimmt, Ende-zu-Ende-VerschlĂŒsselung soll verhindern, dass jemand außer Sender:in und EmpfĂ€nger:in eine Nachricht mitlesen kann. Alle anderen Stationen im Internet dazwischen sehen nur Zeichensalat, aber nicht die Inhalte. Diese VerschlĂŒsselung ist wichtig, damit weder kriminelle Hacker:innen noch Staaten unsere private Kommunikation lesen können. Auf den ersten Blick lĂ€sst sich eine Chatkontrolle also nicht mit Ende-zu-Ende-VerschlĂŒsselung vereinbaren. Aber die Regulierung wĂŒrde Unternehmen verpflichten, Inhalte trotzdem irgendwie zu scannen. Die EU-Kommission lĂ€sst offen, wie das technisch gehen soll.

Generell sollen die betroffenen Anbieter laut EU-Kommission zwar „vermeiden, die Sicherheit und Vertraulichkeit der Kommunikation von Nutzern zu unterminieren“. Doch das ist die Quadratur des Kreises: Entweder werden vertrauliche Inhalte automatisch ĂŒberprĂŒft und Treffer an Dritte weitergeleitet – oder nicht. Niemand kann garantieren, dass dabei keine Fehler passieren oder die Kontrolle nicht missbraucht und ausgeweitet wird.

Wie könnte die Chatkontrolle technisch aussehen?

Vorstellbar sind derzeit vor allem zwei Varianten, um etwa Bilder und Videos zu durchleuchten: Die erste nennt sich Client-Side-Scanning. Dabei werden auf dem EndgerĂ€t, also dem Handy, Tablet oder Computer, die privaten Nachrichten und Dateien schon vor dem Verschicken per E-Mail oder Messenger durchsucht. Die EU-Kommissarin Ylva Johansson bezeichnete das in einem Interview mit dem Spiegel als „eine Möglichkeit unter mehreren“.

Die zweite Variante wĂ€re ein Bruch der Ende-zu-Ende-VerschlĂŒsselung. Wenn Anbieter die Inhalte nicht auf dem GerĂ€t selbst scannen wollen, mĂŒssten sie sie entschlĂŒsseln können – anders geht es nicht. In beiden FĂ€llen gilt: Die Vertraulichkeit der Kommunikation wĂ€re ausgehebelt.

Um Kontaktanbahnungen (Cybergrooming) zu erkennen, sind andere Maßnahmen denkbar. DafĂŒr brĂ€uchte es etwa eine Software, die verschickte Textnachrichten untersucht. Das kann zum Beispiel eine inhaltliche Suche nach Schlagworten bedeuten. Die Anbieter könnten alternativ nach auffĂ€lligen Mustern suchen, etwa wenn ein Erwachsener oft Kinder anchattet. Große Plattformen wie Microsoft arbeiten bereits mit solchen Systemen. Doch bisher hat es keines der Unternehmen geschafft, ein zuverlĂ€ssig funktionierendes Verfahren zu entwickeln.

Wie kann man ĂŒberhaupt erkennen, ob ein Bild sexuelle Gewalt gegen Kinder darstellt?

DafĂŒr gibt es bereits Verfahren wie das sogenannte Hashing. Ein Hash ist ein digitaler Fingerabdruck. Er lĂ€sst sich einfach aus einer illegalen Aufnahme berechnen – danach kann die Datei gelöscht werden. Diese Hashes kommen dann in eine Datenbank. Neu verschickte Dateien werden damit abgeglichen. So lassen sich bekannte Aufnahmen sexueller Gewalt gegen Kinder wiedererkennen.

Die Kommission will aber Anbieter nicht nur auffordern, nach bereits bekannten Aufnahmen zu suchen. Sie sollen auch neue Aufnahmen ausfindig machen. Hashes helfen da nicht weiter. Es braucht automatische Bilderkennung. Eine Software mĂŒsste abschĂ€tzen, was in einem Bild zu sehen ist: etwa Nacktheit oder mutmaßlich MinderjĂ€hrige. Die Software mĂŒsste zudem legale Nacktbilder von illegalen Gewaltdarstellungen unterscheiden. Wenn ein Mensch eine 17-jĂ€hrige Person nicht zuverlĂ€ssig von einer 18-jĂ€hrigen unterscheiden kann, dann kann das auch eine Software nicht.

Im Entwurf steht ausdrĂŒcklich, „Zweifel am Alter des potenziellen Opfers“ sollen die Anbieter nicht daran hindern, Inhalte zu melden. Alle bekannten Systeme weisen Fehlerquoten auf. Man muss also davon ausgehen, das bei der schieren Masse der ĂŒberwachten Kommunikation viele fĂ€lschlicherweise gemeldeten Inhalte bei den Anbietern und Ermittler:innen landen werden.

WhatsApp, Gmail, TikTok, Instagram – wer muss da alles mitmachen?

Im schlimmsten Fall alle. Die EU-Komission schreibt: „Anbieter von Hosting- oder interpersonellen Kommunikationsdiensten“. Darunter fallen etwa Messenger wie WhatsApp, Signal und Telegram sowie E-Mail-Dienste. Aber im Entwurf heißt es, die Vorschriften sollen auch fĂŒr Dienste gelten, bei denen die direkte persönliche Kommunikation nur eine Nebenfunktion ist. Also soziale Medien wie Instagram und TikTok oder die Chats beliebiger Quiz-Apps.

Auch Online-Speicherdienste wie etwa Google wĂ€ren betroffen. Mitmachen bei der angeordneten Suche nach Hinweisen mĂŒsste ein Anbieter, wenn bei ihm etwa Darstellungen sexueller Gewalt gegen Kinder in „nennenswertem Umfang“ kursieren oder es „wahrscheinlich“ ist. Zuvor muss der Anbieter Gegenmaßnahmen treffen. Schon heute scannen Cloud-Anbieter wie Google automatisch hochgeladene, private Dateien. Falls die Gegenmaßnahmen nicht ausreichen, könnte eine Chatkontrolle angeordnet werden.

Warum ist die Chatkontrolle ein Problem, wenn es wirklich nur um sexuelle Gewalt gegen Kinder geht?

Es lĂ€sst sich unmöglich sicherstellen, dass Anbieter allein sexuelle Gewalt gegen Kinder aufspĂŒren. Fachleute fĂŒr VerschlĂŒsselung betonen seit jeher: Technisch ist es unmöglich, solche HintertĂŒren so zu bauen, dass sie nur einzelne VerdĂ€chtige betreffen oder nur fĂŒr einen bestimmten Zweck genutzt werden können. Hat ein Unternehmen einmal einen Weg geschaffen, um die VerschlĂŒsselung zu umgehen und die Kommunikation seiner Nutzer:innen zu ĂŒberwachen, dann schwĂ€cht das die PrivatsphĂ€re aller fĂŒr immer. Dazu zĂ€hlen auch jene Menschen, die besonders auf vertrauliche Kommunikation angewiesen sind: Whistleblower:innen, politische Dissident:innen, kritische Journalist:innen und verfolgte Minderheiten.

Eine weitere Gefahr sind falschpositive Treffer, also FĂ€lle, in denen die Software ein legales Bild oder einen legalen Flirt fĂŒr verdĂ€chtig hĂ€lt. Alle Nutzer:innen mĂŒssten permament befĂŒrchten, dass ihre private Kommunikation bei einer Behörde landen könnte. Eigentlich sollen Nutzer:innen darĂŒber informiert werden. Es gibt aber eine Ausnahme: Behörden dĂŒrfen Betroffene im Unklaren lassen, wenn das Ermittlungen gefĂ€hrden könnte. Worst Case: Ein legaler Flirt oder ein Austausch von Fotos im Familienchat endet mit einer Hausdurchsuchung.

Wir werden doch eh stĂ€ndig ĂŒberwacht. Was soll an der Chatkontrolle so schlimm sein?

Die Chatkontrolle hebt die Überwachung auf eine neue, noch nie dagewesene Stufe. Mit der Chatkontrolle wĂŒrden weite Teile der digitalen Kommunikation aller BĂŒrger:innen ĂŒberwacht, unabhĂ€ngig von einem Anlass oder Verdacht. Das ist ein krasser und weitreichender Eingriff in die PrivatsphĂ€re. „Die ausgeklĂŒgelteste MassenĂŒberwachungs-Maschinerie, die je außerhalb Chinas und der UdSSR ausgerollt wurde“, schreibt der US-Forscher Matthew Green und fĂŒgt hinzu: „Keine Übertreibung“.

Kann man mit der Chatkontrolle auch andere Inhalte finden?

Die EU-Kommission betont, das solle nicht passieren. Aber technisch geht das. Ist diese Technologie einmal flĂ€chendeckend eingefĂŒhrt, könnte sie nach allen möglichen Dingen suchen. Die Technologien sind nicht beschrĂ€nkt darauf, nach Darstellungen von sexueller Gewalt zu suchen – oder nach Fotos von Drogen oder Demonstrationen.

Die Chatkontrolle könnte fĂŒr autoritĂ€re Staaten ein Vorbild sein, um Anbieter auch auf die Suche nach anderen Inhalten zu schicken. Etwa um Andersdenkende noch effektiver zu jagen. Die Technologie ist da vollkommen neutral – und das macht es so gefĂ€hrlich.

Könnte die Panik vor der Chatkontrolle einfach ĂŒbertrieben sein und alles ist nicht so gemeint?

Nein, der Vorschlag liegt jetzt so in all seiner GefĂ€hrlichkeit auf dem Tisch und die Kritik daran ist sehr breit, einhellig und vernichtend. Der Entwurf muss aber noch durch das EU-Parlament und den Rat gehen. Es wĂ€re nicht das erste Mal, dass ein Vorstoß der EU-Kommission auf dem Weg deutlich verĂ€ndert wird. Das passiert aber nicht von allein. Reaktionen der Öffentlichkeit, Proteste und konstruktive VorschlĂ€ge haben einen entscheidenden Einfluss darauf, was aus der Chatkontrolle wird.

Kann man sich gegen die Chatkontrolle wehren?

Ja. Noch ist alles möglich, sogar eine komplette RĂŒcknahme des Entwurfs. Doch dafĂŒr braucht es viel Öffentlichkeit und Widerspruch in verschiedenen europĂ€ischen LĂ€ndern. Ein erster Schritt ist AufklĂ€rung: Alle können dazu beitragen, ihr direktes Umfeld ĂŒber die Gefahren einer Chatkontrolle zu informieren. Wer alles nochmal genau nachlesen möchte, findet den Vorschlag der EU-Kommission hier. Schon jetzt gibt es ein BĂŒndnis namens „Chatkontrolle stoppen“, das auf Twitter und Mastodon vetreten ist. Denkbar sind weitere BĂŒndnisse, Online-Petitionen, Proteste und Aktionen.

Sollte man nicht so viel wie möglich unternehmen, um Kinder zu schĂŒtzen?

Dass sexuelle Gewalt gegen Kinder und die Verbreitung dieser Bilder im Netz bekĂ€mpft werden mĂŒssen, ist unumstritten. Uneinigkeit besteht in der Frage der Mittel. Selbst der Kinderschutzbund bezeichnet die PlĂ€ne zur Chatkontrolle als „weder verhĂ€ltnismĂ€ĂŸig noch zielfĂŒhrend“. Das heißt, es gibt auch Zweifel daran, ob die invasive Maßnahme ĂŒberhaupt helfen wĂŒrde.

Sogar die EU-Kommission schreibt in ihrem Entwurf, dass neben dem Schutz von Kindern auch die Grundrechte von Nutzer:innen beachtet werden mĂŒssten. „Keines dieser Rechte ist absolut, und sie mĂŒssen im Zusammenhang mit ihrer Funktion in der Gesellschaft betrachtet werden“. Kritiker:innen zufolge ist der EU-Kommission diese AbwĂ€gung offenkundig misslungen.

Hat irgendjemand einen besseren Vorschlag als Chatkontrolle?

Es gibt viele Mittel gegen die Verbreitung von Darstellungen sexueller Gewalt. Schon heute identifizieren die Ermittler:innen mehr Kriminelle in diesem Feld als je zuvor. Software zur automatischen Erkennung auf öffentlich zugĂ€nglichen Servern gibt Ermittler:innen schon heute so viele Hinweise, dass sie vor allem darauf reagieren. Sie haben kaum noch Zeit, darĂŒber hinaus eigene Ermittlungen anzustrengen.

Sehr viel Luft nach oben gibt es auch beim Umgang mit bereits entdeckten Aufnahmen. Das Bundeskriminalamt (BKA) konzentriert sich auf die Verfolgung der TÀter:innen und lÀsst viele Aufnahmen online. Es fordert Anbieter nicht strukturiert auf, das Material von ihren Severn zu löschen. Dabei löschen viele Anbieter gemeldete Inhalte innerhalb von Stunden von ihren Servern, und das weltweit.

Ein großer Teil der verdĂ€chtigen illegalen Darstellungen werden von MinderjĂ€hrigen selbst produziert – und gelangen dann vielleicht in die HĂ€nde Krimineller. Hier kann nur Bildung ansetzen. Digitale Kompetenz entsteht nicht durch Chatkontrolle, sondern in Schulen, Bildungseinrichtungen und mithilfe der Eltern.

netzpolitik.org/2022/eu-plaene-einfach-erklaert-warum-die-chatkontrolle-grundrechte-bedroht/

https://logbuch-netzpolitik.de/lnp430-die-groesste-koalition-aller-zeiten

Ein Logbuch:Spezial zum Kampf gegen die Chatkontrolle und die neue Kinderschutz-Verordnung der EU




Quelle: Emrawi.org