Chatkontrolle

Die Artikel Chatkontrolle und Client-Side-Scanning überschneiden sich thematisch. Informationen, die du hier suchst, können sich also auch im anderen Artikel befinden.
Gerne kannst du dich an der betreffenden Redundanzdiskussion beteiligen oder direkt dabei helfen, die Artikel zusammenzuführen oder besser voneinander abzugrenzen (→ Anleitung).

Der Begriff der Chatkontrolle entstand im Rahmen einer Gesetzesinitiative der Europäischen Union. Die Kommissarin für Inneres Ylva Johansson regte an, Daten auf Endgeräten zu scannen, gemäß offizieller Begründung zum Kampf gegen Darstellungen von sexuellem Kindesmissbrauch. Der Datenschützer Patrick Breyer verlieh diesem Vorhaben den Namen „Chatkontrolle“;^[1] offiziell heißt es Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern.^[2]

Die Europäische Kommission will die Chatkontrolle dauerhaft verpflichtend machen, hat aber Schwierigkeiten, die nötigen Mehrheiten zu erzielen. In der EU dürfen Unternehmen auf Basis einer Ausnahmeregelung vorübergehend eine Chatkontrolle durchführen. Die erste solche Ausnahmeregelung lief am 4. April 2026 aus.^[3] Am 9. Juli 2026 wurde in einer umstrittenen Abstimmung eine erneute freiwillige Chatkontrolle bis April 2028 beschlossen. Das Vorgehen von Parlamentspräsidentin Roberta Metsola und der EVP-Fraktion wurde vor allem als „Verfahrenstrick“ kritisiert, da für die erneute Ausnahmeregelung eigentlich keine Mehrheit existierte, durch geschickte Ausnutzung der Geschäftsordnung aber auch ein Beschluss ohne Mehrheit möglich war. Von den deutschen Parlamentariern stimmten nur die CDU/CSU-Mitglieder einheitlich dafür, alle anderen überwiegend dagegen.^[4][5] Big-Tech-Unternehmen wenden die Chatkontrolle für ihre Messenger überwiegend an, bspw. Meta für WhatsApp, während sich bspw. Signal dem Einsatz verwehrt.

Die Chatkontrolle ist Gegenstand zahlreicher Kontroversen. Fachleute sehen einen unverhältnismäßigen Eingriff in die Privatsphäre sowie eine Form der Massenüberwachung. Die Befürworter sehen in der Verordnung notwendige Maßnahmen zum Schutz von Kindern vor sexueller Gewalt.

Seit dem Jahr 2021 gab es eine Ausnahmeregelung,^[6] die es Anbietern erlaubt, Inhalte zu durchsuchen. Die Erlaubnis ist an sich ein Verstoß gegen die Datenschutzrichtlinie für elektronische Kommunikation. Die Derogation führt jedoch zu einer Erlaubnis. Das Vorhaben war bis August 2024 befristet, aber wurde mehrfach verlängert.

Die Ausnahmeregelung schloss solche Kommunikation aus, die Ende-zu-Ende-verschlüsselt war und betonte in den Erwägungsgründen die Wichtigkeit dieser Verschlüsselung.

Am 11. Mai 2022 legte Ylva Johannson einen Vorschlag für eine neue Verordnung vor. Dort wurde explizit Ende-zu-Ende-Verschlüsselung einbezogen. Weiterhin wurden Audiokommunikation, Computerspiele und anderes mit einbezogen.

Da der Vorschlag nicht beschlossen wurde und die Ausnahmeregelung mittlerweile ausgelaufen war, beschlossen das Europäische Parlament und der Rat der Europäischen Union eine weitere Ausnahmegenehmigung bis zum 3. April 2028.^[7]

Ein wesentlicher Bestandteil sind Aufdeckungsanordnungen (engl. detection orders). Diese werden von nationalen Behörden erlassen und verpflichten Diensteanbieter nach folgenden Inhalten zu suchen:

• bekanntes Material über sexuellen Kindesmissbrauch
• neues Material über sexuellen Kindesmissbrauch
• Cyber-Grooming

Diese Suche erfolgt automatisch, ohne dass es einen Verdacht gegen die betreffenden Personen gibt. Die Anbieter sind verpflichtet, bei Funden die Behörden zu informieren.

Im Zuge der Verordnung soll eine neue Agentur mit Sitz in Den Haag geschaffen werden. Diese arbeitet eng mit Europol zusammen. Das EU-Zentrum hat folgende Aufgaben:

• Verwaltung und Pflege einer Datenbank mit Indikatoren zur Aufdeckung der Verbreitung von Darstellungen sexuellen Kindesmissbrauchs
• Koordinierung zwischen Behörden
• Entgegennahme und Weiterleitung von Verdachtsmeldungen
• Bereitstellung von Informationen und Analysen zur Verhütung und Bekämpfung von sexuellem Missbrauch von Kindern
• Erstellung von Jahresberichten

Unter dem Gesichtspunkt der Risikobewertung schlägt die Verordnung Funktionen zur Prüfung des Alters (Altersverifikation) vor. Das bedeutet, dass digitale Plattformen, App Stores und andere das Alter vorab verifizieren müssen.

Mittels so genannter Entfernungsanordnungen können Anbieter verpflichtet werden, den Zugang zu Informationen zu sperren.

Inhalte sollen vor dem Upload geprüft werden (Upload-Filter).

Der Entwurf der Verordnung enthält keine Vorschriften zu konkreten technischen Maßnahmen. Die Anbieter müssen eigene Maßnahmen entwickeln. Nach Ansicht von Experten sind zwei Varianten der Umsetzung möglich:

1. Abschwächung von Verschlüsselungsalgorithmen oder Einbau von Hintertüren
2. Client-Side-Scanning

Der Entwurf der Verordnung sieht einen Eingriff in Grundrechte vor. Dazu gehören

• Achtung des Privat- und Familienlebens nach Art. 7 GRCh
• Schutz personenbezogener Daten nach Art. 8 GRCh
• Meinungs- und Informationsfreiheit nach Art. 11 GRCh

Ein solcher Grundrechtseingriff muss verhältnismäßig sein.

Der Wissenschaftliche Dienst des Deutschen Bundestages sieht bei der Chatkontrolle einen erheblichen Eingriff „in das Recht auf Privatsphäre, in den Datenschutz sowie unter anderem in die Grundrechte der EU-Grundrechtecharta“^[8] Im März 2023 lehnten alle neun Sachverständigen in einer Anhörung des Ausschusses für Digitales im Deutschen Bundestag den EU-Vorschlag ab; eine Totalüberwachung im Internet als auch eine Überforderung der Strafverfolgungsbehörden mit Falschmeldungen wurde befürchtet.^[9] Im selben Monat bezweifelte der Bundesdatenschutzbeauftragte sowohl Verhältnismäßigkeit als auch Grundrechtskonformität des Entwurfes, der außerdem kaum Schutz für Kinder biete.^[10]

Der europäische Datenschutzausschuss und der europäische Datenschutzbeauftragte veröffentlichen eine gemeinsame Stellungnahme.^[11] Darin wird der Entwurf scharf kritisiert.

• Beide Stellen bemängeln einen weitreichenden und wenig zielgerichteten Entwurf.
• Betroffene haben keine ausreichenden Schutzmaßnahmen.
• Die Einschränkungen bei der Ende-zu-Ende-Verschlüsselung sind unverhältnismäßig.
• Geheimnisträger werden nicht ausreichend geschützt.

Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit schloss sich der Kritik an.

Der europäische Gerichtshof (EuGH) veröffentlichte in der Vergangenheit viele Urteile, die sich mit Aspekten, die in der Chatkontrolle geplant sind, kritisch beschäftigen.

In den Urteilen C-511/18,^[12] C-512/18 und C-520/18 zur Vorratsdatenspeicherung wurde entschieden, dass eine anlasslose Massenüberwachung mit den Grundrechten unvereinbar ist.

Der Art. 15 der E-Commerce-Richtlinie verbietet allgemeine Überwachungspflichten und damit auch Filterpflichten. Dies wurde in den Rechtssachen C-70/10^[13] und C-360/10^[14] vom Gericht bestätigt.

Der europäische Gerichtshof für Menschenrechte, als ein weiteres Gericht innerhalb Europas, entschied, dass eine Schwächung der Ende-zu-Ende-Verschlüsselung gegen die europäische Menschenrechtskonvention verstößt.^[15][16]

Kritiker sehen Client-Side-Scanning als schweren Eingriff in die Privatsphäre der Nutzer und als mögliche Methode der Massenüberwachung. Leicht ließen sich auch andere, nicht-illegale Inhalte überwachen. Die Überwachungs- und Kontrollmöglichkeiten von Client-Side-Scanning könnten leicht von feindlichen staatlichen Akteuren, Kriminellen oder Intimpartnern der Benutzer missbraucht werden.^[17] Die Möglichkeit solcher Angriffe wurde von Forschern der TU Darmstadt am Beispiel von Apples Client-Side-Scanning-Algorithmus NeuralHash zur Detektion von kinderpornografischem Material empirisch nachgewiesen. Während das Client-Side-Scanning-System und die damit einhergehende Detektion von illegalem Material mit einfachen Bildänderungen umgangen werden konnte, ließen sich Bilder mit unsensiblem Material in einer Art und Weise manipulieren, dass diese vom System fälschlicherweise als kinderpornografisches Material erkannt wurden. Dies könne zur fälschlichen Markierung unschuldiger Nutzer durch das System führen, bis hin zu einer möglichen politischen Verfolgung sozialer Gruppen.^[18]

Der Chaos Computer Club sieht die Umsetzungsversuche der Europäischen Kommission im Mai 2022 vor Veröffentlichung des Gesetzesentwurfs als einen Angriff auf die Grundfesten jeglicher vertraulicher Kommunikation. Die Chatkontrolle sei ein „überbordender Ansatz, leicht zu umgehen“ und setze an der „völlig falschen Stelle an“. Kriminelle würden gar nicht über Messenger ihr Material austauschen. Auch kleinste Fehlerquoten würden bei einer halben Milliarde pro Tag versendeten Nachrichten den Behörden mehrere tausend Bilder am Tag zusenden, von denen keiner wisse, wer sie betrachte, ob sie gelöscht würden und ob sie nicht wiederum missbraucht würden. Die Chatkontrolle setze mit dem Fernmeldegeheimnis und dem Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme gleich zwei fundamentale Grundrechte außer Kraft. Sie missachte zwei Bedingungen für vertrauliche Kommunikation, nach denen das eigene Gerät integer sein müsse und Inhalte nicht an Dritte ausleiten dürfe und die Verschlüsselung sicher sein müsse, so dass man nicht dem Netz vertrauen müsse. Daher sei die Chatkontrolle „als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen“.^[19]

Die Präsidentin der Stiftung des Signal-Messengers Meredith Whittaker kritisiert, dass Client-Side-Scanning das ganze Grundprinzip von Ende-zu-Ende-Verschlüsselung mit einer höchst unsicheren Technologie untergräbt und der Regierung die Möglichkeit geben würde, buchstäblich jede Äußerung zu kontrollieren, bevor sie veröffentlicht wird.^[20]

Der Kinderschutzbund sprach sich gegen anlassloses Scannen als „unverhältnismäßig und nicht zielführend“ aus.^[21]

Die Leiterin der Beschwerdestelle des eco – Verbands der Internetwirtschaft Alexandra Koch-Skriba, die Beschwerden zu Missbrauchsbildern im Netz entgegennimmt, betrachtet die von der EU-Kommission vorgelegten Pläne mit Sorge, denn sie untergrüben „jede Form der vertraulichen und sicheren Kommunikation im Netz“, der Entwurf habe „das Potenzial, einen Freifahrtschein für staatliche Überwachung zu schaffen“, dies sei „ineffektiv und illegal“.^[22]

heise online sieht es als nicht zufällig an, dass das für die Chatkontrolle geplante EU-Zentrum im selben Gebäude in Den Haag angesiedelt werden soll, welches auch die EU-Polizeibehörde Europol beherbergt; es scheine ein reger Datenaustausch zwischen Prüfern und Strafverfolgern gewollt zu sein.

Laut heise online kann, auch wenn die deutsche Regierung dagegen ist, Deutschland im Ministerrat überstimmt werden.^[23] Nach Einschätzung von heise ist in den anderen EU-Mitgliedsstaaten kein ähnlich lauter Protest gegen die Verordnung zu hören wie in Deutschland.^[24]

Commons: ChatControl – Sammlung von Bildern, Videos und Audiodateien

1. ↑ Tomas Rudl, Markus Reuter: EU-Kommission: Warum die Chatkontrolle so gefährlich ist. In: netzpolitik.org. 4. November 2021, abgerufen am 6. Januar 2026. 
2. ↑ Vorschlag für eine VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern. 2022 (europa.eu [abgerufen am 6. Januar 2026]). 
3. ↑ Eric Bonse: Schutz vor Kinderpornografie: EU-weite Chatkontrolle läuft aus. In: Die Tageszeitung: taz. 3. April 2026, ISSN 0931-9085 (taz.de [abgerufen am 4. April 2026]). 
4. ↑ netzpolitik.org, abgerufen am 10. Juli 2026.
5. ↑ taz.de, abgerufen am 10. Juli 2026.
6. ↑ Verordnung (EU) 2021/1232 des Europäischen Parlaments und des Rates vom 14. Juli 2021 über eine vorübergehende Ausnahme von bestimmten Vorschriften der Richtlinie 2002/58/EG hinsichtlich der Verwendung von Technologien durch Anbieter nummernunabhängiger interpersoneller Kommunikationsdienste zur Verarbeitung personenbezogener und anderer Daten zwecks Bekämpfung des sexuellen Missbrauchs von Kindern im Internet. Abgerufen am 6. Januar 2026. 
7. ↑ EUR-Lex: Verordnung (EU) 2026/1881 des Europäischen Parlaments und des Rates vom 24. Juli 2026 über eine vorübergehende Ausnahme von bestimmten Vorschriften der Richtlinie 2002/58/EG hinsichtlich der Verwendung von Technologien durch Anbieter nummernunabhängiger interpersoneller Kommunikationsdienste zur Verarbeitung personenbezogener und anderer Daten zwecks Bekämpfung des sexuellen Missbrauchs von Kindern im Internet. 28. Juli 2026, abgerufen am 28. Juli 2026. 
8. ↑ Wissenschaftliche Dienste: Chatkontrolle darf so nicht in Kraft treten netzpolitik.org
9. ↑ Benjamin Hilbricht: Alle gegen Chatkontrolle. In: Behörden Spiegel. 9. März 2023, abgerufen am 24. März 2023. 
10. ↑ Markus Reuter: Jahresbericht: Bundesdatenschutzbeauftragter watscht Chatkontrolle ab. 15. März 2023, abgerufen am 24. März 2023. 
11. ↑ EDSA-EDSB Gemeinsame Stellungnahme 4/2022 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern | European Data Protection Board. Abgerufen am 7. Januar 2026. 
12. ↑ 62018CJ0511. Abgerufen am 7. Januar 2026. 
13. ↑ Dokument 62010CJ0070. Rechtssache C-70/10, 24. November 2011 (europa.eu [abgerufen am 7. Januar 2026]). 
14. ↑ Dokument 62010CJ0360. Rechtssache C‑360/10, 16. Februar 2012 (europa.eu [abgerufen am 7. Januar 2026]). 
15. ↑ EGMR: Verschlüsselung ist ein Menschenrecht. 23. Februar 2024, abgerufen am 7. Januar 2026. 
16. ↑ EGMR-Urteil zu Datenschutz und Verschlüsselung. In: Anwaltskanzlei Ferner Alsdorf. 22. März 2024, abgerufen am 7. Januar 2026. 
17. ↑ Markus Reuter: Client-Side-Scanning: Berühmte IT-Sicherheitsforscher:innen warnen vor Wanzen in unserer Hosentasche. 16. Oktober 2021, abgerufen am 25. März 2022. 
18. ↑ Lukas Struppek, Dominik Hintersdorf, Daniel Neider, Kristian Kersting: Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash. In: Proceedings of the ACM Conference on Fairness, Accountability, and Transparency (FAccT). 2022 (arxiv.org [PDF; abgerufen am 10. Juni 2022]). 
19. ↑ linus: EU-Kommission will alle Chatnachrichten durchleuchten. Chaos Computer Club, 9. Mai 2022, abgerufen am 10. Mai 2022. 
20. ↑ Signal’s Meredith Whittaker voices EDRi’s concerns with the CSA Regulation. EDRi, 13. April 2023, abgerufen am 6. Januar 2026. 
21. ↑ Kinderschutzbund lehnt anlassloses Scannen verschlüsselter Kommunikation ab br.de
22. ↑ Meldestelle zur EU-Chatkontrolle Freifahrtschein für staatliche Überwachung heise.de
23. ↑ EU-Kommissarin verteidigt Chatkontrolle heise.de
24. ↑ Wie ein EU-Kinderschutzgesetz die Presse- und Meinungsfreiheit einschränken kann heise.de