Stel je voor dat de overheid in alle huizen camera’s met artificiële intelligentie zou installeren die de politie informeren als er mogelijks kindermisbruik plaatsvindt. De meeste mensen zouden wellicht menen dat zo’n mass surveillance een niet proportionele inbreuk op de privacy zou vormen.

Nochtans is dat precies wat er vandaag, 20 juni, voor zou gaan liggen in de Europese Raad. Alleen gaat het niet om beelden in je woning, maar een ander deel van onze persoonlijke levenssfeer: onze privéberichten. België speelt daar, met het voorzitterschap van de Europese Raad, een trekkende rol in.

Het doel, kindermisbruik opsporen, is natuurlijk nastrevenswaardig. Het is echter zeer de vraag of het daartoe gebruikte middel wel proportioneel of zelf effectief is.

Overheid als legale hacker

Op dit moment bestaat er reeds een regeling waarbij bedrijven vrijwillig hun communicatie kunnen laten doorzoeken. Dit heet ‘Chatcontrole 1.0‘. Alleen een paar niet-versleutelde diensten uit de Verenigde Staten, zoals Gmail, Facebook/Instagram Messenger, Skype en Snapchat doen dit vrijwillig.

Met het voorstel dat nu voorligt zouden alle bedrijven verplicht zijn om hun berichten te laten scannen. Ook berichten via Telegram of Signal die gebruik maken van end-to-endversleuteling (E2EE) zouden ‘hackbaar’ gemaakt moeten worden door overheden. Opmerkelijk daarbij is dat de ministers een uitzondering zouden willen maken voor zichzelf, leger en veiligheidsdiensten.

Om de kritiek te pareren werden er verschillende technische aanpassingen gedaan in het voorstel, maar de essentie blijft dezelfde. “Wat oorspronkelijk ‘chat control’ heette, wordt nu ‘upload moderatie’ genoemd”, legt encryptiespecialist en hoogleraar aan de KU Leuven Bart Preneel uit in De Morgen. “Via zulke wijzigingen in de taal probeert België het voorstel beter behapbaar te maken, maar in de kern verandert er niets.”

Meredith Whittaker, voorzitter van Signal, heeft reeds laten weten dat haar bedrijf de EU-markt zal verlaten als het voorstel er doorkomt.

Hellend vlak

In een open brief waarschuwen meer dan 250 wetenschappers, waaronder heel wat security-experts, voor de risico’s van het voorstel. Scans die met AI gebeuren, zo waarschuwen experts, zullen veel vals positieven genereren, terwijl echte criminelen altijd een manier zullen vinden om toch een versleuteld bericht bij iemand anders te kunnen krijgen.

Veel activisten hebben dan ook schrik dat wat vandaag op poten gezet wordt onder het voorwendsel van de strijd tegen kindermisbruik in de toekomst voor andere doelen zal worden ingezet. Waar het om gaat bij bescherming van de privacy is namelijk niet het recht om iets te verbergen. Wel om het recht om niet constant gecontroleerd te worden, door een overheid waarin extreemrechtse krachten steeds sterker worden dan nog.

Wellicht mede door de sterke kritiek en de druk van de publieke opinie is de stemming vandaag op het laatste moment van de agenda gehaald.