Verschillende Nederlandse organisaties zijn een campagne gestart waarin ze pleiten voor de invoering van chatcontrole, waarbij techbedrijven verplicht zouden moeten worden om alle communicatie van hun gebruikers te controleren. Daarbij richten de organisaties zich specifiek op minister Van Weel van Justitie en Veiligheid die zich hier in Europa voor zou moeten inzetten. Free a Girl, Defence for Children Nederland, Terre des Hommes en International Justice Mission willen dat techbedrijven worden verplicht om alle afbeeldingen die gebruikers op hun platforms uitwisselen te controleren, ook in end-to-end versleutelde privéberichten. De organisaties willen dat hierbij ook AI wordt ingezet.

"Als we kinderen echt willen beschermen, moeten we onder ogen zien dat deze plekken worden gebruikt om illegale beelden te delen; daar zullen we dus ook moeten ingrijpen. Er bestaat technologie die het mogelijk maakt illegale inhoud te detecteren met behoud van end-to-end-encryptie", zo beweren de organisaties. Experts waarschuwen al jaren dat chatcontrole de belofte van end-to-end encryptie ondermijnt, omdat hierbij de inhoud van een bericht alleen voor de afzender en ontvanger toegankelijk zou moeten zijn. Bij chatcontrole zouden ook derde partijen die inhoud te zien krijgen.

"Europol waarschuwt dat versleutelde chatdiensten een aantrekkelijke omgeving zijn geworden voor daders om foto’s en video’s van seksueel kindermisbruik uit te wisselen, slachtoffers te groomen en onderling netwerken op te bouwen, terwijl juist de versleuteling opsporing en detectie ernstig bemoeilijkt", aldus de directeuren van Free a Girl, Defence for Children Nederland, Terre des Hommes en International Justice Mission in een opiniestuk voor de Volkskrant.

Voor het inspecteren van chatberichten zou client-side scanning kunnen worden ingezet, waarbij materiaal op het toestel van de gebruiker wordt gecontroleerd voordat het wordt verstuurd. Directeur Kelly Schut van Free a Girl vergelijkt het in het NOS Radio 1 Journaal met een virusscanner en dat er 'in elke plek' zou moeten worden gemonitord, zoals sociale media, clouddiensten, internetfora en privé berichtenapps. Experts waarschuwen dat deze vergelijking niet opgaat. "Bestaande scanproducten zoals virusscanners en adblockers werken om de gebruiker te beschermen. Client-side scanning werkt juist tegen de gebruiker."

Verschillende experts stellen dat een groeiend aantal afbeeldingen dat als misbruikmateriaal wordt aangemerkt dit niet is, maar het om zelfgeproduceerde afbeeldingen van minderjarigen gaat die dit met toestemming onderling uitwisselen. Daardoor is er een risico dat bij de inzet van client-side scanning mensen ten onrechte worden beschuldigd of aangemerkt als misbruikslachtoffer.

Verder waarschuwen experts dat huidige technologieën voor het detecteren van onbekend misbruikmateriaal en grooming niet voldoende betrouwbaar zijn, wat leidt tot algemene en ongerichte monitoring van privéberichten. Dergelijke algemene surveillance kan volgens de experts geen oplossing zijn voor het genoemde probleem. Verder zou client-side scanning ook bij bestaand materiaal niet werken, omdat een afbeelding eenvoudig is aan te passen, waardoor bijvoorbeeld technologie gebaseerd op detectie van hashes niet zou werken. Daarnaast bestaat het risico dat de hoeveelheid afbeeldingen die door client-side scanning als verdacht wordt aangemerkt de systemen van opsporingsdiensten zal overweldigen, wat de aanpak juist tegenwerkt in plaats van versterkt.

De organisaties achter de vandaag gelanceerde campagne merken op dat er al regels bestaan om kinderen online te beschermen. "Er moet beter worden gecontroleerd of bedrijven zich eraan houden. Bedrijven die dat niet doen, moeten daarop worden aangesproken. Tegelijkertijd moeten de gaten in Europese wetgeving worden gedicht, zodat dezelfde basisregels gelden voor alle bedrijven die digitale diensten aanbieden en de overheid en haar toezichthouders stevig moeten en kunnen handhaven."

Naast de permanente monitoring vragen de organisaties de politiek ook voldoende geld beschikbaar te stellen voor hulporganisaties en meldpunten, te zorgen voor voldoende politiecapaciteit, kinderen te leren zichzelf online te beschermen, en ouders en verzorgers te ondersteunen bij digitale opvoeding. De campagne wordt onder andere ondersteund door Save the Children en Stichting Kinderpostzegels Nederland.