image

EDPS waarschuwt weer voor Europese plannen om chatberichten te controleren

dinsdag 9 april 2024, 12:17 door Redactie, 6 reacties

De Europese privacytoezichthouder EDPS heeft bij de presentatie van het jaaroverzicht 2023 opnieuw gewaarschuwd voor Europese plannen om chatberichten van Europese burgers te controleren, wat tot 'onomkeerbare surveillance' kan leiden (pdf). Al in 2022 sloeg de EDPS alarm over het voorstel van de Europese Commissie om de communicatie van burgers te controleren, als maatregel om kindermisbruik tegen te gaan.

Begin 2022 kwam de Europese Commissie met een voorstel om alle chatberichten en ander verkeer van burgers te inspecteren. In het geval van end-to-end versleutelde chatdiensten zou dit via client-side scanning moeten plaatsvinden, waarbij alle berichten van alle burgers zouden worden gecontroleerd. Eind vorig jaar bleek dat het Europees Parlement tegen het voorstel van de Europese Commissie is en kwam met een eigen voorstel.

De Europese lidstaten hebben nog geen gezamenlijke positie ingenomen en die is er nog altijd niet. Onlangs kwam de Raad Justitie en Binnenlandse Zaken (JBZ) bijeen, waarbij ook de CSAM-verordening aan bod kwam. EU-voorzitter België presenteerde toen een nieuw tekstvoorstel over de CSAM-verordening. Daarbij zou er een 'meer proportionele' aanpak worden gekozen, maar volgens critici is dat niet het geval en loopt de vertrouwelijkheid van communicatie nog steeds gevaar.

Vorig jaar organiseerde de EDPS een seminar over het 'Brusselse scanplan'. "Ik sprak uit de volle overtuiging dat het CSAM-voorstel het internet en digitale communicatie zoals we die kennen fundamenteel zou veranderen, en een omslagpunt zou bereiken waarvan geen weg terug is", aldus EDPS-voorzitter Wojciech Wiewiorowski tijdens zijn presentatie aan een commissie van het Europees Parlement (pdf).

Reacties (6)
09-04-2024, 13:02 door Erik van Straten - Bijgewerkt: 09-04-2024, 13:03
Kopie uit https://security.nl/posting/837209:

Door Anoniem: Ze bedoelen dat ze geen andere mogelijkheid hebben om misbruik van kinderen op te sporen.
Zelfs misbruik van kinderen spoor je er niet mee op.

Nb. Ik wil niet de ernst en/of de problematiek van beeldmateriaal van kindermisbruik bagatelliseren, maar CSS werkt averechts m.b.t. het bestrijden van kindermisbruik.

Huidige stand van de techniek
Met de huidige techniek kun je namelijk geen nieuw beeldmateriaal van kindermisbruik opsporen; eerst moet een mens (al dan niet toevallig) dat beeldmateriaal zien en het bij de juiste instanties aanmelden als zijnde beelden van kindermisbruik (dat is niet zonder risico, als jij die beelden ziet staat of stond er een kopie van op jouw toestel).

CSAM
Zodra, met een aanzienlijke onnauwkeurigheid, door zo'n instantie is vastgesteld dat het daadwerkelijk om beeldmateriaal van mogelijk misbruik van één of meer écht bestaande kinderen gaat, kunnen er twee dingen gebeuren:

1) Getracht wordt dader(s) en/of slachtoffer(s) op te sporen. Indien dit arbeidsintensieve en tijdrovende onderzoek daadwerkelijk (in alle gevallen) plaatsvindt, en daaruit blijkt dat het niet om één of meer minderjarige slachtoffers gaat, of dat het om beeldmateriaal gaat dat helemaal geen misbruik toont (vrijwillige handelingen en, al dan niet vrijwillig gedeeld beeldmateriaal), dan is het denkbaar dat het hier stopt (geen punt 2 dus).

2) Er wordt een neurale hash (*) van elk beeld gegenereerd, waarna die hash(es) worden toegevoegd aan de database met neurale hashes van "bekend CSAM". Ofwel die database wordt gesynchroniseerd naar elke app (op elke smartphone) waarmee beelden kunnen worden uitgewisseld, ofwel elke app raadpleegt een centrale database vóordat digitaal beeldmateriaal wordt gedeeld. Daarbij berekent de app zelf de neurale hash van het te verzenden beeldmateriaal, en checkt of die hash vóórkomt in de database. Daarbij kan die check zodanig plaatsvinden dat een resp. kleinere of grotere afwijking van de neurale hash is toegestaan (met resp. minder of meer valspositieven, én resp. meer of minder valsnegatieven als gevolg).

Neurale hashes
(*) Neurale hashes, ook wel fuzzy hashes of PhotoDNA™ genoemd, hebben geheel niets met cryptografische hashes te maken. Cryptografische hashes zijn zo ontworpen dat slechts één gewijzigde bit in de input van de hashfunctie tot een zo groot mogelijke afwijkende hashwaarde leidt ("avalanche" effect). Neurale hashes zijn juist extreem flexibel: kleine, vaak nauwelijks zichtbare, maar soms goed waarneembare (radicale, zoals "cropping", maar ook het bewust zoeken naar hash-"collissions") wijzigingen in een beeld kunnen leiden tot een identieke neurale hashwaarde (voorbeeld: https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1#issuecomment-903094036).

Heksenjacht
Het wordt dus een heksenjacht op delers van bestaand beeldmateriaal met, mogelijkerwijs toevallig, dezelfde neurale hash als in de database staat. Daarbij zal sprake zijn van zowel zeer veel valspositieven als zeer veel valsnegatieven (zie https://security.nl/posting/797615) - waarbij de "overheid" aan de balansknop kan draaien.

Afname opsporing van kindermisbruik
Een belangrijk gevolg van de invoering van CSS zal zijn dat er een verschuiving zal plaatsvinden van de (al véél te beperkte) capaciteit voor de opsporing van daders en slachtoffers van kindermisbruik, naar degenen die beeldmateriaal delen dat mogelijk (seksueel) misbruik van echte kinderen toont.

Misbruikmogelijkheden
Een "meekijker" op elke smartphone maakt afschuwelijke surveillance mogelijk, en cybercriminelen wrijven al in hun handen bij dit vooruitzicht. Wat een ongelofelijk dom plan dat, onbegrijpelijkerwijs, maar blijft rondzingen. Hoe dik zijn die betonnen platen die politici, zoals Yesilgöz, voor hun hoofd hebben?

Van CSS wordt de wereld vast een stuk beter (not).

(Short link naar deze reactie: https://security.nl/posting/837224).
09-04-2024, 13:47 door Anoniem
Het zijn en blijven een stelletje doordrijvers, die voorstanders van CSAM e.d. surveillance- en monitoring-praktijken.

Ze zijn niet tot andere gedachten te brengen, want het hoort bij de voor hen uitgestippelde agenda.

Het bereiken van totale controle over alle levende wezens op deze planeet behalve de "uitverkorenen".
Degenen die er nu zo braaf aan meewerken, zullen later ook "voor de bus gegooid" worden.

Zij zullen de nationale staten niet opheffen, ze zullen zich als globalist niet openlijk etaleren,
maar hun systeem zal het wel degelijk brengen - een N.W.O.
Zelfs het woord "globalist" komt niet voor in mijn Nederlandse spellingschecker.

En ik denk dat we al aan de hele late kant zijn, als we er nog maar iets tegen kunnen uitrichten.
09-04-2024, 19:59 door Anoniem
Het is de zoveelste vuile truc om maar aan de macht te blijven om de vele andersdenkenden onder hun knoet te houden. Genoeg activisten in allerlei lagen van de bevolking die daar maar wat graag aan meewerken. Zelfs in tegenspraak met hun afgelegde eed, want ze dienen "een hoger doel". Zie bijvoorbeeld de vele activistische weigerambtenaren.

De verslaglegging van eerdere vormen van doorgeslagen sekten uit het verleden, en de uiteindelijke gevolgen daarvan, spreken boekdelen over wat er allemaal faliekant uit de hand kan lopen zolang je dergelijke personen in een positie van invloed houdt.

Iedere ambtenaar is eed gebonden gehouden om het algemeen belang te dienen. Niet enkel voortrekken van het eigen clubje, en al het andere te dwarsbomen. Dat zou knevelarij zijn.

Maar, beste "boven de wet staande" activist, ooit nagedacht over wat er zou kunnen gebeuren als de door de Sleepwet en andere zaken verzamelde details er daarop een heel groot vergrootglas gezet wordt door een geheel ander waaiende wind, en je bevraagd gaat worden over wat je zoveel jaren geleden allemaal anderen hebt aangedaan? Zou dat kunnen leiden tot een andere vorm van herstelbetalingen?
09-04-2024, 22:53 door Anoniem
Op deze manier stellen we het gehele Europese volk onder staat van verdenking en wantrouwen.
Daarnaast word het digitaal briefgeheim en privacy van de meest intieme berichten van alle burgers geschonden.

Als mensen al KP zouden versturen doen dat gewoon in een apart versleuteld 7zip bestandje, probleem opgelost, maar die halen het liever van het darkweb.

Waarom zou je riskeren de persoon aan de andere kant van de chat te vertrouwen, het is immers nu al mogelijk om naar de politie te gaan met de sleutels van diegene met wie je chat, ook ouders van kinderen hebben nu al die mogelijkheid als ze ontdekken dat hun kinderen chatten met vage individuen.

Helaas is dit een sleepwet van privéchats en het heeft helemaal niks met kinderen te maken, eerder metmetadata en geld.
Men was bij het OM al van plan de wet uit te breiden naar andere zaken zoals drugs en wie weet al dan niet meer.

Met de huidige sleepwet, de toekomstige CSS en dergelijke staan we onder een staat van controle, een digitale controlestaat.
Big brother is watching you.
10-04-2024, 07:53 door Anoniem
Net zolang doorgaan tot het er wel doorkomt. Kwestie van de langste adem. EU trekt steeds meer macht naar zich toe. De EU commissie, een stel ongekozen bureaucraten dat de zogenaamde "democratische normen en waarden" hoog in het vaandel heeft.
10-04-2024, 09:17 door Anoniem
https://mullvad.net/en/chatcontrol/stop-chatcontrol
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.