image

Britse overheid: geen client-side scanning zolang technologie niet bestaat

donderdag 7 september 2023, 10:10 door Redactie, 11 reacties

De Britse overheid zal chatdiensten niet verplichten om alle chatberichten van alle gebruikers door middel van client-side scanning te controleren zolang de technologie om dit te doen niet bestaat. De reacties van chatdiensten op deze verklaring zijn gemengd. Meredith Whittaker van Signal spreekt van een overwinning, maar volgens Matthew Hodgson van Element is er alleen sprake van uitstel en niet van afstel.

De Online Safety Bill die de Britse regering wil invoeren bevat een clausule waarin staat dat chatdiensten kunnen worden verplicht om de berichten van hun gebruikers te controleren. Tijdens een debat in het Britse House of Lords verklaarde de Britse minister Stephen Parkinson dat chatdiensten niet door toezichthouder Ofcom kunnen worden verplicht om client-side scanning toe te passen zolang de technologie niet bestaat om dat op een manier te doen die nauwkeurig is en met privacywaarborgen is omgeven.

De bewoording van het wetsvoorstel is echter niet aangepast. "Dit is nog geen totale overwinning. We hadden dit graag in de tekst van de wet zelf gezien", zegt Whittaker. "Desondanks is dit heel belangrijk." Toch zijn er ook kritische geluiden. "Alleen wat in de wet geschreven staat doet er toe. Scanning is fundamenteel incompatibel met end-to-end versleutelde chatapps. Het scannen omzeilt de encryptie om te scannen, en stelt zo je berichten bloot aan aanvallers", reageert Hodgson tegenover de Wired. Door de bewoording dat het pas wordt verplicht als het technisch haalbaar is, is er volgens hem sprake van uitstel, niet van afstel.

De Europese Commissie is nog altijd van plan om client-side scanning voor chatapps te verplichten en het demissionaire kabinet is hier ook voorstander van. "Het feit blijft, dat het scannen van ieders berichten privacy zoals we dat nu kennen zal vernietigen", zegt Will Cathcart van WhatsApp.

Reacties (11)
07-09-2023, 10:15 door Anoniem
Ik hoop dat minister Yesilgöz dit ook even meeleest.
07-09-2023, 10:30 door Anoniem
CSS is alleen bedoeld om metadata te pakken en te verkopen. Metadata is het nieuwe zwarte goud.
Er kunnen miljarden mee worden verdiend, die kans gooit men echt niet weg, CSS gaat gebeuren, of we het nou willen of niet, geld corrumpeert.
Slachtoffers van misbruik kunnen naar de politie, daar kunnen ze de sleutels van de chatapp bekijken en verder chatten metbdebdader, of het IP adres achterhalen van de telefoon van het slachtoffer, (tik in Signalbof WhatsApp of het contact, en voila, de sleutels zijn zichtbaar) dus per-case binnen proporties, niet buiten proporties via een vorm van sleepwet zoals CSS. (Client Side Scanning)
Wat we aan de andere kant wel kunnen doen is alvast aan een oplossing werken, bijv. eigen software compileren en een mesh-netwerk opzetten van de burger, voor de burger, helemaal gratis, geen ISP nodig. Dat voorkomt ook het moeten inloggen met een EU-ID in de toekomst, twee vliegen in één klap.
07-09-2023, 10:50 door Anoniem
Door Anoniem: Ik hoop dat minister Yesilgöz dit ook even meeleest.

De EU bedoel je. Die probeert het Client Side Scanning er doorheen te douwen.
07-09-2023, 12:30 door Erik van Straten
Min of meer een kopie van mijn reactie op Tweakers [1], waar nogal wat OT reacties waren over (quantum) cryptografie:

CSS (Client Side Scanning) heeft NIETS met cryptografie te maken, er worden zelfs geen cryptografische hashes bij gebruikt (wel "perceptional" hashes, ook bekend als neural hashes of PhotoDNA).

Het werkt vergelijkbaar met een computervirusscanner: die kan ook bijna {1} niets met versleutelde informatie. Scannen moet als de informatie onversleuteld is, dus vóór versleuteling of ná decryptie.

{1} Een uitzondering is dat je de cryptografische hash van een versleuteld bestand kunt bepalen, en daarmee een identiek versleuteld bestand kunt herkennen. Veel zin heeft dat meestal niet omdat fatsoenlijke versleuteling random informatie toevoegt (die bij decryptie wordt verwijderd) waardoor je steeds een ander versleuteld bestand krijgt als je het origineel opnieuw versleutelt.

CSS van onversleutelde data
Er bestaat simpelweg geen betrouwbare (met weinig valspositieven) technologie die bestaand, eerder als CSAM (Child Sexual Abuse Material) aangemerkt beeldmateriaal, dat minimaal is gewijzigd {2}, kan herkennen {3}.

Laat staan dat er AI zou bestaan die van nieuw beeldmateriaal kan vaststellen dat het om CSAM gaat.

Erger, voor video's bestaat er (nog) helemaal geen fatsoenlijke technologie als je minimale wijzigingen wilt kunnen detecteren.

{2} Veel chat-apps verlagen de resolutie van foto's en/of verhogen de JPEG-compressie (met enig kwaliteitsverlies als gevolg) en/of passen EXIF-data aan, waardoor het gebruik van cryptografische hashes zinloos zou zijn. Met opzettelijk aangebrachte wijzigingen kunnen kwaadwillenden herkenning via perceptional hashes ook eenvoudig omzeilen.

{3} Een enorm probleem hierbij wordt door Robbert Hoving van Helpwanted geschetst in een recent NOS-artikel [2] over wraakporno:
"De online wereld hoort inmiddels bij de seksuele en relationele ontwikkeling van jongeren. Het versturen van naaktfoto's is daar onderdeel van."
Zonder de exacte context te kennen is het dus, zowel voor mensen als voor AI, onmogelijk om vast te stellen of het om (door de afgebeelde persoon of personen) ongewenst gedeeld beeldmateriaal gaat.

Veel verschillende nadelen van CSS
Daar tegenover staat een enorme variatie aan nadelen, ik noem er een paar:

• Je verplaatst opsporingscapaciteit (waar al een enorm tekort aan bestaat) van concreet kindermisbruik naar jagen op mensen die kinderporno kijken en uitwisselen met gelijkgestemden. CSS werkt dus averechts bij het bestrijden van kindermisbruik;

• Veel onterechte verdachten door veel valspositieven;

• Onschuldigen kan belastend materiaal "in de schoenen geschoven" worden;

• Scope creep naar opsporing van heel andere "delicten", ook in regimes die mensenrechten aan hun laars lappen;

• De technologie zal nieuwe (security) kwetsbaarheden introduceren;

• De technologie valt eenvoudig te omzeilen door kwaadwillenden;

• De technologie zal steeds slechter gaan werken (het percentage valspositieven zal toenemen) naarmate de database groeit (en dat gaat gebeuren, en kan zelfs worden gestimuleerd door bestaand CSAM materiaal te manipuleren en verspreiden).

Referenties
[1] https://tweakers.net/nieuws/213348/britse-encryptiewet-wordt-niet-gehandhaafd-omdat-encryptie-scannen-niet-kan.html?showReaction=19115990#r_19115990

[2] https://nos.nl/artikel/2488889-10-000-berichten-per-dag-in-nederlandse-wraakpornogroepen-telegram-doet-niks
07-09-2023, 12:34 door Anoniem
Die CSS is niet voor de kinderen, maar om burgers te bespioneren. Overheden weten dat burgers massaal tegen hen treden dus zou het bij een noodverordening wel handig zijn om te zien wat burgers naar elkaar toe sturen. Als de techniek er is, wordt het gebruikt voor andere zaken. Als het om kinderen zou gaan dan waren pedofielen wel opgesloten met jarenlange gevangenisstraffen, maar dat is niet hoe het werkt. Ze mogen meestal vrijuit, bezoekje langs de psycholoog en daarmee is het opgelost. Ik hoor namelijk nooit dat een pedofiel TBS is opgelegd. Of juist hele lage straffen, symbolisch bedoeld voor de massa.
07-09-2023, 13:16 door growisofs
Door Anoniem: Die CSS is niet voor de kinderen, maar om burgers te bespioneren. Overheden weten dat burgers massaal tegen hen treden dus zou het bij een noodverordening wel handig zijn om te zien wat burgers naar elkaar toe sturen. Als de techniek er is, wordt het gebruikt voor andere zaken. Als het om kinderen zou gaan dan waren pedofielen wel opgesloten met jarenlange gevangenisstraffen, maar dat is niet hoe het werkt. Ze mogen meestal vrijuit, bezoekje langs de psycholoog en daarmee is het opgelost. Ik hoor namelijk nooit dat een pedofiel TBS is opgelegd. Of juist hele lage straffen, symbolisch bedoeld voor de massa.

Klopt. Heel de samenleving moet opofferen voor zaken die hier om wat voor reden dan ook toch op de plank komen te liggen.
En is het probleem werkelijk zo groot dat iedere burger daarvoor gemonitord moet worden?

Totaal geen cijfers vanwege taboe.
07-09-2023, 13:24 door Anoniem
Door Anoniem: Die CSS is niet voor de kinderen, maar om burgers te bespioneren. Overheden weten dat burgers massaal tegen hen treden dus zou het bij een noodverordening wel handig zijn om te zien wat burgers naar elkaar toe sturen. Als de techniek er is, wordt het gebruikt voor andere zaken. Als het om kinderen zou gaan dan waren pedofielen wel opgesloten met jarenlange gevangenisstraffen, maar dat is niet hoe het werkt. Ze mogen meestal vrijuit, bezoekje langs de psycholoog en daarmee is het opgelost. Ik hoor namelijk nooit dat een pedofiel TBS is opgelegd. Of juist hele lage straffen, symbolisch bedoeld voor de massa.
Mee eens, alleen aan controle hebben ze niks zonder er geld aan te verdienen, dus het idee dat metadata van gebruikers verkocht zou worden zou weleens kunnen kloppen vrees ik...
Ook in Irak ging het men oa. om olie, (met als excuus massavernietigingswapens) (Al was Saddam niet echt aardig voor zijn volk) de oorlog in Rusland voor het innemen van bronnen (gas, electra, instanties) voor geld, en big-tech verkoopt de digitale ziel van de wereld voor geld.
Metadata is het nieuwe zwarte goud, en toevallig zitten in al die chatapps een hoop data die men kan verkopen, het is een bron van metadata die zelfs Facebook, Google en Signal niet hebben aangeboort, die data zijn dus extra veel geld waard.
Maar inderdaad, sexoffenders is gewoon een excuus aangezien er andere methodes zijn om die op te pakken maar dan per geval en niet door onschuldige mensen bij voorbaat te verdenken.
07-09-2023, 14:44 door Anoniem
Door Anoniem:
Door Anoniem: Ik hoop dat minister Yesilgöz dit ook even meeleest.

De EU bedoel je. Die probeert het Client Side Scanning er doorheen te douwen.
De EU is geen persoon, en douwt daarom niets door.
07-09-2023, 17:49 door Anoniem
Door Anoniem:
Door Anoniem: Die CSS is niet voor de kinderen, maar om burgers te bespioneren. Overheden weten dat burgers massaal tegen hen treden dus zou het bij een noodverordening wel handig zijn om te zien wat burgers naar elkaar toe sturen. Als de techniek er is, wordt het gebruikt voor andere zaken. Als het om kinderen zou gaan dan waren pedofielen wel opgesloten met jarenlange gevangenisstraffen, maar dat is niet hoe het werkt. Ze mogen meestal vrijuit, bezoekje langs de psycholoog en daarmee is het opgelost. Ik hoor namelijk nooit dat een pedofiel TBS is opgelegd. Of juist hele lage straffen, symbolisch bedoeld voor de massa.
Mee eens, alleen aan controle hebben ze niks zonder er geld aan te verdienen, dus het idee dat metadata van gebruikers verkocht zou worden zou weleens kunnen kloppen vrees ik...
Ook in Irak ging het men oa. om olie, (met als excuus massavernietigingswapens) (Al was Saddam niet echt aardig voor zijn volk) de oorlog in Rusland voor het innemen van bronnen (gas, electra, instanties) voor geld, en big-tech verkoopt de digitale ziel van de wereld voor geld.
Metadata is het nieuwe zwarte goud, en toevallig zitten in al die chatapps een hoop data die men kan verkopen, het is een bron van metadata die zelfs Facebook, Google en Signal niet hebben aangeboort, die data zijn dus extra veel geld waard.
Maar inderdaad, sexoffenders is gewoon een excuus aangezien er andere methodes zijn om die op te pakken maar dan per geval en niet door onschuldige mensen bij voorbaat te verdenken.

Het gaat niet alleen om geld, maar om de macht te behouden, vooral in deze speciale tijd. Als de democratie omvalt dan toont dat haar ware gezicht. Wereldwijd staan burgers zij aan zij tegen de veelal globalistische overheden. Zij willen weten wat er onderling besproken wordt en daarop kunnen anticiperen, bijvoorbeeld door media erbij te betrekken of extreme noodverordeningen doorheen te duwen. Dat is de enige reden.
08-09-2023, 01:06 door Anoniem
Als een overheid mij wil client-side scannen dan mogen ze ook mooi mijn nieuwe telefoon betalen, mijn databundel en de stroom om dat ding opgeladen te houden.
08-09-2023, 01:22 door Anoniem
Door Anoniem:
Door Anoniem: Ik hoop dat minister Yesilgöz dit ook even meeleest.

De EU bedoel je. Die probeert het Client Side Scanning er doorheen te douwen.
En hoe denk je dat het op de EU agenda is gekomen?
De afgelopen 3+ ministers van justitie in NL hebben hier altijd voor gelobbied in de EU. Eerst encryptie verbod en CSS als 2e optie
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.