image

Experts waarschuwen voor risico's client-side scanning zoals Apple en EU willen

vrijdag 15 oktober 2021, 16:34 door Redactie, 30 reacties

Een groep van gerenommeerde beveiligingsexperts, hoogleraren en onderzoekers heeft een document gepubliceerd waarin ze waarschuwen voor de risico's van client-side scanning (CSS) zoals Apple en Europese Unie willen invoeren. Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht, iets wat volgens de experts tot massasurveillance kan leiden. Het document is onder andere opgesteld door Ross Anderson, Jon Callas, Whitfield Diffie, Peter G. Neumann, Ronald L. Rivest en Bruce Schneier.

Voorstanders van de technologie stellen dat CSS een oplossing is voor het "encryptie versus openbare veiligheid" debat, omdat encryptie niet zou hoeven te worden verzwakt. Op de apparatuur van gebruikers wordt gezocht naar bepaalde content en wanneer die wordt aangetroffen ontvangen de autoriteiten bericht. Zo zou het privacy bieden en de autoriteiten in staat stellen om misdrijven te onderzoeken.

Volgens de beveiligingsexperts kan CSS echter leiden tot massasurveillance en zijn er geen garanties dat het de opsporing zal helpen. Het zou juist het tegenovergestelde effect hebben. "Van nature zorgt CSS voor ernstige veiligheids- en privacyrisico voor de gehele samenleving, terwijl de ondersteuning die het opsporingsdiensten kan bieden op z'n best problematisch is", aldus de experts, die stellen dat CSS op meerdere manieren kan mislukken, is te omzeilen en is te misbruiken.

Aangezien CSS op alle apparaten geïnstalleerd zou moeten worden lopen ook onschuldige gebruikers risico. De experts stellen dat de technologie in werkelijkheid is te vergelijken met grootschalig aftappen, alleen dan geautomatiseerd en gedistribueerd. "Aangezien CSS overheden toegang tot privécontent geeft, moet het worden behandeld als aftappen. In jurisdicties waar bulk aftappen is verboden, zou bulk CSS ook moeten worden verboden."

De experts benadrukken in het document dat de technologie vanwege kwetsbaarheden in apparaten door zowel criminelen als staten is te gebruiken. Daarnaast zorgt de ondoorzichtigheid van mobiele besturingssystemen ervoor dat onduidelijk is of er alleen wordt gezocht naar content waarvan vaststaat dat het illegaal is. "Het introduceren van deze krachtige scantechnologie op alle apparaten van gebruikers zonder goed de zwaktes te begrijpen en de technische en beleidsgevolgen door te denken, zou een zeer gevaarlijk maatschappelijk experiment zijn", waarschuwen de experts in het document "Bugs in our Pockets: The Risks of Client-Side Scanning".

CSS zou onschuldige burgers ook kwetsbaarder maken waarbij hun persoonlijke apparatuur op "industriële schaal" kan worden doorzocht. Zelfs als de technologie in eerste instantie alleen wordt gebruikt voor het scannen naar kindermisbruikmateriaal, zou er volgens de experts een enorme druk zijn om dit uit te breiden naar andere onderwerpen. Mocht CSS worden ingevoerd, dan raakt dit de de privacy van burgers in de kern en zal de grootschalige surveillance een verstikkend effect op de vrijheid van meningsuiting en zelfs de democratie hebben, zo laten de experts weten.

Image

Reacties (30)
15-10-2021, 18:17 door Anoniem
Dit artikel in de NYT verwijst naar een document geschreven door vertegenwoordigers van de Europese Unie (al is me niet duidelijk welke club precies: Precedency!):
https://www.nytimes.com/2021/10/14/business/apple-child-sex-abuse-cybersecurity.html

Had gehoopt dat de EU wijzer was, niet dus...
15-10-2021, 18:26 door waterlelie - Bijgewerkt: 15-10-2021, 18:27
Ik kan er enige woorden aan spenderen, maar ik verwijs graag naar een bekende Cryptoloog die zich op zijn weblog daar zeer kritisch over uitlaat:

Bruce Schneier
https://www.schneier.com
https://arxiv.org/abs/2110.07450
15-10-2021, 18:41 door Anoniem
Dat appel dit wil wist ik al, dat europa dit nu ook wil ?, kan iemand mij dat uitleggen.
15-10-2021, 20:10 door Anoniem
Die domme politici zitten continu te verwijzen naar de deskundigen met het corona beleid (althans in de UK), waarom denken ze dat ze het nu zonder kunnen. Het wordt tijd dat er geen politici meer zijn, volgens mij is dat een stuk beter voor de wereld.
15-10-2021, 21:07 door Briolet - Bijgewerkt: 15-10-2021, 21:08
Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht,

Dat klopt zo niet met het idee van Apple. Bij Apple wordt het toestel niet doorzocht, maar alleen de content beoordeeld van beeldmateriaal die naar servers van Apple gestuurd worden. Zij willen voorkomen dat er illegaal materiaal op hun servers beland.

Dat is toch een andere nuance. Volgens mij wordt het verhaal hier bewust verdraaid weergegeven om een bepaalde stemming te kweken.
15-10-2021, 21:13 door botbot
Door Briolet:
Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht,

Dat klopt zo niet met het idee van Apple. Bij Apple wordt het toestel niet doorzocht, maar alleen de content beoordeeld van beeldmateriaal die naar servers van Apple gestuurd worden. Zij willen voorkomen dat er illegaal materiaal op hun servers beland.

Dat is toch een andere nuance. Volgens mij wordt het verhaal hier bewust verdraaid weergegeven om een bepaalde stemming te kweken.

het idee van Apple? Je bedoeld dat idee van Apple. Denk je dat het mogelijk zou zijn dat Apple en voorstander is van materiaal opp hun servers te scannen. Maar ook voorstander is van content client side te scannen??
15-10-2021, 21:41 door Anoniem
Door Briolet:
Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht,

Dat klopt zo niet met het idee van Apple. Bij Apple wordt het toestel niet doorzocht, maar alleen de content beoordeeld van beeldmateriaal die naar servers van Apple gestuurd worden. Zij willen voorkomen dat er illegaal materiaal op hun servers beland.

Dat is toch een andere nuance. Volgens mij wordt het verhaal hier bewust verdraaid weergegeven om een bepaalde stemming te kweken.

Er wordt wel content naar de servers van Apple gestuurd. Als het lokale algoritme van Apple iets op je iPhone vindt wordt het naar een mens gestuurd bij Apple die kan besluiten je iPhone te bricken en je account te permabannen (IIRC).
16-10-2021, 01:55 door Anoniem
Door Anoniem: Dat appel dit wil wist ik al, dat europa dit nu ook wil ?, kan iemand mij dat uitleggen.
Omdat Apple warschijnlijk bij Europarlementariërs voor een lekkere som geld gelobbyd heeft, waarschijnlijk? Zo doen grote bedrijven dat toch standaard om hun zin te krijgen?

Lobbyisme is niks anders dan geoorloofde corruptie.
16-10-2021, 05:06 door Toje Fos
Door Anoniem:
Door Briolet:
Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht,

Dat klopt zo niet met het idee van Apple. Bij Apple wordt het toestel niet doorzocht, maar alleen de content beoordeeld van beeldmateriaal die naar servers van Apple gestuurd worden. Zij willen voorkomen dat er illegaal materiaal op hun servers beland.

Dat is toch een andere nuance. Volgens mij wordt het verhaal hier bewust verdraaid weergegeven om een bepaalde stemming te kweken.

Er wordt wel content naar de servers van Apple gestuurd. Als het lokale algoritme van Apple iets op je iPhone vindt wordt het naar een mens gestuurd bij Apple die kan besluiten je iPhone te bricken en je account te permabannen (IIRC).

Apple die denkt te kunnen en mogen bepalen wat goed voor jou is. En daarom is Apple een hele enge club, wiens spullen je het best ritueel kan verbranden.
16-10-2021, 07:15 door Anoniem
Apple die denkt te kunnen en mogen bepalen wat goed voor jou is. En daarom is Apple een hele enge club, wiens spullen je het best ritueel kan verbranden.
Met je eens maar laten we dan niet die spyware van Google vergeten, en dan gezond verstand gebruiken en
FB links liggen, kunnen mensen hun leven weer zelf oppakken.
16-10-2021, 10:52 door Anoniem
Ik denk dat die "gerenommeerde beveiligingsexperts, hoogleraren en onderzoekers" zich eens moeten gaan afvragen
hoe het overkomt als ze bij alles in de gordijnen vliegen en overal problemen zien.
Zou het niet veel beter overkomen als ze opbouwende kritiek leveren en wijzen op verbeterpunten?

Ze komen nou een beetje over als de gemiddelde NIMBY bezwaarmaker tegen gemeentelijke projecten...
16-10-2021, 11:05 door Anoniem
Het zal er wel van komen, want in de achterkamertjes is er al lang toe besloten.
16-10-2021, 19:53 door Anoniem
Door Anoniem: Ik denk dat die "gerenommeerde beveiligingsexperts, hoogleraren en onderzoekers" zich eens moeten gaan afvragen
hoe het overkomt als ze bij alles in de gordijnen vliegen en overal problemen zien.
Zou het niet veel beter overkomen als ze opbouwende kritiek leveren en wijzen op verbeterpunten?

Ze komen nou een beetje over als de gemiddelde NIMBY bezwaarmaker tegen gemeentelijke projecten...

Onder die beveiligsexperts, hoogleraren en onderzoekers die jij hier probeert belachelijk te maken zit onder andere Whitfield Diffie, je weet wel, van Diffie-Helllman https://nl.wikipedia.org/wiki/Diffie-Hellman-sleuteluitwisselingsprotocol en Ron Rivest, je weet wel, van RSA https://nl.wikipedia.org/wiki/RSA_(cryptografie).
Dit zijn echt niet zomaar wat lui die interessant proberen te doen maar briljante geesten die voor een groot deel ervoor hebben gezorgd dat jij o.a. beveiligd verbinding kan maken met websites.
16-10-2021, 21:38 door Anoniem
Wat we niet moeten vergeten is dat dit niet zozeer van de EU afkomstig is als wel van bepaalde groeperingen/stromingen, de sterke opkomst van het conservatisme/populisme creeert een sterke voedingsbodem voor het burgermansfascisme, waarbij onderbouwing, noodzaak en proportionaliteit worden aangevallen in het kader van het ant-intellectualisme

Je ziet deze mentaliteit overal steeds meer de norm worden en aangezien dit internationaal een probleem is het ook nodig om te beseffen dat grenzen hierbij irrelevant zijn, we zullen moeten samenwerken om deze nieuwe opkomst van het fascisme een halt toe te roepen.Je hoeft alleen maar naar de VS te kijken om te zien hoe vernietigend conservatisme en fascisme kan zijn. (en laten we wel wezen, dit soort ideologieen houd zich over het algemeen niet aan de klassieke rechts/links "scheiding" wokeness is net zo goed fascsime als de rechtse neiging om alles wat ze niet leuk vinden te verbieden)

Ik geloof niet dat bedrijven die dit soort tech inzetten of voorstellen dat doen zonder dat ze zich bewust zijn van de negatieve impact, de manier waarop Apple er over stond te liegen geeft een heleboel weer over wat voor een soort bedrijf het is (of in ieder geval hoe het geleid wordt).
17-10-2021, 07:44 door Anoniem
Apple die denkt te kunnen en mogen bepalen wat goed voor jou is. En daarom is Apple een hele enge club, wiens spullen je het best ritueel kan verbranden.
Dat zelfde gaat volkomen op voor de EU. Maar ja, NEXIT lijkt vooralsnog helaas niet op korte termijn gerealiseerd te gaan worden.
17-10-2021, 09:19 door waterlelie
Er zijn feitelijk drie besturingsprogramma's voor smarphones, IOS van Aple, Android - voor een aantal andere merken, en tenslotte Windows dat weinig wordt aangeboden en verkocht.
Is het dan niet gevaarlijk voor de concurrentie voor Aple, om dit te doen, want ik stel mij voor, dat dan heel veel zo niet de meeste van de gebruikers Aple de rug toekeren..
17-10-2021, 11:02 door Anoniem
Door waterlelie: Er zijn feitelijk drie besturingsprogramma's voor smarphones, IOS van Aple, Android - voor een aantal andere merken, en tenslotte Windows dat weinig wordt aangeboden en verkocht.

Dan zijn er ook nog e/OS en Ubuntu Touch. Daar maar ns naar kijken bij aanschaf volgende telefoon.
17-10-2021, 12:08 door Anoniem
Daarom ook steeds de beweringen dat je anonimiteit gehandhaaft is bij iets wat wel degelijk dit gegeven zwaar aantast.
Maar ja de mensheid wil bedrogen worden en wordt dat dan ook.

Ik denk echt dat de globale monopolisten hierbij zich weinig gelegen laten liggen aan de mening van experts.
Ze werken als WC-eend en hebben hun eigen gekochte experts, die er immers nooit gevaar in zien.

Onafhankelijke oordelen worden steeds zeldzamer en steeds minder getolereerd.
Ik vind het conservatisme/populisme van de laatste tijd meer ingegeven door globale manipulators.

Men schept en zaait tweedracht en de uitgebuitte beide groeperingen vliegen elkander in de haren,
terwijl de tweedrachtzaaiers er met de buit (giga winst) vandoor gaan.

Maar we weten dit toch allemaal, maar wij zijn de beren, die broodjes smeren,
Hi, hi, hi, ha, ha, ha, 'k stond erbij en keek er naar.
17-10-2021, 13:31 door Anoniem
Door Anoniem:
Apple die denkt te kunnen en mogen bepalen wat goed voor jou is. En daarom is Apple een hele enge club, wiens spullen je het best ritueel kan verbranden.
Dat zelfde gaat volkomen op voor de EU. Maar ja, NEXIT lijkt vooralsnog helaas niet op korte termijn gerealiseerd te gaan worden.
'Onze' nationale volksvertegenwoordiging is anders wél kampioen in het bedenken van dit soort onzaligheden. Denk aan Grapperhaus die encryptie het liefst verzwakt, de invoering van de gehate coronapas (samen met redelijk corrupt of autoritair bekendstaande landen als Frankrijk, Duitsland, Italië en Letland) en de komende landonteigening van onze voedselproducenten. (Men wil voedseltekorten creëren en daarmee de prijzen opdrijven dmv méér centralisatie -dus afhankelijkheid van overheden- in de voedseldistributie ) Logisch dus dat onze afpersers hun dikke vingers in alle informatievoorziening willen.
De 'Nederlandse' regering is nu al net zo ijverig als tijdens de Duitse bezetting, wil ik maar aangeven. Het volk met het mkb voorop dient 'zijn bek te houden'.

Eerst maar het Nederlandse kiesstelsel op de schop, alvorens bevrijding van het moloch uberhaubt kán plaatsvinden.
17-10-2021, 13:36 door majortom
Zo zou het privacy bieden en de autoriteiten in staat stellen om misdrijven te onderzoeken.
Hoe kun je nu stellen dat CSS privacy zou bieden? Het enige dat het doet is juiste het schenden van die privacy. Ook zou het in staat stellen misdrijven te onderzoeken: ja van heel domme criminelen (dat zullen niet degenen zijn die je graag wil pakken). Op het moment dat zo'n systeem ingevoerd zou worden in de reguliere besturingssystemen dan schakelt een crimineel gewoon over naar een open source systeem, zowel op mobiel als op PC.

Dit treft dus hooguit de gewone burger wiens privacy zwaar wordt geschonden. Normaal gesproken heb je voor dit soort acties toestemming nodig van de rechter, analoog aan het schenden van het briefgeheim. En dit gaat nog een graadje verder: dit zou je onder de noemer computervredebreuk kunnen scharen.

Er zullen heel wat regimes op deze aardkloot zitten te springen om dit ingebouwd te hebben zitten in de reguliere OS-en. Op last van deze regimes zal al snel op andersoortige informatie worden gescand. We hebben al vaak gezien dat de grote bedrijven gewoon door de knieen gaan voor deze regimes omdat ze anders economisch grote schade leiden (wat belangrijker is dan het beschermen van mensenrechten) omdat er altijd wordt gedreigd dat ze van de markt zullen worden geweerd.

Gewoon niet aan beginnen dus.
17-10-2021, 13:45 door johanw - Bijgewerkt: 17-10-2021, 13:45
Door Anoniem: Wat we niet moeten vergeten is dat dit niet zozeer van de EU afkomstig is als wel van bepaalde groeperingen/stromingen, de sterke opkomst van het conservatisme/populisme creeert een sterke voedingsbodem voor het burgermansfascisme, waarbij onderbouwing, noodzaak en proportionaliteit worden aangevallen in het kader van het ant-intellectualisme
Dit soort oproepen komen voornamelijk vanuit de woke / extreem linkse hoek. In nederland is D66 een grote voorstander van censuur in de naam van "fake nieuws" en tegen de nieuwe, nationalistische vijand en tegen conservatieve landen als Rusland. En tegenwoordig de verkettering van iedereen die niet meegaat in de medische dictatuur die sommigen willen stichten.
17-10-2021, 13:45 door Anoniem
Door Anoniem:
Door Anoniem: Ik denk dat die "gerenommeerde beveiligingsexperts, hoogleraren en onderzoekers" zich eens moeten gaan afvragen
hoe het overkomt als ze bij alles in de gordijnen vliegen en overal problemen zien.
Zou het niet veel beter overkomen als ze opbouwende kritiek leveren en wijzen op verbeterpunten?

Ze komen nou een beetje over als de gemiddelde NIMBY bezwaarmaker tegen gemeentelijke projecten...

Onder die beveiligsexperts, hoogleraren en onderzoekers die jij hier probeert belachelijk te maken zit onder andere Whitfield Diffie, je weet wel, van Diffie-Helllman

Ik kijk uitsluitend naar hoe men zich gedraagt, niet naar welke naam men heeft of wat men in het verleden gepresteerd heeft.
Als je kijkt naar bezwaarschriften tegen plannen van lokale overheden kom je hetzelfde beeld tegen, daar zitten ook
professoren tussen die een vestigingsvergunning proberen van tafel te krijgen met "dat geeft meer verkeer in de wijk".
Die realiseren zich kennelijk ook niet dat ze zichzelf belachelijk maken...
17-10-2021, 13:48 door johanw
Door waterlelie: Er zijn feitelijk drie besturingsprogramma's voor smarphones, IOS van Aple, Android - voor een aantal andere merken, en tenslotte Windows dat weinig wordt aangeboden en verkocht.
Windows Phone is zelfs door MS zelf overleden verklaart.

Je hebt nog wat half-smart systemen als KaiOS dat in landen in Afrika en India gebruikt wordt op goedkope toestellen, en niche markten als PinePhone (een soort Linux).
17-10-2021, 13:51 door majortom - Bijgewerkt: 17-10-2021, 13:52
Door johanw:
Door waterlelie: Er zijn feitelijk drie besturingsprogramma's voor smarphones, IOS van Aple, Android - voor een aantal andere merken, en tenslotte Windows dat weinig wordt aangeboden en verkocht.
Windows Phone is zelfs door MS zelf overleden verklaart.

Je hebt nog wat half-smart systemen als KaiOS dat in landen in Afrika en India gebruikt wordt op goedkope toestellen, en niche markten als PinePhone (een soort Linux).
En een aantal opensource systemen gebaseerd op Android (/e/, LineageOS e.d.) en pureOS.
17-10-2021, 16:38 door Anoniem
Door Anoniem:
Door Anoniem: Dat appel dit wil wist ik al, dat europa dit nu ook wil ?, kan iemand mij dat uitleggen.
Omdat Apple waarschijnlijk bij Europarlementariërs voor een lekkere som geld gelobbyd heeft, waarschijnlijk?
Maar, wat is hier het verdienmodel van Apple om dit scannen te willen?
17-10-2021, 18:02 door Anoniem
Tja als ze zo ver gaan voor mij nooit meer Apple, of je moet vpn gebruiken ook erbij om die css te blokkeren.
18-10-2021, 07:27 door Anoniem
Door Anoniem:
Door Anoniem:
Door Anoniem: Dat appel dit wil wist ik al, dat europa dit nu ook wil ?, kan iemand mij dat uitleggen.
Omdat Apple waarschijnlijk bij Europarlementariërs voor een lekkere som geld gelobbyd heeft, waarschijnlijk?
Maar, wat is hier het verdienmodel van Apple om dit scannen te willen?

Risico mijdend gedrag.
Geen "KP"oid op hun servers.
Dit voorkomt kostbare rechtzaken, en discussies over het doorbreken/omzeilen van encryptie (de befaamde "achterdeur")

De volgende stap in Whack-a-Mole.
Stel dit wordt geimplementeerd (van overheidswege), dan is de reactie om smartphones en tablets zo veel mogelijk te insoleren van gevoelige/risicovolle datasets. En zeker niets/heel weinig meer te uploaden naar cloud storage.

Sowieso een goed idee.
Zo voorkom je dat gevoelige/risicovolle data (of bv bedrijfsgeheimen) aan de grote klok gehangen wordt.
Of gestolen door criminelen en (buitenlandse) overheidsinstellingen.

Iets van kind en badwater.
18-10-2021, 09:58 door Anoniem
Door Briolet:
Bij CSS wordt erop het toestel van gebruikers naar bepaalde content gezocht,

Dat klopt zo niet met het idee van Apple. Bij Apple wordt het toestel niet doorzocht, maar alleen de content beoordeeld van beeldmateriaal die naar servers van Apple gestuurd worden. Zij willen voorkomen dat er illegaal materiaal op hun servers beland.

Dat is toch een andere nuance. Volgens mij wordt het verhaal hier bewust verdraaid weergegeven om een bepaalde stemming te kweken.

Nee, Apple was/is expliciet van plan om lokaal opgeslagen afbeeldingen te scannen. Bij vermoedelijke hits worden afbeeldingen naar Apple verstuurd voor controle, en eventeel doorgestuurd naar veiligheidsdiensten. Later hebben ze dit afgezwakt naar (voorlopig) alleen scannen op geüploade afbeeldingen zoals jij zegt.

Er wordt dus geen stemming gekweekt, het is inderdaad zo ernstig als het lijkt.
18-10-2021, 11:16 door SimonS
Door Anoniem:
Door Anoniem:
Door Anoniem: Dat appel dit wil wist ik al, dat europa dit nu ook wil ?, kan iemand mij dat uitleggen.
Omdat Apple waarschijnlijk bij Europarlementariërs voor een lekkere som geld gelobbyd heeft, waarschijnlijk?
Maar, wat is hier het verdienmodel van Apple om dit scannen te willen?

Misschien paranoïde, maar zou dit een poging van Apple kunnen zijn hun iPhone in China verplicht te maken?
18-10-2021, 11:23 door Anoniem
We staan dus in feite allemaal in onze blote k*nt, zo zou je het ook uit kunnen drukken.
Willen we dat en nog 'geschoren' worden ook?

Ziet de massa ook dat zoets voortdurend gebeurt,
of moeten ze eerst een groep tegenkomen, die hen dat elke dag vertellen wil?
Die bekende "dat ken toch helemaal nie"-reactie.

#sockpuppet
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.