image

Experts bezorgd over plan van Apple om beelden in de VS op kindermisbruik te scannen

vrijdag 6 augustus 2021, 11:19 door Redactie, 45 reacties

Beveiligingsexperts, onderzoekers en burgerrechtenbewegingen maken zich grote zorgen over de plannen van Apple om alle afbeeldingen die naar iCloud Photos worden geüpload of via iMessage worden verstuurd of ontvangen te controleren of het geen kindermisbruikmateriaal betreft. De Amerikaanse burgerrechtenbeweging EFF spreekt van een backdoor die Apple nu aan de toestellen van gebruikers toevoegt.

Apple kondigde de plannen gisterenavond aan die vooralsnog zullen gelden voor iPhones, iPads en Macs die in de Verenigde Staten worden gebruikt. Voordat gebruikers een afbeelding naar iCloud Photos uploaden wordt een hash van de afbeelding lokaal vergeleken met hashes van bekend kindermisbruikmateriaal. Wanneer er een match is wordt de afbeelding inclusief een cryptografische "safety voucher" geüpload.

Wanneer de gebruiker een bepaalde grens overgaat wat betreft het aantal geüploade afbeeldingen die als bekend kindermisbruikmateriaal bekendstaan, voert Apple een handmatig onderzoek uit naar de afbeeldingen, sluit het account van de gebruiker en stuurt een rapport naar het National Center for Missing and Exploited Children (NCMEC).

Er is echter de nodige kritiek op de maatregel. "Als je de crypto-oorlog hebt gevolgd weet je wat dit inhoudt: Apple wil een backdoor aan het eigen opslag- en chatsysteem toevoegen", zegt India McKinney van de EFF. Ze noemt kindermisbruik een ernstig probleem, maar stelt dat de weg die Apple nu inslaat ten koste gaat van de privacy van alle gebruikers.

"Apple kan uitleggen hoe de technische implementatie in de voorgestelde backdoor privacy en security zal beschermen, maar aan het einde van de dag, ook al goed gedocumenteerd, uitgedacht en beperkt, is een backdoor nog steeds een backdoor", aldus McKinney. De EFF is dan ook zwaar teleurgesteld over de plannen van Apple.

Volgens de burgerrechtenbeweging zet het techbedrijf de deur open voor verder misbruik, waarbij straks de accounts van iedereen en voor allerlei andere redenen worden gecontroleerd. "Laat er geen twijfel over zijn: dit is een vermindering van de privacy van alle iCloud Photos-gebruikers, geen verbetering", gaat McKinney verder.

In het geval van iMessage gaat de controle gelden voor Amerikaanse gebruikers onder de 18 jaar die onderdeel van een familie-account zijn. Wanneer het een account van een kind onder de 13 jaar betreft worden verstuurde en ontvangen berichten gecontroleerd. In het geval van een match krijgen de ouders een waarschuwing.

Hiermee breekt Apple de belofte van end-to-end encryptie, aldus de EFF. Ook geeft het volgens de burgerrechtenbeweging het gevoel dat Apple met gebruikers meekijkt en biedt het ouders een nieuwe mogelijkheid om hun kinderen te monitoren. "Mensen hebben het recht om privé te communiceren, zonder backdoors of censuur, ook wanneer het minderjarigen zijn. Apple moet de juiste beslissing maken en deze backdoors niet op de apparaten van gebruikers installeren", besluit McKinney.

Matthew Green, cryptograaf en hoogleraar aan de Johns Hopkins University, maakt zich ook zorgen. "Het probleem is dat encryptie een krachtig middel is dat privacy biedt, en je kunt geen sterke privacy hebben en tegelijkertijd alle afbeeldingen die mensen versturen controleren." Green krijgt bijval van Ross Anderson, hoogleraar Security Engineering aan de Universiteit van Cambridge. "Het is een absoluut afschuwelijk idee, omdat het zal leiden tot gedistribueerde bulksurveillance van onze telefoons en laptops", zegt Anderson tegenover de Financial Times.

Image

Reacties (45)
06-08-2021, 11:29 door Anoniem
goed bezig Apple op pakken die klootzakken weg er mee ..als je schuldig bent ?
06-08-2021, 11:30 door Anoniem
Het probleem is dat elk land een eigen soort definitie hanteert wat kinderporno en terrorisme is. In Nederland kun je een politieke partij oprichten die kritiek heeft op de regering, in Wit-Rusland word je genadeloos neergesabeld als je kritiek op de regering hebt. In weer andere landen word je behandeld als een 'terrorist'.

Als ik Apple was, dan zou ik deze backdoor zo snel mogelijk naar de container rijden.
06-08-2021, 11:34 door Anoniem
Een mooie reden maar ondertussen scan je wel alle informatie van de klanten? Hier begint het en waar eindigt het? Alles wordt gescand?
06-08-2021, 11:49 door Anoniem
Ik ben het eens met McKinney;
"maar aan het einde van de dag, ook al goed gedocumenteerd, uitgedacht en beperkt, is een backdoor nog steeds een backdoor"

Het is wachten totdat deze wordt gehackt, en hoe goed bedoeld het idee ook is...
Met dit in het achterhoofd, ben je als bedrijf dan nog steeds zo goed bezig?
06-08-2021, 11:56 door Anoniem
Door Anoniem: Een mooie reden maar ondertussen scan je wel alle informatie van de klanten? Hier begint het en waar eindigt het? Alles wordt gescand?

Grote uitdaging voor de leveranciers is natuurlijk wel dat "wij" vooraan staan om ze aan te klagen als "hun dienst/apparaat" voor iets illegaals is gebruikt.
06-08-2021, 12:08 door Anoniem
Als ouder moet je nu dus heel erg gaan oppassen als je van je eigen kids foto's maakt. Ik heb nog foto's van heel vroeger waar jongetjes en meisjes samen naakt op het strand speelden en waar ouders foto's van maakten omdat de kinderen zich vermaakten. Niemand had ook maar enige kwaadaardige gedachten erbij maar tegenwoordig staat alles in een kwaad daglicht. De gehele samenleving vertrut want ook volwassen bloot wordt als negatief gezien.
Kindermisbruik is echt van alle tijden, dat ga je echt niet stoppen door foto's online te scannen of het internet ervoor te sluiten. Het gebeurde al off-line en gaat ook gewoon off-line door waardoor er helemaal geen zicht meer is.
Ik zou me drukker maken over al die duizenden vluchteling kinderen die, onder toeziend oog van de overheid, uit AZC's verdwijnen zonder dat iemand dat ' in de gaten heeft'. Of de overheid zit zelf in de mensenhandel natuurlijk en weet het wel maar doet er bewust niets tegen. Bij het OM lopen immers ook viezerikken rondt en dat zal in de politiek niet anders zijn. Ik ken er wel een aantal die in het Haagse tussen vergaderingen door even langs een prosti gaan (minder of meerderjarig laat ik in het midden) om aan hun trekken te komen.
06-08-2021, 12:10 door Briolet
Hiermee breekt Apple de belofte van end-to-end encryptie, aldus de EFF.

Op zich kan dit nog steeds met end encryptie, want er wordt vóór het versturen al een hash vergeleken met een locale lijst. De kans dat de hash van een zelfgemaakte foto tot een trigger leidt is dus minimaal.

En zelfs als er toevallig een gelijke hash uit komt, moet de hash van meerdere foto's een match geven. Waarschijnlijk wordt dan pas de end-to-end encryptie uitgezet om de afbeelding ongecodeerd in handen te krijgen als bewijsmateriaal.
06-08-2021, 12:11 door majortom
Door Anoniem:
Door Anoniem: Een mooie reden maar ondertussen scan je wel alle informatie van de klanten? Hier begint het en waar eindigt het? Alles wordt gescand?

Grote uitdaging voor de leveranciers is natuurlijk wel dat "wij" vooraan staan om ze aan te klagen als "hun dienst/apparaat" voor iets illegaals is gebruikt.
Dat is natuurlijk een onzinargument. We klagen Blokker ook niet aan als een mes dat daar is gekocht is gebruikt voor een steekpartij? Denk aan de balpenmoord? Etc, etc. Dat een tool voor kwade doeleinden kan worden gebruikt is een gegeven, dat kun je niet voorkomen ook niet met intensieve monitoring.
06-08-2021, 12:11 door ROGGER
Leuk hoor Apple met je privacy! Ik heb niks te verbergen, maar sla er geen foto's meer op...
06-08-2021, 12:30 door Anoniem
Waarom wordt altijd -naast terrorisme- het meest smerige als excuus gebruikt? Zegt genoeg over de gedachtengang van dergelijke beleidsmakers en pottenkijkers.

Apple degradeert zichzelf nu met dit beleid. Het mag zich plaatsen naast de Xiomi en Huawei met deze backdoor. Overigens snap ik niet waarom velen hun hele hebben en houden in een cloud willen stoppen. Als je die niet zelf beheert, loop je dus duidelijk een risico.

Wellicht zal Apple hun prijzen moeten laten zakken tot op het niveau van de concurrentie, wil het nog interessant blijven op lange termijn. Dataverzamelen zal de winstmarge per eenheid omhoog stuwen ter compensatie: Het zal een soort Google worden.
06-08-2021, 12:40 door Anoniem
Ik sla de negatieven wel op, dan is de hash anders en probleem opgelost...
06-08-2021, 12:55 door Anoniem
Dit Amerika? https://nos.nl/artikel/2392048-onderzoek-in-vs-naar-kostscholen-ook-hier-zijn-kinderen-verdwenen
Dit Amerika? https://nos.nl/artikel/2295777-mensenrechtengroep-vs-haalt-onterecht-gezinnen-uit-elkaar-bij-grens-mexico

Dit Amerika gaat ons morele kompas worden waar het kinderrechten betreft?

Volgens mij geeft de Amerikaanse overheid geen 'fuck' om kinderen en is het te doen om iets anders. Bijvoorbeeld auteursrechtelijk materiaal in de cloud. Want een flag vanwege kinderporno of een flag vanwege de nieuwste starwars film, voor een computer maakt het allemaal geen ruk uit. Permaban dat account!
06-08-2021, 12:59 door Anoniem
Ik vraag mij af of Apple niet onder druk is gezet om dit te doen. Waren het immers niet de bekende opsporingsinstanties die jarenlang en voortdurend de "achterdeur" aan het bepleiten waren?
06-08-2021, 14:41 door Anoniem
@anon 12:30 dit is een beproefde methode om alles wat een overheid/bedrijf wil door drukken een vrije baan te geven.

Want spreek je nu hier tegen uit dan kom je in het hokje dat dus voor Kinderporno/Terrorisme/Misdaad/vulhierzelfeenwalgelijkexcuusin dus goed keurt en niemand wilt hier mee geassocieerd worden. Dat is de hele reden waarom keer op keer die joker wordt gebruikt, simpelweg om mensen met kritiek de mond te snoeren.
06-08-2021, 14:54 door Anoniem
Deze functie kan ook voor het volgende gebruikt worden:

Een overheidsinstelling upload een hash van het gezicht van een persoon die ze zoeken (b.v. een journalist) en Apple gaat in alle iOS en macOS apparaten van onwetende eigenaren zoeken naar een match.. Zo kan iemand overal gevolgd worden zonder dat deze zelf uberhaupt een mobiele telefoon heeft.
06-08-2021, 15:09 door Anoniem
En daar komen de zeikerige:

Kanttekeningen:

1) Dit lijkt me geen taak voor Apple.
2) Dus alle goeden moeten lijden onder de kwaden?
3) Foute conclusies zijn zo gemaakt.
4) Vermindering privacy.
5) Kans op misbruik.
6) Je stelt je heel erg afhankelijk op van een overheid die nu misschien goed bezig is maar in de toekomst niet. Daar zijn genoeg voorbeelden van in allerlei landen.
7) Je kan er op wachten dat deze mogelijkheid voor commerciële doeleinden en verdere wetgeving gebruikt gaat worden.
8) Dat aanvullende handmatige onderzoek bevalt mij totaal niet. Stel dat ik een Apple Iphone gebruik dan ben ik er niet van gediend dat iemand mijn foto's bekijkt en je weet hoe het gaat. Een of andere uitzendkracht onder het toeziend oog van een veteraan die er net 1 maand ervaring mee heeft. En op het eind wordt het in een ander land belegd omdat het daar goedkoper is.
9) Ik heb mijn ernstige twijfels over de werkelijke beweegredenen. Maar dat mag.
10) De Apple Iphone krijg wat mij betreft nu een andere nickname ..Apple WePhone. Want gevoelsmatig kijkt iedereen mee. Niet dat ik een andere illusie had.
11) Ik denk dat velen nu i.v.m. het risico fout beoordeeld worden geen Apple product meer nemen.
12) De wetgeving is in elk land anders.
13) Koop je een dure Iphone die een enorme investering is en betaal voor je eigen spionage apparatuur. (niet nieuw heb je met Android ook) Want niemand zei van te voren dat ze dat gingen doen. Dit is een verandering van de deal. Maar dit zal wel ergens vallen onder de kleine lettertjes weer die geen hond leest.
14) Als ik foto's maak van voor mij vertrouwelijke gegevens (tekst) zou het zo maar kunnen dat iemand daar misbruik van maakt in de toekomst.
15) Zijn hier geen wetten voor? Want stel dat ze het in Europa willen gaan doen gaat de EU dat dan toestaan?
16) In een periode dat cybercrime alleen maar toeneemt, denk ik niet dat je wil. Want de kans op misbruik ..door vergroting van de aanvalsvectoren, neemt alleen maar toe.
17) Ik denk dat de reden heel anders is dan ze je willen geloven.

Pro)Ja, die foute gasten moeten opgepakt worden. HELEMAAL mee eens. Het zal je kind maar zijn ..maar op deze manier. Ik weet het niet.. je moet ze maar op je mooie ogen geloven.

Ik zie een markt voor kant en klaar zelf ontwikkelende camera's.
06-08-2021, 16:36 door Anoniem
Door Anoniem: Deze functie kan ook voor het volgende gebruikt worden:

Een overheidsinstelling upload een hash van het gezicht van een persoon die ze zoeken (b.v. een journalist) en Apple gaat in alle iOS en macOS apparaten van onwetende eigenaren zoeken naar een match.. Zo kan iemand overal gevolgd worden zonder dat deze zelf uberhaupt een mobiele telefoon heeft.

Als je iPhone met NSO Pegasus-spyware, of iets wat daar op lijkt, in het geniep wordt gekraakt, dan loop je dus het risico dat er van een afstand compromitterend beeldmateriaal op wordt gezet. Apple's eigen on-device variant van PhotoDNA staat er vervolgens automatisch garant voor dat je goede reputatie als journalist naar de filistijnen gaat.
06-08-2021, 17:00 door Anoniem
Deze shit moet stoppen. Als je dingen in de cloud wilt scannen als ze worden openbaar gedeeld dan valt daar iets voor te zeggen.

Het invoeren van deze functionaliteit client-side betekent dat dit straks voor veel meer en dus ook voor offline diensten zal worden ingezet. Geen enkele vorm van digitale bewerking en zeker niet digitale communicatie zal dan nog langs de argusogen van de beveiligingsdiensten komen.
Nu is het kinderporno (verchrijkelijk, maar is dat recentelijk een groot probleem geworden, bijv. vanwege enecryptie? Lijkt me niet maar kwantificeer het en bewijs het maar), wat zal het straks zijn? Bestijdening algemene criminaliteit? Tegengaan van dissidente? Verspreiding algemene onwelvallige informatie?

Het is hoogtijd dat onze digitale grondrechten worden vastgelegd en afgedwongen. Onze traditionele grondrechten gebieden al het recht op privacy. Tijd om dat digitale recht te borgen en deze ziekelijke uitholling van de mensenrechten een halt toe te roepen.
06-08-2021, 18:23 door Anoniem
Door Anoniem: Als ouder moet je nu dus heel erg gaan oppassen als je van je eigen kids foto's maakt. Ik heb nog foto's van heel vroeger waar jongetjes en meisjes samen naakt op het strand speelden en waar ouders foto's van maakten omdat de kinderen zich vermaakten. Niemand had ook maar enige kwaadaardige gedachten erbij maar tegenwoordig staat alles in een kwaad daglicht. De gehele samenleving vertrut want ook volwassen bloot wordt als negatief gezien.
Kindermisbruik is echt van alle tijden, dat ga je echt niet stoppen door foto's online te scannen of het internet ervoor te sluiten. Het gebeurde al off-line en gaat ook gewoon off-line door waardoor er helemaal geen zicht meer is.

Nee dat staat er totaal los van! In "deze plannen" wordt er niet gekeken naar de foto's en dan op de een of andere manier
bepaald of dit blootfoto's van kinderen zijn, maar er worden hashes gemaakt van de fotobestanden en deze worden
vergeleken met een lijst hashes waarvan iemand eerder al bepaald heeft dat dit misbruikfoto's zijn. Daar kunnen je eigen
foto's dus niet opstaan tenzij deze al eerder in kinderpornokringen gecirculeerd hebben en ik schat in dat foto's op het
strand dan nog niet echt een hoge score zullen krijgen om achter daders aan te gaan.

Wat ik nog niet goed snap is hoe ze hier dingen mee denken te vinden op telefoons. Het lijkt me (maar wie ben ik) dat
fotocollecties op telefoons meestal zelfgemaakte foto's zijn, en die geven dus nooit een match of hooguit een false-positive.
Is het een laptop dan is het wellicht al waarschijnlijker dat gedownload materiaal aanwezig is, maar wie zet zijn gedownloade
foto's in het fotobeheer van een operating system? Dat zal ook maar een klein deel doen.

Dus wat gaat het opleveren? Niks, lijkt me, tot je dit uitbreidt met daadwerkelijke beeld analyse die foto's kan classificeren
op basis van iets anders dan een cryptografische hash van een fotobestand.
06-08-2021, 18:27 door Anoniem
Door Anoniem: Het probleem is dat elk land een eigen soort definitie hanteert wat kinderporno en terrorisme is. In Nederland kun je een politieke partij oprichten die kritiek heeft op de regering, in Wit-Rusland word je genadeloos neergesabeld als je kritiek op de regering hebt. In weer andere landen word je behandeld als een 'terrorist'.
Ja... s'lands wijs, s'lands eer...
"wij" staan er om bekend dat we de situatie in andere landen bekritiseren en zelf in de stress schieten als onze situatie
bekritiseerd wordt. we geven graag af op EU lidstaten die niet onze normen en waarden ondersteunen, maar sturen wel
gerust een EU vertegenwoordiger naar de beediging van een president van een schurkenstaat buiten de EU.
het is allemaal een beetje erg hypocriet aan het worden, dat "wij zijn het morele compas van de wereld".
06-08-2021, 18:52 door Briolet - Bijgewerkt: 06-08-2021, 18:54
Door Anoniem: Als ouder moet je nu dus heel erg gaan oppassen als je van je eigen kids foto's maakt. Ik heb nog foto's van heel vroeger waar jongetjes en meisjes samen naakt op het strand speelden en …

Jij haalt hier net zo'n onzin argument aan als ik zojuist op TV zag, waar ze dit systeem in één zin gebruikten met ten foutief beoordelen van foto's omdat software er andere dingen in ziet.

Het gaat hier niet om beeldanalyse van foto's maar om hashes van reeds beoordeelde foto's. De kans dat je eigen foto's aan zo'n hash voldoen is extreem klein. (ik las dat Apple de kans 1 op 1 biljoen inschat)

Verder zou ik als ik, als ik zulk belastend beeldmateriaal op mijn telefoon had, zorgen dat ik van elke afbeelding de kleur van één pixel met 1 digit aanpas. De hash klopt dan al niet meer met die in een database en ik zal het verschil in de foto niet gaan merken.
06-08-2021, 21:19 door Anoniem
Nu is het scannen naar iets waarvan je het doel misschien nobel kan vinden - maar wie garandeert dat het morgen nog zo is? Wie garandeert dat er geen fouten in zitten? Software bevat altijd fouten - zie maar hoeveel bugfixen er maandelijks uitkomen!
Dit is niet ok - zonder interventie van een mens ter verificatie. Men gaat ook zomaar over tot het schorsen van accounts - en je hebt geen poot om op te staan om u te verdedigen, je weet vaak niet eens waarom uw account wordt afgesloten.
En wat geldt voor Apple - geldt trouwens ook voor Amazon, Google, Microsoft e.v.a.
Bijgevolg - krijgen de alternatieven wind in de zeilen - of gaat men nog meer versleutelen. De versleutelde versleuteling dus!!!
06-08-2021, 21:37 door Anoniem
Uitzending EenVandaag

https://www.npostart.nl/eenvandaag/06-08-2021/AT_2158976

genoemd artikel in The Financial Times

Apple plans to scan US iPhones for child abuse imagery
https://www.ft.com/content/14440f81-d405-452f-97e2-a81458f5411f

Het bronzen standbeeldje van 'De kleine zeemeermin' bij Kopenhagen, naar het beroemde sprookje van de Deense schrijver en dichter Hans Christian Andersen, werd bestempeld als "te naakt".

In de plannen van Apple gaat het om de iPhone zélf die naar kinderporno zoekt, niet om een cloud scanner:

Het nieuwe plan van Apple wordt in eerste instantie alleen in de Verenigde Staten ingevoerd. Of en wanneer de Europese Unie aan de beurt komt, is onbekend: Apple Nederland geeft normaliter geen antwoord op vragen van journalisten en was vrijdagmiddag niet bereikbaar voor commentaar.

https://nos.nl/artikel/2392894-apple-wil-iphones-scannen-op-kinderporno-waarom-dat-wel-geen-goed-idee-is


Het maken van een foto van een wereldberoemd standbeeld of schilderij wordt in de toekomst een hachelijke zaak.
06-08-2021, 22:42 door Eric-Jan H te D
Het verschil met DPI is natuurlijk zeer gering.
06-08-2021, 22:43 door Anoniem
1) Als Apple dit kan doen, wat houdt Loekasjenko/Xi/Poetin/Kim dan tegen om dezelfde technologie te gebruiken voor hun doeleinden?

2) Gaat Apple nu voor opsporingsdienst spelen? Schuldig totdat het tegendeel is bewezen?
Misschien moet BMW ook maar al "hun" voertuigen preventief doorzoeken, want er zou misschien wel drugs in kunnen liggen!

Apple, privacy was juist een van jullie stokpaardjes. Nu gooi je echt je eigen glazen in. Dit plan moet direct in de prullenbak want het gaat jullie omzet kosten.
07-08-2021, 00:06 door Briolet
Door Anoniem:Het bronzen standbeeldje van 'De kleine zeemeermin' bij Kopenhagen, naar het beroemde sprookje van de Deense schrijver en dichter Hans Christian Andersen, werd bestempeld als "te naakt".

[knip]

Het maken van een foto van een wereldberoemd standbeeld of schilderij wordt in de toekomst een hachelijke zaak.

Lezen en nog eens lezen en niet naar die sensatie nieuws bulletins kijken. Er wordt helemaal geen foto geanalyseerd op 'naaktheid'. Er wordt zelfs geen foto gescand. Er wordt alleen naar de hash gekeken. En zo'n hash wordt vaak al berekend om te controleren of een file foutloos verzonden is.
Het grootste probleem wat ik er mee zou hebben is dat de database van alle foute foto's die geregistreerd zijn, nu standaard op je telefoon komt en daar geheugenruimte vreet.
07-08-2021, 00:22 door Anoniem
Door Briolet:
Door Anoniem:Het bronzen standbeeldje van 'De kleine zeemeermin' bij Kopenhagen, naar het beroemde sprookje van de Deense schrijver en dichter Hans Christian Andersen, werd bestempeld als "te naakt".

[knip]

Het maken van een foto van een wereldberoemd standbeeld of schilderij wordt in de toekomst een hachelijke zaak.

Lezen en nog eens lezen en niet naar die sensatie nieuws bulletins kijken. Er wordt helemaal geen foto geanalyseerd op 'naaktheid'. Er wordt zelfs geen foto gescand. Er wordt alleen naar de hash gekeken. En zo'n hash wordt vaak al berekend om te controleren of een file foutloos verzonden is.
Het grootste probleem wat ik er mee zou hebben is dat de database van alle foute foto's die geregistreerd zijn, nu standaard op je telefoon komt en daar geheugenruimte vreet.

Ik weet niet wat erger is, de foto scannen of de hash. Foto even van formaat veranderen of zo en je hebt een andere hash. Lijkt me evengoed kans op een foutieve match als het door ai laten analyseren van de foto.

Wat al eerder in een reactie wordt aangegeven, is dit wel een taak voor Apple?
07-08-2021, 11:45 door Anoniem
Door Anoniem:
Ik weet niet wat erger is, de foto scannen of de hash. Foto even van formaat veranderen of zo en je hebt een andere hash. Lijkt me evengoed kans op een foutieve match als het door ai laten analyseren van de foto.
Wat Apple er zelf over schrijft in https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf :
The hashing technology, called NeuralHash, analyzes an image and converts it to a unique number specific to that image. Only another image that appears nearly identical can produce the same number; forexample, images that differ in size or transcoded quality will still have the same NeuralHash value.

NeuralHash is a perceptual hashing function that maps images to numbers. Perceptual hashing bases this number on features of the image instead of the precise values of pixels in the image. The system computes these hashes by using an embedding network to produce image descriptors and then converting those descriptors to integers using a Hyperplane LSH (Locality Sensitivity Hashing) process. This process ensures that different images produce different hashes.

Kennelijk is het dus toch beeldherkenning en zijn we met zijn alleen op het verkeerde been gezet door bepaalde
andere beschrijvingen die het idee gaven dat er bijv een SHA hash over het bestand gebruikt werd.
Het enige wat er nu blijft staan van die veronderstelling is dat het kennelijk wel gaat om een hash die de beeldinhoud
beschrijft en die dan vergeleken wordt met van te voren bepaalde hashes van bekende kinderporno beelden.
Het gaat dus (vooralsnog) niet om een hash die bepaalt in hoeverre een tot nu toe onbekend beeld mogelijk kinderporno
is. Maar dat is waarschijnlijk wel een volgend doel:

Apple confirmed its plans in a blog post, saying the scanning technology is part of a new suite of child protection systems that would “evolve and expand over time”.
07-08-2021, 15:17 door Anoniem
Dit zou nooit mogen !!! , Allereerst het is een backdoor zoals vele hier al opmerken. Prive data hoort ten alle tijden prive te zijn, al is het nog zo verwerpelijk of niet in je straatje. Tegelijkertijd is het niet aan dit soort bedrijven om te bepalen wat verwerpelijk is. De volgende stap is namelijk alles scannen en als jij een tegenstander vormt voor de overheid of een andere mening hebt dan dit soort bedrijven ben je direct een target.

Des te meer reden om hier nooit Apple apparatuur in huis te halen.
07-08-2021, 18:24 door Anoniem
Des te meer reden om hier nooit Apple apparatuur in huis te halen.
Welke merk smartphone moet ik dan kopen, want ik vind ook dat Apple hier niet voor bevoegd is. Ik
denk ook dat pedofielen en criminelen wel weten hoe ze zo goed mogelijk onder de radar blijven. Of
is dit een argument voor Apple om zo de privacy te ontwijken.

Van mij mogen ze zwaar geschut inzetten tegen alle form van criminaliteit, maar laat gewone mensen
met rust.
08-08-2021, 00:31 door Anoniem
Ziet men dan niet dat het plan is om mettertijd van iedere wereldburger een onvervreemdbare identificatie te bezitten.
Jij zult dan op den duur niets meer bezitten, maar toch gelukkig zijn. (het build-back-better mantra van het WEF).

Dit is de droom van de globale aristocratische elitairen voor hun vestigen van hun "slavery dominion".
Heeft "men" dan nog niet door wat men langzaam, doch onverdroten, aan het uitrollen is.

Eerst werpt men iets op, waar iedereen in goed moede achter dient te staan.
Daarna komt de function creep tot totale surveillance Big Brother staat.
Wie zijn slechts de vervangbare pionnetjes hier? Juist.

#sockpuppet
08-08-2021, 15:54 door Anoniem
Zelfs TidBITS, de nieuwsbrief bij uitstek voor Mac tech evangelisten, is voor hun doen ongekend kritisch:

Security researcher Matthew Green, a frequent critic of Apple’s lack of transparency and outside auditing of its encryption technology, told the New York Times [1]:

They’ve been selling privacy to the world and making people trust their devices. But now they’re basically capitulating to the worst possible demands of every government. I don’t see how they’re going to say no from here on out.

https://tidbits.com/2021/08/07/faq-about-apples-expanded-protections-for-children/


TidBITS: "[Apple] is going to come under incredible pressure from governments around the world to apply this on-device scanning technology to other content. [...] If Apple ever capitulates to any of those demands, this announcement will mark the end of Apple as a champion of privacy."

TidBITS publiceert sinds 16 april 1990 wekelijkse mailings die voornamelijk handelen over Apple Inc. en Macintosh-gerelateerde onderwerpen, waarmee het een van de langstlopende internetpublicaties over Apple's technologie is.

[1] https://www.nytimes.com/2021/08/05/technology/apple-iphones-privacy.html
08-08-2021, 16:50 door Anoniem
Door Anoniem: Ziet men dan niet dat het plan is om mettertijd van iedere wereldburger een onvervreemdbare identificatie te bezitten.
Jij zult dan op den duur niets meer bezitten, maar toch gelukkig zijn. (het build-back-better mantra van het WEF).

Dit is de droom van de globale aristocratische elitairen voor hun vestigen van hun "slavery dominion".
Heeft "men" dan nog niet door wat men langzaam, doch onverdroten, aan het uitrollen is.

Eerst werpt men iets op, waar iedereen in goed moede achter dient te staan.
Daarna komt de function creep tot totale surveillance Big Brother staat.
Wie zijn slechts de vervangbare pionnetjes hier? Juist.

#sockpuppet

Divergent...
08-08-2021, 17:28 door Anoniem
Ik gebruik wel een iPhone maar uiteraard geen iCloud.
08-08-2021, 19:17 door Anoniem
Door Anoniem: Ik gebruik wel een iPhone maar uiteraard geen iCloud.

Daarom gaat Apple deze technologie in de iPhone zelf inbouwen. Dan maakt het niet meer uit of jij wel of niet de iCloud gebruikt, want dan kunnen ze alsnog je vakantiefoto's en video's op mogelijk verdachte beelden scannen.
08-08-2021, 19:22 door Anoniem
Door Anoniem: Ik gebruik wel een iPhone maar uiteraard geen iCloud.
Dat voorkomt enkel fase 1 van dit plan de foto hash controle. Echter er zit ook nog een keyword check ingebouwd. (wat de critici het gevaarlijkste onderdeel vinden) Zoek je naar bepaalde keywords dan krijg je een alert of wat ook kan een derde partij die het ontvangt. (in de voorbeelden gaat het om ouders maar je hoeft niet ver na te denken om daar inlichtingen dienst van te maken of een buitenlands regime)

En die database check gebeurt dus on device niet in de cloud. Wat ze doen met geuploade data is Apple vrij om restricties op te gooien (kan het geen slimme actie noemen maar dat is hun infra) maar restricties op een gekocht apparaat niet verbonden met commerciele cloud storage is verwerpelijk en nog erger dan enig sleepnet wat we hier in Nederland al hebben.

Apple graaft hier zijn graf als het aankomt op vertrouwen en geen enkel compromi kan dat herstellen.
08-08-2021, 19:38 door Anoniem
dat ze dit zo makkelijk kunnen implementeren zegt me dat ze die backdoor al erin hebben zitten.
09-08-2021, 09:05 door Anoniem
Door Anoniem: dat ze dit zo makkelijk kunnen implementeren zegt me dat ze die backdoor al erin hebben zitten.
Ze hebben de ultieme backdoor: de secret key voor het signen van nieuwe software. Gecombineerd met een functie
in de bestaande software om nieuwe software te downloaden.
Met dat heb je geen andere backdoor meer nodig.
09-08-2021, 09:51 door GerBNL
Door Anoniem: goed bezig Apple op pakken die klootzakken weg er mee ..als je schuldig bent ?

Waarom zou je nu anoniem browniepunten willen verzamelen? (anders dan bijvoorbeeld pure opruiing?)
09-08-2021, 11:16 door Anoniem
Door Eric-Jan H te D: Het verschil met DPI is natuurlijk zeer gering.

Een DPI-scanner kijkt in de structuur van verzonden TCP/IP datagrammen, voor een censuur verricht aan de zijde van de provider. De vinding van Apple lijkt meer op een AV-scanner op je iPhone, die verboden beeldmateriaal detecteerd i.p.v. virussen of trojans. Wat Apple voorsteld lijkt dus meer op een geautomatiseerde politieagent op je mobiel.
10-08-2021, 10:35 door Anoniem
goed bezig Apple op pakken die klootzakken weg er mee ..als je schuldig bent ?

Wil je ook graag een auto die overtreding bijvoorbeeld doorstuurt, naar CJIB ? Weinig goeds aan, bedrijven die zo weinig respect hebben, voor de privacy van hun klant. En ja, kinderporno is het gemakkelijkste issue om zo iets mee in te voeren. Waarop gaan ze je materiaal nog meer scannen, in de toekomst ?
10-08-2021, 10:37 door Anoniem
Waarom zou je nu anoniem browniepunten willen verzamelen? (anders dan bijvoorbeeld pure opruiing?)

Een mening waar je het niet mee eens bent, is geen opruiing. En brownie punten; slaat ook werkelijk nergens op. Reageer eens normaal....
10-08-2021, 10:39 door Anoniem
1) Als Apple dit kan doen, wat houdt Loekasjenko/Xi/Poetin/Kim dan tegen om dezelfde technologie te gebruiken voor hun doeleinden?

Niets nieuws of geavanceerds, aan het zoeken naar een hash. Kan al lang, met of zonder hulp van Apple. Los van het feit dat ik het voorstel van Apple absurd vind.
03-09-2021, 17:01 door Anoniem
Apple wacht met uitrol van systeem dat afbeeldingen gebruikers controleert
vrijdag 3 september 2021, 16:56 door Redactie

https://www.security.nl/posting/718969/Apple+wacht+met+uitrol+van+systeem+dat+afbeeldingen+gebruikers+controleert
15-10-2021, 18:32 door Anoniem
Experts waarschuwen voor risico's client-side scanning zoals Apple en EU willen
vrijdag 15 oktober 2021, 16:34 door Redactie

https://www.security.nl/posting/725736/Experts+waarschuwen+voor+risico%27s+client-side+scanning+zoals+Apple+en+EU+willen
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.