image

Google beschouwt foto's die vader naar arts stuurt ten onrechte als kindermisbruik

maandag 22 augustus 2022, 10:46 door Redactie, 29 reacties
Laatst bijgewerkt: 22-08-2022, 11:16

Een Amerikaanse man die op verzoek van een verpleger foto's van zijn zieke peuter maakte en naar een arts stuurde is door de algoritmes en een medewerker van Google ten onrechte beschuldigd van het versturen van kindermisbruikmateriaal, wat grote gevolgen voor de vader had. Zo besloot de Amerikaanse politie een onderzoek naar hem te starten en raakte hij zijn Google-account met allerlei waardevolle informatie kwijt.

De zoon van de man had begin vorig jaar een ontsteking in de liesstreek. De ouders vroegen hun zorgverlener om een spoedconsult in het weekend, waarbij de verpleger verzocht om foto's van de liesstreek op te sturen zodat de arts die al kon bekijken. Het voorval deed zich vorig jaar februari voor tijdens de coronacrisis. De vader maakte zoals gevraagd de foto's en stuurde die op.

De foto's werden echter automatisch naar de servers van Google geback-upt. Daar beoordeelde een algoritme van het techbedrijf dat het om kindermisbruikmateriaal ging. Door het algoritme aangemerkte foto's worden vervolgens door een menselijke controleur geverifieerd. De betreffende Google-medewerker stelde dat het om kindermisbruikmateriaal ging en waarschuwde het National Center for Missing and Exploited Children (NCMEC). Een organisatie die zich met de bestrijding van kindermisbruik bezighoudt.

Google besloot het Google-account van de vader wegens het overtreden van het beleid te vergrendelen en het NCMEC waarschuwde de autoriteiten. De politie startte een onderzoek naar de vader en vroegen zijn internetprovider en Google om alle data over hem, waaronder bezochte websites, locatiegeschiedenis, berichten en geüploade documenten, foto's en video's, zo meldt The New York Times.

De politie stelde uiteindelijk op basis van onderzoek dat de man onschuldig is. Desondanks heeft de vader zijn Google-account nog altijd niet terug en is daardoor meer dan tien jaar aan contacten, e-mails en foto's kwijtgeraakt. Een deel van de foto's en documenten wist hij via andere back-ups terug te krijgen. Google heeft geen verklaring gegeven voor het niet teruggeven van het account. De man blijft naar eigen zeggen de diensten van Google gebruiken, maar vertrouwt zijn data niet meer klakkeloos aan het techbedrijf toe. Daarnaast adviseert hij om het automatisch uploaden van foto's naar Google Photos uit te schakelen.

Scanplan Europese Commissie

De Europese Commissie wil chatdiensten en andere techbedrijven verplichten om alle berichten en andere content van gebruikers op kindermisbruik te scannen, waarbij ook gebruik van algoritmes moet worden gemaakt. Tal van privacyexperts hebben de afgelopen periode gewaarschuwd voor de gevolgen van een dergelijk plan, waaronder het voorval dat de Amerikaanse vader is overkomen. Daarnaast hebben de Europese privacytoezichthouders zich ook zeer kritisch uitgelaten.

Reacties (29)
22-08-2022, 11:21 door Anoniem
Dat is het risico dat je loopt door alles te uploaden naar de cloud.

Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
22-08-2022, 12:07 door Anoniem
Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
22-08-2022, 12:14 door Anoniem
De vader heeft geluk gehad dat er bij de politie nog géén robots werken.
22-08-2022, 12:15 door Anoniem
Des te meer een reden om thuis een NAS te draaien met evt. versleutelde offsite backup.
22-08-2022, 12:35 door Anoniem
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.


De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
22-08-2022, 12:51 door Anoniem
De grote misser is dat google een mening over dit soort dingen meent te moeten hebben.
Oh wacht, onze regenten willen juist dat google (en anderen) dit gaan doen.

Reden te meer om niks met dergelijke bedrijven te maken te willen hebben. QED.
22-08-2022, 12:57 door Anoniem
Schending briefgeheim. Punt.
22-08-2022, 12:58 door Anoniem
Dit is nou precies een voorbeeld waarom het goed is om even ook naar dat wetsvoorstel te kijken van Europa over apparaten scannen op bepaalde patterns. Het streven is goed, alleen het middel...
22-08-2022, 13:21 door Anoniem
Niet met je zieke kind naar de dokter gaan. Of end-to-end encryptie gebruiken in de communicatie met de dokter.

De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.
22-08-2022, 13:48 door Anoniem
Nu is mij een paar jaar geleden dit ook overkomen toen ik plotseling Gordelroos kreeg.
Een consult met de arts zat er vanwege de Coronacrisis niet in en dus moest er van de buikstreek foto's worden opgestuurd. Hierop kon de arts een diagnose stellen.

Gelukkig ben ik niet door de Google Inquisitie veroordeeld en geblokkeerd voor het versturen van "porno"...
22-08-2022, 13:49 door Anoniem
Door Anoniem: Niet met je zieke kind naar de dokter gaan. Of end-to-end encryptie gebruiken in de communicatie met de dokter.

De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.

Je bedoeld geen fotos meer maken op je android...
Of iOS systeem.
22-08-2022, 13:58 door Anoniem
In opmerking 2 wordt onterecht gesproken van onbeveiligd mailen. De foto's zij op de achtergrond automatisch gesyncd voor backups, daar zit op dat moment weinig bewuste keuze in. Een beveiligd portal van de zorgverlener zou vereist moeten zijn voor dit soort gegevensuitwisseling. Wel goed dat Google op grote schaal in ieder geval een oogje in het zeil houdt.
22-08-2022, 13:58 door Anoniem
Door Anoniem: Dat is het risico dat je loopt door alles te uploaden naar de cloud.

Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
Je weet dat bij android (ook bij ios) dit standaard staat ingeschakeld? (retorisch) Zonder dat je het merkt worden jouw foto's in de cloud gezet.
Hoeveel mensen hebben door dat dit zo werkt?
22-08-2022, 14:24 door Anoniem
Door Anoniem:
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.


De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
En tegelijkertijd van Google eisen, dat ze ALLES doen om kinderporno tegen te gaan. Net zoals de overheid. Ze kunnen het volgens bepaalde reaguurders NOOIT goed doen.
22-08-2022, 14:43 door Anoniem
Door Anoniem:
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.


De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.

Ik laat voordeur openstaan en ga op vakantie.
Komt terug, huis leeg.
Ronduit schofterig.
Mij treft geen blaam, dief moet uit huis blijven.
22-08-2022, 15:28 door Anoniem
Door Anoniem:
Door Anoniem: Dat is het risico dat je loopt door alles te uploaden naar de cloud.

Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
Je weet dat bij android (ook bij ios) dit standaard staat ingeschakeld? (retorisch) Zonder dat je het merkt worden jouw foto's in de cloud gezet.
Hoeveel mensen hebben door dat dit zo werkt?
Dat weet ik. En ik let eropwat ik wel en niet laat uploaden naar de cloud
22-08-2022, 15:34 door Power2All - Bijgewerkt: 22-08-2022, 15:34
Door Anoniem:
Door Anoniem:
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.


De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.

Ik laat voordeur openstaan en ga op vakantie.
Komt terug, huis leeg.
Ronduit schofterig.
Mij treft geen blaam, dief moet uit huis blijven.

Scheve vergelijking.
De vader maakt een dagboek (zo kun je het zien) op aanraden van een arts.
Deze wordt gesynchroniseerd met een cloud van Google, waar volgens mij deze meneer niet helemaal van wist.
Iemand loopt toevallig voorbij (AI), en ziet dat er wat dingen zogenaamd niet in de haak zijn.
Google maakt een conclusie op een AI algoritme, die blijkbaar het e.e.a. uit zijn context trekt, en er wordt een conclusie van gemaakt die niet klopt.
Instanties melden dat dit inderdaad klopt dat Google's conclusie foutief is, maar Google probeert hun foute context te behouden...

Nee, dit is inderdaad schofterig van Google om uit zijn context gerukte inhoudt verdraait te behouden...
22-08-2022, 16:40 door Anoniem
Het medische verhaal is niet zo spannend. De arts bestudeert de foto’s, schrijft een antibioticumkuur voor en het probleem is opgelost. Maar daarmee eindigt het niet. Net zoals meer dan een miljard anderen maakt [de vader van de jongen] gebruik van Google Photo. Deze app zit standaard op iedere Android-telefoon.

https://www.volkskrant.nl/nieuws-achtergrond/amerikaan-verliest-toegang-tot-google-account-na-medische-naaktfoto-van-zoontje~b14fff30/

Het politieonderzoek pleitte de vader al snel vrij, maar Google houdt voet bij stuk. Zijn Google-account is verwijderd.
22-08-2022, 17:05 door Valheru
Door Anoniem: Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat.

Er is nergens gezegd dat het via mail ging, er staat 'sturen', het kan dus ook prima een versleutelde chat dienst zijn geweest, mijn dierenarts bijvoorbeeld vraagt wel eens om foto's via WhatApp te sturen, in theorie ook versleuteld, of in ieder geval beter dan plain mail.
22-08-2022, 18:29 door Briolet - Bijgewerkt: 22-08-2022, 18:32
Door Valheru: …Er is nergens gezegd dat het via mail ging, er staat 'sturen', het kan dus ook prima een versleutelde chat dienst zijn geweest, mijn dierenarts bijvoorbeeld vraagt wel eens om foto's via WhatApp te sturen, in theorie ook versleuteld, of in ieder geval beter dan plain mail.

Als het via een versleutelde dienst ging, had Google de plaatjes nooit kunnen verifiëren.

Het probleem is dat Google de plaatjes niet goed checkt. En in dit geval is de context van de plaatjes ook belangrijk. Het lijkt er op dat de handmatige controleurs alleen kijken of niet een of andere wolkformatie als kinderporno gezien wordt. In dit geval zal het duidelijk een foto geweest zijn van een kind, waar ook zijn geslachtsdelen op stonden. Dat is vrijwel niet te vermijden bij een foto van de lies.

Het slordige van Google is dat ze iemand direct in diskrediet brengen, zonder eerst te checken of er een legitieme reden was voor het versturen.

Maar in Nederland gebeuren vergelijkbare dingen. Als je kleine kinderen hebt die ruw spelen voordat je een bezoek brengt aan een consultatie bureau, dan kom je ook op een zwarte lijst te staan voor mogelijk kindermishandeling. Dat overkwam mijn zus die bij de huisarts te horen kreeg dat ze op een zwarte lijst stond in verband met geconstateerde blauwe plekken bij haar zoontje. Bij het 2e kind heeft ze het consultatiebureau dan ook gemeden. Kinderen spelen nu eenmaal en daarbij vallen ze ook wel eens.
22-08-2022, 19:37 door Anoniem
Domme actie van de vader en een wijze les. Nu weet hij ook dat Google elke foto in de Cloud via AI bekijkt - yes, ook die pikante kiekjes van z'n vrouw. En dat er daarna medewerkers naar kunnen kijken. Ook al z'n documenten worden doorgelicht.. Tja, da's nu eenmaal het risico als je je prive documenten op een server van Google plaatst.
22-08-2022, 23:44 door Anoniem
Door Anoniem: Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.

In Nederland werken de meesten zorgverleners gewoon met Whatsapp, omdat dat de enige chatapp is die bijna iedereen kent en gebruikt. Snel een foto maken met je mobiel en "even naar de dokter of verpleegkundige appen" is efficiënt en veilig genoeg, waarbij "snelheid en beschikbaarheid" doorslaggevend zijn. Email is in NL meestal 2e keuze, 3e keuze schijnveilige zorgmail-achtige diensten. Wij raden altijd aan niet onnodig foto's van geslachtsdelen te maken en na beoordeling worden alle foto's gedeletet. De mobiel waarop de foto's binnen komen verlaat het pand nooit, instellingen staan op maximale privacy. Dat is de realiteit.
23-08-2022, 06:41 door Anoniem
Domme actie van de vader en een wijze les.
om-ge-keer-de we-reld !
Zo geindoctrineert, zo omgeslagen dat jij nu (ook) (al) zo'n actie voor medische redenen labelt als een risico, want O, O, O , dalijk ziet iemand dat aan voor kp.
23-08-2022, 10:29 door Anoniem
Door Anoniem: Schending briefgeheim. Punt.
Laat mij dan even het wetsartikel zien waaruit blijkt dat het briefgeheim werd geschonden?
23-08-2022, 10:58 door Anoniem
EFF slaat alarm over valse beschuldigingen Googles fotoscan-algoritme
dinsdag 23 augustus 2022, 10:30 door Redacti

https://www.security.nl/posting/765370/EFF+slaat+alarm+over+valse+beschuldigingen+Googles+fotoscan-algoritme
23-08-2022, 12:51 door Anoniem
Door Anoniem: Niet met je zieke kind naar de dokter gaan. Of end-to-end encryptie gebruiken in de communicatie met de dokter.

De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.

werkt niet van de AI van Google zit er al voor
Dus niet de sync aanzetten met je clouddienst en alleen wat je echt in de cloud wilt hebben.
Het bijtje op de bloem
23-08-2022, 13:04 door Anoniem
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.

Er staat nergens dat dit via mail verstuurd is, dat is een aanname. Misschien is het wel via een beveiligde verbinding gegaan. De foto's zijn blijkbaar via een backup bij Google terechtgekomen, dat kan al gebeuren met een backup van de telefoon die gebruikt is om de foto's te maken.
24-08-2022, 15:32 door Anoniem
Door Anoniem: Ten eerste is het een grote fout van Google natuurlijk maar ook de vader gaat niet helemaal vrijuit naar mijn mening.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?

Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.

Veel mensen zijn zich van wat u aangeeft inderdaad niet bewust. Maar al had hij versleuteld, de US overheid heeft daartoe achterdeurtjes ingebouwd. Want reken er maar op dat dit scannen ook in versleutelde berichten snuffelt. Anders zou men niks gaan vinden omdat echte misbruikers dan prima weten wat ermee te doen.
24-08-2022, 15:33 door Anoniem
Door Anoniem:
Door Anoniem: Schending briefgeheim. Punt.
Laat mij dan even het wetsartikel zien waaruit blijkt dat het briefgeheim werd geschonden?

Schending briefgeheim geldt online niet. Betreft geen brief.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.