Een coalitie van meer dan negentig maatschappelijke organisaties uit de hele wereld heeft Apple in een open brief gevraagd om af te zien van het plan om afbeeldingen van Amerikaanse gebruikers op kindermisbruik te scannen. De organisaties vrezen dat Apple met het implementeren van de technologie het fundament legt voor censuur, surveillance en vervolging op wereldwijde schaal.

Apple is van plan om twee systemen te gaan implementeren. Het eerste scansysteem zal straks afbeeldingen die gebruikers naar iCloud Photos uploaden controleren op kindermisbruik. Het tweede systeem zal, wanneer ouders hier toestemming voor geven, afbeeldingen die minderjarigen via iMessage ontvangen en versturen op "seksueel expliciet" materiaal controleren. In het geval van een match wordt de gebruiker en afhankelijk van de leeftijd ook de ouder van de gebruiker gewaarschuwd.

De maatschappelijke organisaties stellen dat de systemen nieuwe risico's voor kinderen introduceren die kunnen worden gebruikt om meningen te censureren en de privacy en veiligheid van mensen wereldwijd te bedreigen. Daarbij richten de organisaties zich specifiek op twee punten. Het eerste is dat de scanfeature van iMessage voor waarschuwingen kan zorgen die het welzijn van jongeren in gevaar brengen, bijvoorbeeld wanneer ouders niet welwillend staan tegenover LGBTQ+-jongeren.

Het andere kritiekpunt is dat als het scannen op kindermisbruik straks is toegevoegd aan Apple-producten, het bedrijf onder grote druk, en mogelijk juridische verplichtingen, zal komen te staan om op allerlei afbeeldingen te controleren die overheden niet zinnen. Een druk die kan worden uitgebreid naar alle afbeeldingen op het toestel van gebruikers, niet alleen de afbeeldingen die naar iCloud Photos worden geüpload. "En daarmee heeft Apple het fundament gelegd voor censuur, surveillance en vervolging op wereldwijde schaal", aldus de organisaties. "