image

Brussel wil chatdiensten verplichten om kindermisbruik te detecteren

woensdag 11 mei 2022, 15:23 door Redactie, 27 reacties

De Europese Commissie wil bedrijven die online diensten in de EU aanbieden, waaronder chatdiensten en hostingbedrijven, verplichten om kindermisbruikmateriaal op hun platforms te detecteren, te rapporteren en te verwijderen. Hiervoor zal er met hashes van bekend misbruikmateriaal worden gewerkt. In het geval van waargenomen kindermisbruik moet de betreffende gebruiker zijn te identificeren, zo blijkt uit een voorstel dat de Europese Commissie vandaag heeft gepresenteerd.

Bepaalde online serviceproviders detecteren online kindermisbruik op dit moment op vrijwillige basis. Volgens de Europese Commissie is vrijwillige actie onvoldoende om misbruik van online diensten voor kindermisbruik tegen te gaan. Daarom wil het een bindend juridisch framework instellen dat serviceproviders verplicht om kindermisbruik te detecteren, rapporteren en verwijderen.

De Europese Commissie wil daarnaast dat er een apart centrum komt dat zich met de bestrijding van kindermisbruik gaat bezighouden. Dit centrum beheert een database met hashes van bekende kindermisbruikafbeeldingen. Het centrum zal ook meldingen van providers van kindermisbruikmateriaal ontvangen en verwerken en deze data vervolgens met opsporingsdiensten en Europol delen.

De voorgestelde wetgeving moet gaan gelden voor online serviceproviders die diensten in de Europese Unie aanbieden, waaronder hostingproviders, aanbieders van interpersoonlijke communicatie zoals chatdiensten, appstores en internetproviders. De nieuwe verplichting zal zijn gericht op serviceproviders waarvan de diensten het meest voor online kindermisbruik worden gebruikt.

Versleuteld materiaal

De voorgestelde verplichting is "technologie neutraal", wat inhoudt dat de Europese Commissie niet beschrijft hoe de detectie moet plaatsvinden. Dit wordt aan de provider overgelaten. De Commissie zegt dat het onderzoek ondersteunt dat technische oplossingen zoekt zodat bedrijven kindermisbruik in end-to-end versleutelde communicatie kunnen detecteren. Bedrijven die niet meewerken kunnen boetes tot maximaal 6 procent van de wereldwijde omzet krijgen. Het voorstel gaat nu naar het Europees Parlement en de Europese Raad.

Image

Reacties (27)
11-05-2022, 15:35 door Anoniem
Is er ook een eu cloud dienst die
het spontane gedrag,het onnadenkend gedrag,het dromerige menselijke gedrag
wat ook bestaat bestraft?

NL/EU2022
11-05-2022, 15:57 door Anoniem
Dus door kinderporno ( voorbeeldmateriaal ) naar iedereen zijn telefoon te versturen kunnen ze dat vergelijken om te detecteren ?
MEGA LOL
11-05-2022, 16:02 door Anoniem
Je wil meer controle over "jouw" onderdanen (hier blijft het niet bij, zoals het verleden ons doet leren) en dit bewerkstellig je over de rug van misbruikte kinderen.

Dan moet je wel een heel naar 'mens' zijn.
11-05-2022, 16:09 door Anoniem
Nu zijn het Chat-diensten, straks worden je gedachten nog met een implant chip afgetapt omdat de Europese Commissie (EC) ook graag wil weten wat je denkt, en of dat wel door den beugel kan.

Maar nu begrijp ik pas waarom de leden van de EC niet door de kiezer worden gekozen.

Hoog tijd dus om dat aan te passen!
11-05-2022, 16:32 door Reinder
Door Anoniem: Dus door kinderporno ( voorbeeldmateriaal ) naar iedereen zijn telefoon te versturen kunnen ze dat vergelijken om te detecteren ?
MEGA LOL

Eh nee. Er is een bestaande database met hashes van bekende afbeeldingen met kinderporno. (Perceptual hashing of een vergelijkbare techniek, niet een cryptografische hash). Het voorstel omdat de verplichting om op het end-user device aanwezige afbeeldingen te vergelijken met dat bestand van bekende hashes. Het is dus niet het idee om een enorme collectie kinderporno naar alle telefoons te pushen of zo.

Het blijft een enorm slecht idee, maar dat terzijde.
11-05-2022, 16:54 door Anoniem
De internetdiensten moeten straks een analyse maken van de risico's, maatregelen treffen om deze te beperken en daarover rapporteren aan de EU- lidstaten. Op het moment dat er significante risico's zijn, kunnen de lidstaten een zogeheten monitorbevel afgeven. De internetdiensten zijn dan verplicht om te monitoren wat er rondgaat. Zo'n bevel geldt voor een bepaalde tijd en specifieke type content.

https://nos.nl/artikel/2428357-eu-wil-strenge-aanpak-online-kindermisbruik-whatsapp-bezorgd-over-uitvoering
11-05-2022, 17:01 door Anoniem
Dan moet je wel een heel naar 'mens' zijn.
Inderdaad en wat je krijgt is gewoon te zien op deze planeet als je je ogen open doet helaas blijkt dit zeer
moeilijke te zijn. In plaats dat ze die advertentie bedrijven aanpakken gaan zelf ook die kant op. Als wij
allemaal lef hadden en internet abonnementen opzegden was het zo over maar dat zal nooit gebeuren.
11-05-2022, 17:10 door Anoniem
Dit is hetzelfde artikel als een paar uur geleden met een andere titel?
11-05-2022, 17:51 door Anoniem
Veel dictaturen die aan hun einde komen nemen allerlei draconische controle maatregelen om nog het laatste beetje macht te laten gelden en te laten zien dat ze nog steeds mee doen. Zo ook de EU die steeds draconischer en draconischer wordt in de controle zucht. Er ligt ook al een wetsvoorstel, zogenaamd weer om kinderen te beschermen, waarbij verplicht de leeftijd moet worden bewezen met je digitale ID. Het gaat natuurlijk helemaal niet om kinderen te beschermen, want daar geven die ongekozenen namelijk geen moer om, maar het werkelijke doel is dat iedereen, dus ook opa van 80 die pornhub wil bezoeken, zijn ID moet laten scannen om aan te tonen dat hij niet jonger dan 18 is. Geen privacy meer want de overheid zit in jouw pc en controleert alles wat je doet. Oh ja, de digitale Euro komt er ook aan. Nu weten banken niet wie een briefje van 50 euro aan wat uitgeeft, straks met het digitale briefje van 50 euro weten ze dat exact. Dat betekend dat je ook geen geld meer hebt maar een krediet die door de bank wordt toegewezen. Nog meer controle en macht want als je niet voldoende deugpunten scoort dan mag je niet op vakantie of kun je die nieuwe schoenen niet aanschaffen of mag je bij bepaalde winkels niets meer kopen. Of, in het ergste geval, wordt je tegoed gewoon geblokkeerd en heb je niets meer.
De overheid als de grootste vijand van het volk, wie had dat nu gedacht dat dit nog eens gebeuren 80 jaar geleden? Maar helaas, het is inmiddels een feit.
11-05-2022, 17:56 door Anoniem
Welkom in de DDR.
11-05-2022, 19:10 door Anoniem
Nu al 30 miljoen reports ? Hoeveel zijn daarvan opgelost ? Draagt dit dan bij tot de hooiberg of tot daadwerkelijke vangst van daders en reductie van het probleem ?
11-05-2022, 19:32 door Anoniem
Alsof dit ooit echt het probleem zou oplossen. Niet dat het dat doel heeft natuurlijk dat weet iedereen wel zo beetje.
Mij intereseert het al jaren niet meer heb me hier al lang op voorbereid.
Hier voor ieder een prima werkende oplossing die je op elk platform zo beetje kan toepassen en het hele surveillance concept om de zeep helpt.


Huur of koop server, space gooi er een one time secret dienst op met encryptie (zijn er genoeg te vinden voor selfhosting) Vraag aan je contacten of ze hun IP kunnen doorgeven waar je vertrouwelijk mee wilt chatten. Donder die in een allow list en zet world op Deny.

Als je vertrouwellijke informatie wilt delen typ je bericht met of zonder bijlages in de one time secret dienst en plakt de link in welk chat programma je ook wil gebruiken. Lach je vervolgens rot om alle client side scanning.

Pasieve monitoring kan er niks mee want de link is al lang aangeklikt en verlopen voor men eraan kan komen en actieve monitoring kan er geen beep mee omdat je IP allow erop hebt gegooid. Scanners zien een vage link die niks zegt over de data en de server bewaard geen metadata van de transacties nog kopie van de bestanden na dat de link is benaderd van een vertrouwd IP.

Enige vectors dat er informatie kan lekken is als er direct op de lijn getapt wordt bij het datacenter, de server of bij je contact en uiteraard als er een exploit wordt gebruikt in je dienst maar dan heb je wel grotere zorgen dan onderschepping van je vertrouwellijke berichten.

Implementatie kost je paar tientjes per jaar en uurtje of twee werk maar dan ben je ook van al het gezeik meteen af wat ze ook ooit verzinnen voor scan methode. Enige nadeel is je moet 1 extra handeling verrichten per bericht als je vertrouwelijk wil communiceren en dat geldt ook voor je gesprekspartner(s)


Kan niet wachten tot ze dit stupide plan doorvoeren en middels slipperyslope tactic uitbreiden naar text monitoring onder het mom van antiterrorisme bestrijding, om vervolgens in hun eigen been te schieten door dat de gegevens (ongetwijfeld) gestolen en misbuikt gaan worden door een van de vele APT groepen.

Als we een ding wel geleerd hebben de lokale overheid en EU weten geen beep van informatiebeveiliging.
12-05-2022, 08:23 door gradje71
@ anoniem 19:32,

Zou je hier AUB een apart artikel van willen maken? Ik denk dat deze informatie zeer welkom zou zijn. En als je dat doet, zou je dan ook iets specifieker willen zijn? Het voordeel van een apart artikel maken is dat deze informatie veel langer zichtbaar is.
12-05-2022, 08:24 door Anoniem
Door Anoniem: Je wil meer controle over "jouw" onderdanen (hier blijft het niet bij, zoals het verleden ons doet leren) en dit bewerkstellig je over de rug van misbruikte kinderen.

Dan moet je wel een heel naar 'mens' zijn.

Ik vind dit een zieke veregelijking van U
12-05-2022, 08:30 door Anoniem
Door Reinder:
Door Anoniem: Dus door kinderporno ( voorbeeldmateriaal ) naar iedereen zijn telefoon te versturen kunnen ze dat vergelijken om te detecteren ?
MEGA LOL

Eh nee. Er is een bestaande database met hashes van bekende afbeeldingen met kinderporno. (Perceptual hashing of een vergelijkbare techniek, niet een cryptografische hash). Het voorstel omdat de verplichting om op het end-user device aanwezige afbeeldingen te vergelijken met dat bestand van bekende hashes. Het is dus niet het idee om een enorme collectie kinderporno naar alle telefoons te pushen of zo.

Het blijft een enorm slecht idee, maar dat terzijde.

1. Een cryptografische hash ken ik, maar een perceptual hash niet. Zou je die uit willen leggen?
2. Waarom vind je dit een enorm slecht idee?
12-05-2022, 09:28 door Anoniem
Door Anoniem: Lach je vervolgens rot om alle client side scanning.

Totdat de technische recherche het IP-adres van één van je zogenaamde "vrienden" spooft... ;-)
12-05-2022, 09:35 door Anoniem
Door gradje71: @ anoniem 19:32,

Zou je hier AUB een apart artikel van willen maken? Ik denk dat deze informatie zeer welkom zou zijn. En als je dat doet, zou je dan ook iets specifieker willen zijn? Het voordeel van een apart artikel maken is dat deze informatie veel langer zichtbaar is.

Onderstaande links kan je een mogelijke implementatie mee starten al kan ik niks zeggen over hoe goed deze dienst in elkaar zit audit de code voor je het gebruikt. De gene die ik gebruik is op maat ontwikkeld al jaren geleden voor ons als bedrijf gezien ik en rest van verantwoordelijke team zorgwekkende ontwikkelingen zagen omtrent verschuivingen van bedrijf spionage en blackmailing van grote bedrijven naar de kleintjes met data. Ik heb de luxe dat ik een kopie voor eigen gebruik bezit voor testen van functies en mogelijke verbeterpunten plus bugs identificeren.

https://github.com/onetimesecret/onetimesecret
https://dev.to/chris__sev/one-time-secret-app-hackathon-submission-55f

Apart artikel schrijven zie ik niet zitten dat betekend extra onderhoud aan mijn kant of de thread raakt vol met frustreerde gebruikers die er niet uitkomen. Plus liever dat een artikel als dit langer in de spotlights staat zodat meer mensen wakker worden omtrent hun digitale veiligheid.

Het staat je uiteraard vrij zelf een artikel te maken aan de hand van de informatie en uitleg die ik al heb gegeven.
Het is geen nieuw iets op de markt maar voor vandaag was er geen echt nut voor de gemiddelde inwoner binnen EU. De EU is echter nu goed op weg dat we naar een zero trust samenleving gaan. Verwacht komend jaar nog maar meer ongein. Ik heb deze tactics al jaren meegemaakt vanuit amerika en het resultaat ervan kun je zien na 9-11 anti terrorisme crackdown.
12-05-2022, 09:49 door Anoniem
Eurocommissaris Ylva Johansson had niet alleen voor de daders een boodschap:

Tegen misbruikte kinderen zei ze: ,,Het is niet jullie schuld, jullie zijn niet alleen, we gaan jullie helpen.” Het nieuwe agentschap gaat dat onder meer doen door foto’s en video’s offline te halen. En tegen de politie: ,,We begrijpen jullie frustratie, er komt nu wetgeving die vervolging makkelijker maakt.”

https://www.ad.nl/buitenland/europa-opent-jacht-op-kindermisbruikers-die-online-opereren~a4b89506/
12-05-2022, 10:26 door Anoniem
Door Anoniem:
Door Reinder:
Door Anoniem: Dus door kinderporno ( voorbeeldmateriaal ) naar iedereen zijn telefoon te versturen kunnen ze dat vergelijken om te detecteren ?
MEGA LOL

Eh nee. Er is een bestaande database met hashes van bekende afbeeldingen met kinderporno. (Perceptual hashing of een vergelijkbare techniek, niet een cryptografische hash). Het voorstel omdat de verplichting om op het end-user device aanwezige afbeeldingen te vergelijken met dat bestand van bekende hashes. Het is dus niet het idee om een enorme collectie kinderporno naar alle telefoons te pushen of zo.

Het blijft een enorm slecht idee, maar dat terzijde.

1. Een cryptografische hash ken ik, maar een perceptual hash niet.

Zou je die uit willen leggen?
2. Waarom vind je dit een enorm slecht idee?

Over perceptual hash en de mogelijkheid om het te omzeilen https://github.com/anishathalye/neural-hash-collider
12-05-2022, 11:54 door Anoniem
Intranetten, waar EU niet bij kan. Of kunnen degenen, die de controledrang van het EU-beest willen frustreren, rekenen op een vroeg bezoek om alles in beslag genomen te zien. Deze EU is zich namelijk niet vrijheidslievend, maar eerder totalitair en dictatoriaal aan het ontwikkelen. AI en later neuralink inzetten tegen je eigen burgers om er een soort voorspelbare cybog-humanoiden van te maken, moet toch iedereen willen afwijzen. De verpakking in mooie woorden en excuses om het toch te doen, maken het allemaal enkel nog maar draconischer verkeerd. Draco regeert en zijn helpers zitten al overal.
#observator
.
12-05-2022, 12:17 door Anoniem
Door Anoniem: 1. Een cryptografische hash ken ik, maar een perceptual hash niet. Zou je die uit willen leggen?

Met een perceptual hash kijkt men, in tegenstelling tot een cryptografische hash, naar de oppervlakkige overeenkomsten van foto's en audiovisueel materiaal. Deze techniek introduceerd daardoor ambiguïteit: iets dat mogelijk op meerdere manieren te interpreteren valt. Dat zal ook leiden tot valspositieven, dus tot mogelijk onterechte verdachtmakingen, en daarmee tot meer juridische dwalingen. De definitie van verboden beeldmateriaal verschilt bovendien per rechtsgebied.

https://en.wikipedia.org/wiki/Perceptual_hashing

Het is ook mogelijk gebleken, zie boven, om de perceptual hash van volstrekt onschuldige afbeeldingen te manipuleren.


Door Anoniem: 2. Waarom vind je dit een enorm slecht idee?

De techniek leidt tot een verzwakking van de encryptie. Dat is het voornaamte bezwaar. Men zet de deur op een kier voor vijandelijke statelijke actoren en de georganiseerde criminaliteit. Als het in de verkeerde handen valt, dan kan het ook worden gebruikt door een (toekomstig) repressief regime. Het systeem kan i.p.v. van verboden beeldmateriaal evengoed ook de portretfoto van een kritische journalist of dissident misbruiken, om die persoon daarmee op te sporen.

Lees verder het commentaar van EDRi.org of het NRC artikel van 11 mei j.l. Het laatste woord is er nog niet over gerept.

https://www.security.nl/posting/753115#posting753250
12-05-2022, 15:11 door Anoniem
Door Anoniem: Het systeem kan i.p.v. van verboden beeldmateriaal evengoed ook de portretfoto van een kritische journalist of dissident misbruiken, om die persoon daarmee op te sporen.

Matthew Green, cryptograaf en hoogleraar aan de Johns Hopkins universiteit, noemt het voorstel van de Europese Commissie het ergste document dat hij ooit heeft gezien. "Het beschrijft het meest complexe massasurveillance-apparaat dat ooit buiten China en de Sovjet-Unie is uitgerold. En dat is geen overdrijving."

https://www.security.nl/posting/753302/Brussel+wil+massasurveillance+in+naam+van+kinderbescherming
12-05-2022, 16:09 door Anoniem
Door Anoniem:
Door Anoniem: 1. Een cryptografische hash ken ik, maar een perceptual hash niet. Zou je die uit willen leggen?

Met een perceptual hash kijkt men, in tegenstelling tot een cryptografische hash, naar de oppervlakkige overeenkomsten van foto's en audiovisueel materiaal. Deze techniek introduceerd daardoor ambiguïteit: iets dat mogelijk op meerdere manieren te interpreteren valt. Dat zal ook leiden tot valspositieven, dus tot mogelijk onterechte verdachtmakingen, en daarmee tot meer juridische dwalingen. De definitie van verboden beeldmateriaal verschilt bovendien per rechtsgebied.

https://en.wikipedia.org/wiki/Perceptual_hashing

Het is ook mogelijk gebleken, zie boven, om de perceptual hash van volstrekt onschuldige afbeeldingen te manipuleren.


Door Anoniem: 2. Waarom vind je dit een enorm slecht idee?

De techniek leidt tot een verzwakking van de encryptie. Dat is het voornaamte bezwaar. Men zet de deur op een kier voor vijandelijke statelijke actoren en de georganiseerde criminaliteit. Als het in de verkeerde handen valt, dan kan het ook worden gebruikt door een (toekomstig) repressief regime. Het systeem kan i.p.v. van verboden beeldmateriaal evengoed ook de portretfoto van een kritische journalist of dissident misbruiken, om die persoon daarmee op te sporen.

Lees verder het commentaar van EDRi.org of het NRC artikel van 11 mei j.l. Het laatste woord is er nog niet over gerept.

https://www.security.nl/posting/753115#posting753250

Right. Goede punten. Dank je.
12-05-2022, 22:24 door Anoniem
Dat word peer to peer toxen of een gecentraliseerde chat app dienst bovenop tor.
14-05-2022, 20:42 door Anoniem
Door Anoniem: Dat word peer to peer toxen of een gecentraliseerde chat app dienst bovenop tor.

https://www.security.nl/posting/739560/Versleutelde+chatapp+Briar+lanceert+desktopversie+voor+Linux

Briar werkt gedecentraliseerd via het Tor netwerk. Sinds 28 februari j.l. is Brair ook weer beschikbaar via Google Play.
14-05-2022, 23:31 door Anoniem
Door Anoniem: Nu zijn het Chat-diensten, straks worden je gedachten nog met een implant chip afgetapt omdat de Europese Commissie (EC) ook graag wil weten wat je denkt, en of dat wel door den beugel kan.

Maar nu begrijp ik pas waarom de leden van de EC niet door de kiezer worden gekozen.

Hoog tijd dus om dat aan te passen!
Het verhoren van criminelen wordt wel een stuk gemakkelijker.
25-05-2022, 13:45 door Anoniem
[...] de gegeven cijfers om de noodzaak te onderstrepen kloppen niet, zo stelt Matthias Pfau, ceo en medeoprichter van versleutelde e-maildienst Tutanota. Volgens Pfau is er zelfs sprake van "leugens".

"Europese Commissie niet eerlijk in plan om alle chatberichten te scannen"
woensdag 25 mei 2022, 13:25

https://www.security.nl/posting/754840/Europese+Commissie+niet+eerlijk+in+plan+om+alle+chatberichten+te+scannen
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.