image

Europol: bestrijding deepfakes vereist wetgeving en grotere rol techbedrijven

donderdag 28 april 2022, 14:57 door Redactie, 6 reacties

De meeste deepfakes zijn nog altijd handmatig door mensen te herkennen, maar dit is geen schaalbare oplossing voor de lange termijn, aldus Europol. De Europese opsporingsdienst heeft vandaag een rapport gepubliceerd over het gebruik van deepfaketechnologie door criminelen (pdf). In het rapport wordt gepleit voor wetgeving en een grotere rol van techbedrijven bij het vinden en verwijderen van deepfakes.

Met name het gebruik van deepfakes om desinformatie te verspreiden is volgens Europol een groot risico. Op dit moment zijn deepfakes nog door menselijke analisten te herkennen. Het toenemende gebruik van de technologie zal voor een grotere belasting van politiediensten zorgen en nieuwe vaardigheden van agenten vragen, aldus Europol.

Deepfakes kunnen allerlei gevolgen voor politiewerk hebben, van vervalst bewijs tot de inzet van politiediensten op locaties waar dit helemaal niet nodig is. Europol stelt dat opsporingsdiensten procedures hebben voor de omgang met nepbewijs, maar dat die vanwege de opkomst van deepfakes continu moeten worden aangepast. Daarnaast pleit Europol voor wetgeving om regels te stellen en medewerking af te dwingen, waarbij ook rekening wordt gehouden met de wensen van opsporingsdiensten.

Verder ziet Europol een grotere rol voor sociale netwerken en andere online serviceproviders weggelegd in het identificeren en verwijderen van deepfakes van hun platformen. "Nu het publiek steeds meer komt te weten over deepfakes, zal er wereldwijd een grotere zorg zijn over hun impact op personen, gemeenschappen en democratieën", zo laat Europol weten.

Biometrische autorisatie

Niet alleen verwacht Europol dat deepfakes gevolgen zullen hebben voor opsporingsdiensten, ook organisaties die van biometrische autorisaties gebruikmaken moeten hier rekening mee houden en hun autorisatieproces herzien. In plaats van audio-autorisatie moet gebruik worden gemaakt van audiovisuele autorisatie. Verder zijn live videoverbindingen nodig en moeten willekeurige handelingen live voor de camera worden getoond, zoals de hand voor het gezicht houden.

Reacties (6)
28-04-2022, 15:40 door Anoniem
De grootste dreiging van Deepfakes komt van state actors. En niet van burgers waar Europol zich bezig mee houdt. Of gaat Europol zich er mee bezig houden als het Kremlin of het White House een deepfake van Zelensky maakt? Dat is helemaal niet waar we Europol voor hebben, maar het kan wel grote gevolgen hebben voor de veiligheid van Europese burgers.

Met het afvlakken van Corona zijn videoverbindingen voor identificatie ook helemaal niet meer zo nodig. Sterker nog, deze videoverbindingen kunnen gebruikt worden voor het trainen voor deepfakes. Vooral als iedereen ze normaal gaat vinden en er aan meewerkt.
28-04-2022, 17:02 door Anoniem
Over duidelijkheid verschaffen dat men deep fakes kan onderscheiden, daarover hoort men niets.
In de ogen van de staat bestaan slechts (cyber-)criminele burgers en doen staten dit niet of moet dat anders genoemd worden.
Het meten met twee maten wordt steeds groter. Deep fake aan de ene kant en geprefereerde perceptie aan de andere.
Ik wens u veel onderscheid tussen die twee te kunnen ontwaren.
28-04-2022, 17:03 door Anoniem
"Op dit moment zijn deepfakes nog door menselijke analisten te herkennen." Moet dit niet zijn: cheapfakes?
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.
29-04-2022, 11:05 door Anoniem
Door Anoniem: "Op dit moment zijn deepfakes nog door menselijke analisten te herkennen." Moet dit niet zijn: cheapfakes?
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.

Huh ?

De stelling is : Menselijke analisten herkennen (nog) een deepfake.

Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
29-04-2022, 11:26 door Anoniem
Hij bedoelt denk ik dat als we het echt hebben over een deepfake het bijzonder onwaarschijnlijk is dat een analist in staat is dat materiaal als zodanig te herkennen. De kwaliteit wordt steeds beter..

Door Anoniem:
Door Anoniem: "Op dit moment zijn deepfakes nog door menselijke analisten te herkennen." Moet dit niet zijn: cheapfakes?
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.

Huh ?

De stelling is : Menselijke analisten herkennen (nog) een deepfake.

Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
29-04-2022, 12:59 door Anoniem
Door Anoniem: Hij bedoelt denk ik dat als we het echt hebben over een deepfake het bijzonder onwaarschijnlijk is dat een analist in staat is dat materiaal als zodanig te herkennen. De kwaliteit wordt steeds beter..

Misschien dat hij dat bedoelt - maar dat is de achterliggende aanname dat tools op dit vlak (al) beter zijn dan een menselijke analist .
De aanname dat tools (al) beter zijn dan mensen in dit domein is m.i. prematuur .



Door Anoniem:
Door Anoniem: "Op dit moment zijn deepfakes nog door menselijke analisten te herkennen." Moet dit niet zijn: cheapfakes?
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.

Huh ?

De stelling is : Menselijke analisten herkennen (nog) een deepfake.

Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.