Nieuws
image

FTC wil regels aanpassen om fraude met deepfakes tegen te gaan

zondag 18 februari 2024, 09:05 door Redactie, 3 reacties

De Amerikaanse toezichthouder FTC wil regelgeving aanpassen om fraude met deepfakes tegen te gaan. Op dit moment is het al verboden om bedrijven of overheidsinstanties te imiteren, maar de FTC kijkt er nu naar om dit verbod ook naar individuen uit te breiden. Aanleiding voor een uitbreiding van de regels is een toenemend aantal klachten over imitatiefraude. "Opkomende technologie, waaronder AI-gegenereerde deepfakes, dreigen deze plaag te versnellen", aldus de toezichthouder.

De FTC kijkt ook naar de aanpak van bedrijven en AI-platforms die afbeeldingen, video's of teksten genereren of diensten aanbieden waarvan ze weten of kunnen weten, dat die worden gebruikt voor het benadelen van personen door middel van imitatiefraude. "Fraudeurs maken gebruik van AI-tools om individuen met griezelige precisie na te bootsen en op een veel grotere schaal. Met de groei van gekloonde stemmen en AI-gedreven scams, is het beschermen van Amerikanen tegen imitatiefraude belangrijker dan ooit", zo stelt de toezichthouder. Het publiek heeft zestig dagen de tijd gekregen om op het voorstel te reageren.

Reacties (3)
Reageer met quote
18-02-2024, 19:45 door Anoniem
Je kan drie dingen verbieden:
- fraude met behulp van imitaties;
- het maken van imitaties;
- het beschikbaar stellen van technische middelen waarmee imitaties kunnen worden gemaakt.

Fraude is al verboden, en terecht. Maar die andere twee, mag er dan ook geen AI-kunst meer worden gemaakt? Hoe bepaal je of een bedrijf "weet of kan weten" dat AI-tools voor imitatiefraude worden gebruikt? Elke tool wordt ook door criminelen gebruikt. Dan ook maar fotocamera's gaan verbieden, want foto's kunnen ook worden gebruikt voor identiteitsfraude?
Reageer met quote
19-02-2024, 00:27 door Anoniem
Hoe moet je dan ook je eigen identiteit waarborgen.
Dat wordt zodoende steeds moeizamer.
Reageer met quote
19-02-2024, 13:54 door Anoniem
Expert waarschuwt: AI gaat WhatsApp-fraude veel makkelijker maken: voice cloning
door Chris Koenis, 17 februari 2024

https://www.rtlnieuws.nl/economie/artikel/5434041/boek-over-kunstmatige-intelligentie-maarten-sukel-de-ai-revolutie

Het valt mij op dat een bedrijf als OpenAI [maker van ChatGPT, voor 49 procent in handen van Microsoft dat volgens zakenblad Fortune 13 miljard dollar investeerde in het bedrijf - red.] begon met het motto: we gaan het allemaal open doen, en nu de eerste is die het heeft afgesloten. Dus je pakt eerst wat gratis te vinden is, zet er een paar honderd onderzoekers op die het nét wat beter maken. En vervolgens bied je dat closed source aan als commercieel product.

Maarten Sukel De AI-revolutie: hoe kunstmatige intelligentie de maatschappij gaat veranderen (Balans, 2024)
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.

Zoeken
search