Techniek alleen is niet voldoende om misbruik van gekloonde stemmen door criminelen tegen te gaan, zo stelt de Amerikaanse toezichthouder FTC. De toezichthouder is een wedstrijd gestart waarbij deelnemers oplossingen kunnen inzenden om mensen tegen zaken als fraude te beschermen die door middel van gekloonde stemmen kan plaatsvinden.

Vorig jaar kwam de FTC al met een waarschuwing voor 'voice cloning', waarbij criminelen zich als een bekende voordoen en stellen dat het slachtoffer snel geld moet overmaken. Met de nu gestarte wedstrijd wordt gezocht naar oplossingen die moeten voorkomen dat iemand zich met een gekloonde stem kan authenticeren, of dat gekloonde stemmen in real-time kunnen worden gemonitord of gedetecteerd.

Verder wordt er gezocht naar oplossingen die aan de hand van opgenomen audio kunnen vaststellen dat het om een gekloonde stem ging. De oplossingen zijn bedoeld voor bedrijven en ontwikkelaars die diensten of producten aanbieden waarmee het klonen van stemmen mogelijk is, zodat er vervolgens maatregelen kunnen worden getroffen om misbruik tegen te gaan of detecteren.

"En als er geen levensvatbare ideeën verschijnen, stuurt dit een belangrijke en vroege waarschuwing naar beleidsmakers dat ze strengere beperkingen moeten stellen aan het gebruik van deze technologie, gegeven de uitdagingen in het voorkomen van schadelijke ontwikkelingen in de markt", aldus de FTC.

De toezichthouder voegt toe dat de wedstrijd onderdeel van een bredere strategie is. "De risico's van voice cloning en andere AI-technologie kan niet alleen door technologie worden opgelost. Het is duidelijk dat beleidsmakers niet op zelfregulering kunnen rekenen om het publiek te beschermen." Inzendingen kunnen tot 12 januari worden opgestuurd. Begin 2024 worden de resultaten bekendgemaakt.