Computerbeveiliging
- Hoe je bad guys buiten de deur houdt
Ontstemd
03-09-2024, 15:23 door Erik van Straten, 16 reacties
Voice cloning
Uit https://www.bbc.com/news/articles/c3d9zv50955o:'A tech firm stole our voices - then cloned and sold them'
3 days ago, by Ben Derico, Technology reporter, BBC News, Reporting from San Francisco
[...]
"A tech company stole our voices, made AI clones of them, and sold them possibly hundreds of thousands of times."
[...]
They have now filed a lawsuit against Lovo. The firm has not yet responded to that or the BBC's requests for comment.
[...]
Lovo co-founder Tom Lee has previously said its voice-cloning software only needs a user to read about 50 sentences to create a faithful clone.
"We can capture the tone, the character, the style, the phonemes, and even if you have an accent, we can capture that as well," he told the Future Visionaries podcast in 2021
[...]
De (naar verluidt) slachtoffers zijn Paul Skye Lehrman en zijn partner Linnea Sage. Zij maakten/maken beiden "voice overs" en claimen nu dat het bedrijf Lovo een AI bot getraind heeft met hun stemmen, en deze natuurgetrouw kan nabootsen.3 days ago, by Ben Derico, Technology reporter, BBC News, Reporting from San Francisco
[...]
"A tech company stole our voices, made AI clones of them, and sold them possibly hundreds of thousands of times."
[...]
They have now filed a lawsuit against Lovo. The firm has not yet responded to that or the BBC's requests for comment.
[...]
Lovo co-founder Tom Lee has previously said its voice-cloning software only needs a user to read about 50 sentences to create a faithful clone.
"We can capture the tone, the character, the style, the phonemes, and even if you have an accent, we can capture that as well," he told the Future Visionaries podcast in 2021
[...]
De risico's nemen toe voor iedereen
Stemmen zijn steeds eenvoudiger na te bootsen. Het risico op misleiding (o.a. oplichting) gebruikmakend van een bekende stem (familielid, BN'er, DJ of journalist bekend van radio, TV en/of social media), via de telefoon of een video-verbinding, neemt toe."Authenticatie" op afstand steeds onbetrouwbaarder
Nb. met familie wachtwoorden afspreken heeft geen zin bij slimme 'Attackers in the Middle', zoals te zien in de 'plaatjes' onder "De Chase case" in https://security.nl/posting/842742: zelfs met een ogenschijnlijk één enkele verbinding tussen jou ("Jan" in de plaatjes) en degene die claimde jou te bellen (Chase), is er sprake van twee verschillende verbindingen.Zélfs een parallel kanaal (veilig, zonder aanvallers in het midden) tussen Chase en Jan helpt niet om de aanval op te merken.
Telefoonnummer-spoofing
Omdat het in het scherm van jouw telefoon getoonde nummer van de beller eenvoudig gespoofd (vervalst) kan worden (identiek aan dat van de bank of familielid kan zijn), ken ik maar één goed advies: hang op en bel zelf het bekende nummer terug.Doe dat óók als de beller liegt waarom dat nu (tijdelijk of permanent) niet zou kunnen, bijvoorbeeld omdat diens telefoon gestolen zou zijn (en je met diens telefoonnummer dus bij een bedrieger uitkomt), of dat het telefoonnummer al zou zijn geblokkeerd.
Mijn advies is om in elk geval te onthouden: als iemand op afstand contact met jou opneemt, kan alles wat zij jou vertellen gelogen zijn.
Ook *jij* bent onbetrouwbaar!
Helaas bestaat dat probleem óók voor degene waar jij vervolgens contact mee opneemt (bijv. jouw bank of een familielid): ook die ander weet niet zeker dat jij bent wie je zegt dat je bent.Vooral niet als zij überhaupt niet de oorspronkelijke beller (of SMS'er, e-mailer, WhatsApp'er etc. waren).
Fake "heb jij zojuist contact met mij gezocht?"
Wees dus ook alert op de volgende truc: je wordt gebeld door (of ontvangt een bericht van) een schijnbaar bekende die stelt dat jij zojuist contact met hen zou hebben opgenomen, maar dat zij het niet vertrouwden en daarom nu van jou willen weten of jij dat was.Nee, natuurlijk was jij dat niet (niemand heeft contact met hen opgenomen, het maakt deel uit van de oplichting), maar dit kan het begin zijn om vertrouwen te wekken. Bijvoorbeeld door daarna te zeggen: "nu wij u toch aan de lijn hebben, ...".
Conclusie
Ga ervan uit dat iemand op afstand niet te vertrouwen valt. Verstrek nooit gevoelige informatie, ongeacht wat de contactopnemer al van jou weet. Dat is niet onbeleefd maar verstandig.Reacties (16)
03-09-2024, 15:57 door
Anoniem
In de nabije toekomst kunnen we alle audio en video materiaal als AI of fake neerzetten, met de grote massa die op de hoogte is van het niveau van de fakery
Dit is goed nieuws voor mensen die blackmailed worden.... die kunnen nu alles denyen...
Het verzamelen van footage door criminelen heeft dankzij AI totaal geen zin meer, alles is nep, mensen weten dit, en mensen geloven zelfs de media niet meer
Dit is goed nieuws voor mensen die blackmailed worden.... die kunnen nu alles denyen...
Het verzamelen van footage door criminelen heeft dankzij AI totaal geen zin meer, alles is nep, mensen weten dit, en mensen geloven zelfs de media niet meer
03-09-2024, 16:49 door
Anoniem
Door Anoniem:
Dit is goed nieuws voor mensen die blackmailed worden.... die kunnen nu alles denyen...
Dit is goed nieuws voor mensen die blackmailed worden.... die kunnen nu alles denyen...
Huh?
03-09-2024, 20:34 door
Anoniem
Hier gaan veel mensen last van krijgen in de toekomst. Het zal zelfs politieke besluitvorming gaan beïnvloeden.
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
04-09-2024, 08:51 door
Anoniem
Door Anoniem: Hier gaan veel mensen last van krijgen in de toekomst. Het zal zelfs politieke besluitvorming gaan beïnvloeden.
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
Als die Trump weer aan het bewind komt is Witte Huis = Kremlin.
Dan heet het geen hotline meer.
Dan kloppen ze elkaar op de schouders hoe goed ze het doen.
Bij elkaar op de borrel samen met wat mooie vrouwen in bad.
04-09-2024, 12:18 door
Anoniem
Door Anoniem:
Als die Trump weer aan het bewind komt is Witte Huis = Kremlin.
Dan heet het geen hotline meer.
Dan kloppen ze elkaar op de schouders hoe goed ze het doen.
Bij elkaar op de borrel samen met wat mooie vrouwen in bad.
Door Anoniem: Hier gaan veel mensen last van krijgen in de toekomst. Het zal zelfs politieke besluitvorming gaan beïnvloeden.
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
Bestaat de hotline tussen het witte huis en het rode plein trouwens nog?
Als die Trump weer aan het bewind komt is Witte Huis = Kremlin.
Dan heet het geen hotline meer.
Dan kloppen ze elkaar op de schouders hoe goed ze het doen.
Bij elkaar op de borrel samen met wat mooie vrouwen in bad.
Mmwah. Zal wat achter de schermen via de kabels onderhandeld worden met het ICJ, VN en ECHR.
Programmeurs van de stem klonen kennen Trump zijn zwaktes in zijn persoonlijk profiel, en ik vraag me af of die uit Rusland komen. Kan wel buitenlands Russisch vermogen achter zitten.
05-09-2024, 19:04 door
Anoniem
They played my banned AI mashup in Congress (Johnny Cash x Barbie girl)
https://www.youtube.com/watch?v=-vh4ErO-i5o
https://www.youtube.com/watch?v=-vh4ErO-i5o
06-09-2024, 00:55 door
Anoniem
Als alles nep is, zoals hierboven in een commentaar aangegeven,
is dit een extra laagje in onze simulatie realiteit.
De matrix-achtige aard van onze dagelijkse werkelijkheid,
wordt zo wel steeds aannemelijker. Digitaal versus analoog.
Het onmiddellijke gevaar is onvermijdelijk verlies aan vrijheid.
Want technologie wordt tegen ons gebruikt door de macht.
#laufer
is dit een extra laagje in onze simulatie realiteit.
De matrix-achtige aard van onze dagelijkse werkelijkheid,
wordt zo wel steeds aannemelijker. Digitaal versus analoog.
Het onmiddellijke gevaar is onvermijdelijk verlies aan vrijheid.
Want technologie wordt tegen ons gebruikt door de macht.
#laufer
17-05-2025, 11:11 door
Anoniem
‘Mam! Help! Kun je snel geld overmaken?’
Oplichting via AI stem: bedrog met stemklonen
30-05-2023, 13:51 door Anoniem, 54 reacties
https://www.security.nl/posting/797882/Oplichting+via+AI+stem
Oplichting via AI stem: bedrog met stemklonen
30-05-2023, 13:51 door Anoniem, 54 reacties
https://www.security.nl/posting/797882/Oplichting+via+AI+stem
17-05-2025, 11:54 door
Anoniem
Voice cloning gecombineerd met het stijlfiguur van de parodie, dat is extreem gevaarlijk. Parodie is een vorm van metatekstualiteit.
Als procedé, iets bekends, een bepaalde stroming (hier: adolecentencultuur) of een bepaalde manier van schrijven belachelijk maken door typische kenmerken ervan op spottende wijze na te bootsen.
Parodie kan uiteraard in alle tekst en geluidstypes worden toegepast, ook in speeches en juridische geschriften. Ze kan komisch-goedbedoeld zijn, maar er zit een polemisch en sterk destructief moment in: de parodie geeft de breuk aan met werken en stromingen die als voorbijgestreefd ervaren worden. Zeker zicht-, hoor- en leesbaar in de parodie van Cash en Barbie.
Uitstekend voorbeeld van het gevaar hiervan, deze video.
Als procedé, iets bekends, een bepaalde stroming (hier: adolecentencultuur) of een bepaalde manier van schrijven belachelijk maken door typische kenmerken ervan op spottende wijze na te bootsen.
Parodie kan uiteraard in alle tekst en geluidstypes worden toegepast, ook in speeches en juridische geschriften. Ze kan komisch-goedbedoeld zijn, maar er zit een polemisch en sterk destructief moment in: de parodie geeft de breuk aan met werken en stromingen die als voorbijgestreefd ervaren worden. Zeker zicht-, hoor- en leesbaar in de parodie van Cash en Barbie.
Uitstekend voorbeeld van het gevaar hiervan, deze video.
17-05-2025, 13:54 door
Anoniem
Door Erik van Straten:
Voice cloning is m.i. irrelevant voor banken omdat zij de stem van de klant niet kennen resp. in hun bezit hebben. Voice cloning
(..)Ook *jij* bent onbetrouwbaar!
Helaas bestaat dat probleem óók voor degene waar jij vervolgens contact mee opneemt (bijv. jouw bank of een familielid): ook die ander weet niet zeker dat jij bent wie je zegt dat je bent.(..)Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
In principe zou de bank mijn stem kunnen opnemen en opslaan zodat zij mij a.h.v. mijn stem kan verifiëren wanneer ik opbel, als een extra identificatie-kenmerk.
17-05-2025, 14:34 door
Anoniem
Door Anoniem:
Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
Door Erik van Straten:
Voice cloning is m.i. irrelevant voor banken omdat zij de stem van de klant niet kennen resp. in hun bezit hebben. Voice cloning
(..)Ook *jij* bent onbetrouwbaar!
Helaas bestaat dat probleem óók voor degene waar jij vervolgens contact mee opneemt (bijv. jouw bank of een familielid): ook die ander weet niet zeker dat jij bent wie je zegt dat je bent.(..)Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
"Dit gesprek kan worden opgenomen voor trainingsdoeleinden" Heb je dat ooit gehoord als naar een bedrijf (wat banken ook zijn) belde, en in de wacht werd gezet bij het call-center?
17-05-2025, 21:11 door
Anoniem
Door Anoniem:
Wou je daarmee zeggen, dat de bank mijn stem allang heeft opgeslagen en als een identificerend kenmerk gebruikt? Door Anoniem:
Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
"Dit gesprek kan worden opgenomen voor trainingsdoeleinden" Heb je dat ooit gehoord als naar een bedrijf (wat banken ook zijn) belde, en in de wacht werd gezet bij het call-center?Door Erik van Straten:
Voice cloning is m.i. irrelevant voor banken omdat zij de stem van de klant niet kennen resp. in hun bezit hebben. Voice cloning
(..)Ook *jij* bent onbetrouwbaar!
Helaas bestaat dat probleem óók voor degene waar jij vervolgens contact mee opneemt (bijv. jouw bank of een familielid): ook die ander weet niet zeker dat jij bent wie je zegt dat je bent.(..)Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
(En mag dat zomaar zonder mij daarvan in kennis te stellen?)
18-05-2025, 12:31 door
Anoniem
Door Anoniem:
(En mag dat zomaar zonder mij daarvan in kennis te stellen?)
Door Anoniem:
Wou je daarmee zeggen, dat de bank mijn stem allang heeft opgeslagen en als een identificerend kenmerk gebruikt? Door Anoniem:
Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
"Dit gesprek kan worden opgenomen voor trainingsdoeleinden" Heb je dat ooit gehoord als naar een bedrijf (wat banken ook zijn) belde, en in de wacht werd gezet bij het call-center?Door Erik van Straten:
Voice cloning is m.i. irrelevant voor banken omdat zij de stem van de klant niet kennen resp. in hun bezit hebben. Voice cloning
(..)Ook *jij* bent onbetrouwbaar!
Helaas bestaat dat probleem óók voor degene waar jij vervolgens contact mee opneemt (bijv. jouw bank of een familielid): ook die ander weet niet zeker dat jij bent wie je zegt dat je bent.(..)Ik bankier op de oude manier met overschrijvingskaarten en ik bel de bank als ik iets ongebruikelijks wil met mijn bankrekening (incasso storneren, betaallimiet verhogen e.d.).
De bank is niet in het bezit van mijn telefoonnummer.
Om te kunnen verifiëren of ik degene ben die ik voorgeef te zijn, namelijk degene op wiens naam de bankrekening staat, moet ik altijd een waslijst aan identificerende kenmerken opnoemen voordat de bank iets met mijn (telefonische) verzoek doet.
(En mag dat zomaar zonder mij daarvan in kennis te stellen?)
Dat beweer ik niet, wat ik wel beweer is dat vele stemmen voor trainingsdoeleinden in callcenters zijn opgenomen de afgelopen decennia. Misschien niet door jouw bank, maar wel door andere (zaken)banken. Telefonisch overboekingen doen, is een mogelijkheid voor sommige rekeninghouders.
Wat in het heden nog niet gebruikelijk is, kan dat in de nabije toekomst wel worden.
18-05-2025, 17:36 door
Anoniem
Dit zet de deuren wagenwijd open voor manipulatie van elke soort.
Als je toch al in een feitelijke fake reality leeft. Wat maakt het dan uit?
Waarheidsvinding wordt zo wel eventjes een hele zoektocht.
Wat betekent het voor morele en ethische kaders en bestaan die straks nog wel als weleer?
Iedereen kan nu voor zichzelf uitmaken waar-ie wil staan.
Als je toch al in een feitelijke fake reality leeft. Wat maakt het dan uit?
Waarheidsvinding wordt zo wel eventjes een hele zoektocht.
Wat betekent het voor morele en ethische kaders en bestaan die straks nog wel als weleer?
Iedereen kan nu voor zichzelf uitmaken waar-ie wil staan.
19-05-2025, 12:08 door
Anoniem
Door Anoniem: Dit zet de deuren wagenwijd open voor manipulatie van elke soort.
Als je toch al in een feitelijke fake reality leeft. Wat maakt het dan uit?
Waarheidsvinding wordt zo wel eventjes een hele zoektocht.
Wat betekent het voor morele en ethische kaders en bestaan die straks nog wel als weleer?
Iedereen kan nu voor zichzelf uitmaken waar-ie wil staan.
Als je toch al in een feitelijke fake reality leeft. Wat maakt het dan uit?
Waarheidsvinding wordt zo wel eventjes een hele zoektocht.
Wat betekent het voor morele en ethische kaders en bestaan die straks nog wel als weleer?
Iedereen kan nu voor zichzelf uitmaken waar-ie wil staan.
Nu het zover is, moeten dan misschien niet beschrijven en verklaren. waar de moreel ethische kaders van het heden vandaan komen? Social engineering is al zo oud als de mensheid. Een technisch speeltje hebben de social engineers erbij gekregen.
Een recent nieuwsbericht als illustratie:
https://www.security.nl/posting/888034/FBI+waarschuwt+voor+deepfake+audioberichten+die+VS-functionarissen+imiteren
19-05-2025, 16:31 door
Anoniem
We huiverden in de jaren 60 als kinderen bij het chramophone plaatje "Pipo de Clown en de gestolen stem"
Maar nu ziet het eruit dat dit geen sprookje meer is, maar werkelijkheid. Wie had dat ooit kunnen denken...
Maar nu ziet het eruit dat dit geen sprookje meer is, maar werkelijkheid. Wie had dat ooit kunnen denken...
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Functionaris Gegevensbescherming
Sigra zoekt een Functionaris Gegevens-bescherming (28-36 uur) die privacytoezicht houdt, adviseert en bijdraagt aan regionale samenwerking in zorg en welzijn. Je werkt deels gedetacheerd, krijgt opleidings-mogelijkheden (o.a. CAICO), en maakt deel uit van een deskundig team. Sterke com-municatie, juridische kennis en ervaring in de zorg zijn essentieel. Interesse? Lees dan snel verder.
Cybersecurity Trainer / Full Stack Developer
bij Certified Secure
Ben je toe aan een nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?