Volgens mij is het een broodje aap want AI is nog lang niet zover om van een opgenomen stem, met enkele woorden, daarmee een gesprek te kunnen genereren. Dat staat leuk in spionage films maar daar worden geluidsfragmenten in geknipt en afgespeeld. Op een simpele vraag zal geen antwoord gegeven worden.
Wat wel eerder is gebeurd dat iemand gebeld word en er worden suggestieve en sturende zaken gevraagd waarop antwoord wordt gegeven die ze vervolgens opnemen en afspelen bij een bekende. Met een beetje creatieve vraagstelling en een beetje knippen en plakken kom je een eind. Maar een AI zal dat momenteel nog helemaal niet kunnen. Wellicht in de toekomst als er voldoende rekenkracht is om dit realtime te kunnen.

Is ook een broodje aap. Nog geen onafhankelijke expert / politie gehoord die heeft onderzocht dat dit daadwerkelijk het geval was. Tot die tijd gevalletje hype train!

https://www.security.nl/posting/624191/Geen+bewijs+voor+oplichting+door+AI+die+stem+directeur+imiteerde

De titel moet eigenlijk zijn:

"Oplichting via stem"

Of dat een AI is of iemand die vervormd praat maakt niet uit.
Als ze je maar in een paniek stemming weten te brengen. Dan doe je wel wat er gevraagd wordt.
Dat zie je al aan mensen die op sms-jes of whatsappjes reageren omdat hun zoon/dochter/etc in geld nood zou zit. Controleren of dat ook echt hun zoon/dochter/etc is laten ze dan na.

Want: tekstje = persoon (toch?)

Zo ook: AI beeld/geluid = persoon.

:-)

Oplichting is van alle tijden.
En ik ben eerder geneigd zo'n sms-je te geloven dan een videootje van m'n zoon vastgebonden met een mes op de keel.

Op een bepaald moment gaat het te fantasievol worden.

En tthuis hebben we nog steeds de regel: Wil je geld lenen, dan kom je maar langs. Wel zo netjes.

Is helaas realiteit en al tijden voor gewaarschuwd wordt dat het eraan zat te komen.
https://www.entrepreneur.com/en-in/technology/the-new-microsoft-ai-tool-can-mimic-anyones-voice/

En ze zijn natuurlijk niet de enige die het al kunnen of het in ontwikkeling hebben.
Dus zolang er een operator achter hangt die de respons typt absoluut plausible.
Vervolgens voer nog wat achtergrond geluiden in de mix dat een situatie nabootst en je bent er.

Nu is de dreiging momenteel nog laag maar naar mate de software simpeler wordt in opzet of naar abbonement vorm gaat vanuit criminele developers gaat het snel een vlucht nemen. Mogelijk was dit simpelweg een test voor higher profile oplichting. Of het is al zover dat het ook op consumenten ingezet kan worden wat betekend dat de kosten al zo laag zijn dat het in bulk geregeld kan worden.

We zijn hier al meer dan een jaar gestopt met het aannemen van account wijziging aanvragen per telefoon zonder live verificatie van een geautoriseerd mailaccount via klant domein of door zelf terug te bellen naar de respectievelijke klant hun single point of contact qua IT beheer.

Ik zou dit zeker serieus nemen.

Ik zie meer gevaar van AI in handen van een monitorende en surveillerende overheid, de CSS-AI. En daarmee is ook veel corruptie en cybercrime verbonden helaas, denk aan bijvoorbeeld 'Crooks In Action' (cia, dia) etc. Daarom wijst men meer en meer op het gevaar dat conspiracy thinkers betekenen.

Vroeger kon je de gordijnen nog dichttrekken of met je koppie onder de dekens wegdoezelen bij het geluid van de stofzuiger van je moeder.

Nu kijken bij wijze van spreken mensen, die het volledig beseffen, steeds weer angstig over de schouder, want ze weten zich voortdurend bespied en voelen zich niet echt vrij in hun doen en laten.

Het panopticum gevoel in de donkere grot, dat Plato beschreef.

De technologie en het probleem weg redeneren met 'men is nog niet zover' is niet zo slim. Nu reeds handelen en indammen en niet achteraf niets meer kunnen doen.

Laat je niets wijsmaken ook cybercriminelen kunnen meer dan je in je argeloosheid meent en gebruiken je data tegen je.

luntrus

Onderstaande link gaat niet direct over dit onderwerp maar toch interessant om te lezen denk ik vooral voor
mensen die wel nadenken.

https://nos.nl/artikel/2477117-opmars-chipbedrijf-op-beurzen-te-midden-van-waarschuwingen-tegen-ai

Je hebt gelijk dat het mogelijk is om een AI te trainen op een stem, en deze vervolgens in die stem een opgestelde tekst te laten uitspreken die behoorlijk echt lijkt. Toch neem ik dit nieuwsbericht voorlopig ook met een flinke korrel zout.

Het is ten eerste nog niet eenvoudig dit in realtime te doen en daadwerkelijk een gesprek te voeren. Je kunt een set opgenomen zinnen afspelen, maar om een direct antwoord op te stellen op een vraag of opmerking van de gesprekspartner en dit in de AI-stem te laten afspelen, heeft heel wat meer voeten in de aarde.

Bovendien vereist het flink wat voorbereiding voor elke poging tot oplichting. Je moet weten wie je gaat oplichten, wie diens familieleden zijn, en daar een stemfragment van zien te achterhalen. Dat kan alleen als je heel gericht te werk gaat bij mensen waar echt wat te halen valt, en al je voorbereiding is direct voor niets als het mislukt.

Er is een reden dat dit soort oplichting altijd in de categorie "standaard verhaaltje dat bij zoveel mogelijk mensen wordt geprobeerd" valt: het is eenvoudig, goedkoop, snel, en er hoeven maar een paar mensen in te trappen om je 'winst' binnen te halen. Je belt gewoon willekeurig nummers en zegt dat je van de Microsoft-helpdesk bent tot iemand je gelooft. Je stuurt zoveel mogelijk nummers WhatsAppjes dat je hun kind met een nieuw nummer bent tot iemand reageert.

Daar bovenop, voor wat betreft dit nieuwsbericht: je kunt stemmen nabootsen met AI, maar vooralsnog gebeurt dit nog wat flets en eentonig. Toch zou deze vrouw gebeld zijn door een hevig geëmotioneerde AI-stem die 100% identificeerbaar van haar zoon zou zijn. En ondanks dat de oplichters haar telefoonnummer en stemfragmenten van haar zoon hebben achterhaald en daar een blijkbaar zeer geavanceerd en overtuigend AI-stemprogramma op los hebben gelaten, moest het daadwerkelijke gesprek alsnog door "een Duitse politie-agent" overgenomen en gevoerd worden.

Ik geloof direct dat deze vrouw slachtoffer is geworden van een telefonische babbeltruc, en ik geloof best dat ze in de stress en onder druk in de huilende stem haar zoon gehoord meent te hebben, maar ik acht de kans klein dat er daadwerkelijk een op haar zoon getrainde AI-stem aan te pas is gekomen.

Om een levensechte stem te maken heb je minimaal een uur of 3 aan audio voor nodig.
Maar, om paniek in een stem te krijgen... zal je dus 3 uur marteling voor nodig hebben.
Aangezien criminelen vooral werkschuw zijn lijkt mij dat Onwaarschijnlijk Onintelligent, en geen A.I.

Gokje: het wordt het laatste. Dat zie je met de euro. Dat zie je met het digi-drammen. En dat zie je met de overheid die met alles en iedereen mee wil kunnen lezen.
De crimineel is slechts een miniem probleem. De echte vijand is de overheid.

Volledig mogelijk, en er waren maar een paar fragmenten met de stem van de zoon , de rest van het verhaal gaf een zogenaamde 'politieman' gesproken informatie.

Hebben we dan feitelijk nog verweer tegen deze ontwikkelingen.

Hoe moeten we ons als verantwoordelijke en humane IT gaan opstellen?

Meedoen met het AI aangedreven transhumanisme?

Geloven dat het onontkoombaar zal zijn en men de getransformeerde mens straks zal kunnen weiden als een stuk vee?

Wat stellen de knappe koppen hier om te gaan doen?

Dat we hen de dikke vinger willen geven is duidelijk, maar hoe wordt dat ook effectief?

Doen activisten en bijvoorbeeld anonymous nog iets. Is EFF machteloos?


#in-het-achterhoedegevecht-tegen-the-Forces-that-Be

Wat kun je als burger doen als je kind belt en ineens geld nodig heeft? Moet elk gezin in Nederland een codewoord afspreken, zoals de Fraudehelpdesk onlangs adviseerde? "Dat is geen goed idee, want een codewoord is ook weer makkelijk te kraken", zegt de Amsterdamse politie. "Stel liever een paar informele vragen."

stemklonen: AI-scams by voice cloning
‘Mam! Help! Kun je snel geld overmaken?’

https://www.nrc.nl/nieuws/2023/09/01/mam-help-kun-je-snel-geld-overmaken-a4173278

Code woord is enkel te kraken als het iets is wat je opschrijft, hergebruikt te raden valt of afgekeken wordt.

Als ik mijn oproep begin met iets onmogelijks zoals "De vliegende trein" als code woord geloof ik echt niet dat een crimineel dat ooit weet te raden. Als je echter bijvoorbeeld de naam van je huisdier neer zet als codewoord dan ja. Een code woord is dan ook niks anders dan een tweede wachtwoord.

Informele vragen is niks anders dan sociaal engineer gevoelig. Denk aan de stupide wachtwoord vergeten vragen die je bij sommige diensten moet invullen. "Wat was de naam van je eerste school?" Dus ik zou zeker niet de politie in dit advies opvolgen dat zou ik sowieso niet doen met digitale zaken. Op het THTC team na zijn ze niet bepaald gekwalificeerd hier over advies te geven.

De AI genereert ook geen teksten. Het AI-systeem is getraind met voorbeelden van iemands stem, en kan na die training ingetypte tekst snel omzetten in die stem. Zover is AI wel degelijk al.

Dit staat gewoon in het artikel waar de topicstarter naar linkt. Volg dat soort links eens voordat je reacties plaatst met stellige conclusies of vragen, want heel vaak ben je maar één klik verwijderd van de informatie die je duidelijk maakt dat je conclusie iets te voorbarig was, of die je vraag beantwoordt.

wat niet vermeld word is dat ai chat vol met reclames zit dus ook veel kans op malware zo simpel is dat bij deze ....

Dit is eigenlijk helemaal niet ingewikkeld. Voor telefoon centrales wordt dit al heel lang gedaan en aangezien computers steeds sneller worden wordt het nabootsen van een stem ook steeds makkelijker.

Er zijn al voorbeelden waarbij artiesten nagedaan worden door AI waarbij de gemiddelde luisteraar het verschil niet hoort.
https://www.theverge.com/2023/5/1/23703087/ai-drake-the-weeknd-music-copyright-legal-battle-right-of-publicity

Toch word ik er al een beetje bang voor.
Want wat helpt er nu eigenlijk definitief bij Cybercrime?

In de analoge wereld is de crimineel beter herkenbaar.

Online weet je niet of je klikt op een binnenkomende frauduleuze verbinding met bijv. Sri-lanka.

Alles monitoren en controleren helpt ook niet.
Iedereen modificeren en afstand bestuurbaar maken wellicht.
Maar dat wil je ook niet als je goed bij je verstand bent.
Wat dan? Iemand?

Zie hier onze situatie - digi-hel.

ik moet je helaas teleurstellen ... dit kan al met 30-60 seconden aan stem geluid.
(elevenlabs.io). Ik heb diverse stemmen gecloned, je kunt ze alleen nog niet emotioneel laten klinken.

Definitief? Niets.

Maak je geen illusies. In de analoge wereld hebben oplichters ook altijd bestaan en zijn mensen er ook altijd ingetuind. Wat maakt dat het in het digitale domein zo'n groot probleem is zijn het schaalvoordeel en de snelheid die digitalisering oplevert. Ze kunnen heel makkelijk bij enorme groepen mensen een hengeltje uitgooien en vervolgens met de "vissen" die bijten doorwerken, en ze kunnen veel sneller de buit oogsten en die wegsluizen.

Het probleem met digitalisering is dat de mensheid er veelal op is gedoken met alleen oog voor de voordelen van de versnelling en opschaling van dataverwerking, en blind was voor het feit dat ook alles wat er mee mis kan gaan sneller en grootschaliger werd. De waarschuwingen die daar wel degelijk over geuit werden zijn terzijde geschoven omdat dat even niet was wat men wilde horen. Vervolgens zijn we door de werkelijkheid ingehaald en zitten we nu in een fase dat de problemen zo groot zijn dat we ze niet meer kunnen negeren. De inhaalslag die we nu moeten maken is nog lang niet klaar.

Dit beeld gaat niet alleen maar over gebruikers van technologie die ook niet goed konden overzien wat het met zich meebracht, dit betreft zeker ook de grote techbedrijven die maar al te graag zagen dat de mensheid grootschalig hun bedenksels afnam.

Ik had veel liever in een wereld geleefd waar de ontwikkelingen een stuk langzamer waren gegaan zodat we ze veel degelijker hadden kunnen doen en veel beter aan de veranderingen hadden kunnen wennen. Zo is het alleen niet gelopen, in plaats van dat soort verstandig gedrag rennen we van de ene hype naar de volgende en zit IT vol dingen die eigenlijk lang niet af zijn en bij een stabiele benadering nog lang niet grootschalig uitgerold zouden worden. Dat is wat oplichters en andere criminelen de gelegenheid geeft om zo grootschalig hun slag te slaan.

...en ondertussen geniet ik wel degelijk ook van al het prachtigs dat het oplevert. ;-)

Onbegrensde mogelijkheden met deep-fake AI.
Ook de puppet masters gaan er gebruik van maken,
of hebben dit al reeds gedaan.
Houdt u bij hoe lang een reëel uitziende persoon niet knippert
en wanneer dat de grens van het waarschijnlijke overschrijdt
en hoogstwaarschijnlijk naar een deep fake optreden?

Als zaken die 'bijna' gebeurd zijn ook als nieuws worden gebracht dan kunnen we hele dikke kranten gaan drukken.

Ja, gelijk debunken voor iemand het gaat overwegen als mogelijk.

Je zou het toch beleven, dat iemand de mogelijkheden van deep fake als reëel zou gaan zien? Helemaal niet als die idee doorbreekt bij het grote publiek.

Je moet er als fact checker toch helemaal niet aan denken,
dat je sprookjes zo onderuit kunnen worden gehaald als zijnde fake,
nep, voor de Bühne gespeeld en deep fake opent daartoe wel een heel nieuw theater voor kleine en grote criminelen.

En wie leest oud krantennieuws of van de gecontroleerde media?

Toen digitaal kopieren schering en inslag werd, was een oplossing voor artiesten: live optredens.
Dat is uniek, en kan niet (foutloos en zonder kwaliteitsverlies) gekopieerd worden.

Dezelfde oplossing is ook van tooepassing op dit probleem.
Digitale communicatie, al dan niet mbv AI, kan een stem en tzt een bewegend beeld nabootsen.
Misschien kunnen we moeilijk gaan doen, en allemaal wachtwoorden of vage herinneingen als controle gebruiken.
Of voor belangrijke communicatie, bv als het over het lenen van geld gaat, terug gaan naar elkaar live ontmoeten.
Zo maar een ideetje.

Jij hebt geld van mij nodig, dan kom je maar langs.
Dan kan ik controleren dat je het ook echt bent.
Niets heeft haast. Kun je iets nu niet betalen, dan helaas. Volgende keer beter. Dat is dan een leermoment, om beter te leren anticiperen.
Bij een arrestatie, kun je afspreken op het betreffende politie-bureau.
etc etc etc

In een dorp is dat misschien nog te doen. Maar we doen inmiddels globaal zaken. We hosten onze zaken in datacentra aan de andere kant van de wereld. Ik neem producten af van mensen in Nieuw-Zeeland.
Het fysiek langs moeten komen laat een groot deel van de wereldeconomie piepend en krakend tot stilstand komen, laat staan dat niet iedereen even langs kan komen en waarbij electronisch zaken doen de oplossing is. Denk aan zieken, mensen zonder rijbewijs, ouderen etc.
En dan heb ik het niet over de kosten die door de voorgestelde opzet gemaakt worden, waardoor we meer kunnen gaan betalen, ik over moet werken doordat ik ergens naartoe moet met de auto tijdens werktijd, de bemensing er helemaal niet is op dit moment om hier invulling aan te geven. Kortom, aardig idee, maar niet werkbaar in 99% van alle gevallen.

Maar dit is allemaal mogelijk zonder dat er een AI stem aan te pas komt.

Want bij al je contacten maak jij (ongecontroleerd) geld over naar anderen of zij naar jouw. Wereldwijd en elke keer als je contact hebt?

Of hebben we het hier over oplichting waarbij ouders paniek berichtjes van hun kinderen of kennisen kirjgen om snel geld over te maken omat het een crisis is.


Zelfs op het werk, ben ik argwanend bij elke factuur die ik in mijn werkvoorraad ontvang. Zelf van bedrijven waar ik contracten bij heb lopen.
Voor elke factuur hoort een contract, werkbon, oid beschikbaar te zijn, met een vergelijkbare kostenraming.
Zijn de kosten op de factuur niet duidelijk of wijken teveel af, dan is er overleg met de leverancier of de persoon die bij de uitvoering van de werkzaamheden aanwezig was.
Wijzigt er iets cruciaals (bv bankrekening of contact info), dan wordt dat extra zorgvuldig gecontroleerd. Via de eerder bekende contact-lijnen. Van ons uit geinitieerd.
"Telefoontjes" van een directielid, manager, ed. hebben geen invloed op het controle- en verwerkings-proces. Dat is intern organisatiebreed zo afgesproken.

Spoed is relatief.

Stemklonen. Oplichters hebben stem en beeld van Bunq-topman Ali Niknam nagemaakt om diens bank geld afhandig te maken. De poging mislukte. Niknam plaatste hier afgelopen dinsdag een bericht over op LinkedIn.

https://www.nrc.nl/nieuws/2023/10/04/fraudepoging-met-ai-kloon-van-topman-onlinebank-bunq-a4176143

Dank voor die link!

Als je bij online banken zoals Bunq een bankrekening opent (of een lening afsluit), moet je (op afstand) "authenticeren" door, naast een identiteitsbewijs te tonen, een foto of video van jezelf maken.

Ik ben benieuwd hoe lang het nog duurt voordat criminelen met gekopiejatte identiteitsbewijzen en fake video's creditcards gaan aanvragen of leningen gaan afsluiten op naam van een ander, en welke maatregelen bankbazen zoals Ali Niknam gaan nemen om dergelijke fraude te voorkómen.

Tja dan resteert ze niks anders dat weer bezoek op kantoor af te dwingen zodat elk getekende contract of bedrijfs beslissing met getuigen gebeurd zoals vroeger gebruikelijk was. Low tech is vaak de beste oplossing tegen moderne problemen.

Daarom gaan we straks contactloos.
De meeste mensen zullen daardoor het werkelijke contact met de echte realiteit verliezen.

Dan ben je al klaar voor je slavenbestaantje als digitale cyborg,
anders zal er voor je als onnutte couch-potato geen plaats meer zijn op deze planeet.

Dat is het schrikbarende toekomstbeeld dat ons voorgehouden wordt.
Wie doen dit? Dat is nog maar de vraag. Waarschijnlijk wijzelf met ons allen.

En de crux van de bedreiging vormt dus Artificiële Intelligentie,
die de krachten achter de schermen willen inrichten als de Borg.
"Resistence is futile, you will be assimilated".

We gaan ten onder aan onze eigen technologie als geavanceerde gemeenschap.

#webproxy

Er zijn banken die voor de identificatie een gespecialiseerd bedrijf inschakelen dat bij je thuis komt om de identificatie te doen. Eerder dit jaar heb ik dat nog zo gedaan. Een jaar of vijf, zes geleden kon ik dat voor een andere bank op het postkantoor regelen. Het kan dus prima zonder eigen kantoor.

Ik zou dat trouwens niet low-tech noemen, want de echtheidskenmerken op je identiteitsbewijs zijn wel degelijk hi-tech, en zo'n bezoeker gebruikt zelf een app op een tablet die het id-bewijs controleert. Het verschil is dat de klant niet zelf het platform hoeft te leveren waarop de hi-tech IT-snufjes draaien.

Je bedoelt de AMP Groep? Zelf ook contracten mee maar succes bij de meeste bedrijven om het gebruik ervan af te dwingen als je het al zelf wil bekostigen ze zitten er echt vaak niet op te springen.

Maar hier gaat het nog verder, de ruinerende werking van de A.I-vriendin.

Lees en huiver: https://thehill.com/opinion/technology/4218666-ai-girlfriends-are-ruining-an-entire-generation-of-men/

#webproxy

Is dat ook maar iets anders dan ongeveer 99% van alle dating sites of vroeger nog de call hotlines?
Of zo beetje alles omtrent *social* media?

Ik huiver er niet om dat is geen doelgroep die ik uberhaubt in mijn sociale contacten tegen wil komen nog ga komen en ze vormen al zeker geen bedreiging voor wie dan ook behalve misschien hunzelf. Maar dat is hun eigen recht.

Leuk artikel. Ik zet wel vragen bij bepaalde statistieken. Zie b.v.


Aangenomen dat het aantal mannen en vrouwen in die leeftijdscategorie ongeveer gelijk zijn, is de grote vraag hoe je dat enorme verschil kunt verklaren. Delen vrouwen een man (al dan niet zonder dat ze het weten)? Richten vrouwen zich meer op oudere mannen, b.v. door een hogere status van de man? Want dan zou je verwachten dat de groep vrouwen in de leeftijdsgroep van b.v. 30 - 45 meer vrouwelijke vrijgezellen kent (want al die mannen zijn bezet door jongere vrouwen).

Dat mannen er in Amerika de brui aan geven kan misschien ook wel komen door de wetten die vrouwen héél veel rechten geven bij b.v. een scheiding. Het zou het eerste verhaal niet zijn waarbij de man geruïneerd wordt na een scheiding. Tsja, dat nodigt niet uit om een relatie aan te gaan. Ik ben benieuwd of de percentages te vergelijken zijn met die in Nederland.

Het voorbeeld diende niet ter analyse van het voorbeeld,
maar om het eventuele gevaar van verkeerde AI-toepassingen i.h.a. te schetsen.

Er zullen ook wel heel veel wetenschappers niet aarzelen aangaande dat soort van AI-toepassingen,
maar dat is dan weer een voorbeeldje van "gekochte" wetenschap,
net als zo vaak bij commercie het geval blijkt, denk bijvoorbeeld aan sommige grootfarmacie.

Onafhankelijke wetenschap kan zelfs verboden worden als vastgestelde desinformatie of mal-info.

Dat druist dan wel tegen waarheden in, maar zo is wel de situatie vaak van alledag,
waar ook de wetenschappelijke bijgebogen waarheid of regelrechte leugen weet te regeren,.

#webproxy

Maar er is ook de nuttige en mooie kant van AI als talenwonder en AI-taal-instructeur:
Alles online, met een paar toetsen indrukken op je toetsenbordje.

https://dictionary.cambridge.org/zhs/%E8%AF%8D%E5%85%B8/%E8%8B%B1%E8%AF%AD-%E6%B1%89%E8%AF%AD-%E7%AE%80%E4%BD%93/feudalism

Spekkie voor het bekkie van menig taalstudent. En ja ook de Nederlandse vertaling wordt gegeven.

Zelfs als je smartfoontje via België werd ingevoerd vanuit Indonesia geassambleerd door AI-pinter. (=ons pienter).

Zie: https://www.rollingstone.com/culture/culture-news/instagram-ai-sex-bots-relationships-tiktok-1234839448/

Dit in het kader van gangbare conspiratie theorieën.

Kijk naar wat hierover gedeeld met betrekking tot Japan en de voorkeur voor sex-robots..Wat gaat A.I. in dit opzicht betekenen?

Men kan dit gebruiken om een tekst te kunnen checken tegen detectie als een door AI gegenereerde tekst:

https://undetectable.ai

luntrus

BS:
ik zag al API's die in 2 minuten al nauwelijks onnatuurlijke stemmen maakt,
inclusief unieke trekjes in het stemgebruik en spreken.

Maar, toch heb je gelijk;
hoe ga je A paniekerig klinken, en B overtuigende emotie in de bijbehorende fictieve al-dan-niet interactieve scene creeeren?

Ik heb sinds jaren met enkele mensen "codewoorden", een supersimpel totaal contextloos woordenboekwoord, zoals bijv. "schaakbord" of "denneboom", die ik bij twijfel kan vragen.

Domein-registry RRProxy thans CentralNIC doet dat ook al jaren.

Denk aan de film "Wag the Dog" en zet dat af tegen de manipulatieve AI-nividia-mogelijkheden van thans.
De modernste filmproductietechnieken kunnen als beangstigend echte realiteit aan u worden verkocht.

Is de werkelijkheid zo als deze aan u gepresenteerd wordt? AI-mindf*ck?

Wie zit de huidige en toekomstige gevaren van Artificiële Intelligentie, ten kwade gebruikt, in?

#webproxy

Dat snap ik niet, context loze woorden afspreken die je beiden moet onthouden (en waarschijnlijk zelden gebruikt) tussen mensen die elkaar kennen (?) .

Voor 'normaal' gebruik tussen bekenden is wat sociale smalltalk een effectief 'shared secret' - zowel de informatie als de antwoord patronen.
(hoe is het met tante Jo nu ).


praktisch iedereen heeft wat 'geheime' vragen als account recovery mogelijkheid . Hoewel die gestuurd worden naar informatie (zoals naam van kleuterschool lerares) kun je er natuurlijk een contextloos ander woord voor invullen als je paranoide genoeg bent.

De sturing zal zijn naar dingen die mensen (toch al) onthouden omdat account recovery eigenlijk altijd speelt als password informatie verloren of kwijt is, en dat zal dan typisch ook gelden voor andere recovery 'passwords'.

Helaas niet zinvol bij een AitM (Attacker in the Middle) aanval.

Hoe zo niet ?

Voor het authenticeren van de andere kant - of het nu een afgesproken 'contextloos codewoord' is, of leuterpraat over gemeenschappelijke kennis(en) - wat zie je die aitm doen ?

Het wordt pas een probleem als je _ook_ over dat kanaal-zonder-integrity beslissingen laat komen (zeg maar, geldbedrag en bestemmingsrekening) , en de aitm ook actief en ondetecteerbaar kan muteren.
Maar dat is niet anders bij het model 'codewoord' dat degene waar ik op reageerde voorstelde.

Een afwezigheid van bewijs, is nog geen bewijs van afwezigheid.

Dat is dus de opdracht vandaag voor de fact-checker online.

Verklaar het beweerde tot broodje aap eer iemand de mogelijkheid maar in overweging kan nemen.

Hanteer de "wappie"-vliegenmepper en help mee de vrije meningsuiting om zeep te helpen.

Geslaagd in de missie van je 'bovenbazen'. We zijn zeer tevreden..

Ben je nu trots op jezelf, ondanks dat je het beter zou (hebben) moeten weten?

Geen gewetenswroeging over je naadloze collaboratie met de Forces that Be?

Goed zo, dan ben je dus volgens velen niet meer te helpen.

Dat geldt ook voor het bestaan van 'Bigfoot' .
En in z'n algemeenheid is afwezigheid van iets onbewijsbaar.

Nu is Bigfoot wat meer onwaarschijnlijk dan een AI stem, maar voor hyperige bangmakerij mag echt wel wat bewijs komen voordat je er achteraan loopt.

Dit is echt pure onzin, dit soort dingen verspreiden caused juist alleen maar meer damage. Zover ik weet is het clonen van stemmen goed te doen! Dit is ook mogelijk als in text to speech en voor de cybercrimineel is dit weer mogelijk van speech terug naar tekst. MAAR er is helemaal geen AI die momenteel goed genoeg is om nederlandse stemmen te clonen tenzij je voices met een indiaanse toonval legit klinken?

Dan gaat men dus onvergelijkbare grootheden vergelijken.

Zet Bigfoot af tegen AI en/of AI-nividea mogelijkheden.

Vooral niet de gedachte bij het publiek willen toelaten in ieder geval,
dat een bepaalde werkelijkheid hen over de oren getrokken kan worden via deep fake.

Iemand twijfelt ergens terecht aan, zogenaamde betrouwbare instantie 'schiet het af' als conspiratie of zijnde 'des waps',
en men heeft zo de massa dusdanig bespeeld, dat deze de andere mogelijkheid niet eens in overweging wil nemen.

Aan de andere kant, kan men de meest onwaarschijnlijke sprookjes als werkelijkheid gaan presenteren,
zodat sommigen nooit en anderen er 80 jaar later pas voor wakker worden.

Het communisme hield (ook vanwege Amerikaanse verkiezingen destijds) 80 jaar het deksel op de echte gebeurtenissen te Katyn. De moord op het Poolse officierskorps werd niet Stalin maar aanvankelijk Hitler Duitsland in de schoenen geschoven.

Keizer Napoleon zei daarom over geschiedenis, dat dit een verzameling hele, halve en totaal niet ware feiten waren,
waar men het gezamenlijk over eens was geworden. Hoe vaak zijn we op dergelijke manieren al bedrogen?

#webproxy

Ik had even de impuls om een soortgelijke reactie te schrijven, omdat de verzekeringsmaatschappij die met het persbericht kwam zelf later aangaf dat ze het niet zeker weten. Maar heb dat niet gedaan. Als je even wat zoekacties loslaat dan zie je namelijk dat er volop wordt gewerkt aan het mogelijk maken hiervan, je komt moeiteloos diverse online aanbieders tegen én een aantal vrij beschikbare implementaties op GitHub. Het trainen van de stem-AI kan kennelijk met verrassend korte geluidsfragmenten van de na te bootsen stem. Bij software voor real time voice cloning zag ik de opmerking dat die verouderd is geraakt waar je bij stond met verwijzingen naar projecten die verder zijn. De vraag hier is niet of het kan maar wanneer het kan op een manier waar mensen intrappen. Dat kan heel goed nu al zijn, en als dat niet zo is zal het zo te zien niet lang meer duren.

Het is op zich niet nieuw dat communicatie vervalst wordt en dat je daar verdacht op moet zijn. Dat de manier waarop steeds geavanceerder wordt betekent dat we eraan moeten wennen dat dingen die we als onvervalsbaar beschouwden nu als een echt risico moeten gaan zien.

Een vermoedelijk wat te optimistische kijk erop is dat we een periode achter de rug hebben waarin de voortschrijdende techniek ons in staat stelde om steeds meer dingen op afstand te regelen, zonder elkaars fysieke aanwezigheid, en dat we nu in een periode belanden waarin de voortschrijdende techniek dat persoonlijke contact die fysieke nabijheid weer noodzakelijk maakt. Misschien is dat helemaal niet zo'n slechte ontwikkeling ;-).

Schakel het meeluisteren uit bij Google assistent.
Re: https://fwd.nl/mobile/android-smartphone-luistert-soms-mee-zo-voorkom-je-dat/

Zolang je genoeg spraakopnames hebt... https://www.youtube.com/watch?v=ADXOzN6JTVY&ab_channel=EgbertKanaal

Wat zouden we nu onmiddellijk moeten doen? Wat zijn de eerste stappen?


En daarna?


https://www.nrc.nl/nieuws/2023/11/06/hoogleraar-ai-als-de-overheid-niet-snel-ingrijpt-gaan-we-in-de-komende-twaalf-maanden-de-consequenties-voelen-a4179949

Stuart Russell (1962) is professor Informatica aan UC Berkeley in Californië. Hij is een van de prominentste AI-experts ter wereld. In de nasleep van de AI-top in Bletchley waarschuwt hij voor de, volgens hem, enorme risico’s "In films is de mens uiteindelijk altijd slimmer dan de slimste machines. Dat zal niet werken. Zij zijn dan slimmer dan wij."

Ik werd eens gewekt door een call van een robot-stem...

Ze vroeg me een keuze te maken tussen 2 systemen ofzo, maar ja ik realiseerde me dat ik nog dromerig was en dat de stem wel heel onnatuurlijk klonk.

Ik heb toen rechtsboven op het kruisje geklikt en ze was weg.

Het is daadwerkelijk een issue waar niet veel over gepraat wordt, want dan wordt je misschien voor gek versleten ofzo? Het feit dat criminelen tech gebruiken om via AI op te lichten....

Het was een nummer dat begon met +33, herleidbaar naar Malville , een plaatsje ten westen van Nantes (Frankrijk)

Op internet vind je een paar websites om malafide telefoonnummers op te zoeken (een soort IP Abuse database maar dan voor scam calls)

success