Amazon Echo kan meeluisteren zonder juiste activatiewoord
De Amazon Echo kan meeluisteren zonder dat gebruikers het juiste activatiewoord hebben gegeven, zo blijkt uit onderzoek van Northeastern University in Boston dat in overleg met de Amerikaanse consumentenvereniging Consumer Reports wordt uitgevoerd.
Hoewel het onderzoek nog niet is afgerond hebben de onderzoekers al een aantal interessante resultaten geboekt. Voor het onderzoek werden vier identieke Amazon Echo-speakers gebruikt, die elk met een ander activatiewoord werden geprogrammeerd. De spraakassistent mocht alleen beginnen met luisteren bij de woorden Alexa, Amazon, Computer of Echo.
Vervolgens werden de apparaten aan gesprekken in drie audioboeken en negen episodes van de Gilmore Girls blootgesteld. Tijdens de Gilmore Girls-marathon begonnen de speakers tien keer met het opnemen van audio in de omgeving, zonder dat het activatiewoord was gegeven. De audioboektest leverde 63 false positives in 21 uur tijd op. Wanneer de speaker via een verkeerd woord werd geactiveerd stopte die wel binnen een aantal seconden met opnemen.
De speakers reageerden onder andere op "I need medical assistance", "It’s actually", "This is on", "Last night", "Confident" en "Marco". Amazon verklaart dat Echo-apparaten kunnen reageren op woorden die op het activatiewoord lijken. Het bedrijf zou bezig zijn om de prestaties van de smart speaker te verbeteren. Eerder dit jaar werd bekend dat Amazon-personeel naar Alexa-opnames luistert.
En als ze dat niet meer mogen, kunnen ze de prestaties ook niet meer verbeteren.
Bij alle systemen die van test naar productie gaan is altijd weer gebleken dat je niet alles kunt testen. En al helemaal niet menselijk gedrag. :(
Peter
En als ze dat niet meer mogen, kunnen ze de prestaties ook niet meer verbeteren.
Bij alle systemen die van test naar productie gaan is altijd weer gebleken dat je niet alles kunt testen. En al helemaal niet menselijk gedrag. :(
Peter
De heel zuiver gestelde constatering dat je consumenten zover hebt bepraat dat zij een apparaat in huis halen dat hen feitelijk 24/7 kan afluisteren is griezelig.
In mei 2018 stond in The Washington Post al een artikel m.b.t. deze onbetrouwbare activatiemethode.
https://www.washingtonpost.com/news/the-switch/wp/2018/05/24/an-amazon-echo-recorded-a-familys-conversation-then-sent-it-to-a-random-person-in-their-contacts-report-says/?noredirect=on
De Amazon gehersenspoelde consument zal het worst zijn. Hij/zij weet dit niet of wil dit niet horen, of negeert na lezen deze berichten want het ding blijft een enorm succes. Tussen 2018 en 2019 laat de verkoop van Smart speakers een groei zien van 84 %
https://voicebot.ai/amazon-echo-alexa-stats/
Als je input van echte users "in het wild" wilt hebben om dingen te verbeteren dan kan je dat ook anders doen. Je kan bijvoorbeeld gebruikers in staat stellen om zelf aan te geven dat wat ze zeggen niet goed geïnterpreteerd wordt, en die kunnen dan uitgenodigd worden om zelf bij een opname in te typen wat de tekst is die ze uitspraken. Daarbij geef je mensen zelf de gelegenheid om te kiezen of ervan af te zien het fragment en de correctie in te sturen en dus te bepalen of het fragment verwerkt kan worden om het systeem bij te laten leren.
Wat ook problematisch is met spraakherkenning is dat alles opgevangen kan worden, inclusief dingen die onder het strengere regime van bijzondere persoonsgegevens vallen. Zeker als de kans bestaat dat mensen gaan meeluisteren is moeilijk vol te houden dat de verwerking neutraal is in dat opzicht.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Cyber Security Trainer
"You know that feeling after you have been to the cinema and seen an exciting movie? It's the same after this training. I can only say that this is probably the BEST TRAINING that I've ever done!!!”
Are you ready for a challenge?
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.