Privacy - Wat niemand over je mag weten

Siri en spraakherkenning: Always on een Privacy probleem ?

21-09-2015, 09:32 door Wil001, 20 reacties
Iemand die zich zorgen maakt over Siri (spraakherkenning) en aanverwante producten ?

Het schijnt standaard aan te staan, en alle omgevingsgeluiden op te nemen.. Zelfs om een wachtwoord in te spreken en te unlocken.. Het is er, of het gaat komen. Voor uw gemak..

Was gestures e.d. bij Samsung TV nog uitgebreid in de media, nu hoor je hier bijna niks over. Zijn we murw ?

Met het iCloud foto hack van vorig jaar in gedachten, betekent deze ontwikkeling dat elke gebruiker een potentieel voice record heeft. 24/7. Hoe mooi is dat. Voor wie ? Opsporingsdiensten ? En je kan het niet eens meer ontkennen, met je vingerafdruk en je private smartphone ..

Anything you do or say can and will be used against you ? U heeft immers bij het vinkje JA aangekruist ?

Of loopt het zo'n vaart niet ?

Roept u maar !
Reacties (20)
21-09-2015, 10:28 door Overcome
Het schijnt standaard aan te staan

Bedoel je hiermee dat Siri ieder moment aangeroepen kan worden (doordat in General het schuifbalkje bij Siri op groen staat), of dat Siri standaard alles opneemt, ook al houd je de "Home" knop niet ingedrukt? Voor dat tweede zou ik wel eens bewijs willen zien. Wellicht heeft het ook nog te maken met de activatie van de "Hey Siri" optie. Siri zal in dat geval moeten weten wanneer die tekst wordt gesproken, en ja, dan moet Siri naar alles luisteren wat je zegt. Die optie is echter uit te schakelen, net zoals Siri. Zou dan nog steeds alles opgenomen worden? Zo ja, welke onderbouwing heb je daarvoor? Daar ben ik wel in geïnteresseerd.

Het is er, of het gaat komen.

Dat is een wereld van verschil. Of het is er, of het is er niet. Welke van de twee is het?

Als je de privacy-instellingen van Siri bekijkt (duidelijk en kort, dus toch maar lezen), dan zou je na de eerste alinea al moeten beseffen dat Siri een leuke gadget is, maar dat je de functionaliteit maar beter kunt uitschakelen. Ze trekt je hele systeem leeg.

Of we murw zijn weet ik niet. Misschien wel. Maar zolang duidelijk wordt aangegeven wat voor data wordt verstuurd, de instelling niet ergens in een obscuur hoekje is weggemoffeld en de instelling ook eenvoudig is aan te passen, heb ik er niet heel veel problemen mee. Het vereist kennis van je systeem, maar dat is nou eenmaal een vereiste voor ieder systeem. Het wordt pas een probleem wanneer ik Siri heb uitgeschakeld en data toch wordt verstuurd/ spraak toch wordt opgenomen. Dat zou ik wel erg kwalijk vinden.
21-09-2015, 10:44 door PietdeVries
Door Overcome:
Het schijnt standaard aan te staan
<snip>
Of we murw zijn weet ik niet. Misschien wel.

Ik denk dat Wil001 even een 'throw away' account heeft aangemaakt om wat leven in de brouwerij te brengen. Vaag verhaal met vage assumpties zonder enige links naar achtergrond informatie.("Siri luistert altijd mee, of gaat dat in de toekomst doen")...
21-09-2015, 12:24 door Briolet
Het schijnt standaard aan te staan, en alle omgevingsgeluiden op te nemen.. Zelfs om een wachtwoord in te spreken…
Hoe wil jij een wachtwoord inspreken als de spraakherkenning niet altijd aanstaat? Ik gebruik al sinds ±2002 carkits (merk Parrot) die standaard altijd meeluisteren en zichzelf activeren als ze bepaalde codewoorden horen.

Niets nieuws dus met Siri.
21-09-2015, 12:38 door [Account Verwijderd]
Door Briolet:
Het schijnt standaard aan te staan, en alle omgevingsgeluiden op te nemen.. Zelfs om een wachtwoord in te spreken…
Hoe wil jij een wachtwoord inspreken als de spraakherkenning niet altijd aanstaat? Ik gebruik al sinds ±2002 carkits (merk Parrot) die standaard altijd meeluisteren en zichzelf activeren als ze bepaalde codewoorden horen.

Niets nieuws dus met Siri.

Ik zou zelf denken dat parrot carkits niet in verbinding staan met een centrale server en siri wel?

Er is een groot verschil of de (gesproken) data zich in een P.A.N. bevindt of zich actief daarbuiten ook kenbaar maakt. Hoewel ik alleen van de oude parrot devices weet, misschien zijn er nieuwere die dat wel doen...
21-09-2015, 13:02 door Briolet - Bijgewerkt: 21-09-2015, 13:04
Mijn Parrot houd alles inderdaad intern, maar wie zegt dat Siri altijd alles naar buiten gooit? Als ik de privacy voorwaarden op mijn Mac bekijk staat daar:

Wanneer u de dicteervoorziening gebruikt, kunt u kiezen of de spraakherkenning moet plaatsvinden op uw Mac of op de servers van Apple. Als u Verbeterd dicteren gebruikt, zet uw Mac datgene wat u zegt, om in tekst zonder de gedicteerde tekst naar Apple te sturen.

Bij de introductie van Siri, liep alles over de servers van Apple, maar nu kun je alles intern houden.
21-09-2015, 13:36 door [Account Verwijderd]
Door Briolet:
Bij de introductie van Siri, liep alles over de servers van Apple, maar nu kun je alles intern houden.

Staat het standaard op interne afhandeling? Dat valt me dan wel weer mee!
Had verwacht dat het standaard op "Spy-mode" zou staan...
21-09-2015, 13:40 door superglitched
Een goede bron is wel handig, Siri kan namelijk uit, en uitschakelen === toch aan blijven staan zou toch wel een serieuze fout van Apple zijn met consequenties.
23-09-2015, 15:29 door Anoniem
Hier is het artikel. http://www.iphonetricks.org/hey-siri-available-full-time-on-iphone-6s-and-6s-plus/
23-09-2015, 17:06 door Anoniem
Artikel over voice data naar third parties

http://www.infowars.com/apple-admits-siri-voice-data-is-being-sent-to-third-parties/
23-09-2015, 20:30 door Overcome
Door Anoniem: Hier is het artikel. http://www.iphonetricks.org/hey-siri-available-full-time-on-iphone-6s-and-6s-plus/

Dus inderdaad het "Hey Siri" verhaal. Zoals hierboven al aangegeven zal dat inderdaad permanent aan moeten staan om die woorden te horen en om in actie te komen. Dat is ook logisch, want hoe wil je de spraakherkenningsfunctionaliteit aanroepen als niet naar spraak kan worden geluisterd?

Door Anoniem:
Artikel over voice data naar third parties

http://www.infowars.com/apple-admits-siri-voice-data-is-being-sent-to-third-parties/

En ook hier wordt van een mug een olifant gemaakt. Als je de moeite neemt om de duidelijk zichtbare privacy policy link aan te klikken in Siri en de tekst te lezen (nog geen pagina groot), dan is alles glashelder. Ze geven zwart op wit aan wat er met de data gebeurt en wat wordt verzameld, zonder moeilijke woorden en zonder schimmige mitsen en maren, voor iedereen leesbaar en voor iedereen aanpasbaar in het menu. Maar ja, infowars en Alex Jones. Te vaak op zoek naar het sensatieverhaal en het complot dat er niet is.
24-09-2015, 09:38 door Anoniem
Lijkt - volgens Apple - allemaal lokaal te blijven. Mocht dat niet zo zijn, dan hebben ze iets uit te leggen.

Zie: http://techcrunch.com/2015/09/11/apple-addresses-privacy-questions-about-hey-siri-and-live-photo-features/

Daar kun je lezen:
“In no case is the device recording what the user says or sending that information to Apple before the feature is triggered,” says Apple.

Instead, audio from the microphone is continuously compared against the model, or pattern, of your personal way of saying ‘Hey Siri’ that you recorded during setup of the feature. Hey Siri requires a match to both the ‘general’ Hey Siri model (how your iPhone thinks the words sound) and the ‘personalized’ model of how you say it. This is to prevent other people’s voices from triggering your phone’s Hey Siri feature by accident.

Until that match happens, no audio is ever sent off of your iPhone. All of that listening and processing happens locally.
24-09-2015, 14:50 door Erik van Straten
Off-topic, maar Siri in combinatie met een lock-screen-pincode-bug op iOS 9 geeft een aanvaller deels toegang tot je smartphone, zie http://www.theregister.co.uk/2015/09/23/ios_9_contacts_snooped/. Er kunnen dus ook andere redenen zijn om Siri uit te zetten.
24-09-2015, 16:52 door Orion84
Door Briolet: Mijn Parrot houd alles inderdaad intern, maar wie zegt dat Siri altijd alles naar buiten gooit? Als ik de privacy voorwaarden op mijn Mac bekijk staat daar:

Wanneer u de dicteervoorziening gebruikt, kunt u kiezen of de spraakherkenning moet plaatsvinden op uw Mac of op de servers van Apple. Als u Verbeterd dicteren gebruikt, zet uw Mac datgene wat u zegt, om in tekst zonder de gedicteerde tekst naar Apple te sturen.

Bij de introductie van Siri, liep alles over de servers van Apple, maar nu kun je alles intern houden.
En zelfs al laat je het over de servers van Apple lopen, dan treedt dat nog steeds pas in werking nadat intern het "hey Siri" herkend wordt lijkt me (of zo lang je de home knop ingedrukt houdt). Als je iPhone permanent alles wat het opvangt zou gaan streamen naar Apple, dan zou ten eerste je dataverbruik through-the-roof gaan en ten tweede je accu binnen no-time leeg zijn.
24-09-2015, 17:05 door [Account Verwijderd]
Door Orion84:dan zou ten eerste je dataverbruik through-the-roof gaan en ten tweede je accu binnen no-time leeg zijn.

Dat eerste weet ik nog net zo niet, of je dat zal opmerken. Dataverbruik wordt hoofdzakelijk vastgesteld met de download hoeveelheid, niet zo vaak met upload.

En over het 2e: Het zal me niet raar klinken als deze "spy" optie (Puur hypothetisch!) actief wordt als er een wifi verbinding aanwezig is, waarvoor veel minder power voor nodig is als een 3G/4G verbinding.
En met de huidige smartphones is het toch normaal dat ze binnen een dag leeg zijn?
24-09-2015, 17:06 door Anoniem

En zelfs al laat je het over de servers van Apple lopen, dan treedt dat nog steeds pas in werking nadat intern het "hey Siri" herkend wordt lijkt me (of zo lang je de home knop ingedrukt houdt). Als je iPhone permanent alles wat het opvangt zou gaan streamen naar Apple, dan zou ten eerste je dataverbruik through-the-roof gaan en ten tweede je accu binnen no-time leeg zijn.
Dat SIRI alleen aangaat door Hey Siri te roepen is jouw aanname maar is nergens bewezen. Zolang er meegeluisterd wordt is er geen enkele garantie dat er alleen maar naar Hey Siri geluisterd wordt. Niet voor niets dat bij steeds meer bedrijven de telefoons voor een besloten vergadering moeten worden ingeleverd want steeds meer bedrijven snappen goed dat je beter het zekere voor het onzekere kan nemen. Als je het niet zeker weet en ook niet kan controleren moet je het risico niet nemen. Maar Apple is er tenminste wel helder en duidelijk in want ze schrijven gewoon op wat ze met de opgenomen gegevens doen. Microsoft en Google zijn daar minder open over.
25-09-2015, 08:49 door Orion84
Dat is inderdaad een aanname ja. Maar het is op zich redelijk eenvoudig te onderzoeken, door simpelweg een netwerksniffer tussen een iPhone en het internet te plaatsen en te zien of er verkeer is op het moment dat er gepraat wordt. Kan me haast niet voorstellen dat nog niemand dat ooit geprobeerd heeft, dus als daadwerkelijk heimelijk alles gestreamed werd, dan zouden we dat al wel gehoord hebben.

Maar dat is natuurlijk ook een aanname. Ik maak me er persoonlijk niet zo druk om (maar goed, ik heb Siri dan ook uit staan omdat ik er niks mee doe). Maak je je er wel druk om: test het en je weet het.

In bepaalde situaties (zeer gevoelige vergaderingen) kan ik me heel goed voorstellen dat je dergelijke maatregelen treft. Behalve de hypothetische situatie dat Siri lekt, zijn er natuurlijk tal van andere mogelijkheden om via je telefoon afgeluisterd te worden / of zelf bewust dingen op te nemen terwijl dat niet de bedoeling is.
28-09-2015, 12:02 door Anoniem
https://0xicf.wordpress.com/category/security-updates/

Siri kan het Lockscreen benaderen. Daarover was eerder discussie.

In dit artikel wordt toegang voor Siri tot het Lockscreen uitgezet.
In dit geval wordt het uitgezet wegens een flaw mee ingelogd kan worden.
28-09-2015, 14:05 door Anoniem

Dat SIRI alleen aangaat door Hey Siri te roepen is jouw aanname maar is nergens bewezen. Zolang er meegeluisterd wordt is er geen enkele garantie dat er alleen maar naar Hey Siri geluisterd wordt.
Je hebt nergens een garantie. Maar er staat duidelijk beschreven wat er mee gedaan wordt, toch? Dus hoever wil je gaan. Er is ook nergens bewezen dan er iemand zomaar mee luistert

Niet voor niets dat bij steeds meer bedrijven de telefoons voor een besloten vergadering moeten worden ingeleverd want steeds meer bedrijven snappen goed dat je beter het zekere voor het onzekere kan nemen.
Dit is meestal voor het opnemen door iemand en niet de SIRI achtige technieken.
01-10-2015, 12:04 door Anoniem
Door Orion84: Dat is inderdaad een aanname ja. Maar het is op zich redelijk eenvoudig te onderzoeken, door simpelweg een netwerksniffer tussen een iPhone en het internet te plaatsen en te zien of er verkeer is op het moment dat er gepraat wordt. Kan me haast niet voorstellen dat nog niemand dat ooit geprobeerd heeft, dus als daadwerkelijk heimelijk alles gestreamed werd, dan zouden we dat al wel gehoord hebben.

Ik zou denken, als ik zoiets zou ontwerpen met al dan niet boze opzet, dat direct streamen helemaal niet nodig is. Gewoon opslaan en versturen als er toevallig een keer WiFi verbinding is. Dan valt het veel minder op en het kost ook niks. Een smartphone heeft zoveel software aan boord dat het knap lastig is om vast te stellen wat hij allemaal op verzoek doet, en wat op eigen initiatief.

Dat vraag ik me overigens ook af over mijn Samsung smart tv, of hij spraak opslaat en naar huis stuurt zodra hij verbinding heeft. We hebben de uplink dichtgezet, dus hij zal zich wel wat beknot voelen.
04-10-2015, 23:09 door Anoniem
Voor iedere smartphone geldt dat er veel kan worden uitgezet. Scheelt ook meteen stroom.
Relatief biedt iOS daar veel mogelijkheden voor.
Dus zet gewoon uit: siri, camera, verversing apps, locatie, bluetooth, wifi en 3G/4G als je het niet nodig hebt, enzovoorts.

Is dan wel nodig dat je jezelf er in verdiept en er handigheid in krijgt; dat schijnt een minderheid van de gebruikers te zijn. De rest gebruikt gewoon de standaardinstellingen en laat zich beroven door Microsoft, Apple en het andere gespuis.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.