Britse toezichthouder kijkt naar Microsoft AI die continu screenshots maakt
De Britse privacytoezichthouder ICO kijkt of een nieuwe 'AI-feature' van Microsoft, waarbij continu screenshots van het scherm van gebruikers worden gemaakt, wel aan geldende privacyregels voldoet en heeft het techbedrijf om opheldering gevraagd. Dat meldt de BBC. Deze week introduceerde Microsoft een nieuwe serie pc's genaamd Copilot+, die over een feature genaamd Recall beschikken.
Recall maakt continu screenshots van het scherm en slaat die lokaal op. Vervolgens kunnen gebruikers deze screenshots op activiteiten en andere zaken doorzoeken. Microsoft omschrijft het als een 'fotografisch geheugen', tegenstanders spreken van een 'privacynachtmerrie'. Volgens Microsoft blijven de screenshots lokaal op het systeem en heeft het hier geen toegang toe. Ook is het een 'optionele ervaring'.
"Dit kan een privacynachtmerrie worden", zegt technoloog Kris Shrishak tegenover de BBC. "Het feit dat screenshots worden gemaakt tijdens het gebruik van het apparaat kan een chilling effect op mensen hebben." Datarechtenexpert Daniel Tozer zegt dat de feature hem doet denken aan de Netflix-serie Black Mirror. "Microsoft heeft een rechtsgeldige basis nodig om de persoonlijke informatie van gebruikers op te slaan en opnieuw weer te geven."
Een ander risico is dat iemand met toegang tot het systeem uitgebreide informatie over de activiteiten van de gebruiker kan achterhalen. Het kan dan gaan om politie of opsporingsdiensten met een gerechtelijk bevel, of zelfs Microsoft als het later van gedachten verandert om alle data lokaal te houden en niet te gebruiken voor gerichte advertenties of het trainen van hun AI, stelt Jen Caltrider van Mozilla.
"Ik zou een computer met Recall niet gebruiken voor zaken die ik niet in het zicht van een buslading vreemden zou doen", merkt Caltrider op. "Dat houdt in het inloggen op financiële accounts, het opzoeken van gevoelige gezondheidsinformatie, het stellen van gênante vragen of het zoeken naar informatie over blijf-van-mijn-lijfhuizen, fertiliteitsklinieken of immigratieadvocaten."
De Britse privacytoezichthouder heeft Microsoft om meer informatie gevraagd. De ICO stelt dat bedrijven voordat ze nieuwe producten op de markt brengen rigoureus de risico's voor de rechten en vrijheden van mensen moeten onderzoeken en verhelpen. "We hebben navraag bij Microsoft gedaan om te zien welke maatregelen er aanwezig zijn om de privacy van gebruikers te beschermen."
Geheugen niet zoveel. Maar wel de nodige schijf-ruimte.
Of zit deze opslag in de One-Drive share? ("Lokaal" begint voor MS een rekbaar begrip te worden tegenwoordig)
16Gb, volgens bleepingcomputer.
Het zijn specifieke laptops die binnenkort te koop zijn, en vanaf 1300 euro kosten.
Dat is een eerste goed begin. Sla er vervolgens ook deze privacy handleidingen op na:
https://www.security.nl/posting/827966/Tips+voor+online+privacy#posting829066
Wat ouderwets.
Misschien is het mama (of de andere papa) wel die porno kijkt, en moeten de kids dat in de gaten gaan houden.
Één deelnemer heeft niets te verbergen en gebruikt Microsoft co-pilot recall......
Deze feature is een privacy nachtmerrie die onmogelijk met de AVG valt te rijmen.
Maar je gaat wel gewoon door met alle diensten van Meta, Alfabet en Apple ? Ik zou me om 2 van die 3 meer zorgen maken namelijk.
Maar je gaat wel gewoon door met alle diensten van Meta, Alfabet en Apple ? Ik zou me om 2 van die 3 meer zorgen maken namelijk.
Maak je maar zorgen om alle drie. Wel zo veilig.
Google, M$, the Cloud, Amazon - allemaal in het moderne goud,
de data-waterhandel. Niet meer weg te krijgen.
Gemak dient de mens, maakt je wel digi-slaaf.
Maar de meesten interesseert dit geen bal,
twee vingers op het schermpje, gaan met die banaan.
#laufer
Allereerst: deze optie (Recall) kan uitgeschakeld, gewoon via de instellingen.
Ten tweede: er zit een zekere fijnmazigheid in, je kunt bijvoorbeeld - via de instellingen - aangeven dat bepaalde websites nooit gefilmd mogen worden
Ten derde: je kunt ook volledige toepassingen uitsluiten van opnamen
Ten vierde: je kunt handmatig bekijken wat de computer heeft opgeslagen en de geschiedenis, naar believen, wissen
Ten vijfde: alles wordt LOKAAL verwerkt (dankzij de mogelijkheid van een Neurale Rekeneenheid) en LOKAAL opgeslagen en blijft dus ook LOKAAL
Ja, overheden kunnen erbij ... Mede dankzij hacking en ongetwijfeld toekomstige opvolgers van Pegasus ... Maar dat is niet zozeer een probleem van Microsoft, maar meer van onze "heilstaat", alsmede ook die van verschillende (Westerse) landen om ons heen ... Burgers die schreeuwen dat zij vrij willen zijn, rechten hebben ... Hebben deze, als ze zich wat beter verdiepen in de materie, feitelijk eigenlijk gewoon niet ... Oftewel: ook ik aanschouw dit spel met argusogen, maar het gaat iets verder dan enkel roepen ...
Oh, en hier een link naar het instellingen scherm:
https://support.content.office.net/en-us/media/e7696b8d-9741-48e9-af8e-02379f988206.png
En hier een scherm alwaar je een voorbeeld ziet waarbij de website van een bank uitgesloten is van het maken van Snapshots:
https://support.content.office.net/en-us/media/d11e257d-1094-4c41-8dae-c92360c46c03.png
En natuurlijk ... het moet groeien, beter worden, fijnmaziger mbt de instellingen. Maar de gedachte op zich, om middels screenshots lokaal een referentiemodel te genereren om zaken beter te kunnen vinden, kan zeer waardevol zijn in het dagelijks gebruik.
Wat overheden en kwaadwillenden willen doen, is niet ten einde Microsoft aan te rekenen. Een beetje omgekeerde wereld aan het worden ... Innovatie remmen omwille van angst voor "overheid" of "kwaadwillenden". Wel, dat zegt eigenlijk stiekem een hoop over de staat van onze samenleving. Waarschijnlijk zonder dat velen het doorhebben.
Software wordt naar mijn smaak veel te vaak geschreven vanuit een "laat mij dit maar voor je doen, daar hoef jij je niet mee te vermoeien"-benadering. Die benadering is, als ik me niet sterk vergis, ontstaan vanuit de wens om computers bruikbaar te maken voor de groep mensen die het werkelijk niet lukt om ermee om te gaan. Maar door iedereen te behandelen alsof ze tot die groep behoren leer je mensen juist af om goed met computers te werken.
Dit is wat de Recall overview mee begint waar het artikel naar linkt:
Ik weet dat de nodige mensen data niet goed weten te ordenen, dat viel me in de jaren '90 al op. Maar wat me ook opviel is dat diezelfde mensen meestal best in staat zijn om hun huis te ordenen, vaak heel goed zelfs. En zelfs bij de mensen die daar slecht in zijn gaat dat typisch nog lang niet zo ver dat onderbroeken in de koelkast belanden of dagafschriften bij de potgrond onder de douche. Dat mensen dat op een computer niet lukt is niet omdat ze geen enkel vermogen tot ordenen hebben, dat hebben ze evident wel, het is omdat kennelijk een essentieel muntje over computers en data daarop niet bij ze is gevallen.
Hoe reageert de industrie daarop? Niet door zich in te spannen om muntjes die best kunnen vallen ook te laten vallen, maar door vrijwel iedereen af te schermen van wat sommigen niet goed kunnen. Die benadering heeft tot resultaat dat bijvoorbeeld universiteiten nu te maken hebben met studenten die alle bestanden van alle onderzoeken die ze uitvoeren ongeordend door elkaar in dezelfde directory plempen in plaats van even wat subdirectory's aan te maken en even na te denken over wat voor namen ze aan bestanden geven. Dat is geen gebrek aan een vermogen tot ordenen, dat is gebrek aan kennis over de mogelijkheden daartoe.
De screenshots-functie die het artikel bespreekt is een "oplossing" die het probleem alleen maar groter maakt omdat hij niet gericht is op het opdoen van basisvaardigheden maar op het vermijden ervan, en dat implementeert op een manier die schokkend privacyschendend kan uitpakken.
Een "oplossing" die basisvaardigheden ondermijnt verplaatst macht naar degenen die de kennis wel hebben, meer macht voor de tech-industrie dus en minder voor de gebruikers. Dat is niet wenselijk.
Tot de basiskennis over computers hoort dat je gegevens worden opgeslagen in bestanden, die geplaatst worden in directory's, en dat jij als gebruiker namen geeft aan zowel die bestanden als directory's. Directory's kan je gebruiken om dingen die bij elkaar horen bij elkaar te plaatsen. Dat is analoog aan hoe je pannen in een keukenkast zet, je fiets in de schuur en je boeken in de boekenkast en niet alles maar op een grote hoop door elkaar flikkert.
Als je dingen in directory's op onderwerp bij elkaar leert plaatsen en goede namen aan je bestanden leert geven is die hele screenshot-functie die Microsoft hier introduceert volslagen overbodig.
Ik gebruik hier trouwens bewust het woord "directory" en noem het niet "folder" of "map". Het is namelijk niet hetzelfde. Er zijn wel overeenkomsten, maar op basis van overeenkomsten had je het ook een "kast" of "kamer" of "schuur" kunnen noemen. Dat soort analogieën dekt de lading niet echt. Wie weet werken dat soort gebrekkige analogieën juist in de hand dat bij zoveel mensen het muntje zo moeilijk valt, want je vertelt iemand hoe die ertegenaan moet kijken en dat blijkt vervolgens al heel snel niet te kloppen — een uitstekende manier om iemand te laten geloven dat die er toch niets van begrijpt. Hoe dan ook is het onbegrip van die mensen niet een probleem om te vermijden maar om op te lossen door dat essentiële muntje bij zoveel mogelijk mensen wél te laten vallen. Bij jonge mensen gaat dat het beste, die leren het meest moeiteloos nieuwe dingen.
deze optie (Recall) kan uitgeschakeld, gewoon via de instellingen.
.
MS kennende zal dit standaard ingeschakeld staan, en de meeste mensen laten het vervolgens gewoon aan staan, omdat ze niet weten wat het is/doet of het niet snappen. Met alle gevolgen van dien.
alles wordt LOKAAL verwerkt (dankzij de mogelijkheid van een Neurale Rekeneenheid) en LOKAAL opgeslagen en blijft dus ook LOKAAL
.
En nee, dat kun je niet uitzetten, alleen "beperken". Wie garandeerd mij dat hier geen "statistieken" tussen zitten van Jan en Mien allemaal op hun PC doen en laten?
Dan staat "Total Recall" misschien wel uit, maar gaat de data met een omweg alsnog naar MS (indirect ook naar de NSA, die kunnen immers alles vorderen).
donderdag 30 mei 2024, 16:24 door Redactie
https://www.security.nl/posting/843572/Onderzoeker+waarschuwt+voor+risico%27s+Microsoft+Recall%3A+ingebouwde+keylogger
Deze posting is gelocked. Reageren is niet meer mogelijk.
Cybersecurity Trainer / Full Stack Developer
Ben je toe aan een nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?