Signal gaat chats van gebruikers beschermen tegen de AI-agents van Apple en Google, maar waarschuwt dat er meer nodig is om de privacy-aantasting door deze tools tegen te gaan, zo heeft de chatapp-ontwikkelaar aangekondigd. Apple en Google voegen steeds meer AI-features aan hun mobiele besturingssystemen toe. Deze AI-agents kunnen voor allerlei taken informatie uit applicaties halen. Dit brengt volgens Signal-voorzitter Meredith Whittaker de omgeving in gevaar die third-party ontwikkelaars aan hun gebruikers aanbieden.
Om informatie te verkrijgen "scannen" AI-agents de informatie op het scherm van de gebruiker, aldus Whittaker. Op deze manier kan er ook informatie uit chats van de gebruiker worden gehaald. Volgens de Signal-voorzitter ondermijnen AI-agents op deze manier de privacygarantie van de chatapp. "Nu worden voor de mogelijkheden van AI-agents je gevoelige data vastgelegd, opgeslagen en beschikbaar gemaakt voor elke lokale database of remote server die een AI-agent op dat moment gebruikt", gaat de Signal-voorzitter verder. Het gaat dan specifiek om AI-agents die op het niveau van het besturingssysteem opereren, zoals Apples Siri.
Volgens Whittaker heeft Signal geen controle over deze zaken en brengt het, zodra de data is verzameld, de privacy van alle deelnemers aan een gesprek in gevaar. Daarom gaat Signal nu het maken van screenshots in de chatapp op iOS 27 blokkeren, alsmede de mogelijkheid om schermdata op Android te verzamelen. Gebruikers die toch screenshots willen maken moeten de nieuwe beveiligingsmaatregel in de instellingen van de chatapp uitschakelen.
Whittaker merkt op dat het blokkeren van screenshots geen oplossing biedt voor andere 'listige manieren' waarop AI-agents toegang tot applicatiedata kunnen krijgen, zoals het ophalen van data die via het filesystem toegankelijk is. "We willen heel duidelijk zijn: het is een ernstig probleem dat Signal - en andere applicatie-ontwikkelaars, geen robuuste tools hebben om te voorkomen dat AI-agents de privacy op applicatieniveau ondermijnen", aldus de Signal-voorzitter.
Bedrijven als Google, Apple en Microsoft bieden geen manier voor app-ontwikkelaars om toegang door AI-agents te beperken, zonder dat dit grote gevolgen heeft voor de gebruikerservaring. Dit is volgens Whittaker ook de reden dat de beveiligingsmaatregel niet op macOS kan worden uitgerold. Een ander probleem is het ontbreken van documentatie over hoe de AI-agents precies werken.
Whittaker roept Apple, Google en Microsoft op om eenvoudige technische tools en correcte documentatie te verstrekken, zodat Signal en andere apps kunnen voorkomen dat AI-agents toegang tot gevoelige applicatiedata krijgen. "We moeten allemaal beseffen dat de huidige integratie van AI-agents in het besturingssystemen, zonder deze voor de hand liggende oplossingen, een existentiële bedreiging voor privacy op de applicatielaag vormt, en de mogelijkheid van onafhankelijke ontwikkelaars zoals Signal om je gevoelige data te beschermen", besluit Whittaker haar pleidooi.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.