Mensen moeten onthouden dat AI-chatbots zoals ChatGPT niet hun vriend zijn en ook geen wezen met bewustzijn of empathische gesprekspartner, zo stelt Meredith Whittaker, voorzitter van de Signal Foundation, in een interview met Bloomberg. Ze vreest daarnaast de integratie van AI-agents in bijvoorbeeld besturingssystemen, waardoor die ook toegang tot berichten van Signal kunnen krijgen. In dat geval zou er sprake zijn van een backdoor, aldus Whittaker.

Whittaker werd gevraagd met welke privacyzaken mensen rekening moeten houden bij het gebruik van AI. Ze merkt op dat gebruikers hun chats met een AI-chatbot kunnen verwijderen en aangeven dat ze niet willen dat gesprekken worden gedeeld, maar dat het uiteindelijk aan de aanbieder van de dienst is om te bepalen wat er met dergelijke gegevens gebeurt.

Een ander risico dat Whittaker ziet is de opkomst van AI-agents, die autonoom voor de gebruiker allerlei taken uitvoeren. Daarvoor hebben deze AI-agents wel toegang nodig tot zaken als inloggegevens, creditcardgegevens, maar ook chatapps zoals Signal. Volgens Whittaker zou dit in de context van Signal een backdoor zijn. De Signal-voorzitter maakt zich zorgen dat straks Apple, Google of Microsoft een dergelijke AI-agent implementeren en daarmee de privacybelofte van Signal en andere chatapps ondermijnen.

"We zijn getuige van een stille maar ingrijpende verandering", aldus Whittaker. "Er zijn drie bedrijven in de wereld met controle over onze belangrijkste besturingssystemen: Google met Android, Microsoft met Windows en Apple met iOS. Ze kunnen beslissingen nemen die onze gezamenlijke cybersecurity fundamenteel schaden, onze keuze wegnemen die we voor privacy hebben en ontwikkelaars die andere services maken volledig belemmeren."