Apple heeft een nieuwe feature voor Apple Watches geïntroduceerd waarmee het mogelijk is om gesprekken op te nemen en automatisch uit te werken tot samenvattingen. Critici noemen Siri Recap, zoals de feature heet, Apples audioversie van Meta's 'gluurbrillen' en zijn bang dat mensen in de buurt van de Apple Watch-drager zonder hun toestemming worden opgenomen. Apple stelt in een document dat deze zorgen onterecht zijn.

Volgens Apple kunnen gebruikers Siri Recap zelf in- en uitschakelen. Zo is het mogelijk om een tijdschema in te stellen waarbinnen de Apple Watch alle gesprekken opneemt en uitwerkt, of een bepaalde locatie op te geven, zoals kantoor. Ook is de optie handmatig in en uit te schakelen. Verder laat Apple weten dat Siri Recap gevoelige informatie uit de gemaakte samenvattingen weglaat. Het gaat dan bijvoorbeeld om financiële gegevens, burgerservicenummers, inloggegevens en bepaalde 'personal identifiers'.

Wat betreft zorgen over het afluisteren van de omgeving zegt Apple dat Siri Recap de mensen in de buurt van de drager 'respecteert'. Zo maakt Siri Recap geen opnames en produceert geen letterlijke verslagen, staat in de uitleg (pdf). Ook identificeert het sprekers niet en geeft ook niet aan wie wat gezegd heeft, zo laat de uitleg van Apple verder weten. Tevens zegt Apple dat er geen 'raw audio' wordt bewaard en er geen manier is om de originele audio van een Siri Recap te herstellen of raw audio met iemand te delen.

Detectie van gesprekken
Om te detecteren of er een gesprek plaatsvindt maakt Siri Recap gebruik van een 'lichtgewicht AI-model', stelt Apple. Bij detectie van een gesprek wordt de audio in de Secure Exclave van de chip opgeslagen. Dit is een 'secure buffer' die opgenomen audio in een beveiligde omgeving verwerkt. Volgens Apple is het hier niet toegankelijk voor de gebruiker, het besturingssysteem, apps en Apple zelf. De Secure Exclave op de Apple Watch versleutelt de audio en stuurt die naar de Secure Exclave op de gepairde iPhone. Vervolgens wordt de audio van de Apple Watch verwijderd, aldus Apple. Daarnaast kan alleen de Secure Exclave van de gepairde iPhone de audio ontsleutelen.

On-device spraakherkenning zet de audio om naar tekst, waarna een AI-model een samenvatting maakt. Na het maken van deze samenvatting wordt de raw audio verwijderd, stelt Apple. De samenvatting wordt daarna naar Apple Private Cloud Compute gestuurd, de cloud-infrastructuur van het techbedrijf, voor verdere bewerking. Apple zegt dat data in Private Cloud Compute niet toegankelijk is voor Apple of iemand anders. De uiteindelijke tekst wordt versleuteld en vanaf Private Cloud Compute teruggestuurd naar de iPhone en Apple Watch waar het in de Siri-app te zien is.

Siri Recaps worden automatisch na zeven dagen verwijderd, tenzij gebruikers ervoor kiezen om ze te bewaren. Critici van Siri Recap wijzen naar Microsoft Recall, een Windows AI-feature waarbij continu screenshots van het scherm van gebruikers worden gemaakt. Microsoft besloot de functie na ophef en kritiek van beveiligings- en privacyexperts aan te passen. Ook noemen critici Siri Recap de audioversie van Meta's gluurbrillen, omdat opnames zonder toestemming kunnen plaatsvinden. De bètaversie van Siri Recap komt eind dit jaar beschikbaar.