Het kabinet roept tot voorzichtigheid bij het gebruik van Mythos en andere Amerikaanse AI-modellen voor het vinden van kwetsbaarheden. Dat zegt minister Van Weel van Justitie en Veiligheid in reactie op Kamerrvragen van D66 en GroenLinks-PvdA. De partijen hadden om opheldering gevraagd naar aanleiding van berichtgeving over Mythos. Volgens Anthropic, ontwikkelaar van Mythos, heeft het AI-model de afgelopen weken al meer dan tienduizend kwetsbaarheden gevonden.

Kamerleden El Boujdaini (D66) en Kathmann (GroenLinks-PvdA) vroegen de minister of overheden toegang moeten krijgen tot Mythos zodat zij het AI-model kunnen gebruiken om preventief kwetsbaarheden op te sporen en te dichten, en of dit op een veilige en verantwoorde manier zou kunnen. "Het kabinet bepleit terughoudendheid ten aanzien van toegang tot operationeel gebruik van een niet-Europees leveranciersmodel als oplossingsrichting voor preventieve kwetsbaarheidsdetectie", reageert Van Weel.

Volgens de bewindsman blijkt uit onderzoek dat toegang tot zogenoemde AI-frontiermodellen in veel gevallen niet noodzakelijk is voor effectieve detectie van kwetsbaarheden. "Het verschil tussen frontiermodellen en minder geavanceerde modellen is mogelijk minder groot dan de berichtgeving rond grote modelaankondigingen suggereert." Daarnaast zijn het de aanbieders van AI-modellen zoals Mythos die de toegang en voorwaarden bepalen. Toegang onder deze voorwaarden vergroot de afhankelijkheid van Amerikaanse partijen.

"In de derde plaats kan preventieve kwetsbaarheidsdetectie via AI veilig en verantwoord worden ingericht, mits losgekoppeld van één specifieke leverancier. Het is afhankelijk van de specifieke omstandigheden, voorwaarden en afhankelijkheden en telkens een brede weging in welke mate toegang noodzakelijk is", laat de bewindsman verder weten. Die stelt ook dat geavanceerde AI-modellen vooralsnog afkomstig zijn van commerciële bedrijven en veelal afkomstig uit niet-Europese landen waar andere wet- en regelgeving geldt dan in de EU.

"Dat kan ertoe leiden dat er weinig tot geen inzicht bestaat in de onderliggende systemen en software van dergelijke systemen en die systemen niet voldoen aan Europese wet- en regelgeving. Het (verder) integreren van AI-modellen in Nederlandse digitale (kern)processen, waarbij de AI-modellen op infrastructuur van niet-Europese aanbieders draait, kan leiden tot toenemende afhankelijkheid", waarschuwt de minister. Die voegt toe dat veel geavanceerde AI-modellen op niet-Europese cloudinfrastructuur draaien. "Integratie in Nederlandse digitale processen vergroot daarmee de afhankelijkheid van niet-Europese aanbieders, met bijbehorende risico’s op gebied van datasoevereiniteit, continuïteit, vertrouwelijkheid en strategische afhankelijkheid."