Het (Palantir) is gewoon een tool, zoals er zoveel tools zijn (zelf geen ervaring met tools als Foundry en Gotham wat gewoon een AI-gedreven Maltego Casefile on steroids is, eigenlijk) . Ik ga er vanuit dat er checks & balances zijn , wanneer de computer zegt Pietje is verdacht dat Pietje niet meteen op een zwarte lijst gaat en van dingen uitgesloten wordt , ofzo. Er zal altijd een mens zijn die professioneel is getrained die beslissingen neemt, en dus de verantwoording draagt voor zijn beslissingen. Dat waag ik te betwijfelen. Ten eerste: de mogelijkheid om überhaupt verantwoordelijkheid te kunnen dragen voor gebruikte AI. A.I.-gestuurde detecteerprogramma's werken met algoritmes waarvan op een gegeven moment niet meer duidelijk is hoe ze tot een bepaalde weging van factoren en daarmee tot een bepaald resultaat komen, bijvoorbeeld: "hoog risico", "verdacht". Het resultaat komt uit een 'black box'. Al helemaal wanneer de wetgeving dermate complex is dat niemand meer weet hoe de wet juist toegepast moet ...