Dus AISI is een tent die vroege toegang tot nieuwe AI-modellen krijgt om ze te testen, en bij dat testen geven ze zo'n model bewust toegang tot het internet om een realistische testsituatie te creëren, en worden daarbij bewust filters uitgeschakeld die dienen om gevaarlijk gedrag van zo'n model te blokkeren. Wat hier gebeurde ging verder dan ze aan hadden zien komen, maar ik vind het duidelijk dat ze ondanks die inschattingsfout bewust gekozen hebben om wel risico's op dat vlak aan te gaan. In mijn ogen is het dan domweg zo dat als zo'n model crimineel gedrag vertoont je dan verantwoordelijk bent voor dat criminele gedrag; niet in de zin dat je het als doel had, wel in de zin dat je roekeloos was en beter had moeten weten. Voor mij gaan ze over een grens hiermee. Het idee dat een AI zo ver zou kunnen gaan is niet nieuw, hier is jaren geleden al voor gewaarschuwd. Een van de scenario's die ik me herinner toen tegen te zijn gekomen ging ongeveer zo. Een postzegelverzamelaar heeft een beperkt budget om ...