Het is nogal bizar hoe die omhoog gevallen griezels zich gedragen.

Enerzijds maken hun bedrijven, als ik het goed opvang, nog altijd geen winst maar drijven ze op waanzinnige hoeveelheden durfkapitaal. Als de grenzen van de hype in zicht komen, en daar zijn wel wat indicaties voor (ik ben bijvoorbeeld al ergens tegengekomen dat bedrijven die enthousiast personeel eruit hebben geknikkerd omdat AI het wel zou kunnen toch weer mensen aan het aannemen zijn), kan je misschien wel verwachten dat ze de gekste dingen gaan doen om de hype en dus de inkomsten op gang te houden.

Anderzijds, ook al is generatieve AI niet werkelijk intelligent maar genereert het dingen die intelligent lijken omdat die intelligentie in de invoer zit waarmee ze getraind zijn, kan het ondertussen wel indrukwekkend veel, en het kan bepaalde dingen die mensen niet voor elkaar krijgen. Kijk bijvoorbeeld naar dingen als het vinden van enorm veel nooit eerder gevonden lekken in allerlei software, en het vinden van bewijzen voor wiskundige problemen waar niemand nog bewijs voor had gevonden. Ik vermoed dat je dergelijke prestaties enigszins kan vergelijken met hoe een routeplanner uit een waanzinnige verzameling mogelijkheden heel snel een goede route van A naar B kan ophoesten, terwijl een mens dat echt niet zo snel zou kunnen. Niet echt wat wij als intelligentie beschouwen, maar zo'n systeem doet het ondertussen wel. Het gevaar is dat systemen die op die manier erg veel kunnen, maar die niet worden gehinderd door een geweten en het inzicht dat een keuze over de schreef gaat, inderdaad de potentie heeft om heel gevaarlijke dingen kan doen, zeker als het ook nog acties kan initiëren en/of mensen kan beïnvloeden, en dat gebeurt allebei.

Die twee punten (enerzijds en anderzijds hierboven) hoeven elkaar trouwens niet per se uit te sluiten, het kan allebei waar zijn. En stel dat dat tweede inderdaad waar is, dan is het doodeng dat die topfiguren publiek alarm slaan en ingrijpen af laten hangen van de vraag of iedereen het doet. Kom op, als het echt menens is dan trap je keihard op de rem, ook als een ander dat niet doet. Nu heeft Sam Altman een beursgang uitgesteld (maar niet afgesteld). Kunnen we die gast vertrouwen? Er zijn nogal wat berichten over hem die zeggen dat hij ongeveer alles bij elkaar liegt, dus ik zou zeggen: voor geen cent. Of misschien is het echt menens en wil hij zelf liever over 10 jaar nog leven.

Die bedrijven, hun data centers en hun topmensen mogen wat mij betreft opgedoekt worden. Laat liever mensen die niet op winst en macht uit zijn aan kennis werken, en doe dat voorzichtig, héél voorzichtig als iets gevaarlijk is.

En dat er zoveel durfkapitaal beschikbaar is dat startups, want in die fase zitten ze nog steeds, zo groot, machtig en gevaarlijk kunnen worden, dat geeft aan dat er iets heel erg ziek is aan hoe het kapitalisme zich heeft ontwikkeld. Ook dat op zich is bloedlink, los van de vraag of het over AI of over iets anders gaat.

Wel grappig: als ik als burger een wapen ontwikkel, ben ik strafbaar en kan ik vervolgd worden. Nu impliceren diverse AI CEO's dat het gevaarlijk is, maar het zorgt alleen maar voor nog meer investeringen, winsten en gretige overheden en instanties.

Misschien moet er wetgeving komen die die topmannen op persoon aansprakelijk stelt als AI grenzen overschrijdt. Dit zal echter dromen blijven, want in diezelfde politiek of instanties heb ik nog nooit daadkracht mogen waarnemen voor dit soort situaties. De lusten, de winsten, de positieve gevolgen zijn door wet en regelgeving beschermd privaat. De lasten, de problemen en alle negatieve gevolgen zijn publiek en zoek het maar uit.

Aad

De concept verdragstekst op reguleriing en verbod op autonome wapens ("killer robots") is onlangs in Geneve overeenstemming over bereikt, en ook VS, China, India en Rusland hebben met deze tekst voor verdere onderhandelingen ingestemd.

Maar het is vooral Trump die de waarschuwingen over AI vanuit de US sector zelf afdoet als overdreven.

AI heeft ruim toepassingsgebied en dat loopt in discussies over AI door elkaar heen.

Wanneer die mooie tekst net als, ik noem maar wat, de Code van Neurenberg wel door iedereen wordt geprezen maar door geen enkel land daadwerkelijk wordt geratificeerd, dan heeft het geen enkel nut of slagkracht en is het gewoon een grote wassen neus, voor de bühne en het sentiment.

Voor november staan de vervolgbesprekingen mbt killer robots gepland.

Code van Neurenberg vergelijking vind ik even deprimerend als treffend. Misschien dat Gerard Aalders bewogen kan worden daar eens een boek over te gaan schrijven? Komt hij misschien nog een Stadhoudersbrief in de archieven tegen, of defininties van genocide - massamoord, dan wel handgeschreven lijstje met de namen van Nederlandse artsen en chirurgen, waarvan hij weet dat het door de grijnzende MIVD medewerker tegenover hem, in de map met archiefstukken is geplaatst. Dan kan Tomas Ross dan een spannende roman of scenario voor televisie serie over gaan schrijven. Een verhaal waarin dan weer een dappere journalist of zoiets dergelijks iets over de waarheid onthult, en AI hem niet verder kan helpen want de broncode daarvan is gebaseerd op achterhaalde ouderwetse thema's over samenlevingen, en beschouwt waarheid over menselijk gedrag en menselijke fantasie als een enge hallucinatie /cynisch edoch enorm bedroefd.

AI kan enorm veel meer dan LLM, en LLM werd in universitaire wereld al volop gebruikt, voordat het als consumentenproduct beschikbaar werd.

Vroeger werden we bang gemaakt voor de atoombom.

Tegenwoordig voor AI

Met zijn allen naar de Terminator film. ;-)

https://isaiprofitable.com/

Ik denk dat het ook een (groot?) deel marketing is. In al hun communicatie dichten ze zo veel mogelijk menselijke eigenschappen toe aan hun modellen, terwijl het uiteindelijk toch gewoon opgeblazen modellen zijn die een gok doen wat het volgende meest logische woord is.

Hier ook weer: O, jee, we zijn zo goed, het is allemaal zo gevaarlijk. Nieuwsflash: Er zit een powerswitch op die computer(s), zet die naar de uit stand en je gevaar is opgelost (en daarbij lever je ook meteen een positieve bijdrage aan de klimaatdoelen).
Als er een groep mensen is die iets zouden kunnen doen dan zijn het de CEO's van deze toko's, maar in plaats van verantwoordelijkheid nemen (waar ze bij big tech sowieso al slecht in zijn) proberen ze die af te schuiven op overheden die regeltjes moet verzinnen (waar ze dan vervolgens weer over kunnen klagen ....).

Deze sketch legt uit wat waarom gebeurt:
https://9gag.com/gag/abAjz2O?utm_source=copy_link&utm_medium=post_share

Dat is nog niet eens zolang geleden, dat Poetin daarmee dreigde....
Of Russische AI al iets voorsteld, is maar de vraag. Assisteren bij analoge acties deden ze altijd al.

Even uit de droom helpen: AI == LLM.

Hoe dan ook, wat die AI-bazen in feite doen is ons bedreigen met een gevaar dat ze zelf hebben gecreëerd.

AI is wel degelijk veel breder dan alleen LLM's. LLM's zijn al een subset van generatieve AI, een LLM kan alleen taal produceren bijvoorbeeld (LLM staat voor large language model), en beeld en geluid wordt wel degelijk ook geproduceerd met generatieve AI. En neem bijvoorbeeld IBM's schaakcomputer Deep Blue die in 1997 wereldkampioen Garry Kasparov versloeg. Die was al op AI-technieken gebaseerd, met (kunstmatige) neurale netwerken, terwijl de generatieve neurale netwerken waarbij je van generatieve AI spreekt pas rond 2010 tot stand kwamen.

Deze “toppers” vinden dat de overheid moet reguleren en niet zijzelf. Trump vindt regulering niet zijn taak. In dit geval heeft hij gelijk denk ik.


https://nos.nl/l/2631270

Trump heeft iets van: laten die Europanen maar worstelen met die AI act, en die paar Amerikaanse bedrijven.

https://www.telegraaf.nl/buitenland/amerikaanse-militaire-operatie-tegen-chinees-schip-nipt-afgeblazen-toen-bleek-dat-ai-chatbot-hallucineerde-bijna-een-oorlog-veroorzaakt/161691332.html?dicbo=v2-o9JEDy6

https://www.telegraaf.nl/buitenland/amerikaanse-militaire-operatie-tegen-chinees-schip-nipt-afgeblazen-toen-bleek-dat-ai-chatbot-hallucineerde-bijna-een-oorlog-veroorzaakt/161691332.html?dicbo=v2-o9JEDy6

Hier een bijna oorlog door een zogenaamde AI.

Dit moet echt stoppen die gekte.

1 het is geen AI. En ik laat met niet manipuleren door herdefinities.

Deze niet deterministiche opzet en de inzet op software gebaseerd op kansberekening is letterlijk de hel over je afroepen. Hoeveel datacenters je er ook tegen aan gooit.

Het vertrouwen op dit soort systemen is eerder gemanipuleerd dan dat het verantwoord logisch is.

Het sluipt overal binnen in alle takken van sport.

Stuur dit door

Doet me denken aan een berucht geworden incident met het Oko systeem van de Sovjets in 1983. Luchtafweer gaf aan dat vijft langeafstandsraketten met kernkoppen onderweg waren naar Moskou, maar betrokken officier besloot niet te melden aan zijn overste. Tijdens de detente met Rusland is dit incident bevestigd, en na overlijden van de betrokken officier is er nog een theatervoorstelling over gemaakt.

Die AI kruipt gewoon in alles, heeft (n)iets met hallucineren te maken en de menselijke voorstelling bij deze techniek. Het is wel zo dat werkelijke waarheid zowel in oorlogs- als vredestijd ten prooi ligt aan manipulatie door journalisten en newsoutlets. De communicaties van AIVD-MIVD en hun zusterdiensten bereiken journalisten en hun personeel dat op universiteiten rondhangt nou eenmaal eenvoudig, dat zijn de veldwerkers van de diensten.

Trump heeft het nu over oprichten van AI Force, zoals eerder de Space Force.
Dat je geen hoog IQ hoeft te hebben om groot inzicht te hebben, bewijst hij zelf. En de manier waarop zijn boodschap vertaald is.
"
Zoek zelf maar, toch deze zal "Nederlands/Europees bedrijfs/politiek leven" toch zeker ook aanspreken

https://www.bnr.nl/nieuws/tech-innovatie/10610676/trump-richt-ai-force-op-alleen-mensen-met-hoog-iq-mogen-solliciteren

En nu moet je voor de gein eens controleren waar "AI" in Nederland al gebruikt wordt.

Je schrikt je rot.

Astra Taylor ('Examined Life') en Naomi Klein ('No Logo') signaleren een inktzwarte ideologie die totale vernietiging van de aarde verheerlijkt. Onder de aanhangers bevinden zich de machtigsten der aarde. Maar geef de moed niet op, zeggen ze. ‘De meeste mensen waarderen het leven van nu, niet een of ander paradijs dat alleen mogelijk is na een armageddon.’


https://www.volkskrant.nl/buitenland/eindfascisten-als-musk-geloven-dat-het-paradijs-op-aarde-alleen-mogelijk-is-na-de-totale-destructie-ervan-ze-proberen-het-zelfs-te-bespoedigen~b098f075/

Doelen worden opgesteld door mensen. Het grootste gevaar zit hem in de uitvoering van die doelen.

Een wereld zonder mensen is voor een "ai" in de huidige situatie totaal nutteloze mechanische inertie.

Vooralsnog zou toegang tot de fysieke wereld door "agi" of "asi" tijdelijk tot een ongewenste schadelijke uitvoering van allerlei doelen leiden.

Het grootste gevaar zit hem in het gebruik van "ai" voor doelen die door mensen zijn opgesteld.

En zeker met de huidige "ai" waarbij nog steeds hallucineerde effecten optreden is het 100% vertrouwen op "ai" een levensgevaarlijke bezigheid. En nee dat merk je niet na 1 prompt.. dit merk je pas nadat je er een tijdje mee bezig bent.

Echter omdat we nu in een nieuwe ratrace zitten naar economische en potentiele machtuitbreidende voordelen gekoppeld aan de gigantische investeringen zullen we net zoals bij elke nieuwe technologie achter de feiten aan blijven hollen inclusief de nevenschade.

Het project "ai" moet lukken en hier zijn wij totaal ondergeschikt aan. Het voelt bijna onveilig om hier openlijk kritiek op te geven.

Meer meer meer en sneller..de balans is totaal zoek.

Kom maar eens met een oplossing.

Geen enkele grootmacht zal hierin achter willen lopen met het grote gevaar dat de situatie totaal uit de hand loopt. Doordat "AI" veels te snel wordt ingezet.

We weten allemaal dat als de mens de eindregie in handen heeft dit ook fout kan gaan door de meest domme oorzaken.

We zien het al in de cybersecurity bij social engineering..

Nog een lange weg te gaan...wie gaat dit oplossen.

Kan een hamster regels opleggen aan een olifant? En dit kan je ruim opvatten.

Het voelt een beetje als.. laten we maar meerennen anders verdrinken we in die Tsunami.

Maar dit is mijn persoonlijke mening.

Naar aanleiding van dit verhaal verscheen in 2014 de documentaire The Man Who Saved the World, van Peter Anthony.

Ik schrik niet zo snel. Ik vraag me wel af of AI echt Intelligent is. De mens bouwt namelijk alleen dingen die efficiënt zijn en het eigenbelang dienen. Intelligente ontwerpen gaan een stapje verder en dienen het belang van de planeet met alles erop en eraan. Dat zie ik nog niet zo bij AI. En kennelijk hebben de AI-bazen ook niet veel vertrouwen in de Intelligentie van AI want ze geven nu al aan dat AI weleens het einde van de mensheid kan veroorzaken.

Ik denk dat dat grootspraak is, dat AI het einde van de mensheid kan betekenen. AI kan wel het einde van een deel van de mensheid betekenen; uit efficientie overwegingen van de groep beleidsuitvoerders en bedenkers, de huidige elite en die van morgen en overmorgen.

De definitie van intelligentie en de mogelijkheden om die te meten, is langer punt van discussie als het om mensen gaat.

Is AI te vergelijken met wat mensen zijn, en doen. Of slaat het als we het over intelligentie van AI hebben, alleen op "kennis " en "vanuit kennis toegepast" , de vertaling uit het Engels van het woord "ïntelligence".

En over Thermobaric ("Vacuum") bommen is idemdito overeenstemming over bereikt...
Al jaren geleden...
Net als mosterdgas...
En clusterbommen.

AI had ons moeten helpen. Het helpt ons de vernieling in. Het zet ons aan het werk. Ermee stoppen doen we niet want er is ongelofelijk veel geld in geïnvesteerd.

https://www.politie.nl/nieuws/2026/september/24/ai-versnelt-en-vergroot-de-dreiging-nu-handelen-noodzakelijk.html

Veiligheidsdiensten: cybercriminelen vallen vaker en slimmer aan met AI

Cybercriminelen maken steeds meer gebruik van kunstmatige intelligentie (AI) om aanvallen uit te voeren op bedrijven en organisaties. Bovendien maakt AI het gemakkelijker voor een „bredere groep kwaadwillenden” om aanvallen uit te voeren. Daarvoor waarschuwen veiligheidsdiensten AIVD en MIVD in een brief, samen met het cyberveiligheidscentrum NCSC, terrorismebestrijder NCTV, de politie, het Openbaar Ministerie en CIO Rijk, de ict-organisatie van de Rijksoverheid.

https://www.nrc.nl/nieuws/2026/09/24/veiligheidsdiensten-cybercriminelen-vallen-vaker-en-slimmer-aan-met-ai-a4937461

Openai zou zeggen.. sorry was mijn agent.

Deze youtube video moet je zien en dat is precies wat ik bedoel en voor waarschuw:

Het is error op error en je merkt niks want we verdienen toch lekker. Maar intussen communiceren die agents nu en straks ook nog onderling en introduceren error op error op totdat kritieke infrastructuren totaal instorten.

https://youtu.be/woTy4dTiT20

En de huidige AI heeft totaal geen zelfbewustzijn het is gewoon de mens erachter die beslist waar de tool wordt ingezet en daar gaat het al fout omdat de technologie totaal niet rijp is voor bepaalde takken van sport.

Valt de mens weg dan vervalt die tot mechanische inertie.

We kunnen denk ik wel de vergelijking trekken met het verhaal van de toren van Babel ....

Deze video geeft precies aan waar deze developer tegenaan liep:

<a href ="https://youtu.be/F91uY7QiZUs">ineenstorting AI softwareontwikkeling< /a>

Interessant... "Zoekt en gij zult vinden."
Dan vind je bijvoorbeeld dit:
https://nl.wikipedia.org/wiki/Toren_van_Babel, en ontdek je dat het niet zeker is dat het om een toren zou gaan.

Het zou namelijk kunnen duiden op een ommuurde stad, waarin een verhoogde, van ver zichtbare citadel of akropolis staat, die vanwege de hoge ligging erg goed verdedigbaar is.
Van hieruit konden de machthebbers die er woonden het omringende gebied beschermen en beheersen.
Zeg maar: een groep mensen, die in het omringende gebied de dienst uitmaken.

Overigens: God verbood dit niet. Waarom zou Hij?
Als mensen willens en wetens God verlaten zoals gebeurde bij en na de zondvloed,
dan wordt men (vooralsnog) op zichzelf terug-geworpen met het risico door andere mensen te worden overheerst.

Terug nu naar A.I,:
Waar ik vanuit zojuist geschetst beeld serieus op wil wijzen, is dat zeg maar de " A.I. -aanbidders"
hun eigen "citadel" kunnen gaan ontwikkelen, van waaruit ze hun macht over het volk kunnen uitbreiden,
met als doel er zelf beter van te worden. (met name in termen van macht en geld).

En dan valt het me dus op dat voorstanders van (ongelimiteerde) uitbreiding van A.I.
meestal personen zijn die al bulken van het geld, en honger hebben naar nog méér macht.
Dus pas goed op en houd bij wijze van spreken "de voet bij de rem."

Dat hallucinatie effect is een algemene term om aan te duiden dat "AI" soms hele rare data presenteert.

Dan ben je bv bezig met een stukje c source van 1000 regels en na 5 of 6 prompts voor het genereren van code zie je ineens een variabelenaam verdwijnen en zet die er een andere neer. En dat is het genereren en creeeren v sourcecode fataal. Dan denk je wtf gebeurt hier?? En kun je weer een bug oplossen.

En dat hallucinerende effect treedt ook op bij andere vakgebieden waarvan je data opvraagt.

En zeker als je die data genereert door AI gebruikt als informatie (informatie is wat de mens ontleend aan gegevens en aanzet tot handelen)

En als die data toevallig deels genereert is op het moment dat "AI" weer zo'n rare truuk uithaalt en je gebruikt dat als informatie om er een bom op te gooien dan wens ik je veel succes met je geweten wat uiteindelijk je persoonlijke hel wordt.

M.a.w. het is niet 100% betrouwbaar. Dat is normale data al niet en dan wil je zeker niet dat een vent met een toeval in je data iets verandert. Want dat is er aan de hand.

Nee, AI kruipt niet overal in, het wordt door grote bedrijven met andere belangen overal ingepropt, of het nou nuttig is of niet. Het zijn mensen die dat doen, AI doet dat niet zelf, dus we kunnen het ook zelf stoppen en terugdraaien.