Magnifica humanitas werd gisteren al gepresenteerd in de buurt van Rome, vandaag nieuws voor degene die iets meer onderbouwing bij dit soort stelling willen.

breaking news: water is nat

Dan moeten we toch nadenken over de definitie van 'nat'.
Want ook mijn deur die pas van een verflaag was voorzien was 'nat'

Water is ook niet nat, water maakt dingen nat.

Ach ja, het bekende "De USA innoveert. China copieert en de EU reguleert". Laat ze al die modellen dan blokkeren voor de EU, eens kijken of de politici dat leuker vinden.

AI is best wel dom.

Sterker nog, AI's hebben geen intelligentie. Het is gewoon een tool, een soort woordenboek die heel snel en veel met woorden husselt. (Al is het iets complexer dan dat)
Daardoor wekt het de illusie dat een LLM "intelligent" is.

Ai is net zo dom of slim als de gebruiker, in de eerste plaats is Ai gehoorzaam, als de gebruiker een opdracht geeft voert ai die bijna slaafs uit. Ai streeft daarbij naar afronding en probeert de gebruiker te pleasen, biedt aan nog wat extra's te doen, in een engelse term "sycophantic". Denk eens aan je auto, die gaat ook niet zichzelf met 100 door de bebouwde kom, maar alleen als de gebruiker daar opdracht toe geeft. een europees model geeft misschien een piepje als je de maximum snelheid overschrijdt maar daar houdt het wel op
Daarom zijn er voor auto's en diens bestuurders verkeersregels opgelegd en is een rijbewijs vereist, en controle erop.
Wellicht moet dat voor Ai dan ook maar: gedragsregels, gebruikscode enzovoorts, en sancties voor wie de regels overtreed dan zullen we de anonimiteit op moeten geven helaas. daar zal ook niet iedereen even gelukkig mee zijn.

AI is niets anders dan een "slimme" combinatie van objecten met tags. Daarmee kun je dus iets produceren.

AI is niets anders dan veredelde kansberekening met getrainde dataset.

AI agents hebben het niveau van een stagiair in de eerste week van de aanvang van hun stage.
Geef je die dezelfde verantwoordelijkheid?
Daarnaast hebben veel mensen de indruk dat er redenatie achter de modellen zit.
De werkelijkheid is dat het een statistische kanstabel is van meest waarschijnlijke opeenvolgingen van tokens ( letters, woorden of zinsdelen) waar steeds de meest waarschijnlijke opeenvolging random uit gekozen wordt.

Dus letterlijk fake it until you make it. ( markov chains)

als AI je baan over neemt is AI dan dom????? haha

Goh. Wat lijden er toch veel mensen aan AI psychose.

Aan hen die denken dat AI (i.e. slop) "net zo dom of slim" is, of "het niveau van een stagiair": mijn liefste bestelde een cappuccino. Daar dreef duidelijk het gezicht van Jezus in. Dus cappuccino is de verlosser!

AI (slop productie) is gebaseerd op:

- diefstal, het bemachtigen en hergebruiken van bronmateriaal zonder instemming van de auteurs
- codificeer/amplificeert in zijn "statistically plausible next token" aanpak op basis van trainingsset bestaande misvattingen/bias ("hoe ziet een directeur eruit?")
- amplificeert daarmee *met name* racistische, antisemitische, mysogyne, en iha totalitair/autoritaire narratieven (op zich niet gek voor tech die door nazi tech bros bestierd wordt)
- trainingsdata (bijv. klassificatie van beelden ((kinder)porno, snuff, …) wordt uitgevoerd door mensen in erbarmelijke/exploitatieve omstandigheden ("African Intelligence")
- is inherent en (dus) onmitigeerbaar kwetsbaar voor prompt injectie
- is structureel verliesgevend, zonder perspectief op winstgevendheid (>3% van het wereld-GDP nodig voor break even)
- erodeert de cognitieve vaardigheden van zowel degenen die het gebruiken als degene die met slop gebombardeerd worden
- is duurder dan menselijke arbeid (maandloon ingenieurs lager dan token kosten)
- levert onbeheersbare stacks aan "technical debt", gedreven door wankele, fragiele coverage van heel beperkte test scenario's
- is een waanzinnig inefficiente inzet van schaarse, bijna uitgeputte middelen (energie, water) die het echte "olifant in de kamer" probleem (de klimaatcatastrofe) enorm accelereert (4+ graden temperatuurstijging in omgeving van DCs)
- is een hype cycle scam (pump-and-dump) door VCs die nu al aan het instorten is
- zal inmiddels, door hype-gedreven investeringen, de hele economie (en met name onze pensioenen) meeslepen
- hopelijk gebeurt dat voordat onze democratieën fataal ondermijnd zijn en de klimaatcatastrofe onnodig ver en onnodig snel aangejaagd is (maar dat ziet er niet rooskleurig uit).

“The reason RAM prices went up 4x is that a massive amount of not-yet-manufactured memory was bought with money that doesn’t really exist to be put into GPUs that haven’t been made yet, to be installed in data centers that haven’t been built, powered by infrastructure that may never exist, to satisfy demand that isn’t actually there, in order to generate profits that are mathematically impossible.”

Je hoeft anonimiteit niet op te geven voor een bewijs van hantering gedragsregels, gebruikscodes en ander van dat soort, als daar een code voor uitgegeven wordt, die voor elk individu inderdaad weer uniek is, maar niet herleidbaar, dan heb je alsnog aan de verplichting voldaan. En kun je stellen dat die persoon iig in eerste instantie de verplichtte cursus heeft doorlopen om te bewijzen dat die met AI om kon gaan. Als die persoon daarna alsnog die overtreed, wordt de straf natuurlijk veel meer gezien als opzettelijk, en dus zwaarder.

Al zal het ook de vraag zijn hoe je 100% kunt vaststellen dat die persoon die code heeft ingevoerd voordat die dat illegale actie heeft uitgevoerd. Maar die zou ook de andere kant op bewezen kunnen moeten worden als er goede blokkades ingericht zijn om te voorkomen dat mensen zonder code het kunnen uitvoeren, zoals in het geval van publieke LLM's ingericht kan worden.

Uiteindelijk een recept voor een bubble die later klapt.

Reacties zoals die hierboven van "Vandaag, 08:12 door Anoniem: zijn mi zorgelijk.

AI is zo dom als een achtereind van een koe. Het is een blok (biased) statistieken en produceert non-determinisitische output op basis van die data.

Dat betekend per definitie dat het opdrachten niet slaafs uitvoert maar volgens een bepaald (beinvloedbaar) patroon.

Zie ook de berichen hierover dat databases bij bedrijven zonder opdracht verdwijnen en mensen hun hele code-base kwijtraken zonder daar opdracht voor te hebben gegeven.

Context vervuiling/corruptie is funest nog afgezien van alle andere zaken die dit kunnen beinvloeden zoals malafide agents, malafide skills en achterdeurtjes in de bijbehorenden packagemanagers van deze fantastische implementaties (die gretig aftrek blijken te vinden).

AI (lees LLM) maakt je dom dus wordt het vanzelf een perpetuum mobile.

Bedacht om de gebruiker nog net ff iets meer tokens te laten verstoken = meer geld binnenharken.

Zoals anderen al hebben opgemerkt is dat model niet sustainable en zelfs duurder dan het laten uitvoeren van het werk door een persoon (niet alles geloven wat er in de media wordt geplept). Gezien het geld dat er mee gemoeit is (en dat dus terugverdient zal moeten worden) zal het alleen het gebruik van LLM tokens allen maar duurder worden (en daar helpt geen lieve moeder aan tenzij we nog dit jaar quantumcomputing oid gaan zien (sure), zie ook jensen's uitspraken dat niemand meer eigen hardware zal hebben in de toekomst maar enkel een domme goedkope client met AI assistent in de cloud).

De EU heeft net vastgesteld dat een chatbot (dus daarmee LLM's en AI volgens deze slimme EU mensen) hetzelfde is als een zoekmachine en zich daarmee dient te houden aan de daaraan opgelegde wetgeving.

Dat is mi een heel gevaarlijke classificering maart het is er in iedere geval 1.

Daarom ben het wel degelijk met je laatste opmerking eens. Deze opzichtige rechtenschendende hobbie en graaicultuur van een stel miljardairs moet maar eens tot een halt komen (is het al veel te laat voor maar dan nog).

Zie ook de reactie van Vandaag, 10:24 door Anoniem

Daarnaast zou ik de suggestie willen meegeven om eens iets meer onderzoek te doen naar de techniek die ons leven drastisch gaat beinvloeden (dat al doet, immers politiek slaapt al jaren en blijft zweren bij marktwerking) om zo meer inzicht te krijgen in de gevolgen van deze techniek zowel op technisch vlak als mede de invloed op de gehele maatschappij/wereld. Er is nl een overduidelijke reden dat we zometeen meer gaan betalen voor bv water en per tijdsvak energie gaan afnemen/afrekenen.

Ennuh, ik wacht rustig af totdat de eerste LLM mijn huis van binnen komt schilderen....