Door Anoniem: ChatGPT kan niet redeneren, maar alleen woorden voorspellen via een proces dat in het neurale netwerk van ChatGPT verborgen zit en dus niet te begrijpen valt. Je kunt niet vragen waarom ChatGPT iets zegt.
Verder is ChatGPT nu nog getraind op werk dat ooit door mensen is geschreven, maar er zal steeds minder werk door mensen worden geschreven en meer door AI. Dan krijg je garbage in > garbage out. De ooit goede teksten door mensen geschreven verwateren dus in een AI diarree met de tijd.
Verder is bekend dat AI hallucineert. Je wil geen besluiten baseren op de hallucinaties van een AI (of van een mens).
Niet doen dus die AI. Behandel het als de zoveelste techno bubble die het is.
"ChatGPT kan niet redeneren, maar alleen woorden voorspellen"
Ik zou me toch eerst eens goed verdiepen in de technologie voordat ik zulke aannames zou doen. AI zoals ChatGPT herkent patronen in data en gebruikt context, verbanden en logica om coherente antwoorden te genereren. Het raadt geen woorden, het volgt (slimme) structuren.
"Je kunt niet vragen waarom ChatGPT iets zegt"
Dat is fout. AI-output kan wel degelijk worden geanalyseerd en verklaard door de trainingsdata en patroonherkenning te bestuderen. AI-transparantie en controle verbeteren voortdurend (tip lees eens "Mapping the Mind of a Large Language Model" van Antrophic).
"Er zal steeds minder door mensen geschreven worden, en meer door AI, dan krijg je garbage in > garbage out"
Hier wordt vergeten dat mensen altijd controle hebben over de input en training van AI. AI versterkt juist menselijke productiviteit en creativiteit, en met goede data blijft de output van hoge kwaliteit.
"AI hallucineert. Je wil geen besluiten baseren op de hallucinaties van een AI"
Alleen al omdat AI fouten maakt, betekent niet dat het nutteloos is. Mensen maken ook fouten. We gebruiken AI met menselijke controle en verificatie, en de technologie verbetert continu om fouten te minimaliseren.
"Niet doen dus die AI. Behandel het als de zoveelste techno bubble"
Dit afdoen als een bubbel is kortzichtig. AI heeft nu al enorme impact in gezondheidszorg, onderwijs en wetenschap. Ik durf te stellen dat het geen hype is, maar een gamechanger die onze wereld blijvend verandert. Wat we nu zien is slechts het topje van de ijsberg. Zelfs als we alleen kijken naar bestaande vindingen, wordt duidelijk hoe AI onze wereld zal transformeren. Denk bijvoorbeeld aan:
AlphaFold
AI-aangedreven kunstmatige organen
Generative AI in scheikunde