Door WesleyJ: Hoewel misschien wat ongeïnteresseerd is het makkelijk te erkennen dat dit op een mens lijkt. Hoeveel (hobby)programmeurs zitten er niet op skype en messenger chatbots los te laten op mensen?
Dat vind ik schrikbarend erg.
De "DOCTOR" module van ELIZA simuleerde de gevoelsmatige vragenreeksen van een non-directief behandelende Rogeriaanse psychotherapeut. Het begon als een parodie, maar het pakte anders uit. De oorspronkelijke ontwikkelaar van ELIZA, Joseph Weizenbaum, ontdekte tot zijn afgrijzen dat veel proefpersonen een oprechte, authentieke emotionele band met het programma meenden te ontwikkelen. Een verstandhouding die in werkelijkheid helemaal niet bestond.
Zelf als ze verstandelijk bewust waren van het feit dat het slechts een tekst computerprogramma was, trapten velen er in. Dat was begin jaren zestig van de vorige eeuw. Zoals Weizenbaum later schreef: "I had not realized ... that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people."
Houd dat begrip 'delusional thinking', een waanvoorstelling, nog even voor ogen, en je snap meteen wat het probleem is.
Nog vrij recentelijk, in 2016, heeft Microsoft, bij wijze van experiment, een nog veel geavanceerder AI reincarnatie van ELIZA als een chatterbot account op Twitter aangesloten. Op de eerste dag dat de TAY chatterbot in werking was, liep het helemaal mis. De mensen vatten namelijk de uitvoer op Twitter veel te persoonlijk op. Het experiment werd daarop door Microsoft abrupt beeindigd, wat het dreigde uit de hand te lopen.
https://en.wikipedia.org/wiki/Tay_(bot)Eenmaal aangesloten op Twitter begon TAY op een gegeven moment allerlei stekende en hatelijke uitingen af te geven. Men gaf trollen opt Twitter de schuld, maar het eigenlijke probleem was dat het programma had geen enkele notie had van de context en gevoeligheden van het gebruik van bepaalde woorden. Het voorbeeld van het mislukken van het TAY experiment wordt nu op academies dan ook vaak aangehaald als goedbedoeld, maar als iets dat verkeert uitpakt.