Was afgelopen week in nieuws. AI bedrijven die massaal oud papier opkopen om AI te laten inlezen om een model van te maken. AD verwees naar sits 404 dat het ook zou gaan om het massaal inkopen van Nederlandstalige boeken. Niet zo vreemd, Nederlands is de vijfde taal op het internet, naar het schijnt, dus daar is een markt voor.

https://www.ad.nl/tech/boeken-worden-opgekocht-om-chatbots-te-voeden-is-nu-ook-de-nederlandse-markt-aan-de-beurt~a1d7485f/

Dan ook nog de introductie van EU model Loes. https://loes.ai/

De afgelopen dertig jaar zijn vele studenten afgestudeerd met gebruik making van internet, en veel van het door hun gebruikte bronmateriaal, staat niet meer op het web. Niet te verifieren dus, maar een hele generatie heeft zo gestudeerd,en hen beinvloed.

Dus toen kwam bij mij de vraag op: voor een Nederlandstalig AI, welke boeken / documenten / gearchiveerde webpages zou jdie zeker moeten laten bevatten, als trainingsmateriaal voor lokaal AI?

Dit is afhankelijk van wat voor onderzoeksvragen je de gebruiker wilt bedienen, nu en in de toekomst. Dat er gaten in collectief geheugen aan het vallen zijn, is duidelijk. Dat kwesties over censuur al regelmatig aan het opspelen zijn, is ook een feit. Maar opdat er gaten in het collectief geheugen gaan vallen, welke zeker niet vergeten en toevoegen aan de leerlijst van het LLM?

Ik zat zelf te denken aan allerlei taalboekjes, die er zeker in stoppen. Van boeken als Turbotaal en jongerentaal 1984 tot glossaria, vooral ook van oude techniek. Wat nog meer?

Iemand ervaring met opzetten van zo'n lokaal LLM, en wat kwam hij zoal tegen?