Wat mij aan Facebook al vroeg begon op te vallen was dat ze Europese privacywetgeving schonden, daar dan over op hun vingers werden getikt door Europese toezichthouders of rechters, en dan reageerden alsof ze dat nogal naïef niet door hadden gehad, maar zonder kwade bedoelingen. In het begin was het nog een jong bedrijf dat waanzinnig aan het groeien was geslagen, dus kon ik me die naïviteit nog wel voorstellen.
Alleen begon me wel op te vallen dat ze maar hardnekkig zo naïef bleven, terwijl het muntje over hoe het zit toch echt een keer moet vallen. Ook begon me op te vallen dat ze hun schendingen van Europese privacywetgeving steeds "oplosten" door het op een iets andere manier nog steeds niet te begrijpen: ze hielden zich aan de letter van de uitspraak door de wet op een andere manier fout te interpreteren en op een iets andere manier net zo hard te schenden. Niet een keer, maar dit gebeurde keer op keer opnieuw. Die naïviteit wordt dan ongeloofwaardig.
Wat ook opviel was dat ze hun zaken steeds tot aan de hoogste rechter uitvochten. Doe je dat als je naïef was en daarin gecorrigeerd bent? Volgens mij erken je dan dat je fout zat en doe je het voortaan beter. Wat voor doel dient het dan voor ze om het tot de hoogste rechter uit te vechten? Ik vermoed niet dat ze verwachtten alsnog gelijk te krijgen, hun schendingen leken mij er nogal dik bovenop liggen als ik gewoon even las wat er eigenlijk in de AVG staat, of in de databeschermingsrichtlijn die voor de AVG gold (die ouder is dan Facebook). Welk doel dient het dan wel voor ze? Tijd rekken, vermoed ik, juridische procedures duren eindeloos lang, en dat geeft tijd om een alternatief te bedenken om de inkomsten veilig te stellen.
Dat is bij hun geen incident, dat is een patroon. En dan is het beeld niet meer dat die Amerikanen een beetje naïef zijn over hoe dingen aan de overkant van de oceaan in de EU werken, dan is het willens en wetens en gewetenloos.
Het probleem voor Facebook/Meta is dat hun verdienmodel volledig gebaseerd is op het verzamelen en exploiteren van persoonsgegevens. En dat doen ze niet een beetje maar verbijsterend grootschalig. Dat is hun inkomstenbron, en die kan eigenlijk niet werken in de EU, waar expliciete, op het doel gerichte toestemming nodig is van iedere afzonderlijke persoon over wie ze gegevens verzamelen. Als ze duidelijkheid zouden geven over wat ze nou eigenlijk doen zouden de meeste mensen zeggen: maak het nou een beetje.
Die dataverzameling is namelijk echt verbijsterend. Een jaar of vijf geleden is een intern document van Facebook uitgelekt over hun worsteling met een tsunami aan privacywetgeving over de hele wereld, vanuit landen die in navolging van de Europese AVG ook dat soort wetgeving invoerden. In dat gelekte document wordt gemeld dat ze systemen hebben waarin alles openstaat voor alles. Als een ontwikkelaar iets maakt mag die bij voorbaat al alle gegevens gebruiken die maar zijn vastgelegd, daar zit geen rem op. En daar is geen overzicht over, ze zijn zelf niet in staat om op een rijtje te krijgen wat ze allemaal hebben. Ze weten desondanks toch te melden dat ze 15.000 "features" van mensen bijhouden die ze gebruiken in advertentiemodellen. Probeer je eens voor te stellen dat er over jou 15.000 gegevens verzameld kunnen worden. Je kan bij benadering niet voorstellen wat dat allemaal zou kunnen zijn. In termen van verzamelde feiten kent Facebook zijn gebruikers kennelijk beter dan die zichzelf kunnen kennen.
Ze geven in dat document een voorbeeld van één zo'n feitje, een gegeven dat "user_home_city_moved" heet. Ze geven in dat document niet aan wat dat precies is, maar die naam suggereert dat het ofwel een vinkje is dat aangeeft of iemand wel of niet naar een andere woonplaats is verhuisd, ofwel de naam van die nieuwe woonplaats. Dat is niet zomaar recht voor zijn raap wat een gebruiker zelf ergens heeft ingesteld, ze springen kennelijk door elke denkbare hoepel om dat te pakken te krijgen. Dit attribuut, geeft het gelekte document aan, leiden ze namelijk af uit maar liefst 6.000 "tables". Alweer totaal onvoorstelbaar wat dat dan allemaal zou kunnen zijn, zo exorbitant omvangrijk is het.
Wat is dat voor een systeem? Er zit werkelijk over-the-top veel informatie over mensen in, en alles hangt aan alles op een ongecontroleerde manier. Dat document geeft zelf al aan dat ze het zelf niet kunnen overzien. Er is ook geen mens in staat om een dergelijke complexiteit maar bij benadering nog te bevatten. Zet daar naast dat de AVG vereist dat toestemming vragen voor verwerking moet in een vorm die begrijpelijk en toegankelijk is voor de betrokkene, en dat de betrokkene die toestemming elk moment weer in kan trekken. Hoe kan een bedrijf dat ooit waarmaken als wat ze doen zo totaal complex, verweven en chaotisch is dat ze het zelf onmogelijk nog kunnen bevatten? Simpel: dat kunnen ze in de verste verte niet.
Hoe ontstaat zo'n totale chaos? Alles staat (of stond toen) open voor alles, alles mocht ongecontroleerd benut worden. Tel daar hun vroegere motto bij op:
move fast and break things. Dat hebben ze kennelijk tot op een werkelijk onvoorstelbaar niveau gedaan. Er zat kennelijk geen enkele rem op, geen begin van gezond verstand en verantwoordelijkheidsgevoel. Niet alleen in termen van wat je kan maken tegenover je gebruikers, maar vanuit welk oogpunt dan ook levert dat iets op dat je zelf niet meer kan beheersen.
Natuurlijk constateerden ze in dat document zelf dat ze daarmee tegen wettelijke grenzen aanliepen, in steeds meer landen. Maar wat ook opvalt is dat ze vonden dat ze de EU alleen wel bij wisten te benen en een probleem hadden omdat steeds meer landen wereldwijd die kant op gingen. In werkelijkheid konden ze in de verste verte niet aan de wetgeving van de EU voldoen met een dergelijke data-chaos. Mogelijk herkent een jurist niet dat het totale chaos is en komen ze er daarom mee weg, maar dit overtreft echt alles wat ik ooit mis heb zien gaan als automatiseerder in een verbijsterende mate. Ik zie niet in hoe zo'n onbeheersbare chaos ooit maar in de buurt van overeenstemming met de AVG kan komen. Misschien kan iemand met marketingtalent die chaos nog zo beschrijven dat die redelijk klinkt, maar hoe verwijder je uit een chaos die je niet overziet iemands gegevens als die toestemming voor verwerking intrekt? Als je dat accepteert dan negeer je het zicht op en de zeggenschap over opgeslagen persoonsgegevens die de AVG mensen beoogt te geven. Dat ze in dat document toch al vonden dat ze dat aardig deden, en dat patroon in hoe ze met rechtszaken zijn omgegaan door de jaren heen, geeft me samen geen aanleiding om optimistisch te zijn over hun vermogen om te verbeteren.
Dat gelekte document staat hier:
https://www.documentcloud.org/documents/21716382-facebook-data-lineage-internal-document/Toen Mark Zuckerberg als 19-jarige student te Harvard daar een online smoelenboek voor studenten opzette ("The Facebook" — klinkt dat bekend?) had hij met een studievriend daar de volgende conversatie via instant messaging:
Zuck: Yeah so if you ever need info about anyone at Harvard
Zuck: Just ask.
Zuck: I have over 4,000 emails, pictures, addresses, SNS
[Redacted Friend's Name]: What? How'd you manage that one?
Zuck: People just submitted it.
Zuck: I don't know why.
Zuck: They "trust me"
Zuck: Dumb fucks.
Dat is een uitspraak van iemand zonder geweten. Nou was hij pas 19 en op die leeftijd ben je nog niet helemaal volwassen, ook niet qua geweten en sociale wederkerigheid (daarom zijn criminaliteitscijfers relatief hoog onder tieners en adolescenten), maar hij lijkt die gewetenloosheid daarna niet ontgroeid te zijn, want dit typeert behoorlijk raak hoe Facebook en vervolgens Meta zijn blijven opereren.