image

Amnesty: algoritmes Meta droegen bij aan geweld tegen Rohingya

woensdag 5 oktober 2022, 12:38 door Redactie, 1 reacties

De algoritmes die Meta gebruikt op Facebook hebben een belangrijke rol gespeeld bij het geweld dat het leger van Myanmar tegen de Rohingya in 2017 pleegde, zo stelt Amnesty International in een nieuw rapport. Eerder lieten journalisten Sheera Frenkel en Cecilia Kang in het boek An Ugly Truth en mensenrechtenactivist Thet Swe Win weten dat Facebook een aandeel in de genocide tegen de Rohingya heeft.

In het rapport schrijft Amnesty dat Meta wist of had moeten weten dat de algoritmes van Facebook de verspreiding van schadelijke content gericht tegen de Rohingya versterkten. "Het bedrijf ondernam hiertegen echter geen actie", aldus de mensenrechtenorganisatie. Meta maakt gebruik van algoritmes die zijn gebaseerd op betrokkenheid van de gebruikers. Deze algoritmes sturen de news feed van Facebook, de ranking, aanbevelingen en groepsfuncties, en bepalen wat de gebruiker ziet op het platform.

Meta profiteert ervan als Facebookgebruikers zo lang mogelijk op het platform aanwezig zijn door het verkopen van gerichte advertenties. "Het tonen van opruiende en schokkende content – zoals berichten die haatzaaien, aanzetten tot geweld, of kwaadaardig of discriminerend zijn – is een effectieve manier om mensen langer op het platform te houden", claimt Amnesty. "Als zodanig is de verspreiding en versterking van dit type content belangrijk voor het op surveillance gebaseerde model van Facebook."

In de maanden en jaren voorafgaand aan de etnische zuivering van de Rohingya werd Facebook in Myanmar een ‘echokamer’ van tegen de Rohingya gerichte content, stelt Amnesty. Mensen met banden met het leger uit Myanmar en radicale boeddhistische nationalistische groepen overspoelden het platform met berichten die aanzetten tot geweld tegen de Rohingya.

Tussen 2012 en 2017 kreeg Meta herhaaldelijk bezoek van lokale activisten of deden zij pogingen om met Meta in contact te komen. In die tijd werd het bedrijf gewaarschuwd dat het mogelijk bijdroeg aan extreem geweld. In 2014 blokkeerden de autoriteiten van Myanmar zelfs tijdelijk Facebook vanwege de rol van het platform bij het geweldsexplosie in Mandalay. "Meta sloeg de waarschuwingen echter herhaaldelijk in de wind en slaagde er niet in om zijn eigen beleid op het gebied van haatzaaien uit te voeren", claimt Amnesty. Volgens de mensenrechtenorganisatie moeten Meta's algoritmes worden aangepast om herhaling te voorkomen.

"In 2017 werden Rohingya gedood, gemarteld, verkracht en moesten ze vluchten na een campagne van etnische zuivering door de Myanmarese veiligheidsdiensten. In de maanden en jaren voorafgaand aan de schendingen, wakkerden de algoritmes van Facebook een storm van haat aan tegen de Rohingya die bijdroeg aan het geweld", zegt Agnès Callamard, secretaris-generaal van Amnesty International. "Terwijl het leger van Myanmar schendingen tegen de mensheid beging, profiteerde Meta van de haat die werd gecreëerd door de haatzaaiende algoritmes."

Image

Reacties (1)
06-10-2022, 06:56 door Anoniem
Een maand geleden werd bericht dat Facebook zelf geen overzicht heeft over waar ze persoonlijke gegevens opslaan:
https://www.security.nl/posting/767285/
Dit betekent dat ze ook geen inzicht hebben in de processen die die gegevens opslaan en gebruiken, want als ze dat inzicht hadden hadden ze ook inzicht in de data die die processen gebruiken. En dat impliceert weer dat het aanpassen van de algoritmes, wat Amnesty volkomen terecht als noodzakelijk ziet, Facebook niet op afzienbare termijn zou lukken als ze het zouden willen, want om dat te kunnen heb je overzicht nodig over wat je eigenlijk aanpakt, en dat hebben ze nou net niet.

Facebook heeft jarenlang ontwikkeld met als motto "move fast and break things". Steeds meer complexiteit toevoegen zonder erbij stil te staan dat je dat doet, en dus zonder je te bekommeren over de vraag hoe je dat straks nog kan beheersen, is een garantie om op een gegeven moment met een gedrocht te zitten waarvan geen mens nog in staat is om het ooit nog te overzien. Dat wil niet zeggen dat er niet uit te komen is, maar op een redelijke termijn eruit komen zonder de stekker eruit te trekken is onbegonnen werk, en de stekker eruit trekken is een vorm van "move fast and break things" waar Facebook zelf echt niet voor gaat kiezen.

Een van de dingen die ik me van de Rohingya-crisis, toen die jaren geleden losbarstte, herinner is dat de centra van Facebook waar mensen de hele dag gruwelijke content moeten beoordelen (gekmakend voor die mensen en volstrekt onvoldoende als maatregel) er voor kleinere niet-westerse taalgebieden domweg niet waren. Dat liet toen al zien dat Facebook niet in staat is om wat ze gecreëerd hebben te beheersen, en ook dat het ze niet voldoende interesseert dat het levens kost.

De weerstand tegen ingrijpen in hoe via Facebook wordt gecommuniceerd komt niet alleen van Facebook zelf. Menigeen ziet ingrijpen daarin als ingrijpen in vrije meningsuiting en vrije expressie. Maar de mensen die dat vinden zien iets belangrijks over het hoofd, namelijk dat Facebook allang actief ingrijpt in vrije meningsuiting en vrije expressie. Facebook filtert en selecteert namelijk volop content op basis van hun algoritmes. Dat heeft weliswaar geen politiek doel, het dient de winstgevendheid, maar het effect is wel degelijk dat schokkende en opruiende content benadrukt wordt en dat bedachtzame en verstandige content juist minder aandacht krijgt. Zo'n platform is niet neutraal wat vrije meningsuiting en vrije expressie betreft, effectief censureert het verstandige bedachtzaamheid. En dat kan ongelofelijk schadelijk uitpakken, zoals onder meer de toestand met de Rohingya's laat zien.

Dat los je niet op met compenserende maatregelen. Dat los je op door de enorme winstgevendheid als motivatie voor het maken en onderhouden voor zo'n platform los te laten, door als motor voor wat mensen te zien krijgen te hanteren wat mensen zelf opzoeken en zelf onder de aandacht brengen, en dat niet te beïnvloeden op basis van wat de meeste opwinding oplevert. Om de mogelijkheid voor het ontstaan en het handhaven van doorgeslagen winstbejag te doorbreken is het nodig om platform-lock-in te doorbreken. Dat doe je door uitwisselbaarheid over meerdere platforms te verplichten, wat gestandaardiseerde formaten en protocollen vergt, net als bij e-mail. En daar gaan de Facebooks van deze wereld echt niet vrijwillig aan meedoen. De EU is gelukkig bezig met het optuigen van dit soort verplichtingen.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.