Brussel wil verbod op AI die sociaal scoresysteem mogelijk maakt
De Europese Commissie heeft vandaag nieuwe regels gepresenteerd voor kunstmatige intelligentie en de toepassingen waarvoor de technologie mag worden ingezet. Zo wil Brussel dat AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden.
Het gaat dan om systemen of toepassingen die menselijk gedrag manipuleren en systemen die "sociale scoring" door overheden mogelijk maken. Zo wordt in China een sociaal kredietscoresysteem gebruikt dat bijhoudt hoe mensen zich gedragen. Als gevolg van bijvoorbeeld bepaalde overtredingen kunnen mensen een lagere score krijgen, wat weer maatschappelijke gevolgen kan hebben.
Daarnaast wil de EC "strenge verplichtingen" voor AI-systemen waarvan het risico als "hoog" wordt bestempeld. Zo zullen alle systemen voor biometrische identificatie op afstand als risicovol worden beschouwd en aan strikte eisen moeten voldoen. Zo is het gebruik van dergelijke systemen in openbare ruimtes "in beginsel" verboden.
Er zijn echter uitzonderingen die het mogelijk maken om deze systemen wel in te zetten, zoals het zoeken naar een vermist kind, opsporen van een dader of verdachte van een ernstig misdrijf en het voorkomen van een aanslag. Er moet dan vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databases.
Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat ze contact hebben met een machine. De Europese Commissie verwacht dat de meeste AI-systemen in de categorie "minimaal risico" vallen, zoals op AI-gebaseerde videospellen of spamfilters.
"Voor kunstmatige intelligentie is vertrouwen een must, geen luxe. Met deze baanbrekende regels neemt de EU het voortouw bij de ontwikkeling van nieuwe mondiale normen om ervoor te zorgen dat iedereen AI kan vertrouwen", zegt Margrethe Vestager, Eurocommissaris voor Mededinging. "Door normen vast te stellen kunnen we de weg vrijmaken voor wereldwijde ethische technologie en ervoor zorgen dat de EU concurrerend blijft."
Het leidt mijns inziens tot bizarre situaties als de overheid (terecht) streng gereguleerd is en in de commerciele wereld "alles" zou mogen. De overheid heeft ook de bevoegdheid om voor bedrijven regels en randvoorwaarden te stellen.
Er staat toch al duidelijk "in beginsel". Dat zal er later wel weer uitgehaald worden.
Het leidt mijns inziens tot bizarre situaties als de overheid (terecht) streng gereguleerd is en in de commerciele wereld "alles" zou mogen. De overheid heeft ook de bevoegdheid om voor bedrijven regels en randvoorwaarden te stellen.
De commerciële galbakken kunnen zo wel indirect het vuile werk doen voor de overheden :)
Zo beginnen ze met alles wat vervelend kan uitpakken.
Ik kan mij nog herinneren dat ze ook zo tegen dat verplichte vaccinatie bewijs waren in de vorm van een groen paspoort.
We weten inmiddels hoe ver ze daar al mee gevorderd zijn. Zou er ook nooit komen.
De europese commissie komt met strenge regels voor kunstmatige intelligentie (hahaha)
en verwijzen ook naar het sociaal krediet-scoresysteem uit china,willen ze
dat tegen houden,vast niet het zal er toch wel komen,en waarom zou je nog
water bij de wijn willen doen,burgers worden al jaren digitaal gevolgd geanalyseerd.
We hebben inmiddels al blockchain en algoritmes om ons
gedrag te volgen en wat nog meer
The Matrix
En zo zullen ze het spelen de "uitzonderingen" worden uitgebreid en worden onder water de regel in plaats van de uitzondering
Het sociale score systeem gaat er komen en ze zullen de corona crisis hiervoor misbruiken waar mogelijk.
1984 is al jaren achterhaald China heeft bewezen hoe je zo een maatschappij in de moderne wereld kan neerzetten.
In de EU zal het wat langzamer met indirecte dwang gaan maar het zal er komen en 80 % zal er mee instemmen oinder het motto van handig/ik heb toch niks te verbergen
Het leidt mijns inziens tot bizarre situaties als de overheid (terecht) streng gereguleerd is en in de commerciele wereld "alles" zou mogen. De overheid heeft ook de bevoegdheid om voor bedrijven regels en randvoorwaarden te stellen.
Omdat voor commerciële instellingen en sommige overheidinstellingen de GDPR al een en ander zegt over dergelijke systemen (o.a. artikel 22 en aanverwante overwegingen: https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX%3A32016R0679). Dit lijkt (hopelijk) met name gericht te zijn op die overheidsorganisaties die conform artikel 2 GDPR in het geheel niet in scope zijn.
En zo zullen ze het spelen de "uitzonderingen" worden uitgebreid en worden onder water de regel in plaats van de uitzondering
Het sociale score systeem gaat er komen en ze zullen de corona crisis hiervoor misbruiken waar mogelijk.
1984 is al jaren achterhaald China heeft bewezen hoe je zo een maatschappij in de moderne wereld kan neerzetten.
In de EU zal het wat langzamer met indirecte dwang gaan maar het zal er komen en 80 % zal er mee instemmen oinder het motto van handig/ik heb toch niks te verbergen
Met alle respect, dat ben ik niet met je eens. Wat men hier zegt is dat men per individuele situatie toestemming aan de rechter moet vragen. Oftewel, voor ieder vermist kind etc. apart. Dat betekent een heel behoorlijke waarborg op de uitzonderingen.
Onvermijdelijk zullen er pogingen komen om onder het toezicht en de beperkingen uit te komen (en zullen er geen pogingen komen om daar een andere waarborg dan 'goede intenties' voor in de plaats te zetten). Maar zoals het hier bedoeld is, kan ik mee leven mits het in de praktijk ook zo gaat werken.
En zo zullen ze het spelen de "uitzonderingen" worden uitgebreid en worden onder water de regel in plaats van de uitzondering
Het sociale score systeem gaat er komen en ze zullen de corona crisis hiervoor misbruiken waar mogelijk.
1984 is al jaren achterhaald China heeft bewezen hoe je zo een maatschappij in de moderne wereld kan neerzetten.
In de EU zal het wat langzamer met indirecte dwang gaan maar het zal er komen en 80 % zal er mee instemmen oinder het motto van handig/ik heb toch niks te verbergen
Met alle respect, dat ben ik niet met je eens. Wat men hier zegt is dat men per individuele situatie toestemming aan de rechter moet vragen. Oftewel, voor ieder vermist kind etc. apart. Dat betekent een heel behoorlijke waarborg op de uitzonderingen.
Onvermijdelijk zullen er pogingen komen om onder het toezicht en de beperkingen uit te komen (en zullen er geen pogingen komen om daar een andere waarborg dan 'goede intenties' voor in de plaats te zetten). Maar zoals het hier bedoeld is, kan ik mee leven mits het in de praktijk ook zo gaat werken.
Maar tussen wat erop papier staat en hoe het in de praktijk zal gaan kan een groot verschil tussen zitten.
Ik verwacht dat ze het toch zullen doen zonder vooraf toestemming aan de rechter te vragen en als dit naar buiten komt er geen echte consequenties uit zullen vloeien. Daarnaast kunnen de uitzonderingen zomaar uitgebreid worden met bijvoorbeeld epidemie onderzoek of iets dergelijks.
Ik ben geen alu hoedje maar ik vertrouw de overheid/mensen niet om zich aan de regels te houden wanneer ze deze kunnen overtreden zonder echte consequenties
Deze posting is gelocked. Reageren is niet meer mogelijk.
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Cyber Security Trainer
"You know that feeling after you have been to the cinema and seen an exciting movie? It's the same after this training. I can only say that this is probably the BEST TRAINING that I've ever done!!!”
Are you ready for a challenge?
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.