image

ECP: Angst belemmert ontwikkeling kunstmatige intelligentie

donderdag 17 mei 2018, 10:13 door Redactie, 9 reacties

Bij de discussie over kunstmatige intelligentie en robotisering is het belangrijk om de hype van de realiteit te scheiden, zo stelt het ECP, een platform waar overheid, bedrijfsleven en maatschappelijke organisaties samenwerken en kennis uitwisselen over de impact en toepassing van nieuwe technologieën in de Nederlandse samenleving.

"Doemscenario’s van intelligente robots die de mensheid bedreigen en overheersen veroorzaken angst in de samenleving. Innovatie en een verantwoorde ontwikkeling van artificial intelligence (AI) worden daardoor bemoeilijk", zegt Daniël Frijters van het ECP. In een reactie op de "horrorverhalen" die vaak in het publieke debat over kunstmatige intelligentie worden genoemd heeft het ECP een whitepaper gemaakt waarin naar eigen zeggen de hype van de realiteit wordt gescheiden (pdf).

Het whitepaper gaat in op verschillende doemscenario's en maatschappelijke en ethische vraagstukken. "Vanwege de grote maatschappelijke impact van kunstmatige intelligentie is het van belang dat bedrijven, overheid, kennisinstellingen, politici, bestuurders en eindgebruikers met elkaar in gesprek gaan over dit onderwerp. Hoe benutten we de kansen die kunstmatige intelligentie biedt? En hoe zorgen we er gelijktijdig voor dat intelligente toepassingen rekening houden met voor mensen belangrijke ethische en juridische waarden?", stelt Frijters de vraag. Volgens Frijters is namelijk niemand gebaat bij een samenleving die grootschalig gebruikmaakt van onverantwoorde intelligente systemen zonder ethisch besef.

Image

Reacties (9)
17-05-2018, 10:43 door Anoniem
Wat een vreemde conclusie. Ik ben geen liefhebber van hoogtes en zal niet gauw gaan bunjee jumpen of parachute springen.
Maar dat belemmert toch niet de mensen die hier geen vrees voor hebben, dat als hobby te hebben ?
Tegenwoordig wordt alles maar onder AI / KI gepropt omdat het 'zogenaamd' slim is.
Ook al heb je self-learning-machines en slimme algoritmes, dat maakt het nog niet intelligent . Het blijft een programma volgen dat gebaseerd op input, een bepaalde output levert.
Pas als quantum computers verder ontwikkelt zijn en er niet alleen logische beslissingen, maar ook inconsequente (op eigen opgebouwde kennis) keuzes gemaakt kunnen worden, gaat ik me zorgen maken.
Ik zeg dus niet 'niet angstig' te zijn voor ('werkelijke' / toekomstige) KI, maar ik snap niet dat de conclusie getrokken wordt dat dit de huidige ontwikkeling afremt.
17-05-2018, 11:37 door Anoniem
Beste Frijters,

Volgens een paar slimme leden van de hacker community werkt humor goed.
Zie ook https://media.ccc.de/v/32c3-7501-ten_years_after_we_lost_the_war.

cheers!
17-05-2018, 11:47 door Anoniem
En terecht!! Kijk waar de mensheid nu staat en bereikt heeft. Hebben we AI nodig? Ik denk van zeker van niet. Moet het allemaal sneller en beter? Waar gaat het heen wanneer straks de quantum computer zijn intrede doet?
The "bad guys" gaan AI zeker anders gebruiken dan de "good guys".. WW III will be AI?

https://www.independent.co.uk/life-style/gadgets-and-tech/news/killer-robots-south-korea-university-boycott-ai-researchers-skynet-open-letter-a8289931.html

Nog een citaat van Stephen Hawking
Stephen Hawking gaat niet in op A.I. als mogelijke nieuwe levensvorm, maar stelt zich een wetenschappelijke explosie voor. Je zou je kunnen voorstellen dat dit soort technologie de financiële markten te snel af is, beter wordt in uitvinden dan menselijke onderzoekers, beter wordt in het manipuleren van mensen dan menselijke leiders en dat het wapens gaat ontwikkelen die we niet eens kunnen begrijpen. Waar de impact van A.I. op de korte termijn gaat over wie er de controle heeft, gaat de impact op lange termijn erover of ze überhaupt nog gecontroleerd kan worden.
17-05-2018, 16:48 door cc - Bijgewerkt: 17-05-2018, 16:51
Of we AI nodig hebben is niet de juiste vraag. De doorontwikkeling/evolutie van AI is onvermijdelijk omdat er met nieuwe toepassingen competitieve voordelen gewonnen kunnen worden door het bedrijfsleven (out-tech your competitors or lose). Reden voor angst terecht? Mwah, enige mate van bewustzijn van de effecten van nieuwe tech, de impact daarvan op ons leven en de noodzaak om enige mate van beheersing toe te passen lijkt me we op zijn plek:

https://www.security.nl/posting/562428/Chinese+school+kijkt+via+gezichtsherkenning+of+leerlingen+opletten
17-05-2018, 21:28 door karma4 - Bijgewerkt: 17-05-2018, 21:30
AI is bijvoorbeeld de wasmachine vaatwasser je verwarming en watervoorziening. Dat moeten we allemaal de deur uit doen als je tegen AI bent. Het gaat verder met je auto en als het vervoer daar moet je ook subiet mee kappen.

Ook al heb je self-learning-machines en slimme algoritmes, dat maakt het nog niet intelligent . Het blijft een programma volgen dat gebaseerd op input, een bepaalde output levert.
Eens het is ook niet meer dan dat als advies voor de uitvoering. Zoals we een drugshond niet doorgronden hoe zijn waarneming werkt. Als hij aanslaat je nog steeds de drugs zelf moet zien vinden ook wijst hij heel dringend.
Het grootste gevaar ziet in de eigenwijze mens beslisser / toezichthouder die zijn eigen regels gaat verzinnen.

Het start goed met "1. Zelflerende systemen presteren in afgebakende domeinen beter dan mensen, omdat ze onvoorspelbaar zijn. Zij worden niet gehinderd door menselijke strategieën, cultuur, gewoontes, best-practises en ethische overwegingen. De vraag is: hoe gaan we om met ethiek?"

Een stuk verder raakt het van het pad af "4. Intelligente systemen nemen besluiten op basis van beslisregels of algoritmen in combinatie met data. Hoe dat besluitvormingsproces tot stand komt, is vaak niet transparant en inzichtelijk."
Het is wel degelijk goed te volgen en hoe dat proces om code logica te genereren tot stand komt. Het meeste is namelijk open source en is bij veel onderwijsinstituten opgenomen. Onmisbaar in de wetenschappelijk wereld (statistisch relevant) Zelfs Marlies van Eck gebruikt dat soort statistische methoden. (zie note 13)

Deze wordt leuk: " Enerzijds omdat intelligente systemen die mogelijkheid niet bieden, anderzijds omdat het inzicht in de geautomatiseerde besluitvorming ontbreekt. Ambtenaren zijn niet langer de experts van hun eigen regels, waardoor zij – en andere professionals – niet meer in staat zijn ethische waarden en afwegingen mee te nemen in het besluitvormingsproces."
Probeer het eens met 30+ jaar oude ICT systemen die niemand begrijpt maar wel mee gewerkt moet worden.
Een almachtige ambtenaar met zijn eigen wetten en zonder ethiek is ook een fraaie.
20-05-2018, 14:57 door Anoniem
De toekomstige technologie,de benaming ervan en hoe het ontwikkeld word,en de positieve argumenten die
ze ervoor gebruiken om het toch te kunnen invoeren dat is niet zo zeer de prioriteit.

De prioriteit is:

Jou manier van leven en je doen en laten als mens in de maatschappij word anders.

Je woon en werkomgeving en je manier van winkelen en de bedrijven en overheden en gemeentes veranderen en dwingen
je tot deelnamen aan het systeem.

Je hoeft straks zelf niet meer na te denken en te handelen je word geleefd en gemonitord.

De infrastructuur daarvoor word in hoog tempo afgebouwd.

Smart devices,en smart management,algoritmes dus vast zitten en verplicht werken met je smart devices

Kijk nu eens naar de aziatische landen,hoe deze technologie "panopticum" op haar burgers word
uitgeoefend.

Willen we daar naar toe? zodat ze uiteindelijk in het menselijk brein zitten,
waar ze straks bij voorbaat al weten,dat je wel of niet deugt.

Het systeem streeft ernaar om de supermens te creeren.
21-05-2018, 18:08 door Anoniem
Icm de quantum technologie en de juiste programmatuur en het de mogelijkheid tot i/o zal dit een vlucht gaan nemen die zijn weerga niet kent.

Het is niet voor niets dat we nu in een race zitten en vele grote mulitnationals miljoenen investeren.

Zodra deze technologie ook weer de kans krijgt om zich zelf op alle vlakken te verbeteren zal dit onze maatschappij gaan overheersen.

In de eerste plaats zal het gebruikt worden voor zelf verrijking / meer macht want kennis macht en geld zijn goede vriendjes. Dit zal wellicht weer geherinvesteerd worden in AI en nadat hier een winnaar uit komt of meerdere zullen ze als we geluk hebben hun kennis gaan bundelen.

Echter hebben we nog heel wat hobbels te nemen waarvan de menselijk ego misschien nog wel de grootste uitdaging is.

Een kind met een vlijmscherp mes kan zichzelf zomaar ineens verwonden. Of er van leren en het nuttig gebruiken.

Waarbij het woord nut wellicht nog lang een subjectieve definitie is.

En niet zozeer in het belang van de mensheid.

We shall see..
22-05-2018, 00:37 door Anoniem
We hebben dus de wijze "custodians" meer nodig dan ooit te voor. Doch "Quis custodiet ipsos custodes?" ofwel "wie controleert de controleurs"?

Wat vooral nodig is, is de garantie dat een ieder in gelijke mate mee kan participeren in deze komende AI-cyborg maatschappij en dat het geen helse matrix-gevangenis wordt, waar geen ontsnappen aan mogelijk is. Net als een koptelefoon, moet je het wel even kunnen afzetten.

Iets wat sommige christenmensen onder ons verwoorden in Apocalyptische visies als de tijd, dat ieder het Teken van het Beest zal ontvangen of wat de moslims zien als de 40 dagen van Dajjal op aarde.

We moeten zien te voorkomen dat de tegenstelling kleine heersende clan tegenover een zeer breed domgehouden massa steeds maar gaat toenemen, zodat de "onderkaste" helemaal niet meer over dergelijke beslissingen kan meedenken, hetgeen nu al een deel van ons politiek bedrijf als bestaande en zeker komende realiteit aanneemt.

Vergeet niet dat we er tot op zekere hoogte al binnen zo'n bestel leven: (IoT, remote gecontroleerde drones, Mitsuku chatbot, dragnet, etc. etc.).

Weet nog hoe ik als lager school leerling op het puntje van het tapijt zat te kijken, naar "De toekomst is hier" op de buis met een hele enge maanlanding van aliens - alle kindertjes gehurkt op het tapijt voor de zwart-wit TV, het zogenaamde
29-05-2018, 12:54 door Anoniem
Our Final Invention - James Barrat zijn punten zie ik nog niet geslecht worden met deze whitepaper. Echter is het goed dat dit onderwerp ter sprake komt.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.