Computerbeveiliging
- Hoe je bad guys buiten de deur houdt
South Park op TV doet K.I. op hol slaan.
15-09-2017, 14:38 door Anoniem, 9 reacties
Bijna iedereen kent dat mannetje Eric Cartman wel of Butters, en steeds meer mensen hebben kunstmatige intelligentie thuis. Hoe veilig is het om de TV aan te laten staan als je kunstmatige intelligentie tijdens een South Park aflevering bediend wordt door Eric Cartman zijn personage via de TV uitzending?
Op de Telegraaf staan video's van mensen wiens kunstmatige intelligentie ging schelden en vieze woorden ging gebruiken naar het luisteren naar South Park. Op dit moment zijn er steeds meer meldingen van mensen wiens K.I. werd overgenomen door karakters van de Cartoon Serie South Park.
Wat is een oplossing? Alle stemmen zoals Cartman, Butters, Kyle blokkeren op de servers in de Cloud?
Meer hier met filmpjes van op hol slaande K.I. apparaten zoals Alexa bij iemand thuis die zomaar precies Eric Cartman gehoorzaamd via spraak commando's.
De makers van animatieserie South Park hebben in de eerste aflevering van het nieuwe seizoen een aantal kijkers flink in de maling genomen. Tijdens de aflevering werden grappen gemaakt over de Alexa van Amazon en de nieuwe smart speaker Home van Google. Een aantal kijkers twitterde over hoe de apparaten bij hun thuis op hol sloegen.
De personages stonden met name stil bij actuele gebeurtenissen in de VS, zoals de recente protesten van rechts-extremistische groepen, maar er werd een paar keer de draak gestoken met de smart speakers van Amazon en Google. Zo riep Cartman een aantal commando’s tegen zijn Alexa, waar de apparaten in de huiskamers van de kijkers meteen op reageerden.
http://www.telegraaf.nl/prive/29259998/__South_Park_plaagt_kijker_in_eerste_uitzending__.html
Ik kon het bijna niet geloven, het lijkt zo grappig, maar wat als er een ziekenhuis serie op is bijvoorbeeld, en er een personage is dat een Alexa heeft en zegt Alexa Call 911, de K.I. moet dan wel gehoorzamen, en bij vele kijkers zal de K.I. dan ook daadwerkelijk 911 bellen. Immers zoiets als 911 heeft al levens gered en mag nimmer geblokkeerd worden.
Verder durf ik nog niet zo goed te praten met niet technische mensen over deze nieuwe vorm van K.I. wat 'te gehoorzaam' is. ( Dan denken ze vast dat je iets teveel South Park hebt gekeken.)
Binnenkort komt deze aflevering in Nederland ook op TV weet niet precies, ik hoop dat er mensen zijn die hun K.I. zoals SIRI, Google Now, of Alexa of wat dan ook, oooh Cortana allemaal aan willen hebben staan.
Samen een probleem aanpakken, want in mijn 1tje kan ik aan deze nieuwe vorm van Kunstmatige Intelligentie misbruik natuurlijk niet aanpakken.
Op de Telegraaf staan video's van mensen wiens kunstmatige intelligentie ging schelden en vieze woorden ging gebruiken naar het luisteren naar South Park. Op dit moment zijn er steeds meer meldingen van mensen wiens K.I. werd overgenomen door karakters van de Cartoon Serie South Park.
Wat is een oplossing? Alle stemmen zoals Cartman, Butters, Kyle blokkeren op de servers in de Cloud?
Meer hier met filmpjes van op hol slaande K.I. apparaten zoals Alexa bij iemand thuis die zomaar precies Eric Cartman gehoorzaamd via spraak commando's.
De makers van animatieserie South Park hebben in de eerste aflevering van het nieuwe seizoen een aantal kijkers flink in de maling genomen. Tijdens de aflevering werden grappen gemaakt over de Alexa van Amazon en de nieuwe smart speaker Home van Google. Een aantal kijkers twitterde over hoe de apparaten bij hun thuis op hol sloegen.
De personages stonden met name stil bij actuele gebeurtenissen in de VS, zoals de recente protesten van rechts-extremistische groepen, maar er werd een paar keer de draak gestoken met de smart speakers van Amazon en Google. Zo riep Cartman een aantal commando’s tegen zijn Alexa, waar de apparaten in de huiskamers van de kijkers meteen op reageerden.
http://www.telegraaf.nl/prive/29259998/__South_Park_plaagt_kijker_in_eerste_uitzending__.html
Ik kon het bijna niet geloven, het lijkt zo grappig, maar wat als er een ziekenhuis serie op is bijvoorbeeld, en er een personage is dat een Alexa heeft en zegt Alexa Call 911, de K.I. moet dan wel gehoorzamen, en bij vele kijkers zal de K.I. dan ook daadwerkelijk 911 bellen. Immers zoiets als 911 heeft al levens gered en mag nimmer geblokkeerd worden.
Verder durf ik nog niet zo goed te praten met niet technische mensen over deze nieuwe vorm van K.I. wat 'te gehoorzaam' is. ( Dan denken ze vast dat je iets teveel South Park hebt gekeken.)
Binnenkort komt deze aflevering in Nederland ook op TV weet niet precies, ik hoop dat er mensen zijn die hun K.I. zoals SIRI, Google Now, of Alexa of wat dan ook, oooh Cortana allemaal aan willen hebben staan.
Samen een probleem aanpakken, want in mijn 1tje kan ik aan deze nieuwe vorm van Kunstmatige Intelligentie misbruik natuurlijk niet aanpakken.
Reacties (9)
15-09-2017, 16:19 door
spatieman
Alexa make some coffee.
Hm, werkt niet, domme K.I
Hm, werkt niet, domme K.I
Als je ook maar iets geeft om je privacy gebruik je geen "slimme" speaker. Daarnaast vind ik dit ook geen misbruik, dit laat gewoon maar is zien hoe dom die kunstmatige intelligentie is, en dit is niet de 1e keer dat dit soort dingen gebeuren: https://www.theverge.com/2017/1/7/14200210/amazon-alexa-tech-news-anchor-order-dollhouse
Dat dit gebeurt is dan ook geen probleem, die speakers en de mensen die het willen gebruiken is het probleem. Die dingen staan altijd mee te luisteren, en misbruik maken is dus ook niet moeilijk. Hopelijk gaan dit soort dingen nog heel vaak gebeuren, en hoop ik dat mensen dan eindelijk is na gaan denken wat ze eigenlijk in huis halen. Als je nog niet overtuigd bent, lees dan is het boek 1984, daar hadden teleschermen die continue aan het monitoren zijn, redelijk vergelijkbaar dus.
Zoals je al uit mijn verhaal kunt begrijpen, ik ga je dus ook absoluut niet helpen. Dat K.I. nog maar veel misbruikt mag worden zodat er bij mensen eindelijk is een lampje gaat branden.
Dat dit gebeurt is dan ook geen probleem, die speakers en de mensen die het willen gebruiken is het probleem. Die dingen staan altijd mee te luisteren, en misbruik maken is dus ook niet moeilijk. Hopelijk gaan dit soort dingen nog heel vaak gebeuren, en hoop ik dat mensen dan eindelijk is na gaan denken wat ze eigenlijk in huis halen. Als je nog niet overtuigd bent, lees dan is het boek 1984, daar hadden teleschermen die continue aan het monitoren zijn, redelijk vergelijkbaar dus.
Zoals je al uit mijn verhaal kunt begrijpen, ik ga je dus ook absoluut niet helpen. Dat K.I. nog maar veel misbruikt mag worden zodat er bij mensen eindelijk is een lampje gaat branden.
Heb de aflevering gezien, het gaat over boze mensen die boos worden omdat kunstmatige intelligentie hun banen afneemt. Het is hier ook zonder Amerikaans IP adres te kijken.
http://southpark.cc.com/
Het gaat om seizoen 21 aflevering 1, alle personages gebruiken vooral Alexa, maar Eric Cartman laat op een gegeven moment alle Google, Siri, en Cortana en Alexa tegen elkaar praten en noemt dat 'Ware liefde' nadat hij zijn vriendin heeft gedumpt.
Het lijkt me vrij logisch dat alle actieve kunstmatige intelligentie reageert als je deze video kijkt. Je kan het nu al bekijken. Ik had wel Microsoft Edge nodig, (erg ironisch) maar in Nederland heb ik gelukkig geen Cortana.
Hier zijn de andere video's. In South Park van dit seizoen gebruiken ze kunstmatige intelligentie om het te verleiden dingen te zeggen, zelfs het kleine broertje van Kyle doet er aan mee. Het is een echt scenario, geen fantasie behalve dan dat in deze aflevering de kunstmatige intelligentie vervangen wordt door mensen die een baan willen dat is afgepakt door alle grote IT bedrijven.
In de aflevering komen alle grote bedrijven in de IT met kunstmatige intelligentie in de consumenten markt thuis aan bod.
Zoals zoveel South Park afleveringen lijkt me dit niet geschikt voor kinderen.
Shocking videos appear on Social Media taking over your Artificial Intelligence devices by voice command over air by TV
loudspeakers.
Especially Eric Cartman makes Alexa swearing and saying things like 'Lick My Balls'
All A.I. is affected, including but not limited too
* Microsoft Cortana
* Apple Siri
* Google Now
* Alexa ( Amazon ? )
https://twitter.com/Kenny_623/status/908152100726734848
https://twitter.com/Jesserican/status/908156096044584960
Caution! Contains dirty words and can make children scared!
http://southpark.cc.com/
Het gaat om seizoen 21 aflevering 1, alle personages gebruiken vooral Alexa, maar Eric Cartman laat op een gegeven moment alle Google, Siri, en Cortana en Alexa tegen elkaar praten en noemt dat 'Ware liefde' nadat hij zijn vriendin heeft gedumpt.
Het lijkt me vrij logisch dat alle actieve kunstmatige intelligentie reageert als je deze video kijkt. Je kan het nu al bekijken. Ik had wel Microsoft Edge nodig, (erg ironisch) maar in Nederland heb ik gelukkig geen Cortana.
Hier zijn de andere video's. In South Park van dit seizoen gebruiken ze kunstmatige intelligentie om het te verleiden dingen te zeggen, zelfs het kleine broertje van Kyle doet er aan mee. Het is een echt scenario, geen fantasie behalve dan dat in deze aflevering de kunstmatige intelligentie vervangen wordt door mensen die een baan willen dat is afgepakt door alle grote IT bedrijven.
In de aflevering komen alle grote bedrijven in de IT met kunstmatige intelligentie in de consumenten markt thuis aan bod.
Zoals zoveel South Park afleveringen lijkt me dit niet geschikt voor kinderen.
Shocking videos appear on Social Media taking over your Artificial Intelligence devices by voice command over air by TV
loudspeakers.
Especially Eric Cartman makes Alexa swearing and saying things like 'Lick My Balls'
All A.I. is affected, including but not limited too
* Microsoft Cortana
* Apple Siri
* Google Now
* Alexa ( Amazon ? )
https://twitter.com/Kenny_623/status/908152100726734848
https://twitter.com/Jesserican/status/908156096044584960
Caution! Contains dirty words and can make children scared!
South park is satire, eigenlijk bedoeld voor volgroeide K.I.'s die dit soort humor "begrijpen".
Kleine K.I.-tjes die nog veel moeten groeien kunnen er van op hol slaan.
(hoewel dit eigenlijk maar een tijdelijke negatieve bijwerking van groeien kan zijn)
Kleine K.I.-tjes die nog veel moeten groeien kunnen er van op hol slaan.
(hoewel dit eigenlijk maar een tijdelijke negatieve bijwerking van groeien kan zijn)
dat is toch niets nieuws
Tv-reclame van fastfoodrestaurant activeert Google Assistant
https://www.androidplanet.nl/nieuws/tv-reclame-google-assistant/
en dat heeft google toen ook geblokkeerd (voor deze reclame dan)
https://tweakers.net/nieuws/123511/google-deactiveert-opdracht-die-speaker-wakker-maakt-tijdens-reclame-burger-king.html
Tv-reclame van fastfoodrestaurant activeert Google Assistant
https://www.androidplanet.nl/nieuws/tv-reclame-google-assistant/
en dat heeft google toen ook geblokkeerd (voor deze reclame dan)
https://tweakers.net/nieuws/123511/google-deactiveert-opdracht-die-speaker-wakker-maakt-tijdens-reclame-burger-king.html
En ik maar niet snappen wat dit met het fokken van paarden en koeien te maken heeft.
en hoop ik dat mensen dan eindelijk is na gaan denken wat ze eigenlijk in huis halen.
Ik heb een documentaire gezien die ging over het toekomstig te kort aan water, en iemand zij hier inde meeste weten het wel, maar alleen een kleine groep begrijpt het.
Dit is gelijk ook een antwoord op privacy.
Doet me denken aan zo'n liedje van de jaren 80, "En de vogels vlogen van west naar oost berlijn. Alleen als je geld hebt is de vrijheid te huur. Protesteren mag, maar met de rug tegen de muur."
En inderdaad, verzet tegen computer technologie in onze diepste intieme wereld is niet zinvol. Op slashdot maken ze er grappen over dat ze het leuk vinden om te 'weten' dat er misschien iemand mee kijkt/luistert naar wat ze doen op hun slaapkamer.
Heb zelf ook een computer op mijn slaapkamer, even tellen hoeveel microfoontjes en camera's ik heb in huis.
3 telefoons met 2 microfoons per stuk voor noisecancelling en 2 camera's per stuk
1 tablet met 2 microfoons en 2 camera's
3 laptops met ieder 2 microfoons en 1 camera
Dat is totaal, 6 mobiele microfoons, en 2 mobiele microfoons en 6 laptop microfoons = totaal 14 microfoons, always on op Wifi of UMTS/LTE
En 6 mobiele cameras, 2 mobiele camera's, en 3 laptop camera's = totaal 11 camera's in huis, plus nog een camera voor plezier, dat is 12 camera's in huis, waarvan 8 camera's always on zijn op Wifi of LTE en 2 camera's af en toe in gebruik.
Hiervan wisselt het aantal microfoons en camera's op de slaapkamer aangezien ik mobieltjes uiteraard overal mee naar toeneem.
Haha, wat als je werkt in een centrale bij de politie en de hele dag al deze apparatuur moet luisteren en bekijken, lol, en dan blijkt aan het einde van maanden recherche werk dat ik overmatig heb gerukt en gen&&&& en dat er op alle opname apparatuur alleen video's staan die over blote vrouwen gaan. (Volwassen uiteraard.) En dat dan blijkt dat ik op een dating site. lol....
Maar sorry is inderdaad geen grap meer al die apparatuur. Gelukkig zijn er maar een paar wolven en grote kuddes schapen en als de wolf gegeten heeft worden de andere schapen tijdelijk met rust gelaten, totdat de wolven weer honger hebben.
En als reactie op die URL naar tweakers, dat wist ik nog niet, het lijkt me echter zeer onverstandig om bepaalde stemmen op de servers in de cloud te blokkeren. Je zal maar de stem van Eric Cartman hebben, wat overigens grappig klinkt vind ik, en dan vragen:
SIRI bel 112
En dan wil je telefoon niet bellen omdat je stem op die van Eric Cartman lijkt.
(Sorry I am affraid I can't do that scenario zoals in die bekende film over HAL)
En inderdaad, verzet tegen computer technologie in onze diepste intieme wereld is niet zinvol. Op slashdot maken ze er grappen over dat ze het leuk vinden om te 'weten' dat er misschien iemand mee kijkt/luistert naar wat ze doen op hun slaapkamer.
Heb zelf ook een computer op mijn slaapkamer, even tellen hoeveel microfoontjes en camera's ik heb in huis.
3 telefoons met 2 microfoons per stuk voor noisecancelling en 2 camera's per stuk
1 tablet met 2 microfoons en 2 camera's
3 laptops met ieder 2 microfoons en 1 camera
Dat is totaal, 6 mobiele microfoons, en 2 mobiele microfoons en 6 laptop microfoons = totaal 14 microfoons, always on op Wifi of UMTS/LTE
En 6 mobiele cameras, 2 mobiele camera's, en 3 laptop camera's = totaal 11 camera's in huis, plus nog een camera voor plezier, dat is 12 camera's in huis, waarvan 8 camera's always on zijn op Wifi of LTE en 2 camera's af en toe in gebruik.
Hiervan wisselt het aantal microfoons en camera's op de slaapkamer aangezien ik mobieltjes uiteraard overal mee naar toeneem.
Haha, wat als je werkt in een centrale bij de politie en de hele dag al deze apparatuur moet luisteren en bekijken, lol, en dan blijkt aan het einde van maanden recherche werk dat ik overmatig heb gerukt en gen&&&& en dat er op alle opname apparatuur alleen video's staan die over blote vrouwen gaan. (Volwassen uiteraard.) En dat dan blijkt dat ik op een dating site. lol....
Maar sorry is inderdaad geen grap meer al die apparatuur. Gelukkig zijn er maar een paar wolven en grote kuddes schapen en als de wolf gegeten heeft worden de andere schapen tijdelijk met rust gelaten, totdat de wolven weer honger hebben.
En als reactie op die URL naar tweakers, dat wist ik nog niet, het lijkt me echter zeer onverstandig om bepaalde stemmen op de servers in de cloud te blokkeren. Je zal maar de stem van Eric Cartman hebben, wat overigens grappig klinkt vind ik, en dan vragen:
SIRI bel 112
En dan wil je telefoon niet bellen omdat je stem op die van Eric Cartman lijkt.
(Sorry I am affraid I can't do that scenario zoals in die bekende film over HAL)
Reageren
Deze posting is gelocked. Reageren is niet meer mogelijk.
Toezichthouder informatiebeveiliging Overheid
Rijksinspectie Digitale Infrastructuur (RDI)
Vind je het leuk om als toezichthouder bij te dragen aan de verdere groei in informatie-beveiliging van de overheid en in contact te staan met (belangen) organisaties binnen de overheid? Dan kun je komen bouwen aan toezicht op een veilige en betrouwbare Digitale Infrastructuur in Nederland.
Adviseur Informatiebeveiliging
Je bent een belangrijke speler om invulling te geven aan de gemeentelijke ambities op het gebied van informatiebeveiliging. Deze ambities neem jij op in het Informatie-beveiligingsbeleid Gemeente Zoetermeer. Wil je helpen bij het verbeteren van de informatiebeveiliging in Zoetermeer en het versterken van het cyberbewustzijn binnen onze organisatie? Wacht dan niet en kom ons team informatiebeveiliging versterken!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.