Computerbeveiliging - Hoe je bad guys buiten de deur houdt

Vormt AI gedreven malware een steeds groter wordende bedreiging?

01-10-2023, 23:01 door Anoniem, 10 reacties
We gaan steeds meer AI phishing-mails te zien krijgen, waar men beslist niet op moet klikken.

Er wordt steeds meer gebruik gemaakt van AI, bijvoorbeeld door studenten om scripties op te stellen en/of te redigeren.

Hoe houden we de gevaarlijke kanten van Artificiële Intelligentie online in bedwang?

Ziet u ook het gevaar, ook in samenhang met Content Side Scanning?

De Europese autoriteiten, die steeds meer willen gaan regeren met AI-monitoring en -surveillance.

Reacties?

#webproxy

P.S. Had ik dit in het Amerikaans Engels geschreven, had Quillbot deze tekstvoor me geredigeerd.
Hij is nu inactief.
Reacties (10)
02-10-2023, 11:41 door Anoniem
Hoi #webproxy, je klinkt nogal onsamenhangend, maar ik zal even mijn bijdrage geven.

AI is een groep van technieken die zowel voor goede and voor minder goede activiteiten gebruikt kan worden. Wetgeving is een standaard manier om de risico's van een techniek te regulieren en we hebben met de EUropese privacywetten al een redelijke bescherming. Hoewel er aan die beschermingen geknaagd wordt, zijn er in de EU ook groepen die handhaven en de beschermingen willen uitbreiden... Oneens met jouw stelling over EU-AI-surveillance.

Tja, client-side-scanning... Daar is door tal van bedrijven voor gelobbyd. Ik ben niet verbaasd dat EU-parlementariërs gezwicht zijn voor het "denk aan de kinderen" en het grotere plaatje uit het oog zijn verloren.
02-10-2023, 12:49 door Anoniem
Bedankt voor je reactie, anoniem van 11:41 heden,

Echter het 'borgen van e.e.a.' baart me nu zorgen.
Ik stam nog uit het overwegend analoge tijdpert van NT4 en de kernel voor linux mannetjes.

Als ik dan al eens de jeugd hoor, die echt op de simpelste vragen geen antwoord weet.
Bijvoorbeeld de temperatuurt van kokend water. "Ja, mijnheer, fysica was niet mijn sterkste kant",
dan wordt het me wel eens arm te moede.

Dit soort gastjes kun je straks via hun android-schermpje echt van alles wijsmaken
en gemakkelijk aansturen als een soort van AI-gedreven cyborgjes.
Wat ook met een groot deel der kritiekloze massa nu al volop gebeurt.

Ik zat nog een hele vakantie-periode als aankomend tiener flink te zweten op een taak op het lyceum.
Ik had ook wel gewild dat Quilbot het toen voor me geredigeerd had.
Dan had ik zelf wel voor de annotaties gezorgd.
Maar ik heb er nu nog herinnering aan en weet nu dat het 'sous le pont d'Avignon' moet zijn i.p.v. 'sur'.

Behalve, denk ik, een EU-Piratenpartij, ziet de algemene politiek deze gevaren nog niet zo.
Of wil men die o.i.v. zwaar gelobby van graai-Big-Tech niet zien.

Jij ziet het kopje nu half vol en ik soms in dit geval half leeg.
Maar het gaat erom of het op den duur blijft smaken of niet.;)

#webproxy
02-10-2023, 14:05 door Anoniem
We zien al meer dan tien jaar perfect gegenereerde phising mail die nagenoeg gelijk is aan de originele bron daar verandert echt heel weinig aan door A.I. Eindgebruikers bezitten simpelweg niet de kennis om gedegen elke mail met mailheaders te onderzoeken. De providers, domein eigenaren laten het tegelijk vaak na om beveiliging in orde te maken om het gevaar enigzins in te dammen. Zolang er geen wettelijke eisen worden gesteld aan mailbeheer gaan we dit niet veranderen.

Maar dit heeft niks met A.I. te maken dit heeft met DNS, relay en bijhorende beveiligingen te maken naast deeplink controle. En het heeft ook niet direct met CSS te maken dit zijn drie losse discussies die je niet moet mengen in een vraagstelling het zijn al hele complexe probleemstellingen op zich zelf.
02-10-2023, 14:28 door Anoniem
T’s heeft het over Content site scanning.
Niet cliënt …
02-10-2023, 15:53 door Anoniem
Maar deze drie discussie-onderdelen zijn wel samenhangend, alhoewel specifiek.
Dat strijd ik ook niet af.

Richten we ons op de simpele vraag. Ziet u gevaar in Artificiële Intelligentie,
zoals de FTB het willen gaan gebruiken,

ik zou haast zeggen 'misbruiken', maar dat kun je niet op voorhand zo formuleren.
Eigenlijk verdienen ze al niet meer het voordeel van de twijfel.

Ik zie niet hoe AI-gestuurd monitoren en voortgezette totale suveillance
ook maar op enige manier (cyber)-criminaliteit stopt of verminderen kan.
Het vergroot het draagvlak voor ongehoorzaamheid eerder, denk ik.

Voorbeeld, ik heb nog nooit een camera iemand zien arresteren,
of een device iemand op de nek zien springen of deze moest je in je nek gegooid worden.

Je bent nu nog niet verdacht, we houden je echter in de gaten, want morgen wellicht wel.
Zoiets. Willen we dat of gaat de massa er weer gedachteloos in mee, zoals zo vaak?

Iemand?
02-10-2023, 18:25 door Anoniem
Door Anoniem: Maar deze drie discussie-onderdelen zijn wel samenhangend, alhoewel specifiek.
Dat strijd ik ook niet af.

Richten we ons op de simpele vraag. Ziet u gevaar in Artificiële Intelligentie,
zoals de FTB het willen gaan gebruiken,

ik zou haast zeggen 'misbruiken', maar dat kun je niet op voorhand zo formuleren.
Eigenlijk verdienen ze al niet meer het voordeel van de twijfel.

Ik zie niet hoe AI-gestuurd monitoren en voortgezette totale suveillance
ook maar op enige manier (cyber)-criminaliteit stopt of verminderen kan.
Het vergroot het draagvlak voor ongehoorzaamheid eerder, denk ik.

Voorbeeld, ik heb nog nooit een camera iemand zien arresteren,
of een device iemand op de nek zien springen of deze moest je in je nek gegooid worden.

Je bent nu nog niet verdacht, we houden je echter in de gaten, want morgen wellicht wel.
Zoiets. Willen we dat of gaat de massa er weer gedachteloos in mee, zoals zo vaak?

Iemand?

Alsjeblieft lees je vragen even na voor je ze neerzet

FTB wie wat hoe waar?

Je zegt dat je niet voorhand iets kan formuleren maar vervolgens doe je dat twee keer in je vraag.

Wat wil je met je voorbeelden toelichten het zijn apparaten natuurlijk kunnen die op dit moment niet iets van een politie taak geheel uitvoeren robotica is nog lange na niet zo ver.

In je laatste zin vraag je willen we dat en vervolgens. of gaat de massa weer gedachteloos mee. Beschouw je ons als de massa hierin of een aparte groep en wat als het gescheiden is heeft het een met het ander te maken.

Wat exact wil je vragen wat is je doel want nu is het meer gericht op een bepaalde bias dan iets waar we gedegen argumenten over kunnen voeren.
02-10-2023, 22:39 door Anoniem
De term FTB = "Forces that Be" veronderstel ik toch wel als enigszins algemeen bekend.
Of staat het gebruik van deze term toe de gebruiker ervan gelijk te bestempelen als een volger van conspiratie theorieën?

Mijn vraag i.h.a. komt hierop neer, gaan overheden, m.n. EU,
AI gebruiken voor totaal monitoren en totale surveillance van hun burgers?
Antwoord m.i. is ja en dit gebeurt al.

Dan neem ik aan en belangrijker nog, gaat dit de redenen, die men aangeeft waarom, de genoemde problemen oplossen?
Dus criminaliteit en m.n. cybercriminaliteit doen verminderen of uit de wereld helpen?

Ik denk namelijk dat het in die zin een hopeloze missie is, maar men wil het omdat het nu eenmaal technisch mogelijk is.
Of wordt A.I. gebruikt om online informatie te bewaken, zodat ongewenste info niet meer gedeeld kan worden?

Ik denk dat technisch onderlegde figuren hier aarzelender in staan als de gewone massa. dat weer wel;
maar die massa wordt dan ook 'voor gemasseerd' met "Oh, kijk eens hoe erg, we moeten dit wel doen".

Ik vind dus argumenten te over om dit niet te willen, maar politici en machthebbers zullen hier geheel anders in staan.

Is mijn vraagstelling zo wat duidelijker? Gebeurt dit alles zonder ons en ondanks ons. Men doet het toch wel.
03-10-2023, 11:14 door Anoniem
Door Anoniem: De term FTB = "Forces that Be" veronderstel ik toch wel als enigszins algemeen bekend.
Ik (andere anoniem) ken het begrip "forces that be" wel maar bij de afkorting FTB had ik geen idee dat je er dat mee bedoelde.

Je refereerde aan het verleden en de jeugd van tegenwoordig. Laat ik dat ook even doen. Toen ik jong was leerde je dat je een afkorting in een tekst niet zomaar gebruikt, maar hem de eerste keer voluit schrijft zodat duidelijk is wat je ermee bedoelt. Dus de eerste keer schrijf je "forces that be (FTB)" en daarna kan je "FTB" zonder misverstanden of onduidelijkheid gebruiken. Of blijf het gewoon voluit schrijven, want vaak leest dat prettiger en iets opschrijven doe je tenslotte voor degenen die het gaan lezen.
03-10-2023, 13:59 door Anoniem
Door Anoniem:
Mijn vraag i.h.a. komt hierop neer, gaan overheden, m.n. EU,
AI gebruiken voor totaal monitoren en totale surveillance van hun burgers?
Antwoord m.i. is ja en dit gebeurt al.
Ai wordt al ingezet voor monitoring, maar de surveillance is nog niet totaal. Ik denk dat de democratische structuren in de EU sterk genoeg zijn om een totale surveillance door de overheid tegen te houden. (De ervaringen in Oost Europa waren te slecht.)
In Nederland is men (om andere redenen) kritisch op AI en andere computer-voorspel-modellen omdat die bij evaluatie vaak waardeloos en discriminerend bleken. De Nederlandse overheid heeft zichzelf daarom regels opgelegd op dit gebied.
03-10-2023, 14:08 door Anoniem
@ anoniem van 11:14,

Duidelijk, dank voor het herinneren aan de juiste handelswijze ten aanzien van afkortingen.

FTB = Forces That Be wordt ook wel eens vervangen door PTB=Powers That Be;
Dan veronderstel ik dat men ook voor ogen heeft, wat/wie met deze krachten/machten wordt/worden bedoeld.

Je snijdt daar wel weer even een punt van overweging aan, namelijk in je laatste zin van je bericht.
Want wij online zullen zeker straks ook rekening moeten gaan houden met de leesvaardigheid van AI.

Als ik Nederland schrijf , dan weet straks elke Content Side Scanning-fact-checker,
op basis van analyse door Artificiële Intelligentie, alles voluit geschreven) waar het over gaat.
Onze steeds minder betekenis hebbende natie binnen de EU met straks slechts enkel een nationaal elftal?

Wil ik dat niet direct laten gebeuren, dan schrijf ik bijvoorbeeld 'Neerlandia' en slaat A.I.,
als die mijn creativiteit niet kan volgen, deze gebezigde term in zijn overwegingen vervolgens over.

Of mensen gaan onbegrijpelijk dialect en/of afgesproken idiolect gebruiken.
ABN zal voor sommige vrije meningsuiters een te groot risico blijken.
Een absurde, verwerpelijke zaak, dat wel, maar de FTB streven daarnaar. (EU-krachten incluis).

U heeft zich nog niet geprepareerd om onder de radar te blijven.
Dat als ieder primair als verdachte te boek staat.

En daar zal het heengaan of bewegen we ons met zijn allen langzaam maar gestaag naar toe.
Een herhaling van de tijd in Duitsland van tussen 1933 en 1945.
De gevolgen voor de maatschappij worden dienovereenkomstig desastreus.

nog met dank voor het juist corrigeren en een oprechte groet van,

anoniem van de 'FTB-'posting
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.