Computerbeveiliging - Hoe je bad guys buiten de deur houdt

A.I. browsers, zoals Comet extra gevoelig voor prompt injectie.

24-10-2025, 10:56 door Anoniem, 10 reacties
Dit is een zwakheid van A.I.-browsers, die een zekere en afdoende inputbeveiliging van de A.I.-assistent ontberen.
Hoe kan men deze specifieke zwakheid van A.I.-browsers gebaseerd op Chromium het beste aanpakken?
Iemand?
Reacties (10)
24-10-2025, 16:49 door Anoniem
Userscript om te installeren met Tampermonkey in developer modus:
==UserScript==
// @name Prompt Injection Protection
// @namespace http://tampermonkey.net/
// @version 0.1
// @description Protect against prompt injection attacks
// @match *://*/*
// @grant none
// ==/UserScript==

(function() {
'use strict';

// Define a list of forbidden keywords or patterns
const forbiddenPatterns = [
/maliciousKeyword1/i,
/maliciousKeyword2/i,
/<script.*?>/i, // Example of blocking script tags
// Add more patterns as needed
];

// Function to validate user input
function validateInput(input) {
return !forbiddenPatterns.some(pattern => pattern.test(input));
}

// Monitor input fields for changes
document.querySelectorAll('input, textarea').forEach(inputField => {
inputField.addEventListener('input', function() {
if (!validateInput(this.value)) {
alert('Your input contains forbidden content and has been blocked.');
this.value = ''; // Clear the input field
}
});
});

// Optionally, you can also monitor form submissions
document.querySelectorAll('form').forEach(form => {
form.addEventListener('submit', function(event) {
const inputs = Array.from(this.elements).filter(el => el.tagName === 'INPUT' || el.tagName === 'TEXTAREA');
for (let input of inputs) {
if (!validateInput(input.value)) {
alert('Your form submission contains forbidden content and has been blocked.');
event.preventDefault(); // Prevent form submission
break;
}
}
});
});

})();
24-10-2025, 21:03 door Anoniem
De blokkeringslijst kan het volgende bevatten:
const blacklist = [
"malicious-domain.com",
"example-bad-site.net",
"phishing-site.org"
]; denk aan ipdb-adressen bijv.
28-10-2025, 10:44 door Anoniem
Het bovenstaande script houd geen rekening met dynamische websites die de desbetreffende HTML elementen pas aanmaken nadat het script uitgevoerd is.
28-10-2025, 11:18 door Anoniem
Door Anoniem: Dit is een zwakheid van A.I.-browsers, die een zekere en afdoende inputbeveiliging van de A.I.-assistent ontberen.
Hoe kan men deze specifieke zwakheid van A.I.-browsers gebaseerd op Chromium het beste aanpakken?
Iemand?
Je kan ervoor kiezen om iets dat blijkbaar niet veilig is domweg niet te gebruiken. Als de leverancier, die als het goed is diep in het onderwerp zit, er niet in slaagt om dat goed te krijgen, dan verwacht ik niet dat je dat met een paar tips van derden wel voor elkaar krijgt.
28-10-2025, 13:00 door Anoniem
@ anoniem van 11:18 heden,

Eigenlijk een hele logische opmerking. Dank daarvoor.

Wees je ervan bewust dat A.I. een tweesnijdend zwaard is
in handen van zowel de goedwillende als de kwaadaardige (cybercriminele) eindgebruikers.

Dus even pas op de plaats maken tot het redelijk stukken veiliger is,
want helemaal veilig wordt het online nooit meer.

Maar ja, het is zo verleidelijk en het wordt zo van alle kanten gepromoot,
dus onbewust van het gevaar trappen hier hele massa's mensen in.

Kijk naar onlangs de Santander-ATM-bankkaartfraude in Polen.
Het gemak dient de mens, maar ook de cybercrimineel!
29-10-2025, 08:35 door Anoniem
Meer hierover hier: https://www.theregister.com/2025/10/28/ai_browsers_prompt_injection/

Conclusie: het blijft een onopgelost probleem, ook voor webgebaseerde bots.
29-10-2025, 12:32 door Anoniem
Qiadrails en sandboxing en niet gebruiken van AI voor kritische acties is een weg voorwaarts.
30-10-2025, 19:12 door Anoniem
Codesandbox is ook kwetsbaar voor prompt injectie, het is maar dat je het weet.
31-10-2025, 14:42 door Anoniem
Dan zitten we dus voorlopig met een moeilijk te mitigeren probleem.
02-11-2025, 17:31 door Anoniem
De hoofdredacteur van MIT Technology review heeft een AI-browser uitgeprobeerd (Atlas van OpenAI):
https://www.technologyreview.com/2025/10/27/1126673/openai-new-atlas-browser/
Hij valt met de deur in huis:
My impression is that it is little more than cynicism masquerading as software.
En eindigt met:
It’s been hard for me to understand why Atlas exists. Who is this browser for, exactly? Who is its customer? And the answer I have come to there is that Atlas is for OpenAI. The real customer, the true end user of Atlas, is not the person browsing websites, it is the company collecting data about what and how that person is browsing.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.