OpenAI lobbyde in Brussel om Europese AI-wetgeving af te zwakken
OpenAI heeft in Brussel gelobbyd om de Europese AI-wetgeving af te zwakken en lijkt daar succesvol in te zijn geweest, zo stelt Time op basis van documenten die het via de Europese tegenhanger van de Wet Open Overheid (Woo) wist te bemachtigen. "Ze kregen waar ze om vroegen", aldus Sarah Chander, senior beleidsadviseur van burgerrechtenbeweging European Digital Rights (EDRi) in een reactie op de verkregen documenten. Volgens Chander laten de documenten zien dat "OpenAI, net als veel andere techbedrijven, het argument van nut en algemeen publiek belang gebruikt om hun financiële belangen in het afzwakken van de wetgeving te verbergen."
Vorige week stemde het Europees Parlement voor de AI Act, die regels voor AI-systemen verplicht. Daarbij hangen de maatregelen die ontwikkelaars moeten nemen af van het risiconiveau dat het betreffende AI-systeem vormt. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd en mogen pas na een assessment op de markt komen. OpenAI, het bedrijf achter ChatGPT en Dall-E 2, lobbyde in Brussel om ervoor te zorgen dat die systemen niet als "hoog risico" zouden worden aangemerkt.
Iets waar OpenAI succesvol in lijkt te zijn geweest. In eerdere voorstellen voor de AI Act werd nog gesteld dat "general purpose" AI-systemen als hoog risico zouden moeten worden aangemerkt. Uiteindelijk werd in het aangenomen voorstel een nieuwe categorie AI-systemen geïntroduceerd met de naam "foundation models". Het gaat dan om systemen zoals ChatGPT waarvoor de eisen minder streng zijn dan bij hoog risicosystemen het geval is.
Naast het inzenden van verschillende white papers naar EU-functionarissen over hoe de eigen AI-systemen moesten worden beschouwd, heeft OpenAI ook in Brussel overlegd om "overregulering" te voorkomen, aldus Time op basis van een anonieme bron. "Wat ze eigenlijk zeggen is dat we ze moeten vertrouwen om zichzelf te reguleren", aldus Daniel Leufer, senior beleidsadviseur bij Access Now. Volgens Leufer probeert OpenAI politici te laten denken dat ze voor zelfregulering zijn, maar zodra er harde eisen worden gesteld het hier niet aan wil. OpenAI stelt in een reactie dat het met beleidsmakers overlegt om ervoor te zorgen dat AI-tools veilig worden ontwikkeld en gebruikt.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Toch moet er goed naar gekeken worden vrees ik. Anders krijgen we achteraf weer de nodige scheefgroei die dan veel moeilijker te corrigeren is.
diegenen die maar wat roepen.
Dat lobbyen als normaal wordt gezien is voor mij het bewijs dat de politiek dood is, het is gewoon een manier om
extra geld binnen te harken. Ze mogen wetten maken waar ze totaal geen verstand van hebben en de burger is de
pineut. Al dat gelobby van Apple heeft hun heel veel opgebracht en het product wat ze maken “ IPhone “ wordt gezien
als zeer veilig maar is net zo onbetrouwbaar als de rest van wat die techneuten maken. Ja ik heb een iPhone om dat
ik dit ook geloofde maar weet nu beter. In welke richting het nu met AI uitgaat dat weet ik niet maar dank zij dat gelobby,
en vergeet niet die journalisten dan heb ik wel een idee.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Wie zegt dat deze post niet gegenereerd is door ChatGPT?
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Wie zegt dat deze post niet gegenereerd is door ChatGPT?
Slechte herkenbaarheid van de bron / oorsprong lijkt me al een sterke indicator dat er belangrijke risico's aan dit soort tools verbonden zijn ;-)
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.