Nieuwe EU AI Act gaat AI in de Europese Unie reguleren

De Europese Unie heeft op 9 december een akkoord bereikt over de nieuwe AI-wet (AI Act). Wereldwijd de eerste echte wetgeving ter regulering van kunstmatige intelligentie (AI). De AI Act heeft een brede reikwijdte, omdat AI invloed kan hebben op elke sector. De wet geldt niet voor onderzoek, innovatie en niet-professioneel gebruik en voor sectoren die speciale regelgeving vereisen, zoals defensie. 

Risiconiveaus

De AI Act heeft een gelaagdheid in de manier waarop gekeken wordt naar regulering van AI. Eenvoudige AI-toepassingen hebben minder strenge regels nodig dan systemen die als hoog risico worden beschouwd. Alle AI-systemen zijn onderworpen aan fundamentele transparantieverplichtingen om over de hele linie een minimaal niveau van duidelijkheid en begrip te garanderen. Voor AI-systemen waarvan is vastgesteld dat ze systeemrisico’s met zich meebrengen gelden strengere regels. Dit zijn bijvoorbeeld systemen die een aanzienlijke impact kunnen hebben op de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie of de rechtsstaat.

Ook worden bepaalde toepassingen verboden die als schadelijk worden beschouwd. Dit gaat onder andere om technieken die gedrag manipuleren, gezichtsherkenning in openbare ruimtes, emotieherkenningssystemen op werkplekken en in onderwijsomgevingen en sociale kredietscores.

Strengere verplichtingen voor general-purpose AI

De AI-wet stelt veel eisen aan transparantie, verslaglegging, veiligheid, risico’s en duurzaamheid voor modellen die gebruikt worden voor general-purpose AI (zoals ChatGPT). Dit is een AI-toepassing die voor veel verschillende doeleinden kan worden gebruikt.

AI-governance en sancties

Er komt een Europees AI-bureau dat toezicht moet houden op de meest complexe AI-modellen. De AI-wet voert ook een sanctiesysteem in. In het ergste geval kan dat leiden tot een boete van 35 miljoen euro of 7 % van de mondiale omzet.

Reactie NLdigital

We zijn blij dat er een nieuw kader ligt om de ontwikkeling van AI in goede banen te leiden. Vanuit de sector pleiten we al langer voor een zorgvuldige aanpak. Een aanpak die gericht is op het reguleren van risicovolle toepassingen van AI en het bevorderen van transparantie, verklaarbaarheid en veiligheid van AI-modellen. Hoewel de technische details nog worden uitgewerkt, pleit NLdigital voor een focus op risico’s en aansprakelijkheid, in plaats van op algoritmen. De AI Act moet innovatie stimuleren en niet afremmen. Dat is een reëel risico voor het mkb-bedrijfsleven, dat kan worden geconfronteerd met 300.000 euro aan nalevingskosten.

We zijn ons, als vertegenwoordiger van de digitale sector in Nederland, ook bewust van de maatschappelijke discussies over AI. In 2019 publiceerden we al een eerste Ethische Code AI. In de komende tijd lanceren we daar een nieuwe versie van.

Bijeenkomst AI en ethiek

Op 1 februari 2024 organiseren we een bijeenkomst waarin we ingaan op de consequenties van de nieuwe AI Act. We geven je praktische handvatten voor jouw dagelijkse praktijk. Daarnaast krijg je ook de kans om input te geven op de Ethische Code AI van NLdigital. Met leden stellen we samen deze code vast.


Deel via:

Dirk van Roode

Public policy manager
Neem contact op met
Dirk van Roode

Het laatste nieuws

Marcel Timmer van Red Hat over het lidmaatschap bij NLdigital

Red Hat ziet in NLdigital een essentieel netwerk om samen te werken aan digitale soevereiniteit, cybersecurity en keuzevrijheid in IT. Het lidmaatschap biedt waarde door kennisdeling, beleidsbeïnvloeding en een sterk ecosysteem van partners binnen de Nederlandse digitale sector.
Werkgeverschap

Iquality over NLdigital: Een partner die juridische zekerheid en vooruitblik biedt

"Voor een organisatie als de onze, zonder juristen in huis, is het ontzettend waardevol om een partner te hebben die...
Contracten & voorwaarden

NLdigital lanceert ambitieus verkiezingsmanifest: “Nederland digitaal vooruit” 

NLdigital, de branchevereniging van 600 digitale bedrijven in Nederland, presenteert vandaag haar verkiezingsmanifest "Nederland digitaal vooruit - Een agenda voor de verkiezingen van 2025". Met een dringende oproep tot actie schetst de organisatie hoe Nederland door massale digitalisering de grootste economische uitdaging uit haar geschiedenis kan overwinnen. 
Politiek & wetgeving

Een diep geloof in het talent van mensen:  zij-instroompact voor ICT-potentieel

NLdigital zet in dit artikel de digitale prioriteiten van het Deense voorzitterschap uiteen en deelt in een volgend artikel onze analyse. 
Digitaal Talent

Denemarken neemt EU-voorzitterschap over en zet in op digitale weerbaarheid

NLdigital zet in dit artikel de digitale prioriteiten van het Deense voorzitterschap uiteen en deelt in een volgend artikel onze analyse. 
Politiek & wetgeving