11 december 2023

Nieuwe EU AI Act gaat AI in de Europese Unie reguleren

ETHIEK, REGELGEVING
AI Act

De Europese Unie heeft op 9 december een akkoord bereikt over de nieuwe AI-wet (AI Act). Wereldwijd de eerste echte wetgeving ter regulering van kunstmatige intelligentie (AI). De AI Act heeft een brede reikwijdte, omdat AI invloed kan hebben op elke sector. De wet geldt niet voor onderzoek, innovatie en niet-professioneel gebruik en voor sectoren die speciale regelgeving vereisen, zoals defensie. 

Risiconiveaus

De AI Act heeft een gelaagdheid in de manier waarop gekeken wordt naar regulering van AI. Eenvoudige AI-toepassingen hebben minder strenge regels nodig dan systemen die als hoog risico worden beschouwd. Alle AI-systemen zijn onderworpen aan fundamentele transparantieverplichtingen om over de hele linie een minimaal niveau van duidelijkheid en begrip te garanderen. Voor AI-systemen waarvan is vastgesteld dat ze systeemrisico’s met zich meebrengen gelden strengere regels. Dit zijn bijvoorbeeld systemen die een aanzienlijke impact kunnen hebben op de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie of de rechtsstaat.

Ook worden bepaalde toepassingen verboden die als schadelijk worden beschouwd. Dit gaat onder andere om technieken die gedrag manipuleren, gezichtsherkenning in openbare ruimtes, emotieherkenningssystemen op werkplekken en in onderwijsomgevingen en sociale kredietscores.

Strengere verplichtingen voor general-purpose AI

De AI-wet stelt veel eisen aan transparantie, verslaglegging, veiligheid, risico’s en duurzaamheid voor modellen die gebruikt worden voor general-purpose AI (zoals ChatGPT). Dit is een AI-toepassing die voor veel verschillende doeleinden kan worden gebruikt.

AI-governance en sancties

Er komt een Europees AI-bureau dat toezicht moet houden op de meest complexe AI-modellen. De AI-wet voert ook een sanctiesysteem in. In het ergste geval kan dat leiden tot een boete van 35 miljoen euro of 7 % van de mondiale omzet.

Reactie NLdigital

We zijn blij dat er een nieuw kader ligt om de ontwikkeling van AI in goede banen te leiden. Vanuit de sector pleiten we al langer voor een zorgvuldige aanpak. Een aanpak die gericht is op het reguleren van risicovolle toepassingen van AI en het bevorderen van transparantie, verklaarbaarheid en veiligheid van AI-modellen. Hoewel de technische details nog worden uitgewerkt, pleit NLdigital voor een focus op risico’s en aansprakelijkheid, in plaats van op algoritmen. De AI Act moet innovatie stimuleren en niet afremmen. Dat is een reëel risico voor het mkb-bedrijfsleven, dat kan worden geconfronteerd met 300.000 euro aan nalevingskosten.

We zijn ons, als vertegenwoordiger van de digitale sector in Nederland, ook bewust van de maatschappelijke discussies over AI. In 2019 publiceerden we al een eerste Ethische Code AI. In de komende tijd lanceren we daar een nieuwe versie van.

Bijeenkomst AI en ethiek

Op 1 februari 2024 organiseren we een bijeenkomst waarin we ingaan op de consequenties van de nieuwe AI Act. We geven je praktische handvatten voor jouw dagelijkse praktijk. Daarnaast krijg je ook de kans om input te geven op de Ethische Code AI van NLdigital. Met leden stellen we samen deze code vast.