AI-verordening: hoe u voldoet aan de nieuwe AI-verordening

De AI-verordening van de EU komt eraan. Wat betekent dit voor u en uw bedrijf?

Kunstmatige intelligentie (AI) verandert de businesswereld als nooit tevoren. Het wordt in allerlei sectoren gebruikt, van gepersonaliseerde oplossingen voor de gezondheidszorg tot autonome voertuigen en slimme digitale assistenten. Maar nu AI steeds meer geïntegreerd raakt, beginnen mensen zich zorgen te maken over de impact ervan op rechten, regelgeving en ethische praktijken. In reactie hierop heeft de Europese Unie (EU) nieuwe regels geïntroduceerd om de ontwikkeling en het gebruik van AI aan banden te leggen.

De Europese AI-verordening of EU Artificial Intelligence Act is de eerste grote stap ter wereld om een duidelijk kader te scheppen voor AI.
 

Voor wie heeft de Europese AI-verordening gevolgen?

De AI-verordening heeft invloed op alle bedrijven die binnen de EU actief zijn, of ze nu: 

• betrokken zijn bij de ontwikkeling van AI (aanbieders)
• AI gebruiken (deployers) 
• AI importeren 
• AI verspreiden
• of AI-systemen produceren. 
   

De nieuwe wetgeving stelt hen verantwoordelijk voor de naleving van (compliance met) de vastgestelde regels. Dat impliceert dat al deze mensen ervoor moeten zorgen dat hun AI-praktijken aan de vereisten van de AI-verordening voldoen.

AI-systemen met een hoog risico: compliancevereisten en sancties

De AI-verordening hanteert een risico-gebaseerde benadering en deel AI-systemen op in  vier risicocategorieën, elk met hun eigen vereisten. Naargelang de risicocategorie wordt een AI-systeem automatisch verboden of onderworpen aan minder strenge of strengere regels. 

• AI-systemen die de veiligheid, rechten of privacy in gevaar brengen, worden als ‘onaanvaardbare risico's’ beschouwd en zijn niet langer toegestaan. Voorbeelden hiervan zijn AI-toepassingen voor social scoring of het uitbuiten van de kwetsbaarheden van mensen.  
• AI-systemen die AI gebruiken voor essentiële vakgebieden zoals gezondheid, veiligheid en grondrechten worden gecategoriseerd als ‘hoog risico’. Voorbeelden van deze categorie zijn AI in medische apparatuur, in wervingsprocessen of in kredietscores. Bedrijven die AI gebruiken voor toepassingen met een hoog risico moeten voldoen aan strenge eisen inzake gegevensbeleid, transparantie, menselijk toezicht en nauwkeurigheid.
• AI-systemen met gematigde risico's, zoals chatbots of biometrische identificatie, worden beschouwd als een ‘beperkt risico’ en vereisen transparantie.  Gebruikers moeten bijvoorbeeld worden geïnformeerd wanneer ze met AI communiceren in plaats van met een mens.
• De categorie ‘minimaal risico’ omvat de meeste AI-toepassingen, zoals AI in videogames of eenvoudige geautomatiseerde processen. Ze zijn onderworpen aan minimale regelgeving vanwege hun lage risico.

De AI-verordening bevat ook enkele extra specifieke regels die van toepassing zijn op generatieve AI-modellen (GenAI). Deze regels zijn ontworpen om de unieke risico's en uitdagingen aan te pakken die GenAI-systemen met zich meebrengen op het gebied van transparantie, risicobeheer, veiligheidsvereisten, databeheer, bias mitigation en technische documentatie.   

Hoe kunnen bedrijven zich voorbereiden op compliance met de AI-verordening

Wat als uw bedrijf AI-oplossingen gebruikt of aanbiedt? Dan moet u zich voorbereiden op compliance. 

Bedrijven moeten eerst beoordelen of ze AI-systemen gebruiken, ongeacht of ze al in gebruik zijn, in ontwikkeling zijn of kunnen worden aangeschaft bij externe leveranciers. Als dat het geval is, kunt u deze geïdentificeerde AI-systemen onderbrengen in een archief. Op basis van dat archief worden de AI-systemen ingedeeld volgens risico.
 

Belangrijke deadlines voor de Europese AI-verordening

De AI-verordening is op 1 augustus 2024 in werking getreden en zal stap voor stap worden ingevoerd. Dit zijn de belangrijkste data:

• 2 februari 2025: 
  • het gebruiken of creëren van systemen met een hoog risico is verboden. 
  •  Bijkomende algemene vereiste dat werknemers die met AI-systemen omgaan, er voldoende kennis over moeten hebben (AI-geletterdheid)
• 2 augustus 2025: Regels voor GenAI-systemen worden van kracht
• 2 augustus 2026: Systemen met een hoog risico moeten compliant zijn 
• 2 augustus 2027: AI-systemen die zijn ingebed in gereguleerde producten (zogeheten ‘NFL’-producten zoals medische apparatuur, machines, liften en speelgoed) moeten aan de voorschriften voldoen.  

Sancties van de Europese AI-verordening: Wat niet-compliance u kan kosten

Niet-naleving van de AI-verordening kan leiden tot aanzienlijke boetes, variërend van 750.000 euro tot 35.000.000 euro of van 1% tot 7% van de wereldwijde jaaromzet van het bedrijf. Het is dan ook cruciaal voor bedrijven om de bepalingen van de AI Act volledig te begrijpen en de vereisten ervan te vervullen om dergelijke sancties te voorkomen

De regels zullen blijven veranderen naarmate er nieuwe AI-technologie en risico's bijkomen. Bedrijven moeten dit beheersen en moeten hun AI-systemen up-to-date houden om aan de voorschriften te voldoen.