De AI Act, de nieuwe Europese wetgeving rond kunstmatige intelligentie (AI), komt eraan en zal een significante impact hebben op bedrijven, scholen en overheden. Het is tijd om ons serieus voor te bereiden, want de AI Act zal de manier waarop we met AI omgaan fundamenteel veranderen. Deze wetgeving bevordert veilig en verantwoord gebruik van AI en minimaliseert risico’s voor burgers en organisaties. Wat betekent dit voor jouw organisatie? In dit artikel zet ik tijdslijnen, bedoeling en te nemen acties uiteen.
Wat houdt de AI Act in?
In dit artikel wordt ook specifiek aandacht besteed aan de definitie van wat een AI-systeem is volgens de AI Act. Zie het kader hieronder voor meer informatie. De AI Act, of AI-verordening, is een Europese wet die gericht is op het reguleren van AI-systemen op basis van risicocategorieën: verboden AI, hoog-risico AI en overige AI. Vanaf februari 2025 zijn bepaalde AI-systemen al verboden, zoals systemen die menselijk gedrag manipuleren of misbruik maken van kwetsbare groepen. Ook zullen hoog-risico AI-systemen, zoals die voor biometrische identificatie of in kritieke infrastructuur, vanaf augustus 2026 aan strenge eisen moeten voldoen. Dit zijn systemen die een potentieel grote impact hebben op veiligheid, gezondheid en fundamentele rechten.
Emotieherkenning in de AI Act
De AI Act besteedt specifieke aandacht aan emotieherkenningssystemen vanwege hun mogelijke impact op grondrechten en vrijheden:
- Verboden in bepaalde contexten: Emotieherkenning is verboden in werkomgevingen en onderwijs, behalve voor medische of veiligheidsdoeleinden. Dit voorkomt ongelijke behandeling van werknemers of studenten.
- Hoog-risico AI-systeem: Emotieherkenning valt onder de categorie hoog-risico AI, wat betekent dat strenge eisen gelden, zoals risicobeheer, data governance, menselijk toezicht, en transparantie.
- Transparantieplicht: Gebruiksverantwoordelijken moeten mensen informeren over de werking van het systeem, zodat ze hun rechten kunnen uitoefenen.
De regulering van emotieherkenning is bedoeld om risico’s voor fundamentele rechten, zoals privacy en menselijke waardigheid, te beperken.
Risicocategorieën: Wat betekent dit voor jou?
De AI Act maakt onderscheid tussen verschillende risicocategorieën, en dit bepaalt welke verplichtingen er gelden:
- Verboden AI-systemen: Denk aan systemen die sociale creditscores toekennen of emotieherkenning in het onderwijs gebruiken. Deze systemen mogen per februari 2025 niet meer worden ingezet.
- Hoog-risico AI-systemen: Voor scholen betekent dit bijvoorbeeld dat AI-systemen die leerresultaten evalueren of toelatingen regelen, moeten voldoen aan eisen rondom transparantie en risicobeheer. Bedrijven en gemeenten die AI inzetten voor werving of het toewijzen van subsidies zullen ook strenge eisen moeten volgen, waaronder certificering en menselijk toezicht.
- Overige AI: AI-systemen die niet onder de hoog-risico of verboden categorie vallen, hoeven niet te voldoen aan de eisen van de AI Act, maar kunnen nog steeds aan andere wetgeving, zoals de AVG, onderworpen zijn.
Wat moet je nu doen?
De eerste stap is het in kaart brengen van de AI-systemen die je organisatie gebruikt. Vallen ze binnen een risicocategorie? Is het een hoog-risico systeem? Dit vereist een grondige risicoanalyse en mogelijke aanpassingen in technische documentatie, logging, en datagovernance. Voor veel organisaties betekent dit ook dat zij nieuwe certificeringstrajecten moeten opzetten om aan de eisen te voldoen.
Voorbereiding is essentieel
De oproep tot actie Wacht niet tot 2027! Organisaties moeten nu al stappen ondernemen om zich voor te bereiden. Of je nu een school, bedrijf of overheidsinstantie bent, zorg dat je voldoet aan de nieuwe eisen. Begin vandaag nog met het uitvoeren van risicoanalyses, het opstellen van documentatie, en het inrichten van toezichtmechanismen voor je AI-systemen. De AI-verordening is geen vrijblijvende wetgeving. Het doel van de AI Act is in de eerste plaats om ervoor te zorgen dat we op een verantwoordelijke manier omgaan met AI, iets wat een plicht is voor ons allemaal. Maar al doe je het niet vanuit deze verantwoordelijkheid, weet dan dat de boetes voor overtredingen kunnen oplopen tot 30 miljoen euro of 6% van de wereldwijde jaaromzet, afhankelijk van welke hoger is. Door tijdig te handelen, kun je voorkomen dat je voor verrassingen komt te staan als de wet eenmaal van kracht is. Heb je vragen naar aanleiding van de AI Act, neem dan gerust contact op. Ik help je graag.