Verboden AI-systemen onder de EU AI Act: Wat u moet weten
De Europese Unie (EU) staat bekend om haar proactieve aanpak van de regulering van opkomende technologieën, en kunstmatige intelligentie (AI) vormt daarop geen uitzondering. De AI Act die in augustus 2024 in werking is getreden introduceert een uniform wettelijk kader voor AI in de hele EU. Het doel? Betrouwbare, mensgerichte AI bevorderen en tegelijkertijd de risico's voor grondrechten, veiligheid en openbare belangen minimaliseren. Een belangrijk aspect van deze verordening is het expliciete verbod op bepaalde AI-systemen die als onaanvaardbaar risicovol worden beschouwd. Deze verboden systemen, beschreven in artikel 5 van de verordening, vormen een onaanvaardbare bedreiging voor de fundamentele waarden en rechten van de EU.
Welke AI-systemen zijn verboden?
De AI Act verbiedt een aantal AI-systemen vanwege hun potentieel gevaarlijke impact op individuen en de samenleving. Hieronder zetten we deze verboden systemen op een rij:
Subliminale, manipulatieve of misleidende technieken
AI-systemen die technieken gebruiken om individuen op een manipulatieve of misleidende manier te beïnvloeden, zijn verboden. Deze systemen kunnen het vermogen van mensen aantasten om weloverwogen beslissingen te nemen, wat aanzienlijke schade kan veroorzaken. De EU ziet dit als een onacceptabele vorm van uitbuiting.
AI die kwetsbaarheden van specifieke groepen uitbuit
AI-systemen die misbruik maken van kwetsbaarheden van bepaalde groepen – bijvoorbeeld op basis van leeftijd, handicap of sociaaleconomische situatie – zijn niet toegestaan. Het gebruik van dergelijke systemen om gedrag te beïnvloeden dat leidt tot aanzienlijke schade, is onaanvaardbaar.
Social scoring
AI-systemen die individuen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken, zijn verboden. Deze zogeheten “social scoring” kan leiden tot discriminatie en oneerlijke behandeling, wat indruist tegen de fundamentele waarden van de EU.
Realtime biometrische identificatie in openbare ruimten
Het gebruik van realtime biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving is in principe verboden. Deze technologie kan een ernstige inbreuk vormen op de fundamentele rechten en vrijheden van burgers. Slechts onder strikt omschreven voorwaarden en met voorafgaande toestemming van een gerechtelijke of onafhankelijke autoriteit kan hiervan worden afgeweken, bijvoorbeeld bij de zoektocht naar vermiste kinderen of om een onmiddellijke terroristische dreiging te voorkomen.
Biometrische categorisatie op basis van gevoelige kenmerken
AI-systemen die mensen categoriseren op basis van gevoelige kenmerken zoals ras, politieke overtuiging of religie zijn verboden. Dit soort categorisatie wordt als inherent discriminerend beschouwd en vormt een ernstige inbreuk op de fundamentele rechten van individuen.
Ongerichte scraping van gezichtsbeelden
AI-systemen die grootschalige gezichtsherkenningsdatabanken aanleggen door ongerichte scraping van gezichten van het internet of CCTV-beelden, zijn niet toegestaan. Het verzamelen van gezichtsbeelden zonder toestemming vormt een aanzienlijke bedreiging voor de privacy en kan gemakkelijk leiden tot misbruik.
Emotieherkenning op werkplekken of in onderwijs
AI-systemen die emoties proberen te detecteren op de werkvloer of in het onderwijs zijn verboden. Deze technologie mist een wetenschappelijke basis en heeft een groot potentieel voor misbruik in situaties waar machtsverhoudingen een rol spelen.
Risicobeoordeling op basis van profilering
Het gebruik van AI-systemen die uitsluitend zijn gebaseerd op profilering voor risicobeoordeling van natuurlijke personen, zoals de voorspelling of iemand een misdrijf zal plegen, is verboden. Dit soort profilering kan leiden tot discriminatie en heeft een ernstige impact op de fundamentele rechten van individuen.
Uitzonderingen op de verbodsbepalingen
Hoewel de AI Act streng is in haar verbodsbepalingen, voorziet ze ook in nauwkeurig omschreven uitzonderingen. Bijvoorbeeld wanneer het gebruik van een verboden AI-systeem strikt noodzakelijk is voor de openbare veiligheid, zoals bij het opsporen van vermiste kinderen of het voorkomen van terroristische aanslagen. Dergelijke uitzonderingen zijn alleen mogelijk onder strikte waarborgen en met voorafgaande toestemming van een gerechtelijke of onafhankelijke administratieve autoriteit.
Gevolgen van niet-naleving
Niet-naleving van de verbodsbepalingen kan zware sancties tot gevolg hebben: boetes tot €35 miljoen of 7% van de totale wereldwijde jaaromzet van een bedrijf. Deze hoge boetes weerspiegelen het belang dat de EU hecht aan betrouwbare en ethische AI.
Conclusie
De verbodsbepalingen in de EU AI Act zijn essentieel om betrouwbare en ethische AI te waarborgen binnen de Europese Unie. Door risicovolle AI-systemen te verbieden, streeft de wet ernaar de fundamentele rechten en vrijheden van individuen te beschermen en de risico's van ongecontroleerd AI-gebruik te beperken. Het is echter cruciaal dat we alert blijven op nieuwe ontwikkelingen en potentiële risico's in de technologie—zodat het wettelijk kader toekomstbestendig en effectief blijft. De AI Act is een belangrijke stap in de regulering van AI, maar continue evaluatie en aanpassing zullen nodig blijven om mee te bewegen met de snelle vooruitgang van de technologie.
Test je Kennis 🎯
Nu je alles weet over verboden AI-systemen onder de EU AI Act, ben je klaar om je kennis te testen?