Klik hier voor een automatische vertaling van onderstaande tekst.
Kunstmatige intelligentie in Europa: regio’s en steden wijzen op hun bijdrage en dringen aan op meer garanties tegen sociale scoring  

De regio’s en steden van de EU benadrukken dat zij een essentiële rol spelen bij het stimuleren van investeringen in artificiële intelligentie (AI) en het vergroten van het vertrouwen in AI-oplossingen. Het Europees Comité van de Regio’s (CvdR) heeft een advies goedgekeurd waarin wordt opgeroepen tot meer transparantie en strengere informatievereisten, met name voor AI-systemen met een hoog risico. Het wijst ook op de grote risico’s en de implicaties voor de mensenrechten van sociale classificatie, een middel dat alleen voor specifieke doeleinden zou mogen worden gebruikt en altijd onder menselijk toezicht dient te staan om schendingen van het recht op waardigheid en non-discriminatie en van de waarden gelijkheid en rechtvaardigheid te voorkomen.

Het Comité is er stellig van overtuigd dat de EU-verordening inzake artificiële intelligentie regio’s en steden in staat zou moeten stellen om deel te nemen aan het toezicht op AI-systemen en verslag uit te brengen over de invoering hiervan. In het door Guido Rink (NL/PSE), wethouder van de gemeente Emmen, opgestelde advies wordt betreurd dat lokale en regionale overheden niet worden genoemd in de ontwerpverordening, ondanks hun belangrijke rol bij het creëren van een gunstig klimaat voor investeringen in AI en bij het benutten van het potentieel van AI-systemen voor een betere dienstverlening aan de burgers. Het advies van de heer Rink werd tijdens de CvdR-zitting van 2 december goedgekeurd.

“De duizelingwekkende ontwikkelingen op het gebied van artificiële intelligentie hebben rechtstreekse gevolgen voor alle burgers en bestuursniveaus. De verordening artificiële intelligentie is dan ook in beginsel een nuttig instrument om versnippering van de regels voor AI-toepassingen in de EU te voorkomen. Hoewel de lidstaten de toepassing van de verordening niet zouden mogen dwarsbomen, is adequate raadpleging van lokale en regionale overheden over het gebruik van risicovolle AI-systemen wel een absolute noodzaak. Bovendien hebben we veel sterkere waarborgen nodig voor sociale scoring door overheidsinstanties met behulp van AI, een praktijk die kan leiden tot discriminatie en sociale uitsluiting, terwijl het anderzijds wel mogelijk moet blijven om AI met menselijk toezicht te gebruiken voor een betere dienstverlening", aldus rapporteur Guido Rink.

In het CvdR-advies wordt de Commissie verzocht nader onderzoek te verrichten naar als zeer risicovol te boek staande AI-systemen die bestemd zijn om te worden gebruikt door overheidsinstanties, bijvoorbeeld bij democratische processen zoals verkiezingen. Voor alle gebruikers, onder wie particulieren, moeten dezelfde transparantie- en informatievereisten gelden. Bovendien zouden de lidstaten het recht moeten behouden om risicovolle AI-systemen te reguleren wanneer zij hard kunnen maken dat er openbare en nationale veiligheidsbelangen op het spel staan. Relevante lokale en regionale overheden moeten altijd worden geraadpleegd wanneer AI-systemen worden gebruikt voor de “realtime” biometrische identificatie van natuurlijke personen op afstand in openbaar toegankelijke ruimten.

Het CvdR onderstreept ook het belang van duidelijke regels voor de opbouw van een ecosysteem van vertrouwen en voor het wegnemen van rechtsonzekerheid rondom de ontwikkeling en het gebruik van AI-systemen. In dit verband is het van cruciaal belang dat potentiële overlappingen en tegenstrijdigheden met bestaande regels vroegtijdig worden opgespoord en weggenomen. De administratieve lasten die mogelijk voortvloeien uit de verordening kunnen kleine en middelgrote ondernemingen en lokale en regionale overheden belemmeren in het bevorderen van innovatie en het inzetten van AI-systemen. Regio’s en steden vragen de Europese Commissie ook om publieke campagnes te financieren die het grote publiek vertrouwd moeten maken met het gebruik en de potentiële risico’s van AI-systemen en consumenten moeten voorlichten over artificiële intelligentie/machinaal gestuurde besluitvorming.

Contact:

Lauri Ouvinen

Tel.: +32 473536887

lauri.ouvinen@cor.europa.eu

Share: