De AI-wet zal 's werelds eerste bindende wetgeving zijn om het gebruik van kunstmatige intelligentie (AI) te reguleren, ook op het gebied van migratie. De tekst waarover vandaag gestemd is, verbiedt schadelijk gebruik van AI en onderwerpt "risicovolle" toepassingen aan verhoogde waarborgen.

Europarlementariërs verboden indringend en discriminerend gebruik van AI-systemen zoals:

• Emotieherkenningstechnologieën, die zich expliciet uitbreiden tot de EU grenzen. Emotieherkenningstechnologieën beweren de emoties van mensen te detecteren op basis van aannames over hoe iemand zich gedraagt als hij zich op een bepaalde manier voelt, onder andere om zijn geloofwaardigheid in te schatten. Immigratieautoriteiten in sommige lidstaten hebben het gebruik van dit soort systemen al getest om beslissingen te onderbouwen over wie wel en wie niet in aanmerking komt voor bescherming.
• Biometrische categorisatiesystemen die gebruik maken van persoonlijke kenmerken om mensen te categoriseren en op basis daarvan conclusies te trekken. Dit soort software wordt gebruikt om te bepalen of iemands dialect overeenkomt met de regio waar hij/zij zegt vandaan te komen.
• Voorspellende controlesystemen, die gebruik maken van vooringenomen ideeën over wie als risicovol kan worden beschouwd, om beslissingen te nemen over het controleren van bepaalde groepen en ruimtes.

Europarlementariërs categoriseerden als "hoog risico":

• voorspellingsinstrumenten die beweren de bewegingen van mensen aan grenzen te kunnen voorspellen.
• bewakingstechnologieën zoals drones, warmtebeeldcamera's, radarsensoren en andere die worden gebruikt om transit groepen op te sporen en te lokaliseren.

Vooraleer de onderhandelingen met de Raad over de definitieve vorm van de wet kunnen beginnen, moet dit ontwerp-onderhandelingsmandaat worden bekrachtigd door het ganse Parlement, waarbij de stemming wordt verwacht tijdens de zitting van 12-15 juni.

Lees voor meer informatie het persbericht van het Europees Parlement en het persbericht van PICUM.