Le vote au Parlement européen sur le règlement sur l'IA a entériné d'importantes protections contre les utilisations dangereuses de l'IA dans les migrations
Aujourd'hui, la Commission du marché intérieur et la Commission des libertés civiles ont adopté un projet de mandat de négociation sur les toutes premières règles en matière d'intelligence artificielle (IA). Les députés ont considérablement modifié la liste pour inclure des interdictions d'utilisations intrusives et discriminatoires des systèmes d'IA. Ils ont également élargi la classification des zones à haut risque.
Le règlement sur l'Intelligence Artificielle (IA) sera la première législation contraignante au monde à réglementer l'utilisation de l'IA, y compris dans le domaine de la migration. Le texte voté aujourd'hui interdit les usages dangereux de l'IA et soumet les usages "à haut risque" à des garanties renforcées.
Les députés ont notamment interdit les utilisations intrusives et discriminatoires des systèmes d'IA telles que :
- les technologies de reconnaissance des émotions, qui s'étendent explicitement aux frontières de l'UE. Les technologies de reconnaissance des émotions prétendent détecter les émotions des gens sur la base d'hypothèses sur la façon dont quelqu'un agit lorsqu'il se sent d'une certaine manière, y compris pour évaluer sa crédibilité. Les autorités chargées de l'immigration dans certains États membres ont déjà testé l'utilisation de ces types de systèmes pour éclairer les décisions concernant les personnes éligibles ou non à la protection.
- les systèmes de catégorisation biométrique qui utilisent des caractéristiques personnelles pour classer les personnes et pour éclairer les déductions basées sur ces caractéristiques. Ce type de logiciel est utilisé pour déterminer si le dialecte d'une personne correspond à la région dont elle dit être originaire.
- les systèmes de contrôle prédictif, qui utilisent des notions préconçues sur qui est à risque pour prendre des décisions concernant le contrôle de certains groupes et espaces.
Les députés ont classé comme « à haut risque » :
- les outils de prévision qui prétendent prédire les mouvements de personnes aux frontières.
- les technologies de surveillance telles que les drones, les caméras thermiques, les capteurs radar et autres qui sont utilisées pour détecter et localiser les groupes en transit.
Avant que les négociations avec le Conseil sur la forme finale du règlement puissent commencer, ce projet de mandat de négociation doit être approuvé par l'ensemble du Parlement, avec un vote prévu lors de la session du 12 au 15 juin.
Pour plus d'informations, veuillez lire (en anglais) le communiqué de presse du Parlement européen et le communiqué de presse de PICUM.