Webinaire – Les pratiques interdites de l’AI Act

Avec l’entrée en vigueur de l’AI Act (règlement (UE) 2024/1689), l’Union européenne encadre pour la première fois, de manière contraignante, l’usage des systèmes d’intelligence artificielle. 
Parmi les piliers de ce nouveau cadre juridique figure l’interdiction de certaines pratiques jugées incompatibles avec les droits fondamentaux. 
Il s’agit notamment des systèmes d’IA qui manipulent le comportement de personnes vulnérables (enfants, personnes âgées, etc.) en exploitant leurs faiblesses psychologiques, comme une application éducative incitant subrepticement à visionner des publicités.
Sont également proscrites l’identification biométrique en temps réel dans l’espace public à des fins de surveillance policière, telle que la reconnaissance faciale dans une gare, ainsi que les systèmes de notation sociale, qui évaluent les individus sur la base de critères comportementaux ou moraux, au risque de discrimination ou de stigmatisation.
Ce cours a pour objectif d’exposer et d’expliquer ces pratiques interdites.
Nous verrons comment ces interdictions s’articulent avec la protection des droits fondamentaux, la Charte des droits fondamentaux de l’UE, et les principes de proportionnalité et de nécessité. Des cas concrets permettront d’illustrer les lignes rouges posées par le législateur européen, ainsi que les risques juridiques encourus en cas d’infraction.