La transparence IA – RGPD est au cœur des obligations qui pèsent sur les entreprises déployant ou utilisant des systèmes d’intelligence artificielle.
Les textes combinés du RGPD et du Règlement sur l’intelligence artificielle exigent que les personnes concernées comprennent quand, pourquoi et comment leurs données sont traitées par l’IA, et que l’usage de ces systèmes ne se transforme pas en « boîte noire » inintelligible.
Transparence IA & RGPD : l’implication de tous
Dans un précédent article, nous avons montré que les projets d’IA impliquant des données à caractère personnel supposent une double lecture : d’une part, le respect des principes classiques du RGPD (minimisation, limitation des finalités, sécurité, etc.) ; d’autre part, la prise en compte des exigences spécifiques du Règlement IA.
La transparence consiste précisément à rendre les traitements de données à l’œuvre dans l’IA intelligibles pour les personnes concernées, sans les noyer dans un jargon trop technique et/ou trop juridique.
Concrètement, elle ne se limite pas à une clause dans une politique de confidentialité.
Transparence, conscientisation et intervention humaine – trois aspects indissociables
La transparence suppose également que l’ensemble des travailleurs de votre entreprise ou du service public comprenne comment fonctionnent ces systèmes, quels impacts ils peuvent avoir sur le travail et le cas échéant, sur la vie des citoyens.
Par exemple, lorsqu’une administration communale utilise un système d’IA pour analyser automatiquement des demandes de prime, ou lorsqu’une entreprise utilise un système d’IA pour accorder un prêt, l’agent qui utilise ce système d’IA doit pouvoir expliquer à la personne concernée qu’un système d’IA intervient, quelles données sont utilisées (revenus, composition de ménage, historique de demandes, etc.), pendant combien de temps elles sont conservées et selon quels critères les dossiers sont priorisés.
Il doit aussi être en mesure de détecter d’éventuelles erreurs commises par le système, de les corriger, de les expliquer et de permettre une réévaluation humaine de la situation de la personne concernée ainsi que l’exercice effectif de ses droits comme le droit d’accès et de rectification sur ses données.
La transparence, une priorité ?
Effectivement. Le CEPD a lancé une nouvelle action coordonnée sur l’application des obligations en matière de transparence et d’information dans le cadre du RGPD.
L’objectif est de rendre les obligations plus lisibles et plus applicables sur le terrain, tout en renforçant, les exigences de transparence, d’information des personnes concernée et ce notamment pour l’utilisation des systèmes d’IA.
Notre conseil :
Si vous souhaitez analyser vos projets IA actuels ou futurs à la lumière de ces nouvelles exigences, ou si vous envisagez de mettre en place une stratégie de transparence IA – RGPD à l’échelle de votre organisation, n’hésitez pas à nous contacter pour en discuter.