Ce nouveau rapport, de 49 pages, de la Défenseure des droits s'adresse à plusieurs acteurs de la vie publique dont les administrations et les collectivités.

Après avoir apporté plusieurs définitions, il dresse un état des lieux de l'utilisation de ces systèmes par l'administration dans ses relations avec les usagers et notamment dans le cadre des décisions prises. Il formule ensuite des recommandations notamment pour renforcer les droits de ces derniers, assurer la qualité du service public et sa légitimité.

Dans le cadre des définitions apportées le rapport distingue deux grands types d'algorithmes : ceux dits fermés et les apprenants.

• Les algorithmes dits fermés " sont des outils classiques : l’intégralité des instructions a été pensée et écrite par un être humain dans un code source".
• Les algorithmes apprenants " fonctionnent via un procédé par lequel les informations pertinentes sont tirées d’un ensemble de données d’entraînement, souvent dans le but de prédire ou d’estimer un résultat. L’humain indique uniquement à l’algorithme le résultat à atteindre". Ces derniers constituent le fondement de ce que l'on appelle les systèmes d'IA (Intelligence artificielle).

Le déploiement de ces algorithmes dans les services publics s'est accéléré ces derniers temps notamment avec le développement de la dématérialisation des procédures administratives. Parmi les usages de ces systèmes par l'administration on peut relever le calcul des taxes et impôts, l'attribution des prestations sociales,  de places en crèches ou bien encore l'accès à l'enseignement supérieur (Parcoursup). A noter, que l'intelligence artificielle générative est également utilisée, il s'agit d'un " système capable de créer du texte, des images ou d'autres contenus ... à partir d'une instruction d'un utilisateur humain".

Mais l'utilisation de ces systèmes n'est pas sans risque pour les droits des usagers. Aussi, afin de les renforcer ce rapport formule plusieurs recommandations à la fois pour garantir l'intervention humaine et la transparence des décisions prises.

La Défenseure des droits préconise ainsi " ....dans les cas où la décision administrative individuelle prise sur le fondement du résultat d’un algorithme ou d’un système d’IA est qualifiée de décision partiellement automatisée : d’édicter des critères et des modes opératoires obligatoires, alternativement ou cumulativement, pour qualifier plus précisément « l’intervention humaine »".

Concernant la transparence, le rapport rappelle l'obligation pour les administrations de publier "... en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l'accomplissement de leurs missions lorsqu'ils fondent des décisions individuelles" (article L312-1-3 du code des relations entre le public et les administrations).

Si ce principe n'est pas respecté, il est notamment recommandé au gouvernement d’introduire une sanction et "... de mettre en place un recensement à l’échelle nationale relatif au respect de ces obligations de publication".

Ce rapport est accessible, à partir du lien suivant : "Les droits des usagers des services publics face aux algorithmes et aux systèmes d’IA : points de vigilance et recommandations de la Défenseure des droits".

Nous vous rappelons que HGI-ATD ne répond qu'aux sollicitations de ses adhérents. Toute demande de documentation, conseil ou assistance ne respectant pas cette condition ne pourra aboutir.