En mai 2023, le gouvernement annonçait une expérimentation visant à mettre l’IA générative au service des agents et usagers du service public, officialisée en octobre dernier par Stanislas GUERINI, Ministre de la Transformation et de la Fonction publiques. Lors d’une visite récente à l’Urssaf Midi-Pyrénées avec Damien Ientile, Directeur général de l’Urssaf Caisse nationale, Thomas Cazenave, ministre délégué chargé des Comptes publics, a dévoilé les premières réalisations accomplies au sein de l’Urssaf.

L’URSSAF (Union de Recouvrement pour la Sécurité Sociale et les Allocations Familiales), organisme public clé du système de protection sociale français chargé de la collecte et la redistribution des cotisations sociales, a intégré la technologie pour améliorer ses interactions avec les usagers. Actuellement, ce sont deux voicebots, neuf chatbots et trois livechats qui ont été déployés à travers 15 caisses régionales, permettant ainsi une amélioration notable de la rapidité et de la qualité des réponses fournies. Ces agents conversationnels, capables de filtrer les questions et de répondre aux plus simples, redirigent les requêtes plus complexes vers les conseillers métiers, garantissant ainsi des réponses complètes et précises.

La GenAI au service des usagers mais aussi des conseillers

En plus de ces outils, l’Urssaf expérimente un mailbot destiné à orienter les emails et formulaires des usagers vers les équipes compétentes, accélérant ainsi les délais de traitement. Dans un avenir proche, ce mailbot fournira également une aide à la réponse aux conseillers grâce à l’IA, optimisant davantage le service.

Thomas Cazenave a souligné que l’IA, bien qu’elle facilite les interactions et accélère les échanges, ne se substitue pas à l’humain. Au contraire, elle permet aux conseillers de se concentrer sur des échanges à plus forte valeur ajoutée avec les usagers. Le temps dégagé permettra de renforcer ses accueils physiques avec des demi-journées hebdomadaires d’ouverture d’ici 2025 dans toutes ses implantations.

Il a également annoncé que l’Urssaf ferait son entrée cette année dans les Maisons France Services, un réseau de plus de 2600 guichets uniques qui regroupent actuellement onze services publics pour faciliter l’accès aux démarches administratives pour les citoyens, en particulier dans les zones rurales et les quartiers prioritaires.

Gabriel Attal a d’ailleurs présenté en avril dernier “Albert France Services”, une version spécifique du LLM “Albert” développé par la DINUM (Direction Interministérielle du Numérique). Créé par et pour des agents publics, ce modèle d’IA open source souverain, viendra lui aussi en aide aux conseillers de l’Urssaf. Certains d’entre eux se sont portés volontaires et participent à la préparation, l’entrainement et la supervision des données utilisées par les modèles d’IA pour garantir la qualité des réponses apportées aux usagers.

L’acculturation, l’accompagnement et la formation des collaborateurs sont des éléments essentiels du déploiement réussi de la GenAI au sein de l’Urssaf, et ce, dans un cadre transparent, souverain et respectueux de la primauté humaine. Une exposition immersive, Explor’IA, circule déjà dans les organismes du réseau de l’Urssaf pour sensibiliser et former le personnel.

Thomas Cazenave commente :

“Avec l’Urssaf, nous faisons la preuve que l’IA et le numérique sont une chance pour renforcer la proximité entre les Français et les services publics. L’IA permet de gagner en efficacité mais ne remplace pas les agents : elle permet de répondre à tous, plus vite, et mieux, et les chiffres le montrent ! La démarche d’innovation que j’ai fixée à l’Urssaf s’inscrit pleinement dans les objectifs de débureaucratisation et de simplification du Gouvernement et qui ont fait l’objet d’un plan d’actions présenté avec Bruno Le Maire le mois dernier : moins de contrainte et plus de proximité. Ainsi, je félicite l’Urssaf, à la pointe de la technologie et lui fixe un objectif à horizon 2027 : le déploiement de tous ces nouveaux outils pour l’ensemble des publics et sur l’ensemble du territoire”.

Damien Ientile ajoute :

“Les innovations technologiques apportent un bénéfice réel aux usagers et nous sommes très fiers des nouvelles solutions développées par nos équipes digitales pour améliorer les services de l’Urssaf aux usagers. 4,8 millions d’usagers ont interagi avec un chatbot Urssaf en 2023, c’est une prouesse technologique et de relations usagers dont nous sommes fiers. Pour rester un service public de référence responsable et fiable, nous sommes particulièrement vigilants quant à la qualité des technologies que nous utilisons pour préserver la sécurité des données de nos usagers. C’est le sens de notre politique volontariste de déploiement de l’IA”. 

« La France est le premier pays européen à inaugurer une IA 100 % souveraine et à la mettre au service de nos services publics », a fait savoir le Premier ministre Gabriel Attal le 23 avril. Cette IA, c'est Albert, un chatbot pour appuyer l'administration.

L’essor de l’IA, en particulier générative, a ouvert de nouvelles perspectives dans différents secteurs, notamment celui des services publics. Elle peut être une source d’amélioration de la qualité du service rendu avec une réduction des délais de traitement, faciliter le travail des agents publics (gain de temps, aide à la priorisation, valorisation des jeux de données..). Cependant l’opacité des algorithmes, la fameuse “boite noire”, pose la question de l’égalité du contrôle des déclarations lors du traitement des dossiers.

L’IA pour lutter contre la fraude

Si le mois dernier Stanislas GUERINI, alors Ministre de la Transformation et de la Fonction publiques, se félicitait du succès de l’expérimentation de l’IA générative au sein des services publics, le gouvernement n’a pas attendu l’arrivée de cette dernière pour utiliser l’IA au sein de ses services.

Au cours des dix dernières années, la Direction Générale des Finances Publiques (DGFiP), chargée du contrôle fiscal, a ainsi opéré une “révolution technologique” dans sa stratégie de détection des irrégularités fiscales. Initialement axée sur le contrôle triennal des contribuables à revenus et patrimoines élevés, cette stratégie a évolué vers une utilisation intensive de technologies numériques.

Le projet CFVR (ciblage de la fraude et valorisation des requêtes), lancé en 2017, financé par le FTAP (Fonds de Transformation de l’Action Publique) afin d’améliorer “l’efficacité des opérations de contrôle fiscal en rénovant la phase de ciblage des opérations”, lui a permis de poursuivre la modernisation de ses techniques d’analyse grâce à l’IA et d’exploiter les données dont elle dispose avec le data mining, afin d’y repérer les incohérences déclaratives.

Les algorithmes de notation au sein du service public

Près d’un tiers des contrôles fiscaux reposent aujourd’hui sur des analyses de risques alimentées par le traitement massif des données. Au sein de certains organismes publics, comme la Caisse nationale d’allocations familiales (CNAF) qui gère les caisses d’allocations familiales (CAF), ce sont des algorithmes de notation qui vont inciter les agents à effectuer des contrôles.

La Quadrature du Net, une association qui s’oppose au sein du collectif « Stop Contrôles » aux effets de la dématérialisation et de l’utilisation du numérique par les administrations à des fins de contrôle social, a mis en lumière en 2022 l’utilisation d’un algorithme de scoring par la CNAF.

La problématique de cet algorithme est son caractère discriminatoire car il ciblerait en priorité les bénéficiaires les plus fragiles au vu des critères de notation utilisés. L’association qui a obtenu de la Commission d’accès aux documents administratifs (Cada) les codes sources d’une version utilisée entre 2010 et 2014 et ceux de la version suivante utilisée jusqu’en 2018 de l’algorithme et le droit de les publier, révèle les critères qui permettent d’attribuer aux allocataires un score de risque allant de 0 à 1. Plus la note se rapproche de 1, plus la probabilité qu’un individu ait touché des indus augmente, entraînant des contrôles.

Parmi les critères discriminatoires révélés associés à un risque d’abus élevé, on trouve :

• revenus faibles ;
• chômage ou le fait ne pas avoir de travail stable ;
• être un parent isolé ;
• consacrer une part importante de ses revenus au loyer ;
• avoir de nombreux contacts avec la CAF.

Le fait d’être en situation de handicap tout en travaillant ferait augmenter le score de “suspicion”, comme le dénomme l’association, tout comme celui d’habiter dans des quartiers défavorisés.

Des algorithmes de notation devraient être déployés dans d’autres institutions publiques comme les impôts, Pôle emploi, la CNAM et la CNAV.

Lutter contre les pratiques discriminatoires liées aux algorithmes

La discrimination dans les algorithmes est un problème sérieux qui peut affecter les droits et renforcer les inégalités. La réglementation et la surveillance appropriées sont nécessaires pour assurer que les décisions basées sur l’IA sont éthiques et respectent les principes fondamentaux de justice et d’égalité.

En 2020, le Défenseur des Droits et la CNIL alertaient sur le manque de transparence des algorithmes et d’information des usagers, recommandant aux pouvoirs publics de mettre en place des mesures afin de lutter efficacement contre les atteintes aux droits fondamentaux. Contrôler la qualité et la représentativité des données utilisées par les algorithmes, ainsi que leur traitement et leur analyse, était l’une de ces recommandations.

Le rapport “IA, impôts et prestations sociales” confié à Sylvie Vermeillet et Didier Rambaud dans le cadre du programme de travail 2024 de la délégation à la prospective du Sénat dont le thème est “L’intelligence artificielle et l’avenir du service public”, pourrait permettre d’identifier des mesures potentielles pour garantir l’éthique et l’égalité des droits.