L’IAG est une branche de l’intelligence artificielle qui utilise des algorithmes d’apprentissage automatique entraînés à partir de données pour générer du contenu (image, vidéo, texte,…) de façon autonome. L’outil conversationnel ChatGPT[2] en est l’exemple le plus connu (GPT est l’acronyme de generative pretrained transformer en anglais ou transformateur génératif pré-entraîné). Développé par OpenAI et mis à la disposition du grand public à des fins de test en novembre 2022, il produit des réponses à des questions en utilisant une grande quantité de données textuelles précédemment vues.

Le caractère langagier de l’IAG la distingue des autres formes d’IA exclusivement numériques installées jusqu’à présent dans les administrations publiques. Le document de travail questionne son déploiement possible dans les administrations : quels en seraient les bénéfices, risques et limites, et quels en seraient les effets sur le rapport fonctionnaire/machine ?

Une première section analyse les bénéfices spécifiques attendus de l’IAG : automatisation de la traduction, création de code informatique pour l’analyse de données, uniformité et correction de la langue administrative, création de contenus et aide à la rédaction de notes politiques, et assistance en matière de détection de la fraude. Un prérequis : construire un corpus d’entraînement propre à la douane de telle sorte que les réponses soient les plus précises possibles. L’auteur précise qu’un processus dit de finetuning est proposé par les compagnies d‘IAG pour l’adapter aux besoins de l’usager.

Si ce corpus devait être partagé, il serait possible également d’augmenter la quantité et la qualité des analyses produites par les douaniers (notamment parce qu’ils pourraient écrire dans leur propre langue), d’assurer leur diffusion y compris dans d’autres langues, de réduire les disparités de productions intellectuelles entre les États et de donner à tous les fonctionnaires l’accès à un même corpus de connaissances, indépendamment des langues de production de celles-ci.

Dans une deuxième section, l’auteur déconstruit une partie des motifs de défiance à l’égard de l’IAG. Il explique par exemple que, si l’usage de l’IA amène à une décision engageant l’administration et sur laquelle cette dernière devra être capable de s’expliquer, les usages de l’IAG sont eux limités aux champs du conseil et de l’assistance. Il aborde aussi la question de savoir si un usager doit être informé qu’il converse avec une IAG dans le cadre de ses relations avec l’État.

Après tout, les fonctionnaires sont censés agir de manière impartiale, objective et rationnelle, à l’instar d’une machine, et les citoyens s’attendent à ce qu’une réponse soit contraignante pour l’administration, qu’elle provienne d’un être humain ou d’une machine. C‘est à l‘administration elle-même de savoir jusqu‘où elle veut rendre la réponse de la machine engageante explique l’auteur.

Les limites techniques sont ensuite passées en revue ainsi que les manières de les surmonter: l’agent conversationnel ne cite pas ses sources, il répond à partir d’un corpus de textes limités dans le temps, il ne répond pas toujours de la même façon aux mêmes requêtes, et il commet des erreurs. Une contrainte pèse fortement sur l’utilisation de l’IAG par la douane : la préservation de la confidentialité des informations et du fonctionnement interne de l’administration. Une partie du corpus et les questions posées par les fonctionnaires sur des domaines sensibles sont confidentielles. La solution pour les administrations serait l’internalisation de l’IAG et le finetuning. L’auteur précise également que, si la mutualisation des données avec d’autres services a ses avantages, elle pose des problèmes spécifiques et est parfois interdite.

La troisième section du document de travail explore ce que penser avec un outil au caractère langagier signifierait ainsi que la question de savoir si l’AIG remplacera les fonctionnaires des douanes. À cette dernière question, l’auteur réplique qu’il n’y a pas à proprement parler de remplacement du fonctionnaire. Le fonctionnaire devra plutôt intégrer dans ses pratiques quotidiennes des tâches qui étaient dévolues auparavant à des acteurs extérieurs. Le changement sera pour le fonctionnaire de faire un peu plus par lui-même, faire ses propres traductions et relectures avec l’assistance de l’IAG et porter ses efforts sur certaines parties du processus de réflexion. Il lui faudra développer ses qualités d’écriture en fonction des objectifs précis demandés dans les administrations, renforcer sa vigilance et développer sa pensée critique, sa créativité, sa capacité à penser hors du cadre, notamment sur des questions pour lesquelles élaborer une vision stratégique est difficile.

Malgré les multiples questions que pose l’usage de l’IAG auxquelles s’ajoutent ses limites techniques et l’avenir flou de son modèle économique, l’IAG devrait bientôt devenir un outil de travail routinier, intégré dans les pratiques professionnelles au même titre qu’Internet et les moteurs de recherche. Pour garder la main sur la machine et faire en sorte qu’elle aide les douaniers à devenir de meilleurs experts, il faudra que les administrations douanières renforcent leur appétit de connaissances et la faculté de leurs agents à procéder à un examen critique des écrits produits.

En savoir +
https://ferdi.fr/publications/comment-pensera-l-etat-avec-chatgpt-les-douanes-comme-illustration-de-l-intelligence-artificielle-generative-dans-les-administrations-publiques

[1] https://ferdi.fr/publications/comment-pensera-l-etat-avec-chatgpt-les-douanes-comme-illustration-de-l-intelligence-artificielle-generative-dans-les-administrations-publiques

[2] https://openai.com/blog/chatgpt