L’IA générative dans nos institutions: vers une nouvelle bureaucratie?

Comme dirait l’autre, certaines de nos institutions étaient auparavant paralysées par une montagne de paperasse. Depuis, l’IA générative a fait irruption au sein de nos services publics: une opportunité de simplifier une structure administrative complexe. Naturellement, l’IA générative comme solution à la bureaucratie fait vibrer notre imaginaire collectif. Mais qu’en est-il en réalité?

Une alliée des administrés ou un écran de fumée?

Hier, j’ai – enfin – reçu la réponse à ma demande adressée par formulaire de contact sur le site www.service.ww, signée par un prénommé « Sebastian » :

Bonjour, nous vous remercions d’avoir pris contact avec notre Service et accusons bonne réception de votre demande. Toutes les démarches administratives de notre Service doivent être effectuées sur notre site internet sur la page www.service.ww par le biais du formulaire idoine.

[Cette réponse est générée à 81% par l’IA et a été vérifiée par un fonctionnaire de notre Service]

Voilà une réponse qui laisse perplexe. Je l’ai pourtant expliqué maintes fois par courriels à service@suisse.ch puis par le biais dudit formulaire de contact : il n’y a pas de case à cocher pour mon cas particulier. Dans ce contexte, qu’il me soit permis d’exprimer ma gratitude envers les garde-fous imposés par la Loi fédérale sur la protection des données et les lignes directrices du canton de Genève à l’intention de son personnel. En ce qui concerne le fonctionnaire qui a validé cette réponse automatique, qu’a-t-il vérifié au juste? La syntaxe ou la grammaire? L’administration aurait-elle eu intérêt à automatiser totalement ses réponses en implémentant une IA performante capable de donner une réponse cohérente et à licencier le malheureux «Sebastian»? On peut envisager que non. Si l’IA n’est pas instruite des données de la personne à contacter pour un cas spécifique, elle ne peut donner le contact de cette personne, et ce encore moins si elle n’existe pas. «Sebastian» doit donc rester à son poste même en présence d’une IA de pointe au sein de son Service.

La nécessité d’une intervention humaine

Si l’IA générative a pour vocation de fluidifier les rouages institutionnels, elle doit à tout prix éviter de créer des engrenages inutiles. Le concept clé est celui de «Human in the loop»: le fonctionnaire doit rester présent aux côtés de l’IA et, surtout, accessible aux administrés.

Bien sûr, l’IA a le potentiel de libérer les employés de tâches répétitives et fastidieuses, leur permettant de se concentrer sur des activités à plus forte valeur ajoutée. Par exemple, à Lausanne, l’IA automatise la gestion des formulaires administratifs dans le but de permettre aux employés de se consacrer à des missions plus créatives.

Toutefois, l’IA ne doit pas entraver la possibilité d’obtenir des réponses auprès d’êtres humains, ne serait-ce que pour éviter que des cas particuliers ne tombent dans les failles des systèmes automatisés. Seul l’humain reste capable, à tout le moins aujourd’hui, de résoudre certains cas insolites non prévus par les algorithmes.

Automatiser sans deresponsabiliser: un équilibre délicat

Si la l’article 10, alinéa 3 de la Loi fédérale sur la protection des données (LPD) prévoit que l’humain doit intervenir lors des décisions entièrement automatisées qui ont des effets juridiques ou significatifs, l’intervention humaine n’est pas exigée pour fournir des réponses standardisées ou dans le cadre des interactions générales entre administrés et administration.

Or il ne faudrait pas déduire de cet article de loi que l’humain est superflu pour toutes les tâches qui n’engendrent pas d’effets juridiques. Si le droit suisse ne le prévoit pas expressément, il va de soi que l’IA générative ne doit pas devenir un prétexte permettant aux institutions de se réfugier derrière l’automatisation et ainsi éviter de répondre aux questions des administrés lorsque celles-ci n’ont pas d’effets significatifs ou juridiques.

Cela est d’autant plus vrai que de nombreux citoyens se heurtent déjà au silence – bien humain – de l’administration lorsqu’aucune IA est implémentée.

L’IA générative ne saurait donc placer les fonctionnaires dans une tour d’ivoire. Cela érigerait un mur encore plus important entre eux et les administrés. Ce alors qu’il est bien connu que l’absence de contact direct avec des personnes physiques peut inciter à une forme de détachement et à une moindre prise en charge de ses responsabilités.

Un outil aussi au service des administrés

Le recours à l’IA dans les administrations doit donc s’accompagner d’une formation rigoureuse des fonctionnaires au devoir de vigilance quant aux biais algorithmiques, mais pas uniquement les biais discriminatoires. Les fonctionnaires doivent être en capacité de réagir efficacement dans toutes les situations, de manière compétente, et ce même pour de simples interactions avec les citoyens qui sont sans effet juridique.

L’IA ne doit pas servir aux seuls intérêts de l’administration et de ses fonctionnaires. Elle doit également faciliter les démarches pour le moins fastidieuses auxquelles les citoyens sont eux aussi confrontés.

Le pli recommandé, un refuge face à l’automatisation

En attendant une implémentation efficiente de l’IA au sein de nos services publics, le traditionnel courrier recommandé reste, paradoxalement, une option plus fiable pour obtenir une réponse.

Ce mode de communication, bien que jugé parfois archaïque, garantit souvent une réponse là où les systèmes automatisés échouent, même assistés d’humains.

Mais cette approche ne peut être qu’un pis-aller temporaire.

L’avenir de nos institutions dépendra de leur capacité à adopter l’IA comme un allié des relations humaines, et non comme un substitut désincarné.