Aller au contenu
Savoir IA · Collectivités Un site du réseau Savoir IA

Guide

Limites de l'IA en collectivité : ce qu'elle ne fait pas

Ce que l'IA ne doit pas faire dans une commune : décisions individuelles, signature, réponses juridiques. Sources officielles lues : Service Public, CNIL, Commission européenne.

Mis à jour le

Une commune est une autorité publique. Ses décisions touchent des personnes précises : un permis, une subvention, une place en crèche, une aide sociale, une amende. L'intelligence artificielle (IA) peut aider à préparer, expliquer et rédiger. Il y a en revanche des actes qu'elle ne doit pas accomplir, ni proposer, ni laisser faire sans un humain qui en répond. Cette page liste ces limites et s'appuie sur les sources officielles lues.

Ce que l'IA ne doit jamais faire seule

Acte Pourquoi l'outil ne doit pas le faire Qui le fait
Accorder ou refuser une autorisation La décision d'urbanisme prend la forme d'un arrêté signé par le maire, selon Service Public Le maire, sur instruction des services
Attribuer une subvention La décision relève du conseil ou de l'organe compétent Le conseil municipal
Répondre au nom de la commune à une réclamation Une réponse engage la commune Un agent habilité
Donner un avis juridique Une erreur peut faire perdre un droit Un juriste ou le service juridique
Traiter une situation sociale individuelle Données sensibles, décision humaine Le service social, avec le dossier
Évaluer un agent ou un candidat Décision de personnel, données personnelles La hiérarchie et le service RH

Le silence de l'administration : un piège

Le silence de l'administration n'est pas toujours un accord. La fiche de Service Public sur le silence vaut accord indique que le silence gardé pendant deux mois vaut en principe acceptation, mais qu'il vaut refus dans certains cas, notamment les demandes à caractère financier et les réclamations ou recours. Un outil qui répond « votre demande est acceptée faute de réponse » peut donc induire en erreur. Le délai et la nature de la demande se vérifient toujours sur la fiche de la procédure.

L'information de la personne

La page de la Commission européenne sur le règlement européen sur l'IA indique que les personnes doivent être informées lorsqu'elles interagissent avec un chatbot. Une commune doit donc savoir si son assistant parle à un habitant, et le dire. Le texte exact de cette information est à faire valider par le service juridique.

La fiabilité : ne jamais reprendre une sortie telle quelle

La CNIL rappelle que ces systèmes peuvent produire des résultats inexacts mais plausibles, et que les utilisateurs doivent garder un regard critique. Le système devrait idéalement proposer plusieurs réponses, pour que l'humain choisisse. C'est la règle de base pour toute réponse écrite de la commune.

Le principe de neutralité du service public

Le service public doit traiter chaque habitant de la même façon, et ne pas favoriser un prestataire, une association ou une opinion. Un outil peut reproduire des biais présents dans ses données, par exemple en rédigeant différemment une réponse selon le nom ou l'origine supposée d'une personne. Ce principe, et sa base juridique, ne sont pas détaillés sur les pages lues : voir la source officielle avant de l'écrire dans une charte.

Méthode pour fixer les limites

  1. Lister les décisions prises par la commune, avec leur autorité compétente.
  2. Marquer chaque décision : « jamais d'outil », « outil seulement pour préparer », « outil permis avec relecture ».
  3. Reporter la liste dans la charte d'usage.
  4. Afficher la règle aux agents qui reçoivent du public, avec le contact de référence.
  5. Revoir la liste après chaque nouvel outil.

Checklist

  • Chaque décision administrative a une autorité désignée.
  • Aucun outil ne signe, n'accorde et ne refuse.
  • Le silence de l'administration est vérifié sur la fiche de la procédure.
  • Un assistant qui parle à un habitant l'indique.
  • Toute sortie est relue avant envoi.

Erreurs fréquentes

  • Confondre « préparer une décision » et « prendre une décision ».
  • Croire qu'une réponse rapide est une réponse exacte.
  • Laisser un outil traiter seul les demandes urgentes.

Pour les dossiers d'urbanisme, voir les demandes d'urbanisme. Pour les subventions, voir les subventions aux associations. Pour les courriers, voir répondre aux administrés.

Questions fréquentes

Qui signe une autorisation d'urbanisme ?

Selon la fiche Service Public sur le permis de construire, la décision prend la forme d'un arrêté signé par le maire. Un outil d'IA ne signe rien et ne prend aucune décision.

Un assistant peut-il répondre à une question juridique d'un habitant ?

Il peut orienter vers la fiche officielle ou vers un agent. Il ne donne pas d'avis juridique, car une réponse fausse peut faire perdre un droit à l'habitant.

Une commune doit-elle dire quand elle utilise l'IA ?

Quand un outil parle directement à un habitant, la Commission européenne indique que la personne doit être informée qu'elle interagit avec une machine. Le reste de la transparence est à vérifier sur le texte officiel.

Sources

Pages consultées pour écrire cet article :

  1. https://www.service-public.gouv.fr/particuliers/vosdroits/F1986
  2. https://www.service-public.gouv.fr/particuliers/vosdroits/F32388
  3. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
  4. https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai

À lire aussi