Guide
Limites de l'IA en collectivité : ce qu'elle ne fait pas
Ce que l'IA ne doit pas faire dans une commune : décisions individuelles, signature, réponses juridiques. Sources officielles lues : Service Public, CNIL, Commission européenne.
Mis à jour le
Une commune est une autorité publique. Ses décisions touchent des personnes précises : un permis, une subvention, une place en crèche, une aide sociale, une amende. L'intelligence artificielle (IA) peut aider à préparer, expliquer et rédiger. Il y a en revanche des actes qu'elle ne doit pas accomplir, ni proposer, ni laisser faire sans un humain qui en répond. Cette page liste ces limites et s'appuie sur les sources officielles lues.
Ce que l'IA ne doit jamais faire seule
| Acte | Pourquoi l'outil ne doit pas le faire | Qui le fait |
|---|---|---|
| Accorder ou refuser une autorisation | La décision d'urbanisme prend la forme d'un arrêté signé par le maire, selon Service Public | Le maire, sur instruction des services |
| Attribuer une subvention | La décision relève du conseil ou de l'organe compétent | Le conseil municipal |
| Répondre au nom de la commune à une réclamation | Une réponse engage la commune | Un agent habilité |
| Donner un avis juridique | Une erreur peut faire perdre un droit | Un juriste ou le service juridique |
| Traiter une situation sociale individuelle | Données sensibles, décision humaine | Le service social, avec le dossier |
| Évaluer un agent ou un candidat | Décision de personnel, données personnelles | La hiérarchie et le service RH |
Le silence de l'administration : un piège
Le silence de l'administration n'est pas toujours un accord. La fiche de Service Public sur le silence vaut accord indique que le silence gardé pendant deux mois vaut en principe acceptation, mais qu'il vaut refus dans certains cas, notamment les demandes à caractère financier et les réclamations ou recours. Un outil qui répond « votre demande est acceptée faute de réponse » peut donc induire en erreur. Le délai et la nature de la demande se vérifient toujours sur la fiche de la procédure.
L'information de la personne
La page de la Commission européenne sur le règlement européen sur l'IA indique que les personnes doivent être informées lorsqu'elles interagissent avec un chatbot. Une commune doit donc savoir si son assistant parle à un habitant, et le dire. Le texte exact de cette information est à faire valider par le service juridique.
La fiabilité : ne jamais reprendre une sortie telle quelle
La CNIL rappelle que ces systèmes peuvent produire des résultats inexacts mais plausibles, et que les utilisateurs doivent garder un regard critique. Le système devrait idéalement proposer plusieurs réponses, pour que l'humain choisisse. C'est la règle de base pour toute réponse écrite de la commune.
Le principe de neutralité du service public
Le service public doit traiter chaque habitant de la même façon, et ne pas favoriser un prestataire, une association ou une opinion. Un outil peut reproduire des biais présents dans ses données, par exemple en rédigeant différemment une réponse selon le nom ou l'origine supposée d'une personne. Ce principe, et sa base juridique, ne sont pas détaillés sur les pages lues : voir la source officielle avant de l'écrire dans une charte.
Méthode pour fixer les limites
- Lister les décisions prises par la commune, avec leur autorité compétente.
- Marquer chaque décision : « jamais d'outil », « outil seulement pour préparer », « outil permis avec relecture ».
- Reporter la liste dans la charte d'usage.
- Afficher la règle aux agents qui reçoivent du public, avec le contact de référence.
- Revoir la liste après chaque nouvel outil.
Checklist
- Chaque décision administrative a une autorité désignée.
- Aucun outil ne signe, n'accorde et ne refuse.
- Le silence de l'administration est vérifié sur la fiche de la procédure.
- Un assistant qui parle à un habitant l'indique.
- Toute sortie est relue avant envoi.
Erreurs fréquentes
- Confondre « préparer une décision » et « prendre une décision ».
- Croire qu'une réponse rapide est une réponse exacte.
- Laisser un outil traiter seul les demandes urgentes.
Pour les dossiers d'urbanisme, voir les demandes d'urbanisme. Pour les subventions, voir les subventions aux associations. Pour les courriers, voir répondre aux administrés.
Questions fréquentes
Qui signe une autorisation d'urbanisme ?
Selon la fiche Service Public sur le permis de construire, la décision prend la forme d'un arrêté signé par le maire. Un outil d'IA ne signe rien et ne prend aucune décision.
Un assistant peut-il répondre à une question juridique d'un habitant ?
Il peut orienter vers la fiche officielle ou vers un agent. Il ne donne pas d'avis juridique, car une réponse fausse peut faire perdre un droit à l'habitant.
Une commune doit-elle dire quand elle utilise l'IA ?
Quand un outil parle directement à un habitant, la Commission européenne indique que la personne doit être informée qu'elle interagit avec une machine. Le reste de la transparence est à vérifier sur le texte officiel.
Sources
Pages consultées pour écrire cet article :
- https://www.service-public.gouv.fr/particuliers/vosdroits/F1986
- https://www.service-public.gouv.fr/particuliers/vosdroits/F32388
- https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
- https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai