En novembre 2023, la Métropole de Montpellier lançait la première convention citoyenne sur l'intelligence artificielle (IA) en France à l'échelle d'une collectivité territoriale. Encadrée par un comité de six experts, parmi lesquels le mathématicien Cédric Villani, auteur en 2018 du rapport sur l'IA commandé par Emmanuel Macron, elle a embarqué 40 citoyens pour répondre à une question : « Quelle intelligence artificielle au service des habitants et du territoire ? », en vue de contribuer à l'élaboration de sa stratégie de l'IA et de la donnée. Elle vient de rendre son avis.
Parmi les huit recommandations qu'il comporte, le premier insiste sur l'utilité de l'IA à l'action du service public.
« Du côté des agents, cela signifie par exemple que beaucoup de tâches rébarbatives et chronophages pourraient être effectuées par l'IA, comme vérifier les pièces à fournir pour refaire ses papiers, et du côté des citoyens, l'IA pourrait permettre de raccourcir les délais d'obtention des papiers en question », explique Arthur Dupuy, 27 ans, l'un des porte-parole de la convention citoyenne.
L'agent, l'usager et l'IA
Autres préoccupations : le souci de l'impact environnemental de l'IA ainsi que la protection de la vie privée des citoyens et le contrôle sur leurs données personnelles. Outre l'anonymisation des données pour l'apprentissage des algorithmes et le non-croisement de celles jugées sensibles (comme la santé et la situation financière, par exemple), la convention citoyenne recommande ainsi l'installation d'un comité d'éthique. Consulté en amont de chaque projet important d'IA, il serait composé exclusivement d'experts et de citoyens, sans représentants politiques.
Autre point primordial pour les participants à la convention citoyenne, la transparence en cas d'usage d'une l'IA : l'usager doit systématiquement être prévenu. Pour garantir la totale maîtrise des données utilisées pour entraîner l'IA, la convention citoyenne suggère également la création d'un data-center dédié à la Métropole ou de privilégier des data-centers locaux.
« Il est important de mettre en place une équipe IA au sein même de la collectivité, on ne peut pas prendre le risque de prendre un prestataire extérieur qui pourrait mettre la clé sous la porte », estime Arthur Dupuy.
Pour Anne Noyer-Burdloff, également porte-parole de la convention citoyenne, « l'IA doit avant tout rester un outil, et l'usager ne doit pas être seul face à elle. Il doit toujours y avoir un opérateur. De la même manière, la décision finale doit toujours être prise par un humain ».
Information et formation
Le dernier point de vigilance soulevé par l'avis de la convention citoyenne porte sur l'accessibilité de l'IA à tous, par le déploiement d'importantes campagnes d'information et de formation des citoyens.
« Beaucoup de gens entendent parler de l'IA mais ne savent pas ce que c'est, or on a naturellement peur de ce que l'on ne connaît pas. Nous aimerions que la Métropole porte ce sujet de l'IA à l'échelle nationale an passant par l'Éducation nationale », confie Anne Noyer-Burdloff.
Si l'IA risque de modifier en profondeur certains métiers de la fonction publique, jusqu'au risque de les voir disparaître en tant que tel, « elle est aussi, grâce à la formation, vecteur de nouveaux métiers et la Métropole doit accompagner cette transition. Pas de mise au placard donc mais une réorganisation du quotidien des agents publics », insiste Arthur Dupuy.
Vers une traduction opérationnelle de l'avis
Du côté de la Métropole, les élus Manu Reynaud et Séverine Saint-Martin ont suivi pas à pas les travaux de cette première convention citoyenne.
« Nous allons dans un premier temps répondre point par point à cet avis pour ensuite le traduire en une réalité opérationnelle, rien ne sera mis sous le tapis, promet Manu Reynaud, délégué à la Ville numérique et Intelligente. Ce genre de démarche a du sens lorsque le sujet demande du temps pour y réfléchir et échanger. Cela apporte de la légitimation au sujet. L'avis est une photographie à l'instant T, le regard sur l'IA va continuer à évoluer. »
Une IA qui est souvent un sujet controversé, souligne Séverine Saint-Martin, déléguée au Renouveau démocratique et à l'innovation sociale : « Le démarrage de la convention citoyenne a coïncidé avec le lancement de Chat GPT. Les quarante participants ont pu mesurer, grâce à leurs échanges, l'intérêt de son utilisation si elle est respectueuse et transparente. Leur approche a été pragmatique et confiante tout en étant humainement très attentive à la situation des agents qui vont être en première ligne. Ils ont également été attentifs à ce que cela n'accentue pas la fracture numérique des citoyens ».
Cet avis va servir de base de travail en vue de l'élaboration de la stratégie Data et IA de la collectivité, qui sera soumise au vote des élus lors du conseil de Métropole le 4 juin prochain.
Comment la Ville de Montpellier a fermé son plus grand bidonville (165 personnes) grâce à un « village de transition »
Sujets les + commentés