Docteur en sociologie à l'Inria et directeur scientifique du LaborIA (programme étudiant les effets de l'intégration des systèmes d'IA dans des environnements de travail), Yann Ferguson consacre une large partie de ses travaux à l'éthique de l'intelligence artificielle (IA) et à ses effets sociétaux. Il est, à ce titre, expert au sein du partenariat mondial pour l'IA (Global Partnership on AI, GPAI), une initiative internationale et multipartite visant à guider le développement et l'utilisation responsables de l'IA. Dans le cadre de l'événement Cultive ta Data qui se tiendra au Domaine de Verchant à Castelnau-le-Lez (Hérault), il animera la keynote de clôture « Quand l'IA se met au travail ».
LA TRIBUNE - Six ans après le rapport Villani, la France se dote d'une nouvelle stratégie dans le domaine de l'IA. Pourquoi ?
Yann FERGUSON - Remis en mars 2018, le rapport Villani posait les bases de l'IA : fixer un cap industriel avec des secteurs prioritaires - santé, transport, cybersécurité et environnement -, donner un sens social pour que l'IA soit « capacitante » et inclusive, et démystifier l'IA. Cette volonté d'acculturer le grand public s'est d'ailleurs traduite par le lancement de quatre Instituts Interdisciplinaires d'Intelligence Artificielle (3IA, ndlr)... Mais depuis, un nouveau chapitre s'est ouvert avec, fin 2022 début 2023 : l'explosion auprès du grand public de l'IA générative, système générant des contenus originaux à partir d'une grande quantité de données absorbées (dont l'application emblématique est ChatGPT, NDLR). Cette accélération technologique ouvre des opportunités mais fait émerger de nouvelles préoccupations éthiques ou réglementaires. Le nouveau rapport (le 13 mars 2024, NDLR) de la Commission de l'IA contient 25 recommandations qui réactualisent le rapport Villani.
De quelle manière l'IA, et plus particulièrement l'IA générative, investit-elle le monde du travail ?
Alors que l'introduction de l'IA dans le monde du travail était plutôt un projet confidentiel de dirigeants de grands groupes, l'IA générative a investi TPE et PME par le biais des travailleurs. Dans un laps de temps très court, on est passé d'à peine 1% de salariés travaillant avec l'IA à 20 %, avec des valeurs non pas exclusivement basées sur la recherche de gain de productivité mais sur de nombreux usages autour de la créativité, de l'innovation et de la recherche de solutions : rédaction d'une offre d'emploi, recherche sur des entreprises pour faire de la veille concurrentielle, système d'IA RAG (génération augmentée de récupération, processus consistant à optimiser le résultat d'un grand modèle de langage, NDLR)... L'IA générative accélère le développement de produits sur des tâches.
Les entreprises sont-elles prêtes ?
En explosant auprès du grand public, l'IA générative a brisé le plafond de verre des TPE et PME. La question est de savoir si elle va maintenant s'institutionnaliser. Est-ce que les TPE qui ont fait l'expérience de façon libre et non organisée vont passer dans un vrai projet d'IA et l'introduire dans leur business model ? Dans un grand groupe, seulement 15% des cas d'usage en moyenne passent en production. L'IA générative a un bien meilleur taux d'adoption mais sa pratique est encore un peu clandestine. En 2023, 68% des utilisateurs de ChatGPT le cachaient à leur manager. Récemment, une étude a révélé que 35% des personnes qui ont testé l'IA générative en 2023 disent avoir du mal à s'en passer.
Doit-on créer une charte éthique dans les entreprises pour faire sortir l'IA de cette clandestinité ? Ou une gouvernance dédiée ?
Il y a effectivement urgence à documenter les pratiques en sortant les utilisateurs de ce sentiment honteux d'avoir « triché » en utilisant ChatGPT. On ne peut pas d'un côté promouvoir des valeurs technologiques, et de l'autre stigmatiser ceux qui font preuve d'initiative en utilisant l'IA dans leur activité, sinon on met les travailleurs dans une situation de dissonance cognitive. Il faut aussi savoir sur quelles tâches ils l'ont utilisée, ce qu'ils recherchaient, les résultats obtenus... Chaque métier va découvrir, à l'aune de ses caractéristiques et de ses spécificités, dans quelle configuration le système se comporte le mieux. L'entreprise doit donc tracer ses pratiques pour créer une culture collective et se doter d'une charte de bonnes pratiques et d'éthique de l'IA au travail. Cela permet d'éviter la fuite de données sensibles, de cadrer les responsabilités avec une réflexion autour de la mise en place d'un DSI ou une alliance DSI-DRH, et de bien communiquer sur les impacts de ces systèmes pour en faire des usages éthiques, rigoureux et responsables, l'IA ayant une empreinte écologique très forte.
Quels peuvent être les freins limitant le déploiement de l'IA dans l'industrie ?
La validation de pièces qui ont un niveau de qualité critique. On pensait que l'IA pourrait être performante sur cette tâche de vérification de la qualité mais il est en fait difficile de généraliser cette performance. Les ratés se cumulent avec un effet boîte noire, c'est à dire qu'on arrive pas à comprendre pourquoi. Rendre les modèles moins opaques est un challenge scientifique, d'autant que la réglementation française va évoluer d'ici dix-huit mois en imposant des critères de transparence et d'explicabilité pour les systèmes d'IA évoluant dans des tâches critiques comme la radiologie ou la cancérologie...
Où en sommes-nous en France en matière de formations et de métiers autour de l'IA ?
Le niveau de formation est très faible. Sur les cinq dernières années, l'effort a porté avec succès autour de la formation de talents IA : docteurs, ingénieurs, etc. En revanche, cu côté des utilisateurs d'IA, nous sommes très en retard. Les connaissances des fondamentaux sont lacunaires : 75% étudiants qui ont utilisé chatGPT dans leurs études l'ont fait sans savoir comment cela fonctionne ni les limites. Plus grave encore, 44% des utilisateurs de chatGPT reprennent les résultats tels quels, sans les modifier. Il y a une polarisation des utilisateurs mais qui ont une confiance excessive dans cette technologie. Or, un des pires usages de l'IA générative est de l'utiliser comme un moteur de recherche. Là aussi, il y a urgence à sensibiliser. C'est d'ailleurs la raison d'être du Plan national de sensibilisation et de formation chiffré à 2,2 milliards d'euros sur cinq ans (2021-2025, NDLR). Le lancement de l'outil d'apprentissage Mia devrait être généralisé à la rentrée 2024. Il est aussi question de lancer des cafés IA.
Comment évaluer la maturité des entreprises en matière d'IA ?
Pour l'entreprise, cela n'a pas de sens de foncer sur une grande démarche stratégique si moins de 20% des salariés sont éduqués à l'IA. Des steps doivent être validés, et les critères de maturités ne sont pas des garanties de succès mais ils limitent la casse et les risques d'échec. Cela va d'ailleurs faire l'objet d'une vaste expérimentation avec un outil qui sera certainement mis en ligne pour que chaque entreprise puisse faire son diagnostic. Le process est déjà en test sur plusieurs centaines de PME.
Quels sont les atouts majeurs de la région Occitanie sur le sujet ?
Il y en a plusieurs. Ainsi à Toulouse, l'ambition du projet ANITI, mené au sein du 3AI et regroupant plus de 200 chercheurs, est de développer une nouvelle génération d'IA hybride, qui permettra d'apporter de meilleures garanties en termes de fiabilité et de capacité d'expliquer et d'interpréter les résultats des algorithmes utilisés. Des garanties requises dans le cadre de projets autour de la mobilité, des transports et de l'industrie du futur. A Montpellier, la démarche de la Métropole, qui a mis en place une convention citoyenne, est très intéressante : 40 citoyens, qui ont bénéficié d'une formation pour acquérir des connaissances de base, ont été mobilisés pour réfléchir à la mise en œuvre de l'IA territoriale. Autre initiative, celle de Ekitia (ex-Occitanie Data, NDLR), association en préfiguration d'un pôle d'économie de la donnée, qui met en place des écosystèmes de confiance autour de la data afin de faciliter le partage de données. Car le carburant de l'IA, c'est la donnée.
Elles ont été publiées dans le rapport de la commission de l'IA du 13 mars 2024 :Six recommandations prioritaires
Médicament : le Groupe LFB rapatrie des activités américaines à Alès
Il n'y a actuellement aucun commentaire concernant cet article.
Soyez le premier à donner votre avis !