En octobre 2020, Eglantine Schmitt, Directrice Produit chez Citio, a participé à un colloque sur la question de la transparence technique en matière d’intelligence artificielle (IA). Ce colloque visait à réinterroger l’exigence de transparence en IA, et a été un tel succès qu’il a abouti à la rédaction d’un livre, qui vient d’être publié !
Chapitre “Restaurer la confiance dans les algorithmes grâce à l’exigence d’explicabilité”
Dans ce livre, Eglantine a rédigé le chapitre intitulé « Restaurer la confiance dans les algorithmes grâce à l’exigence d’explicabilité ». Ce chapitre aborde l’exigence croissante de transparence dans le fonctionnement des algorithmes et son rapport avec la confiance des utilisateurs. Eglantine explique que cette exigence peut être difficile à appliquer aux technologies d’intelligence artificielle, qui peuvent être opaques par nature. Elle propose alors une nouvelle exigence d’explicabilité pour restaurer la confiance des utilisateurs, en explorant la situation de conception de l’algorithme et en instaurant un dialogue entre les acteurs impliqués. En d’autres termes, plutôt que chercher à comprendre l’algorithme lui-même, l’enjeu est d’expliquer comment il fonctionne, comment il a été conçu, dans quel contexte organisationnel et sociopolitique. Elle évoque également, entre autres, les risques économiques et technologiques liés à l’exigence de transparence, qui peuvent compromettre la sécurité des algorithmes.
Quelle mise en application de ces principes par Citio ?
Chez Citio, nous mettons en place plusieurs algorithmes permettant de redresser les données. Et ça nous tient à cœur de pouvoir expliquer pourquoi et comment nos algorithmes fonctionnent ! C’est d’ailleurs pour cela que nous avons mis en place plusieurs actions de vulgarisation de nos procédés, et que nous allons dans des conférences pour expliquer notre travail et notre démarche.
Quelques exemples de communications où nous avons fait ce travail de vulgarisation :
- Une infographie pour expliquer un modèle particulier pour reconstituer les O-D
- Un webinaire qui explique d’autres méthodes de reconstitution des O-D
Quelques exemples de conférences auxquelles nous avons participé :
- IEEE ITSC en septembre 2023
- Rencontres Francophones Transport Mobilité en juin 2023
- Les Rencontres de la Modélisation des déplacements en mai 2023
L’intégralité du livre et ses enjeux
Le livre comporte plusieurs chapitres et aborde de nombreux autres sujets liés à l’intelligence artificielle et aux nouvelles technologies. En effet, certains pensent qu’il est dangereux que leur opacité augmente et demandent une plus grande transparence pour mieux contrôler leur impact. Les ingénieur.e.s et les plateformes qui développent ces systèmes cherchent une transparence différente où ils seraient invisibles pour l’utilisateur. Malgré l’utilisation courante du terme, il reste à savoir exactement ce que la transparence signifie, pourquoi elle est importante et nécessaire pour tout dispositif technique. Les contributions présentées dans le livre examinent la relation entre transparence et technique, en particulier dans le domaine de l’algorithmique intelligente.
Où trouver ce livre ?
Le livre est disponible à l’achat pour approfondir sa compréhension de ces enjeux importants pour notre avenir, via ce lien : https://www.vrin.fr/livre/9782711684267/intelligence-artificielle
Audrey Fleurot