En tant qu’enseignante-chercheuse en informatique, je suis toujours surprise par la pauvreté du débat sur l’IA.
D’un côté, on nous explique que c’est une force obscure que personne ne maîtrise et qu’il faudrait arrêter immédiatement. De l’autre, qu’elle va résoudre tous nos problèmes.
Les deux ont tort.
Non, l’IA n’est pas une magie incontrôlable.
Nous connaissons les architectures que nous développons.
Nous savons comment elles sont entraînées.
Nous mesurons leurs performances.
Nous savons les améliorer.
Le vrai sujet n’est pas la maîtrise technique. Le vrai sujet est l’explicabilité.
Oui, il existe aujourd’hui de réels progrès en intelligence artificielle explicable (XAI).
Mais même avec ces avancées, un modèle peut être extrêmement performant tout en restant incapable d’expliquer de façon claire, fiable et complète chacune de ses décisions, en particulier lorsqu'il s'agit des modèles les plus complexes.
L’IA traduit plus vite. Analyse plus vite. Classe plus vite.
Très bien.
Mais parce qu’elle va plus vite, devons-nous lui laisser décider à notre place ?
Déléguer une traduction n’est pas déléguer un diagnostic médical.
Déléguer une recherche documentaire n’est pas déléguer une décision de justice.
Déléguer une assistance au pilotage n’est pas déléguer l’usage de la force.
La question du XXIe siècle n’est pas : « L’IA est-elle dangereuse ? »
La question est : Jusqu’où sommes-nous prêts à déléguer notre jugement à des systèmes qui apprennent du passé, reproduisent parfois ses biais et ne portent jamais la responsabilité de leurs décisions ?