À l’Unesco, l’Intelligence artificielle en quête d’éthique

La recommandation sur l’éthique de l’intelligence artificielle (Ia)  : c’est la dernière-née des recommandations de l’Unesco, adoptée lors de sa 41^e conférence générale, le 22 novembre dernier à Paris. «  C’est un texte rendu nécessaire par le développement rapide de la technologie de l’intelligence artificielle, utilisée dans les services quotidiens, sans qu’on s’en rende compte mais qui nous accompagne tous les jours, dans les décisions des responsables publics ou privés  », estime la directrice de l’Unesco, Audrey Azoulay. Certes, l’Ia est une technologie qui a beaucoup à offrir, comme on le voit depuis le début de la pandémie. Mais elle pose aussi des questions importantes, du fait notamment de son fonctionnement relativement opaque, de la nature des données, des algorithmes et des fractures numériques qui traversent les sociétés.

Avec cette recommandation, l’institution internationale a une triple ambition  : mettre les systèmes d’Ia «  au service de l’humanité, des individus, des sociétés, de l’environnement et des écosystèmes  »  ;  prévenir les préjudices  ; favoriser «  l’utilisation pacifique  » des systèmes d’Ia. À la suite de divers scandales retentissants, le Conseil de l’Organisation de coopération et de développement économiques (Ocde) avait déjà publié, en mai 2019, une recommandation sur l’Ia, texte qui a donné sa substance à un autre document dans lequel les membres du G20 s’accordaient sur «  les principes pour une gestion responsable d’une Ia digne de confiance  ». Autant de travaux qui font reposer l’Ia sur les droits fondamentaux.

À peine 22  % de femmes dans la recherche en IA

De son côté, la recommandation de l’Unesco a l’originalité de porter son attention première sur l’éthique. Elle s’appuie également sur un plus large spectre de parties prenantes, issues de plus de 193 États (à l’exclusion des États-Unis et d’Israël), et se distingue par la mobilisation du monde universitaire ou scientifique et l’appel à contributions d’Ong ou d’acteurs de la société civile. Parce que la faible place des femmes dans la recherche en Ia (22  % contre 30  % dans la recherche scientifique en général) a un impact sur la définition et les buts des algorithmes, l’Unesco opère un «  rééquilibrage  »  : 10 des 24 membres du collège d’experts sont des femmes.

Outil de droit international, une recommandation de l’Unesco n’instaure pas de contraintes juridiques, mais propose aux États des engagements, une méthode de travail et d’évaluation. Pour Imane Bello, avocate spécialiste des technologies de rupture, cela dit :

« comment on voudrait que l’Ia prospère et profite à l’humanité. C’est le principe du soft law, le temps dira de quelle façon les États mettront en œuvre les recommandations  ».

Dans celle-ci, l’Unesco décrit l’Ia comme un système de traitement des données «  par un processus s’apparentant à un comportement intelligent  ». Pour que les individus aient «  de bonnes raisons de ne pas douter  » de ce système, elle recommande de fonder son emploi sur quatre valeurs  : les droits humains et les libertés fondamentales  ; la prospérité de l’environnement  ; la diversité et l’inclusion  ; la promotion de sociétés pacifiques, justes et interdépendantes. La recommandation proscrit ainsi la notation sociale et la surveillance de masse. Elle pose que si l’Ia est un outil de prise de décision et d’exécution de tâches, elle «  ne peut jamais se substituer à la responsabilité ultime des êtres humains et à leur obligation de rendre compte  », affirmant  : «  Les décisions de vie et de mort ne devraient pas être abandonnées à des systèmes d’Ia.  » Elle identifie ensuite 11 domaines d’action stratégiques. En matière d’économie et de travail par exemple, le document anticipe de profondes mutations et appelle à des initiatives «  pour assurer une transition équitable aux employés menacés  ». Dans la santé et le bien-être social, elle s’attarde sur les risques pour la santé mentale et sur les relations avec les robots. L’Unesco préconise encore que les États et les entreprises évaluent l’impact environnemental des systèmes d’Ia.

«  C’est un enjeu et ça va devenir un avantage compétitif. Logiquement, un jour, ce sera obligatoire.  »

Imane Bello

Stéphanie Stoll