Véhicules autonomes : Dilemmes éthiques

L’initiative prise par un véhicule autonome n’est en définitive que le résultat d’une programmation humaine. Leon Tanguy/Maxppp
Que faire face à deux options qui représentent une menace pour la vie humaine ? De nombreuses questions qui se posent sur l’intelligence artificielle et restent encore sans réponse.

Transfert de responsabilité, sécurisation des communications, respect de la vie privée et des données à caractères personnel… Le développement du véhicule autonome et connecté pose de nombreuses questions encore aujourd’hui non résolues. L’une d’elles, essentiellement éthique, est déjà bien identifiée : face à deux options qui représentent une menace pour la vie humaine, laquelle choisir ? Est-ce le rôle d’une intelligence artificielle d’opérer le choix ?

Par exemple : faudra-t-il donner la priorité à sa propre protection ou à celle des autres, jeunes ou plus âgés ? Cette priorité peut-elle changer si une sortie de route représente un danger non pour un seul piéton mais pour dix ? En d’autres termes : quelle liberté de choix sommes-nous prêts à transférer à un logiciel, le plus « intelligent » soit-il ?

Car c’est bien en amont que ces dilemmes éthiques se posent, comme le rappelle un livre blanc de l’Institut national de recherche en informatique et en automatique (Inria) : « Une décision prise par un véhicule autonome et connecté, sans intervention humaine, n’est en définitive que le résultat de l’exécution d’un programme informatique. » Ce qui soulève deux questions fondamentales : quelles seront les règles, et qui sera chargé de les définir ?

C’est probablement le gouvernement allemand qui a anticipé le plus les termes du débat, en confiant un rapport à une commission réunissant 14 universitaires et experts dans les domaines de l’éthique, du droit et de la technologie. En juin 2017, cette commission a rendu publics les résultats de sa réflexion, en formulant une vingtaine de recommandations.

Sacraliser la vie humaine : et après ?

La première relève du bon sens : le mieux est sans aucun doute de ne pas se retrouver, « en première intention », confronté à un choix impossible, en anticipant au maximum l’éventualité d’un accident potentiellement mortel. Cela suppose, entre autres, de limiter l’exposition aux risques et à la survenue des « hasards », par le biais notamment du développement d’infrastructures routières « intelligentes ».

Seconde idée : la protection des individus doit l’emporter sur toute considération « utilitaire ». La commission propose donc de sacraliser la vie humaine, quitte à écraser des animaux ou à provoquer des dégâts matériels. Soit : mais que faire lorsque deux vies humaines sont en jeu ?

Dans ce contexte, elle interdit toute distinction qui serait fondée sur les caractéristiques personnelles des victimes potentielles, qu’il s’agisse de l’âge, du sexe, de la condition physique ou mentale. Mais tout en reconnaissant, au passage, la probabilité de choix « impossibles » : pour l’heure en effet, un certain nombre de décisions ne peuvent pas être programmées de telle sorte qu’elles apparaissent « éthiquement incontestables ». Si personne n’a encore formulé de réponses satisfaisantes à toutes les questions, « c’est dès maintenant, prévient l’Inria, qu’il faut se les poser ».