Recherche.Ou comment le «bien naturel» cher à la philosophe Philippa Foot rejoint les recherches d’un diplômé de la HEAD sur les futurs systèmes de conduite autonome.
Quel est le rapport entre la philosophie et le futur système de conduite autonome des automobiles? A priori aucun: la première s’occupe des connaissances humaines, le second est une affaire de capteurs, de radars et d’algorithmes qui permettront à une voiture de se mouvoir toute seule.
Mais l’actualité vient bousculer cet a priori. Durant le récent Salon de l’auto, Daniel Sciboz, professeur de media design à la HEAD de Genève, a attiré notre attention sur les travaux de l’un de ses anciens étudiants, Matthieu Cherubini. Celui-ci est aujourd’hui doctorant en design interactions au Royal College of Arts de Londres. Il travaille sur les fameux systèmes autonomes qui, en ville ou sur l’autoroute, prendront en charge la conduite des véhicules.
C’est la grande affaire du moment: tous les constructeurs automobiles d’importance travaillent sur ces systèmes automatisés, promettant des voitures qui se passeront de conducteurs à l’horizon 2020. Il y a beaucoup de marketing et d’optimisme dans cette promesse. L’environnement dans lequel se déplace une automobile au quotidien est extraordinairement complexe. Modéliser l’ensemble de l’environnement, des risques, des conditions de circulation ou atmosphériques est une tâche pour l’heure impossible.
Le dilemme du tramway. Qu’adviendra-t-il, par exemple, lorsque la voiture autonome sera confrontée à ce que la philosophe britannique Philippa Foot (1920-2010) appelait «le dilemme du tramway»? Cette fameuse expérience de pensée est ainsi posée par la philosophe-éthicienne: «Imaginons le conducteur d’un tramway hors de contrôle qui doit choisir sa course entre deux voies possibles: cinq hommes travaillant sur l’une et un homme situé sur l’autre. La voie prise par le tram entraînera automatiquement la mort des personnes qui s’y trouvent.»
Quelle voie choisir? Confrontée au dilemme dans maintes expériences cognitives, l’immense majorité des personnes interrogées répond qu’il faut choisir la voie occupée par un seul homme. Parce que tuer une personne au lieu de cinq est la meilleure option éthique.
Matthieu Cherubini, dans son travail de doctorat, met une automobile à conduite autonome devant le même genre de dilemme. Par exemple une route mouillée, des travaux, soudain cinq ouvriers à droite, un à gauche: comment les algorithmes du système vont-ils décider de la direction à prendre?
Ou cette situation: un arbre tombe sur la route; or, la seule manière de l’éviter est de franchir une ligne blanche continue, ce qui mettra l’automobiliste en infraction. La machine le comprendra-t-elle?
«En fait, je travaille sur trois types d’algorithmes, note Matthieu Cherubini. Le premier est “humaniste”: il cherche à sauver le plus grand nombre de personnes. Le deuxième est “protecteur”: il cherche à d’abord sauver les personnes qui se trouvent dans la voiture. A la manière d’un 4x4 conçu pour protéger ses occupants, souvent au détriment des autres usagers de la route. Le troisième algorithme est fondé sur le “profit”: si une voiture autonome a un accident, qui est responsable pour la justice? Le conducteur ou le constructeur? Quelle responsabilité sera-t-elle la moins coûteuse aux assurances? Comment agir si des diplomates sont à bord?»
Autant de questions qui renvoient aux travaux de Philippa Foot, dont l’œuvre majeure, Le bien naturel, vient pour la première fois d’être traduit en français aux Editions Labor et Fides, à Genève.
Pour la philosophe, la morale naturelle est inscrite au plus profond des besoins humains. Elle peut être comparée aux besoins physiques des plantes et des animaux. Ce bien, ou cette vertu, ou cette éthique, est défini par la forme de vie de l’espèce en question. Autrement dit, un être humain est bon s’il possède les vertus nécessaires à la forme de vie spécifique de son espèce.
Voilà ce qui passionne Matthieu Cherubini, dont le travail s’inscrit dans le mouvement contemporain du design critique, ou spéculatif: comment concevoir une machine autonome qui est contrainte d’intégrer des problèmes éthiques? N’est-ce pas remettre en cause la définition même de la machine comme une chose inanimée? N’est-ce pas considérer ces mêmes mécanismes comme naturels? A fortiori, concevoir une voiture automatique capable de prendre des décisions éthiques de manière autonome ne revient-il pas à dire que l’éthique n’est pas naturelle, puisqu’elle peut être simulée par des algorithmes, c’est-à-dire des lignes de codes informatiques?
«Les avancées technologiques peuvent être favorables dans de nombreux domaines, conclut Matthieu Cherubini. Elles peuvent résoudre une ribambelle de problèmes. Mais elles peuvent aussi remettre en question ou ignorer des valeurs et des concepts proprement humains.»
