Trois clés pour garantir une transition éthique et sûre vers les mobilités sans conducteur

Présentation du droit français applicable aux véhicules autonomes à la Commission européenne, N. Devillier, mai 2019.

 Ecoutez la Chronique en cliquant ci-dessous – 9’24”

La Commission européenne vient de publier le rapport du Groupe d’experts sur l’Ethique des véhicules connectés et autonomes. Qui devrait être responsable en cas de collision en l’absence de conducteur (humain) ? Comment garantir un partage éthique et responsable des données des véhicules ? Les piétons et les cyclistes courent-ils davantage de risques dans un trafic où ces véhicules circulent ? Dans ce nouveau rapport, le Groupe d’experts formule 20 recommandations sur la sécurité routière, la vie privée, l’« explicabilité », l’équité et la responsabilité pour le développement et le déploiement des véhicules autonomes.

 

Les véhicules du futur seront modernes, numérisés et propres.

 

Avec la Stratégie sur la Mobilité Coopérative, Connectée et Automatisée, la Commission européenne a pour but de faire de l’Union Européenne un leader dans le développement et le déploiement des véhicules autonomes : propres, numériques et modernes. Elle contribue ainsi à la mise en œuvre du Pacte Vert européen qui comprend un objectif de réduction de 90 % des émissions de gaz à effet de serre liées aux transports d’ici 2050.

Dans le Programme “Horizon Europe” qui sera lancé en 2021, la recherche et l’innovation sur la Mobilité coopérative et connectée reste une priorité (voir la Communication de la Commission de 2018) pour faire de l’UE le premier continent climatiquement neutre.

Cette technologie est souvent présentée comme un outil qui bénéficiera nécessairement à la société grâce à la réduction du nombre de personnes décédées sur le réseau routier, l’augmentation de l’accessibilité des services de mobilité et la réduction des émissions nocives dues aux transports en rendant la circulation plus efficace. C’est surtout une technologie d’avenir puisque les opérateurs de fret sont sous pression pour réduire les délais de livraison et les émissions de gaz polluants dans un contexte où les chauffeurs routiers se font de plus en plus rares. Or, depuis quelques années, les questions éthiques soulevées par les véhicules autonomes sont au cœur de l’attention du public et des chercheurs, notamment depuis l’accident mortel causé par le véhicule Uber.

Afin d’atteindre ces objectifs rêvés, un certain nombre de défis techniques, réglementaires, environnementaux, économiques, éthiques et sociétaux doivent être relevés avant que les véhicules autonomes ne soient déployés de façon sûre. Les valeurs et principes de l’Union doivent rester au cœur de ces technologies pour garantir leur usage éthique et un impact positif pour tous les usagers de l’espace public.

 

La mission du Groupe d’experts

 

En 2019, la Commission a constitué un Groupe d’experts indépendants pour la conseiller sur les questions éthiques spécifiques liées aux véhicules autonomes. Après 18 mois de travail, les 14 experts dévoués et talentueux (dixit M. Jean-François Bonnefon, le ‘Chairman’ du groupe) dont votre servante a fait partie, ont formulé 20 recommandations. Elles concernent les situations de dilemmes éthiques, la création d’une culture de la responsabilité et le rôle des données, des algorithmes et de l’instruction concernant l’IA à travers notamment la participation du public.

Prenant le postulat d’une IA nécessairement inclusive et bénéfique à la société à contrepied, le Rapport propose une approche pour une Recherche et Innovation Responsable (‘Responsible Research and Innovation’) concernant les véhicules autonomes. Selon cette approche, le progrès technologique à lui seul ne suffira pas pour que les véhicules autonomes réalisent pleinement leur potentiel. Le développement, le déploiement et l’usage de ces véhicules doivent s’accompagner de considérations éthiques, juridiques et sociétales. Ces recommandations sont fondées sur les principes éthiques et juridiques des traités de l’UE et de la Charte européenne des droits fondamentaux.

1.      Sécurité routière, risques et dilemmes

 

Les bénéfices en termes de sécurité et les améliorations issues des véhicules autonomes doivent se conformer à des principes éthiques et juridiques : être publiquement démontrés, contrôlés et mis à jour à travers des recherches scientifiques solides et partagées, et être continuellement ajustés aux besoins de tous les usagers de la route, y compris les plus vulnérables. Ces mêmes considérations doivent s’appliquer aux situations de dilemmes.

Parmi les problèmes éthiques figurent :

• le dilemme du tramway : l’IA peut éviter un accident et protéger les passagers du véhicule, mais ce faisant, cela nuira à une autre personne (un piéton).
• le problème de Molly : le véhicule autonome circulant à vide heurte la jeune Molly : qui est responsable ?

 

Recommandations :

• Faire en sorte que les véhicules autonomes réduisent les dommages physiques pour les personnes.
• Intégrer la sécurité dès la conception.
• Définir des normes pour des tests responsables sur routes ouvertes au trafic.
• Considérer la révision des règles routières pour promouvoir la sécurité des véhicules autonomes et examiner les cas de non-conformité de ces véhicules au regard de ces règles.
• Corriger les inégalités de vulnérabilité parmi les usagers de la route.
• Gérer les dilemmes avec des principes de distribution des risques et des principes éthiques communs.
• Préserver la confidentialité et le consentement éclairé.
• Offrir le choix aux usagers, rechercher des options de consentement éclairé et développer des normes industrielles (bonnes pratiques).

2. Données et éthique des algorithmes : confidentialité, équité et explicabilité

L’intelligence artificielle et les systèmes autonomes utilisés par ces véhicules devraient être explicables et transparents pour mettre les usagers en mesure de protéger leurs données. Cela doit être reflété par des règles et réglementations qui prennent en considération la rapidité des changements technologiques (en particulier l’IA et les données de masse) et favoriser des délibérations inclusives à tous les niveaux.

Recommandations:

• Développer des mesures pour renforcer la protection des personnes en tant que groupe.
• Développer des stratégies de transparence pour informer les usagers et les piétons sur la collecte des données et les droits afférents.
• Prévenir la fourniture de services différentielle et discriminatoire.
• Auditer les algorithmes.
• Identifier les bases de données à haute valeur ajoutée pour les véhicules autonomes, et les maintenir gratuites et ouvertes.
• Réduire l’opacité des décisions algorithmiques.
• Promouvoir la participation du public et l’alphabétisation concernant les données, l’IA et les algorithmes.

 

3.      Responsabilité

Les responsabilités devraient être clairement attribuées et partagées, allant au-delà de l’identification d’un responsable ou d’une indemnisation en cas de collision. Une seule personne ou système ne peut être à lui seul tenu responsable per se. De la conception à l’usage, les meilleures pratiques basées sur la responsabilité éthique doivent être encouragées et partagées. Ainsi, des humains, et non des systèmes complexes, rendront des comptes aux usagers.

Recommandations :

• Identifier les obligations des différents agents impliqués dans le fonctionnement des véhicules autonomes.
• Promouvoir une culture de responsabilité concernant les obligations relatives aux véhicules autonomes.
• Garantir l’obligation de rendre des comptes (‘accountability’) quant au comportement des véhicules autonomes (devoir d’expliquer).
• Promouvoir un système équitable de répartition des responsabilités juridique et morale.
• Créer des mécanismes équitables et efficaces pour allouer des indemnisations aux victimes d’accidents impliquant des véhicules autonomes.

 

Ainsi, si des considérations liées à la sécurité ont initialement occupé le devant de la scène lors du lancement des expérimentations de véhicules autonomes, elles sont à présent intégrées à une analyse holistique. Des réponses sur l’harmonisation des taxonomies utilisées et la standardisation de l’exploitation des données restent des facteurs critiques et occupent les organes de coopération internationale (en particulier le Groupe de travail de l’Union Internationale des Télécommunications) qui cherchent à identifier les données nécessaires pour créer des indicateurs de performance de sécurité pertinents. La place des standards dans la régulation est de nouveau réaffirmée, tout comme le rôle de l’UE en tant que laboratoire de coopération.