Qui votre voiture devra-t-elle tuer?

voiture autonome

La voiture autonome conduit, vous, seul dans votre véhicule, vous vous laissez tranquillement emmener quand, soudain, un groupe de piétons traverse la route. Votre voiture, dont les réflexes agissent à vitesse informatique, des milliards de fois plus rapidement que les vôtres, a largement le temps de les éviter…en sortant de la route au prix de votre vie…

Alors, votre vie, ou celle du groupe de piétons?

Si vous saviez que votre voiture est programmée pour vous tuer pour préserver la vie des piétons…accepteriez-vous de monter dedans?

Dans le monde entier des scientifiques, des juristes, des philosophes, se posent les bonnes questions et tentent d’y répondre.


De meilleurs conductrices

Même si les autres véhicules étaient tous autonomes, ce n’est pas pour autant que des circonstances ne se produiraient pas. La circulation est fluide, mais il y a des piétons, des vélos, des enfants qui jouent. Tout le monde roule, tout-à-coup la voiture d’en face fait une embardée pour éviter un enfant et la vôtre doit alors prendre une décision.

Le véhicule autonome est un conducteur bien meilleur que nous, calme, pondéré, sans à priori, prévisible, avec des réflexes sans comparaison avec les nôtres.

A ce propos, j’aime bien reprendre l’exemple de Jean-Pierre Petit, qui écrivait sur le sujet il doit y avoir une bonne quinzaine d’années. Il prenait alors l’exemple du jeu du billet lâché que nous connaissons tous :

Un ami tient un billet en le pinçant par un bout, pendu au bout de ses doigts. Vous mettez votre main en position de pince, entourant le billet, et vous devrez tenter d’attraper le billet au passage une fois que celui qui le tient l’eusse lâché….et vous raterez! Au mieux avez-vous plusieurs dixièmes de seconde de temps de réaction, le temps de détecter que le billet est lâché, de décider de l’attraper, que l’ordre aille jusqu’aux muscles correspondants et le temps que le mouvement se fasse, durant ce temps, le billet tombe.

Si la pince est une pince mécanique commandée par un ordinateur, la pince se sera refermée sur le billet avant même qu’il eut parcouru ne serait-ce qu’un millimètre.

Voilà le décalage de réflexes entre nous et la machine, un avantage indiscutable qui fera de nos voitures de bien meilleures conductrices.

Mais voilà, des circonstances particulières se présenteront quand même avec des questions morales, juridiques, qu’il faudra bien éclaircir, réguler.

Cas de figure

Reprenons l’exemple en introduction ; vous êtes seul à circuler dans votre véhicule autonome qui, donc, conduit. Soudain surgit un groupe de piétons, votre voiture doit-elle faire le sacrifice des piétons pour vous préserver?

Autre exemple…

Imaginons que nous sachions que les voitures autonomes sont programmées pour sacrifier les occupants. Voilà que des jeunes inventent un nouveau jeu fun, consistant à sauter devant la voiture le plus tard possible…et de s’esclaffer de voir les voitures tuer leurs occupants pour les éviter.

Irréaliste? Rappelez-vous les objets jetés depuis des ponts, le jeu du foulard, etc… non, ce n’est pas irréaliste. Et, même, de toute façon, si on les interpellait, que leur ferait-on? Ce ne sont pas eux qui vous ont tué, mais votre voiture!

Où se trouve le danger?

Si vous savez pertinemment qu’en cas de danger votre voiture est conçue pour vous sacrifier, accepterez-vous de monter dedans? Bien sûr, aujourd’hui, vous le savez, en prenant le volant, vous prenez le risque d’avoir un accident.

…Mais VOUS prenez le volant, pas votre voiture prend le volant. En prenant le volant, vous avez une petite chance de vous en sortir. Tout vieux conducteur s’est déjà sorti d’un mauvais pas un nombre incalculable de fois. Là, c’est différent, votre voiture est programmée pour vous tuer!

Si dans l’immédiat il est difficile de dire si nous accepterions l’idée que notre vie -et celle de notre famille, parce que là j’ai pris l’exemple de vous seul, mais ça peut se compliquer, avec Madame et les enfants- soit placée derrière celle des innocents sur la route, par contre, ce qui est certain, c’est que la société n’accepterait pas des véhicules autonomes programmés pour protéger les occupants au péril des autres usagers, ça c’est clair.

Un nouveau facteur d’inégalité?

Fort logiquement, il apparaît que nous irons plutôt vers une programmation tendant à considérer que les occupants du véhicule sont de moindre importance que les autres usagers. Du coup, on peut douter qu’un nabab quelconque accepte cet état de fait. Il ne va quand même pas risquer sa vie ou celle de ses proches pour quelques péquenots sur la route.

Il y a alors fort à parier que ce riche nabab aura les moyens de s’offrir un autre programme, qui lui est plus favorable, quitte à ce que ça soit interdit. De toute façon, si ça se trouve son véhicule est immatriculé à l’étranger et répond à d’autres normes. Il a emmené sa voiture avec lui dans son Airbus pour être certain de ne pas devoir se mettre en péril.

Et en imaginant qu’il tue quelqu’un il aura de toute façon les moyens d’assumer un procès, avec des indemnités, une amende pour avoir trafiqué son véhicule et tous les frais qui vont avec. D’autant que ce seront ses avocats sur place qui s’occuperont du cas pendant que lui-même est tranquillement rentré chez lui et l’informaticien qui lui avait installé son programme frauduleux est déjà en train de lui préparer sa nouvelle voiture.

Qui est coupable?

LA question à 1000 francs, à qui incombe la responsabilité de l’accident? A vous? Propriétaire du véhicule? Au constructeur de la voiture, qui assume son programme? …A la voiture, qui dispose alors d’une personnalité juridique prise en charge par les assureurs qui assument alors la responsabilité en se substituant à tout le monde?

Une question cornélienne, parce que les situations potentielles sont nombreuses.

Vous êtes seul dans votre voiture, votre voiture vous tue pour éviter un groupe de piétons…votre famille attaque le groupe de piétons qui n’aurait pas dû se trouver là selon elle, le constructeur de la voiture, la voirie, etc…

Vous êtes avec une connaissance dans la voiture, qui fait une embardée, vous survivez, mais votre passager est mort (ou vos passagers). La famille du passager se retourne contre votre assurance, qui se retourne contre vous parce que vous avez fait circuler votre voiture dans une rue résidentielle prise en raccourci que vous n’aviez pas le droit de prendre. Vous attaquez le constructeur parce que votre voiture n’aurait pas dû accepter de prendre cette rue sachant qu’elle ne vous était pas autorisée.

Il n’y a personne dans la voiture, elle vient vous chercher au magasin, vous l’aviez envoyée se garer et là vous l’attendez. Elle ne viendra pas, elle vient d’écraser contre un mur un piéton pour éviter trois vélos sur la route, elle a estimé qu’il valait mieux un seul piéton que trois vélos.

Votre voiture a été hackée et un virus à corrompu le programme ou le hacker la contrôle à distance.

Etc…etc…etc..

Ayez un petit peu d’imagination, vous allez voir, c’est vertigineux.

In fine, tout repose sur la différence entre la notion d’humain et de machine

La différence est fondamentale par rapport à un conducteur humain : l’humain, est humain, quelle que soit sa décision elle sera mauvaise et répondra à un instinct et ne pourra donc pas lui être reprochée si ce n’est pas son comportement qui est la cause du problème. Alors que la voiture, elle, prendra la décision pour laquelle elle a été programmée, sans dévier d’un pouce de cette décision qui sera alors volontaire.

Autrement dit, si un humain, pour éviter de se tuer lui-même tue un cycliste, c’est un accident. Si le robot tue le cycliste…c’est un meurtre! Même non nominativement, il était inscrit dans le programme que le cycliste serait tué, il y a donc même préméditation.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *