Qui votre voiture devra-t-elle tuer?

voiture autonome

La voiture autonome conduit, vous, seul dans votre véhicule, vous vous laissez tranquillement emmener quand, soudain, un groupe de piétons traverse la route. Votre voiture, dont les réflexes agissent à vitesse informatique, des milliards de fois plus rapidement que les vôtres, a largement le temps de les éviter…en sortant de la route au prix de votre vie…

Alors, votre vie, ou celle du groupe de piétons ?

Si vous saviez que votre voiture est programmée pour vous tuer pour préserver la vie des piétons…accepteriez-vous de monter dedans ?

Dans le monde entier des scientifiques, des juristes, des philosophes, se posent les bonnes questions et tentent d’y répondre. La question est épineuse, parce que la voiture préprogrammée pour choisir une cible plutôt qu’une autre… c’est un meurtre ! Lorsque l’on utilise un instrument pour tuer quelqu’un qui n’est pas fait pour, il y a même un terme juridique : le meurtre avec arme par destination.

Fondamentalement, quelle différence entre un tueur en série qui se promène en se disant : « si je rencontre un inconnu qui me dit ci ou ça, je le tue » et votre voiture qui a un programme qui dit : « si telle circonstance je tue cet inconnu » ?

De meilleurs conductrices

Même si les autres véhicules étaient tous autonomes, ce n’est pas pour autant que des circonstances particulières ne peuvent se produire. La circulation est fluide, mais il y a des piétons, des vélos, des enfants qui jouent. Tout le monde roule, tout-à-coup la voiture d’en face fait une embardée pour éviter un enfant et la vôtre doit alors prendre une décision.

Le véhicule autonome est un conducteur bien meilleur que nous, calme, pondéré, sans à priori, prévisible, avec des réflexes sans comparaison avec les nôtres.

A ce propos, j’aime bien reprendre en exemple le jeu du billet lâché que nous connaissons tous :

Un ami tient un billet en le pinçant par un bout, pendu au bout de ses doigts. Vous mettez votre main en position de pince, entourant le billet, et vous devrez tenter d’attraper le billet au passage une fois que celui qui le tient l’eusse lâché…et vous raterez ! Au mieux avez-vous plusieurs dixièmes de seconde de temps de réaction, le temps de détecter que le billet est lâché, de décider de l’attraper, que l’ordre aille jusqu’aux muscles correspondants et le temps que le mouvement se fasse, durant ce temps, le billet tombe.

Si la pince est une pince mécanique commandée par un ordinateur, la pince se sera refermée sur le billet avant même qu’il eut parcouru ne serait-ce qu’un millimètre. Voilà le décalage de réflexes entre nous et la machine, un avantage indiscutable qui fera de nos voitures de bien meilleures conductrices. Mais des circonstances particulières se présenteront quand même avec des questions morales, juridiques, qu’il faudra bien éclaircir, réguler.

Demain, des accidents rarissimes

Il est difficile aujourd’hui d’appréhender à quel point ces véhicules seront rassurants. Il est difficile d’imaginer, avec nos 5 millions de morts sur la route actuels que demain l’humanité pourrait avoir si peu d’accidents de la route que lorsqu’il s’en produira un, les médias du monde entier en parleront. Un mort en Californie et le Bombay Times en fait sa une en Inde. Un jour un accident fait dix morts, on en tire un film. Ca paraît fou, mais c’est pourtant la promesse de ces véhicules.

Si cette notion semble si inacceptable, c’est parce que les infrastructures ne sont pas encore construites autour des véhicules autonomes, qui échangeront entre eux et avec la route elle-même. Imaginez que vous roulez sur une route sinueuse, devant vous, un virage sans visibilité avec un obstacle de l’autre côté que vous ne voyez pas. Votre voiture sait pourtant qu’il y a cet obstacle parce qu’une voiture en sens inverse arrive et voit l’obstacle et prévient à la ronde de cet obstacle. Les panneaux de signalisation, la route elle-même, reçoit aussi ce signal et l’émet pour les véhicules arrivants qui sont ainsi informés et peuvent anticiper. Si l’obstacle a disparu, un véhicule arrivant reçoit l’avertissement d’obstacle, « voit » que l’obstacle n’est plus là et annule l’information.

Le concept même de véhicule autonome rendra obsolètes tous les dispositifs de régulation de la circulation. Les feux, les Stop, cédez-le-passage, n’auront plus aucune utilité pour ces véhicules parfaitement informés de la présence ou non d’un autre véhicule. Vous arrivez à un carrefour, sans aucune visibilité… et votre voiture fonce à travers sans même ralentir, comme au cinéma ! Sauf que si elle l’a fait, c’est parce que bien que sans visibilité, elle savait qu’il n’y avait pas de véhicule prioritaire. Si elle-même était prioritaire, en traversant le carrefour, les véhicules non prioritaires attendent sagement son passage, parce que eux aussi étaient avertis de votre arrivée.

Cas de figure de circonstances toujours possibles

Mais malgré tout ceci, le facteur humain persiste en-dehors de votre véhicule. Reprenons l’exemple en introduction ; vous êtes seul à circuler dans votre véhicule autonome qui, donc, conduit. Soudain surgit un groupe de piétons, votre voiture doit-elle faire le sacrifice des piétons pour vous préserver ?

Autre exemple…

Imaginons que nous sachions que les voitures autonomes sont programmées pour sacrifier les occupants. Voilà que des jeunes inventent un nouveau jeu fun, consistant à sauter devant la voiture le plus tard possible…et de s’esclaffer de voir les voitures tuer leurs occupants pour les éviter. Irréaliste ? Rappelez-vous les objets jetés depuis des ponts, le jeu du foulard et bien d’autres. Non, ce n’est pas irréaliste. Et de toute façon si on les interpellait, que leur ferait-on ? Ce ne sont pas eux qui vous ont tué, mais votre voiture !

 

Où se trouve le danger ?

Si vous savez pertinemment qu’en cas de danger votre voiture est conçue pour vous sacrifier, accepterez-vous de monter dedans ? Bien sûr, aujourd’hui, vous le savez, en prenant le volant, vous prenez le risque d’avoir un accident.

…Mais VOUS prenez le volant, pas votre voiture prend le volant. En prenant le volant, vous avez une petite chance de vous en sortir. Tout vieux conducteur s’est déjà sorti d’un mauvais pas un nombre incalculable de fois. Là, c’est différent, votre voiture est programmée pour vous tuer ! Songez lorsque vous êtes passager, la petite appréhension qui vous étreint, sachant que vous avez toujours une possibilité d’interaction avec le conducteur. Là, c’est un conducteur sourd, invisible, dont la conduite est purement systémique, transparente, conditionnée, angoissante.

Si dans l’immédiat il est difficile de dire si nous accepterions l’idée que notre vie soit placée derrière celle des innocents sur la route, par contre, ce qui est certain, c’est que la société n’accepterait pas des véhicules autonomes programmés pour protéger les occupants au péril des autres usagers, ça c’est clair. De même que les usagers n’accepteraient pas de circuler dans des voitures sachant pertinemment qu’ils sont conçus pour les sacrifier au bénéfice des autres usagers, indépendamment de leur propre responsabilité. Et tout ceci peut se compliquer avec d’autres passagers dans la voiture, votre famille, parce que là j’ai pris l’exemple de vous seul, mais ça peut se compliquer, avec Madame, des enfants, des amis, des gens auxquels vous tenez plus qu’à vous-même et que vous confiez à votre voiture. Vous envoyez parfois votre voiture les chercher pendant que vous préparez leur arrivée à la maison, votre voiture n’a plus besoin de vous, elle peut aller toute seule à la gare ou à l’école.

Un nouveau facteur d’inégalité ?

Fort logiquement, quoi qu’il advienne, il apparaît évident que nous irons plutôt vers une programmation avec une prédominance tendant à considérer que les occupants du véhicule sont de moindre importance que les autres usagers. Du coup, on peut douter que quelqu’un ayant les moyens de modifier le programme s’en prive. Et en imaginant qu’il tue quelqu’un il aura de toute façon les moyens d’assumer un procès, avec des indemnités, une amende pour avoir trafiqué son véhicule et tous les frais qui vont avec. D’autant que ce seront ses avocats qui s’occuperont du cas pendant que lui-même est tranquillement rentré chez lui et l’informaticien qui lui avait installé son programme frauduleux est déjà en train de lui préparer sa nouvelle voiture.

Qui est coupable ?

LA question à 1000 francs, à qui incombe la responsabilité de l’accident ? A vous ? Propriétaire du véhicule ? Au constructeur de la voiture, qui assume son programme ? …A la voiture, qui dispose alors d’une personnalité juridique prise en charge par les assureurs qui assument alors la responsabilité en se substituant à tout le monde ? Une question cornélienne, parce que les situations potentielles sont nombreuses.

Vous êtes seul dans votre voiture, votre voiture vous tue pour éviter un groupe de piétons. Votre famille attaque le groupe de piétons qui n’aurait pas dû se trouver là, ainsi que le constructeur de la voiture qui l’avait programmée pour vous tuer, la voirie, qui n’avait pas de dispositif prévu à cet endroit pour prévenir la présence de piétons, etc.

Vous êtes avec une connaissance dans la voiture, qui fait une embardée, vous survivez, mais votre passager est mort (ou vos passagers). La famille du passager se retourne contre votre assurance, qui se retourne contre vous parce que vous avez fait circuler votre voiture dans une rue résidentielle prise en raccourci que vous n’aviez pas le droit de prendre. Vous attaquez le constructeur parce que votre voiture n’aurait pas dû accepter de prendre cette rue sachant qu’elle ne vous était pas autorisée.

Il n’y a personne dans la voiture, elle vient vous chercher au magasin, vous l’aviez envoyée se garer et là vous l’attendez. Elle ne viendra pas, elle vient d’écraser contre un mur un piéton pour éviter trois vélos sur la route, elle a estimé qu’il valait mieux un seul piéton que trois vélos.

Votre voiture a été hackée et un virus à corrompu le programme ou le hacker la contrôle à distance.

Etc., etc., etc. Ayez un petit peu d’imagination et songez-y, vous allez voir, c’est vertigineux.

In fine, tout repose sur la différence entre la notion d’humain et de machine

La différence est fondamentale par rapport à un conducteur humain : l’humain est humain, quelle que soit sa décision elle sera mauvaise et répondra à un instinct et ne pourra donc pas lui être reprochée si ce n’est pas son comportement qui est la cause du problème. Alors que la voiture, elle, prendra la décision pour laquelle elle a été programmée, sans dévier d’un pouce de cette décision qui sera alors volontaire.

Autrement dit, si un humain, pour éviter de se tuer lui-même tue un cycliste, c’est un accident, il y a une notion cruciale d’aléatoire, nul ne sait avant l’accident ce qu’il en résultera et sa réaction sera plus instinctive que réfléchie. Si le robot tue le cycliste, il était programmé pour, c’est donc un meurtre ! Même non nominativement, il était inscrit dans le programme qu’en telle circonstance c’est le cycliste qui serait tué, il y a donc même préméditation. La famille du cycliste est tout-à-fait légitime à déposer plainte pour meurtre. Non pas qu’il soit considéré que le cycliste avait plus le droit de vivre, mais qu’avec des circonstances aléatoires, il aurait eu une chance soit que le chauffeur décide sciemment de l’éviter soit que sa manœuvre échoue et ainsi qu’il survive. La notion cruciale ici est bien que la voiture est spécifiquement conçue pour le tuer plutôt que le conducteur en raison de paramètres précis.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *