Pourquoi il ne faut pas s’opposer aux robots tueurs

Plusieurs milliers de scientifiques se sont associés pour écrire une lettre dans laquelle ils réclament l’interdiction des robots-tueurs.

Ils expliquent ici pourquoi… et moi j’explique dans cet article pourquoi je pense qu’ils ont tort.


Une interdiction inefficace

Ca empêcherait – au mieux –  juste de le faire officiellement et donc de développer des machines fonctionnelles et fiables en permettant aux scientifiques du monde entier de les construire librement. Mais ça n’empêcherait pas les bidouilleurs d’en fabriquer dans d’obscurs labos, isolément, avec les moyens du bord et dans les limites de leurs propres compétences puisqu’il ne leur serait pas possible d’échanger et on aurait alors au marché noir des machines merdicimales, hyper buggées et parfaitement instables. 

Sans compter que c’est l’utilisation la plus pointue de l’intelligence artificielle et la mieux financée, il serait dommage de se priver de cette opportunité de son développement qui bénéficierait alors à tout le petit monde de l’IA, pas seulement militaire. La plupart des choses qui nous impressionnent, matières, technologies, l’ont été par et pour une armée.

S’imaginer interdire ça, c’est jouer à être Chapi Chapo au pays des Bisounours en faisant Oui-Oui à Colargol, autant vouloir interdire à l’océan d’être mouillé.

A la limite, histoire de faire tout aussi léger, on pourrait se dire qu’en tolérant l’apparition de ces machines et en leur permettant de se connecter au réseau neural mondial de deep Learning on pourrait imaginer un de ces robots tueurs qui, confronté à un cas de conscience, prenne des risques pour sauver un petit lapin innocent pris entre les tirs qui font rage durant les combats (et pourquoi pas, hein? Vous ne le feriez pas, vous, peut-être?). 😥

C’est l’utilisation qui doit être interdite

Je prône que ça soit leur UTILISATION qu’on interdise. De sorte que cela n’empêchera pas leur développement et leur acquisition, donc les échanges et par conséquent la qualité des machines. 

Et une utilisation non restrictive. Il est interdit de les utiliser, pas de les posséder, point, sans limite, sans contrainte, autre que les futurs traités internationaux qui en découleront, comme nous en avons eu pour le nucléaire, qui sont autant d’opportunités de rapprochement des nations par la voie diplomatique et la meilleure justification (et la seule) à la course aux armements.

D’en limiter le nombre par une loi, par une contrainte, ce serait une fois de plus une règle qui ne concernerait que les pays qui veulent la respecter. Ce serait restrictif pour certains signataires mais pour la Corée du Nord, les dictatures africaines et consorts, eux n’en ont rien à faire de nos petites règles. Bien au contraire, le fait même que nous les pondions ferait d’eux les seuls producteurs de robots, ce qui serait un marché porteur. 

En ne s’opposant pas bêtement à la fabrication, si jamais des bidouilleurs, en Chine, en Corée du Nord ou dans une obscure dictature africaine s’amusaient à produire des machines inabouties et dysfonctionnelles, on aurait de quoi répliquer. Et le fait même de l’existence de machines « officielles » efficaces invaliderait à lui seul le concept de tenter d’en produire en les bidouillant de manière dissimulée.

Un monde de contre-exemples

Dans l’histoire, c’est simple, les seules avancées ont été obtenues par l’autorisation, dans tous les domaines, du micro, l’insignifiant, au méga macro. 

On opprime les automobilistes dans une hystérie incommensurable? …Eh bien le nombre de morts remonte…normal!

Les armes sont interdites en France, tout particulièrement les armes de guerre, résultat, les seuls qui n’en ont pas, c’est la Police, qui s’est fait tirer sur sa bagnole à la roquette plus d’une fois ou les passagers du bus en Seine-Saint-Denis attaqué au mortier récemment. 

L’armement chimique est interdit, pourtant on ne peut pas dire qu’il n’ait pas été utilisé en Syrie. Que ce soit Assad ou les rebelles, peu importe, le fait est qu’il existe des stocks hallucinants de cette saloperie.  

Les mines sont interdites partout dans le monde…oui, mais les américains eux pensent autrement…

Aux USA, où il y a tant d’homicides en raison du droit de flinguer tout ce qui nous fait peur, mais où on peut trouver n’importe quelle arme très facilement, il y a moins d’attaques au mortier ou à la roquette que chez nous où le fait de posséder un 22lr monocoup nous envoie au tribunal et, éventuellement, en prison en cas de récidive. 

Le jour où le monde aura compris que toute contrainte induit une résistance, nous aurons fait un grand pas dans l’évolution.

Le meilleur moyen d’avoir des masses de robots tueurs, et défectueux de surcroît, dans les conflits, c’est de les interdire. Le combat ne résidant plus alors dans celui qui en a le plus de meilleurs, mais en celui qui a le plus désobéi à la loi. Nous risquerions alors de nous retrouver avec 10x plus de ces machines que prévu, mais dont le seul critère qualitatif serait leur puissance de destruction avant leur propre destruction.

Ceux qui ont l’idée d’interdire oublient certainement un tout petit détail : Au payyyys, de Candyyyy, on est tous pourriiiis, on s’éclate on se déchire on en chiiiiie, il y a des méchaaants et des vilaiiiins. Un peu d’astuce, d’espièglerie, c’est la fin de Candyyyy…..

Mais en ont-ils véritablement l’intention?

Un détail me semble plus pertinent que les autres lorsqu’on lit l’article de Vice News, c’est cette phrase :

la plupart des chercheurs qui travaillent sur l’IA n’ont aucun intérêt à construire des armes autonomes — et ne veulent pas que d’autres viennent ternir leur champs de recherche ce faisant, attirant potentiellement des critiques majeures de la part de l’opinion publique

Et là, nous y sommes, là ça devient crédible. En réalité, les signataires de la lettre veulent surtout se dédouaner de leur appartenance au milieu qui produira ces machines.

…Mais voilà, les savants ne sont pas tous aussi scrupuleux et l’histoire est émaillée de savants qui ont vendu leur savoir, se sont faits embaucher par des labos clandestins.

Qui pour pouvoir satisfaire sa soif de recherche dans un pur esprit de curiosité scientifique dans l’inconscience des conséquences, qui par appât du gain, qui par conviction…parce que, mais oui, on peut-être scientifique et djihadiste, nazi, fasciste, communiste, etc…

Il ne faudrait pas imaginer que les rebelles de tout ordre de part le monde sont des masses incultes qui tirent sur tout ce qui bouge. Le nombre d’intellectuels qui soutenait, et soutient encore, les thèses de Che Guevarra, c’est affolant. Que dire des intellectuels qui au mieux trouvent des justifications à Staline, au pire l’admirent?

Dans l’histoire récente, je me souviens d’un savant pakistanais arrêté parce qu’il collaborait avec l’Iran à qui il aurait vendu la bombe atomique, ce qui serait à l’origine de la suspicion de l’Iran de vouloir s’en doter, au demeurant.

Un savant, c’est un homme, pas une machine…lui!

On retiendra toutefois que sans ces scientifiques qui s’opposent aux robots-tueurs et dénoncent depuis quelques temps désormais l’intelligence artificielle, personne ne prendrait en compte sa dangerosité. Le monde avance vers l’intelligence artificielle comme le papillon vers l’ampoule brûlante.

La liberté est le propre de l’homme

L’individualité est ce qui caractérise l’homme. Et ce qui caractérise l’individualité c’est la liberté. Plus on restreint la liberté plus le nombre d’actes potentiellement répréhensibles augmente. 

En France on réprime sévèrement le shit, on ne peut pas dire que ça marche vraiment bien. 

Encore plus exemplaire, alors que la Suède et la Norvège ont des prisons grand luxe, de vrais hôtels, avec service d’étage et tout avec un taux d’incarcération la moitié plus faible que la France, qui se trouve dans le peloton de tête européen, les nordiques ont un taux d’homicide trois fois plus faible que la France et un taux de récidive 15x plus faible. 

Encore mieux avec le tout répressif aux USA qui ont un taux de détention 7x plus élevé que le nôtre, parmi les plus élevés du monde, un taux d’homicide 5x plus élevé…et un taux de récidive première peine proche de 100% à 5 ans. 

Si les exemples qui démontrent que l’interdit engendre le crime, les exemples qui démontrent que la liberté d’agir sont peu nombreux, mais particulièrement pertinents. 

Toutes les maisons et villages que nous aimons dans notre beau pays, ces maisons médiévales, ces vieilles fermes séculaires que l’on s’arrache, que l’on prend en photo tant on les trouve belles, toutes sans exception, ont été bâties sans aucun permis de construire. 

A contrario, je vous laisse le plaisir d’aller visiter un « village résidentiel », avec ses « pavillons familiaux » en parpaings érigé sur la base d’un permis de construire pour faire la différence.

Même les Trois Lois d’Azimov c’est de la science-fiction utopiste

Si on vend un robot tueur à Kim Jung Un qui est programmé avec ces trois lois, il va le confier à un laboratoire chargé de les abolir. Et si l’ingénieur en chef n’y parvient pas, il se retrouvera au goulag. 

Là encore il s’agit d’une restriction, une contrainte, une atteinte à l’intelligence du robot. Plus efficace que les trois lois, c’est de rendre la machine suffisamment intelligente pour faire la distinction entre le bien et le mal. Et de préférence mieux que nous.

Et pour cela, ce n’est pas bien difficile, il suffit de permettre l’élaboration paisible de l’intelligence artificielle.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *