Se connecterS'abonner en ligne

Dépassionner le débat relatif aux SALA (Systèmes d'armes létaux autonomes)

Référence de l'article : MIM6488
ImprimerEnvoyer par mailLinkedInTwitterFacebook
écrit par Thierry BERTHIER,Docteur en mathématiques, Expert en cybersécurité,(25 Novembre 2017)



Dans la continuité des lettres ouvertes publiées par Elon Musk et Stephen Hawking, une vidéo-fiction de 7 minutes explore des dérives possibles de « robots tueurs » et totalise sur Youtube plus d'un million de vues en quelques jours. Particulièrement bien construite, elle s'ajoute au débat qui s'engage sur les armes autonomes. Produite par un collectif international réclamant l'interdiction mondiale des systèmes armés autonomes, elle a le mérite d'exposer le risque de dissémination de ce type d'armes. Le scénario envisagé dans la vidéo est crédible et efficace dans son objectif : des nuées de mini-drones dotés de charges explosives létales sont utilisées dans un contexte d'attaque terroriste et de tuerie de masse pour créer le chaos. Les technologies impliquées dans la vidéo ne relèvent pas de la science-fiction, mais existent toutes aujourd'hui. C'est d'ailleurs ce qui fait la force de cette fiction.
 
Cela dit, cette vidéo ne contribue pas à dépassionner et à rationaliser un débat qui fait figure de dialogue de sourds : d'un côté, les partisans d'une interdiction internationale des robots armés autonomes à l'image de ce qui a été fait pour les armes bactériologiques et chimiques. Et de l'autre côté, des États, leurs armées, des industries de l'armement et des programmes mondiaux de R&D de systèmes armés autonomes lancés, entre autres, aux États-Unis, en Russie et en Chine.
 
En préambule, le débat sur l'autonomie des systèmes armés doit se dépassionner et se débarrasser définitivement des biais cognitifs et des fantasmes qui le polluent depuis la première lettre ouverte d'Elon Musk. Pour être utile, ce débat a besoin de pragmatisme et de sérénité, condition nécessaire à toute analyse rationnelle et systémique des conséquences de l'émergence des SALA (Systèmes d'armes létaux autonomes). Les risques associés doivent être évalués précisément tout en tenant compte des gains tactiques et stratégiques offerts par l'autonomie.

 
Les arguments contre un traité d'interdiction des SALA existent. Leur intégration dans le débat contribue à le dépassionner et à le rendre moins irrationnel. On peut en dresser une courte liste non exhaustive :
 
 
1 - Un traité international d'interdiction des systèmes armés autonomes a très peu de chance d’être ratifié par l'ensemble des États. Si une seule puissance technologique refuse de le ratifier (par exemple les États-Unis, la Chine ou la Russie) alors ce traité devient immédiatement obsolète et inutile. Les puissances concurrentes n'auront en effet aucun intérêt stratégique à stopper leur R&D sur ce type d'armement. Bien au contraire, elles poursuivront leurs programmes de manière clandestine.
 
 
2 - Un traité international ne sera jamais ratifié par un groupe terroriste ou par une organisation mafieuse qui pourra toujours facilement mettre en œuvre une attaque impliquant une nuée de mini-drones armés. Dans ce cas, le traité en question n'aura aucune utilité et n'interdira aucun des scenarii envisagés dans la vidéo.
 
 
3 - Dans le cadre d'une attaque terroriste, nous savons tous que l'attaquant ira au plus simple en utilisant une voiture bélier, un camion, ou un couteau pour tuer « simplement » lorsqu'il ne dispose pas de Kalachnikov ou d'explosif. Bien entendu, ce principe de moindre complexité dans l'art de tuer n'interdit pas l'utilisation de mini-drones armés mais réserve ce type d'opération à un groupe disposant de qualifications technologiques de bon niveau, ce qui est plus rare en terme statistique.
 
 
4 - Une interdiction, par décrets, des SALA provoquerait de fait un déficit de connaissances et d'expérience dans le développement des contre-mesures et des protocoles à mettre en œuvre face à une attaque terroriste par nuée de mini-drones. On peut en effet imaginer une nuée de mini-drones défensifs installée dans chaque lieu public ( à l'image des extincteurs et défibrillateurs) qui s'active de manière autonome pour stopper l'attaque dès son déclenchement et détruire ses agents offensifs. Dans ce contexte, l'autonomie devient protectrice et défensive...
 
 
5 - Dans le cadre d'un conflit asymétrique opposant une armée régulière technologique à un acteur non étatique organisé (groupe terroriste, insurrection armée, …) menant des actions de guérilla urbaine, l'armement autonome permet d'économiser des vies et du temps dans la reprise de contrôle d'un quartier. Ce type de confrontation où les civils et les forces sont imbriquées est toujours très coûteuse en vies humaines. Le recours aux SALA peut réduire considérablement le délai de reprise et le volume des pertes humaines. Il peut également créer un contexte d'effroi chez le combattant irrégulier ou le terroriste qui se retrouve confronté à des technologies qui lui sont étrangères et qu'il ne maîtrise pas.
 
 
 
6 - L'autonomie permet de réduire les temps de réaction dans un contexte de combat saturé. Elle donne accès à de nouvelles échelles temporelles pour l'action militaire tout en améliorant la précision des tirs. Elle réduit ainsi le rayon de létalité des armes qu'elle met en œuvre puisque le système de calcul embarqué peut optimiser et ajuster sa réponse en fonction des actions de la cible.
 
 
 
7 - Dans le cadre d'un conflit symétrique opposant deux armées régulières de puissances équivalentes, dotées d'unités de combat robotisées à haut niveau d'autonomie, on peut imaginer qu'une forme de dissuasion technologique s'installe dans un consensus tactique et stratégique. En cas de conflit déclaré, chacune des deux armées engage en premier instance ses unités de combat robotisées. A l'issue du combat, l'armée victorieuse est celle qui a détruit les unités de son adversaire. Il devient alors inutile d'engager une seconde phase de combat opposant les forces armées conventionnelle humaines vaincues aux unités robotisées victorieuses car l'issue d'une telle confrontation serait connue d'avance. La confrontation technologique permettrait d'économiser le prix du sang et de faire émerger une dissuasion technologique produite par la puissance de feu des systèmes d'armes autonomes.
 
 
Notons enfin que ces arguments sont valables sous la nécessaire condition d'un niveau de pertinence de l'intelligence artificielle embarquée au moins équivalent dans ses décisions à celui d'un opérateur humain. Cette précision de bon sens évacue le cas de figure souvent fantasmé d'un robot tueur « à la Terminator » qui tirerait indistinctement sur tout ce qui bouge !
 
En conclusion, espérons que l'Europe ne se lance pas dans une action unilatérale d'interdiction des systèmes SALA alors que d'autres acteurs concurrents refuseraient de le faire. Ce serait une erreur stratégique qui la placerait en situation de dépendance militaire à moyen terme.
 
 
Liens :
 
 
https://m.usbeketrica.com/article/video-robots-tueurs-interdiction?utm_content=buffer9204b&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer
 
 
 
https://www.youtube.com/watch?v=9CO6M2HsoIA

____________________________________________________________________________
Article publié sur le site de l'Auteur:
http://cyberland.centerblog.net/

(Mis en ligne le 25 Novembre 2017)