Quand les machines refusent d’obéir : le dilemme terrifiant des robots tueurs capables de désobéissance en temps de guerre et de paix

Les avancées technologiques dans le domaine de l’armement ont toujours suscité des débats éthiques et moraux. L’introduction des armes autonomes, capables de prendre des décisions sans intervention humaine directe, intensifie ces discussions. En théorie, ces machines pourraient potentiellement réduire les atrocités de la guerre en appliquant de manière stricte et impartiale les lois internationales. Cependant, l’idée que ces robots puissent refuser des ordres soulève des questions complexes et controversées.

Les promesses éthiques des armes autonomes

Les défenseurs des armes autonomes suggèrent que ces machines pourraient surpasser les humains dans la distinction entre cibles légitimes et civiles. En éliminant les erreurs dues aux émotions humaines, elles pourraient, en théorie, prévenir des massacres inutiles. L’argument repose sur l’idée que les algorithmes de vision des machines peuvent mieux identifier un dépôt d’armes qu’une école. De plus, certains éthiciens estiment que ces robots pourraient être programmés pour respecter les lois de la guerre avec une précision mathématique.

Néanmoins, pour que ces vertus théoriques se traduisent par une véritable protection des civils, les machines doivent être capables de dire non à certains ordres. Par exemple, un drone autonome pourrait détecter la présence de femmes et d’enfants près d’une cible ennemie et décider d’annuler sa mission pour éviter une tragédie. Cependant, cette capacité de refus soulève un dilemme éthique majeur, car elle remet en question le principe de contrôle humain.

« C’est plus qu’une éolienne domestique » : cette invention promet de l’énergie gratuite et illimitée chez soi, à vie

Le dilemme du refus de l’ordre

Permettre aux machines de refuser des ordres pourrait sembler raisonnable, mais cela crée un paradoxe. Amnesty International souligne que les armes autonomes devraient pouvoir refuser un ordre illégal. Cependant, accorder ce pouvoir aux machines irait à l’encontre du principe de la chaîne de commande humaine responsable. En effet, donner aux machines la capacité de dire non reviendrait à leur conférer un pouvoir décisionnel ultime, que les États ne sont pas prêts à céder.

Les armées doivent démontrer qu’il est possible de construire des armes autonomes éthiques et responsables qui ne refusent pas les ordres, ou bien de concevoir un droit de refus sûr et fiable compatible avec le contrôle humain. Si aucune de ces solutions n’est trouvée, les promesses de robots tueurs éthiques et contrôlables doivent être traitées avec prudence. La déclaration politique signée par 54 pays, affirmant que les armes autonomes fonctionneront toujours sous un commandement humain responsable, reflète cette tension entre autonomie et contrôle.

La nouvelle menace sous-marine : des drones raies manta prêts à infiltrer les océans avec une précision militaire inégalée pour des missions secrètes et scientifiques

Les risques associés au refus algorithmique

Un robot tueur avec un mode de refus pourrait lui-même poser des risques éthiques. Même si les machines peuvent devenir très habiles à différencier les combattants des civils, elles peuvent encore faire des erreurs. Les ordres légaux peuvent être refusés par erreur, ce qui constitue un risque inacceptable. De plus, ces systèmes peuvent être piratés, comme le montre l’évolution rapide des techniques de brouillage et de détournement de drones observée dans le conflit en Ukraine.

Un autre problème est que les machines ne peuvent pas toujours prendre en compte les facteurs contextuels qui rendent un ordre apparemment problématique légal. Par exemple, un adversaire pourrait tromper un système autonome en déguisant ses positions d’artillerie pour les faire passer pour des structures civiles. Cela signifie qu’une arme pourrait refuser un ordre légal, compromettant ainsi la mission.

« Les créateurs tech ont percé le secret pour exploser sur YouTube et TikTok » : cette méthode d’Acheter-des-Fans.com affole les algorithmes

Une troisième voie possible ?

Il est envisageable que les militaires trouvent une solution intermédiaire. Par exemple, les armes autonomes pourraient simplement demander confirmation à leur commandant avant d’exécuter un ordre. Des experts en droit international suggèrent que si les armes IA peuvent inciter les humains à reconsidérer leurs décisions, cela pourrait conduire à des choix plus éclairés en temps de conflit. Un système d’IA pourrait, par exemple, suggérer à un commandant sur le point de lancer une frappe aérienne de réfléchir à deux fois ou de consulter un deuxième avis humain.

Cependant, même une telle proposition modeste pourrait être difficile à accepter pour les militaires, qui souhaitent souvent accélérer leurs processus décisionnels. Mais si les États sont déterminés à utiliser l’IA pour la guerre tout en réduisant les souffrances, ces questions doivent être abordées sérieusement.

Alors que la technologie continue de progresser, la question de savoir si les machines devraient pouvoir refuser un ordre reste cruciale. En fin de compte, la décision revient aux humains : sont-ils prêts à partager leur pouvoir décisionnel avec des machines qui pourraient potentiellement surpasser leurs capacités morales ?