Quartz relaie une mise en garde de Stuart Russell, professeur d’informatique à l’Université de Berkeley et expert en intelligence artificielle réputé, qui se dit profondément préoccupé par l’idée que des chars et d’autres véhicules de combat basés au sol puissent finalement avoir les capacités de tirer par eux-mêmes.

En effet, le Service des contrats de l'armée américaine a demandé aux fournisseurs potentiels du secteur industriel et universitaire de soumettre des idées pour aider à la création de son système ATLAS, pour Advanced Targeting and Lethality Automated System. Ce système utilisera l'intelligence artificielle et l'apprentissage automatique pour fournir des capacités de ciblage à des véhicules de combat au sol autonomes.

Pour Russell, cela est extrêmement inquiétant : "On dirait que nous entrons dans une course aux armements où l'interdiction actuelle de l'autonomie totale et meurtrière sera abandonnée dès que ce sera politiquement pratique de le faire" (Pour le moment, une partie du droit militaire américain impose un certain niveau d'interaction humaine lors de la prise de décision de tir).

Paul Scharre, directeur du programme Technologie et Sécurité nationale a fait des déclarations avec l'intention de tempérer les déclarations alarmistes de Stuart Russell : "ATLAS utilisera un algorithme pour détecter et identifier les cibles et 'seulement des parties du processus de contrôle de tir' seront automatisées".

"Le système devrait idéalement 'maximiser le temps de réponse humaine et permettre à l'opérateur humain de prendre une décision'. Et puis, une fois que l'humain a pris une décision, tirer avec précision. [...] Chaque fois que vous pouvez gagner même une fraction de seconde, c'est précieux" ajoute-t-il.

L’automne dernier, le secrétaire général de l’ONU, António Guterres, a déclaré que "la perspective de machines dotées de la discrétion et du pouvoir de prendre des vies humaines est moralement répugnante". Plus de 25 pays ont appelé à une interdiction des armes autonomes. Cependant, les États-Unis, la Corée du Sud, la Russie, Israël et l'Australie ont freiné des quatre fers et des entreprises de défense, notamment Boeing, Lockheed Martin, BAE Systems et Raytheon, continuent d'investir massivement dans le développement d'armes sans équipage.