Le Comité d’éthique de la défense a récemment approuvé sous conditions les armes létales autonomes. Les systèmes en questions seront acceptables seulement s’ils sont supervisés par l’Homme.
Non aux armes létales autonomes
Alors que l’intelligence artificielle est elle-même une préoccupation éthique depuis plusieurs années, la question des armes létales autonomes (ou « robots tueurs ») est aussi très présente. Depuis 2018, certains pays se sont engagés à ne pas mettre au point ou utiliser de tels engins. Qu’en est-il de la France ? Le 29 avril 2021, le Comité d’éthique de la défense conseillant le ministère des Armées a rendu un avis. Selon le document, l’utilisation par l’armée de systèmes d’armes létales autonomes (SALA) est contraire au principe constitutionnel de nécessaire libre disposition de la force armée. Elle est aussi contraire au principe de continuité de la chaîne de commandement. Le comité estime qu’il ne faut ni fabriquer, ni exporter, ni utiliser de SALA.
Par ailleurs, il faut savoir qu’il n’existe pas de définition universelle des SALA. En effet, il faut croiser plusieurs textes internationaux afin de parvenir à lister leurs caractéristiques. En somme, les SALA sont des systèmes pleinement autonomes. Ces derniers sont capables de définir ou d’altérer le cadre de leur mission sans aucune validation de la part des humains. Ils peuvent donc aussi tuer sans contrôle préalable par l’humain. Précisions également que les SALA n’existent pas encore, mais que leur conception est envisageable à moyen terme.
Un autre type d’arme plus acceptable
Cependant, le comité a affirmé que les systèmes d’armes létaux intégrant de l’autonomie (SALIA) pouvaient être autorisés sous conditions. À l’inverse des SALA, les SALIA ne peuvent pas modifier leurs conditions de fonctionnement de manière autonome. Ils sont donc incapables de prendre la décision de tuer sans contrôle humain.
Le comité a listé les performances, mais aussi les domaines dans lesquels les SALIA pourraient apporter des avantages opérationnels. Il a également souligné l’importance de la mise en œuvre de garanties. Et leur objectif est d’assurer que ces systèmes soient correctement utilisés. Ces garanties établies par le comité englobent les « 5C » : commandement, contrôle des risques, conformité, connaissance et confiance. Ainsi, il apparaît indispensable de maintenir une chaîne de responsabilité et placer les principes éthiques au premier plan ainsi que la question de la formation et de l’entraînement.