Un système d’intelligence artificielle (IA) qui interférerait avec un réseau de commandement nucléaire ou lancerait une cyberopération militaire pourrait ne laisser que quelques minutes à Pékin ou Washington pour déterminer si l’autre gouvernement est à l’origine d’une attaque, selon des experts en sécurité américains et chinois.
Ces experts, membres d’un dialogue sino-américain dont les travaux alimentent les discussions officielles, exhortent les deux gouvernements à se préparer à de tels scénarios, dans un contexte d’inquiétudes croissantes concernant des systèmes de plus en plus puissants et autonomes.
Leurs propositions incluent l’établissement de ‘lignes rouges’ autour des systèmes nucléaires, le maintien d’un contrôle humain sur les cyberattaques lourdes de conséquences et la mise en place d’une ligne d’urgence pour les incidents impliquant l’IA autonome.
Ces recommandations ont été publiées la semaine dernière, en amont de discussions gouvernementales prévues sur l’IA et d’une rencontre attendue le 24 septembre 2025 à Washington entre le président chinois Xi Jinping et américain Donald Trump .
Les auteurs Melanie Sisson, chercheuse principale au sein du groupe de réflexion Brookings Institution, et Tianjiao Jiang, professeur associé à l’université de Fudan, ont participé au dialogue sino-américain sur l’IA et la sécurité nationale, organisé depuis 2019 par Brookings et le Centre pour la sécurité et la stratégie internationales de l’université Tsinghua.
Leurs propositions montrent comment la rivalité sino-américaine dans l’IA dépasse désormais la simple compétition sur les puces et les modèles avancés pour aborder des questions de contrôle des armements : comment éviter que des accidents ne soient confondus avec des attaques, limiter les décisions militaires prises par des machines et établir des protocoles de communication pour des rivaux dotés de l’arme nucléaire lorsque la technologie se comporte de manière inattendue.
Le ministre chinois de la Sécurité d’État, Chen Yixin, a écrit cette semaine dans un organe gouvernemental que l’IA ‘transforme fondamentalement la forme de la lutte militaire’. Il a affirmé qu’elle était passée d’un rôle de soutien sur le champ de bataille à un rôle clé, citant des frappes dirigées par l’IA dans le conflit américano-israélien avec l’Iran.
Des lignes rouges autour des systèmes nucléaires
Sisson, de la Brookings Institution, soutient que les humains devraient conserver l’autorité exclusive pour initier des cyberattaques assistées par l’IA contre les systèmes de commandement, de contrôle et de communication nucléaires de l’autre pays, ou contre ses infrastructures stratégiques.
Un système autonome pourrait dysfonctionner, outrepasser ses instructions ou être compromis, tandis que le pays attaqué pourrait peiner à déterminer si l’action était accidentelle ou ordonnée par son rival.
Jiang, de l’université de Fudan, a proposé des lignes rouges explicites empêchant l’IA de décider de manière indépendante d’utiliser des armes nucléaires ou d’attaquer de façon autonome des systèmes de commandement nucléaire, ainsi que des protections autour des infrastructures critiques, notamment l’énergie, la finance et la santé.
Il a également préconisé une définition commune du ‘contrôle humain significatif’ afin d’éviter que les deux pays n’utilisent une terminologie identique pour justifier des niveaux différents d’autonomie des machines.
Cette idée s’appuie sur un principe approuvé par le président américain de l’époque, Joe Biden, et Xi Jinping en novembre 2024, stipulant que les humains doivent garder le contrôle des décisions relatives à l’utilisation des armes nucléaires.
Lora Saalman, chercheuse associée principale à l’Institut international de recherche sur la paix de Stockholm (SIPRI), écrivait en février que cela constituait un point de convergence important entre les États-Unis et la Chine, alors même que les deux pays montrent des signes d’intégration plus profonde de l’IA dans leurs systèmes nucléaires et connexes.
Quand les machines vont plus vite que les humains
Jiang a également proposé une ligne directe militaire dédiée entre les États-Unis et la Chine pour les incidents liés à l’IA, avertissant que les échanges cybernétiques automatisés pourraient s’intensifier trop rapidement pour une intervention humaine.
L’IA défensive d’un pays pourrait répondre automatiquement à une activité suspecte, tandis que l’autre partie pourrait interpréter cette réponse comme une attaque et riposter avant d’avoir compris ce qui s’est réellement passé.
Une ligne directe permettrait à un gouvernement d’informer l’autre qu’une opération inhabituelle de l’IA était accidentelle, non autorisée ou encore en cours d’investigation, avant qu’elle ne soit traitée comme une action étatique délibérée.
Cependant, des experts, dont Carla Freeman de la Johns Hopkins School of Advanced International Studies, ont mis en doute l’utilité de l’actuelle ligne de communication de crise militaire sino-américaine, citant le refus des responsables chinois de répondre aux appels de leurs homologues américains lors de ‘l’incident du ballon espion’ en février 2023.
La hiérarchie rigide et descendante de la bureaucratie chinoise empêche également les officiers de rang inférieur de prendre l’initiative lors des interactions avec leurs homologues américains, a-t-elle écrit dans un article pour War on the Rocks en janvier 2025.
‘Personne dans le système chinois ne veut communiquer avec les États-Unis tant que la haute direction, en consultation avec les acteurs concernés au sein de l’appareil d’État du Parti, n’a pas décidé d’une réponse, ce qui peut prendre des jours, voire plus’, a-t-elle précisé.
Les positions à Pékin et Washington
Aucun des deux gouvernements n’a publiquement approuvé les propositions Brookings-Tsinghua, mais la Chine a de plus en plus intégré l’IA au sein de sa bureaucratie existante de contrôle des armements.
L’IA fait partie du portefeuille formel du département du contrôle des armements du ministère des Affaires étrangères, qui gère également les armes nucléaires, la non-prolifération, les missiles et d’autres questions de sécurité internationale.
Shen Jian, ambassadeur de Chine pour les affaires de désarmement, a déclaré lors d’une réunion de l’Organisation des Nations unies (ONU) à Genève en juin 2025 que l’IA militaire pourrait affecter la stabilité stratégique et accroître les risques d’erreur de calcul et d’escalade des conflits, et que les armes devaient rester sous contrôle humain. La Chine soutient également que la sécurité de l’IA ne doit pas devenir un prétexte à des barrières technologiques.
Washington ne dispose pas d’un organe unique équivalent pour le contrôle des armements lié à l’IA, la politique de sécurité nationale étant répartie entre le Conseil de sécurité nationale de la Maison Blanche, le département d’État, le Pentagone et d’autres agences.
Les deux gouvernements restent méfiants vis-à-vis de mesures qui pourraient ralentir leur propre développement technologique. Trump a averti que des restrictions larges pourraient donner l’avantage à la Chine, tandis que Pékin considère de nombreux contrôles technologiques américains comme des tentatives de préserver la domination américaine.
Avec Reuters