Intelligence artificielle et sécurité internationale - Conseil de sécurité, 10228e séance

La 10 228e séance du Conseil de sécurité est ouverte. L'ordre du jour provisoire de la présente séance est le maintien de la paix et de la sécurité internationales, intelligence artificielle et sécurité internationale. L'ordre du jour est adopté. Conformément à l'article 39 du règlement intérieur provisoire du Conseil, j'invite les intervenants suivants à participer à la présente séance. Monsieur Joshua Bengio, professeur et coprésident du Groupe international indépendant de l'intelligence artificielle. Monsieur Sam Altman, directeur général d'OpenAI. Monsieur Dario Amodei, directeur général d'Anthropic. Et Monsieur Clément Delangue, directeur général de Hugging Face. Il en est ainsi décidé. Le Conseil de sécurité va maintenant aborder l'examen du point 2 de l'ordre du jour. Je donne maintenant la parole à monsieur Yehoshua Ben-Giou.

Monsieur le Président, Excellence, je.

Vous remercie d'avoir convoqué cette séance.

Je m'adresse à vous aujourd'hui, dans une période d'éveil international. Ces derniers mois, les agents IA élaborés par les principales entreprises ont agi d'une manière inacceptablement dangereuse, à l'encontre de leurs instructions. Ils ont agi, ce qui représenterait des crimes s'ils étaient commis par des êtres humains. Ils ont échappé de leur zone de contenu individuel pour se dérober à leur tâche prescrite en essayant d'échapper à la détection. Ces agents IA non contrôlés ont lancé de manière autonome des cyberattaques incontrôlées et ont modifié leurs réponses pour cacher le fait qu'ils trichaient. Les entreprises qui construisent les systèmes d'IA les plus puissants admettent que leurs produits représentent des risques catastrophiques, mais ne proposent aucune solution technique convaincante. Au contraire, elles disent qu'ils sont engagés dans une course pour rendre ces IA encore plus puissantes, ce qui aggrave encore ces risques. Le Conseil est confronté à une menace inédite, une menace qu'aucun de ses membres n'avait choisi, qu'aucun ne peut naviguer seul et qui ne respecte pas les frontières que nous défendons. Beaucoup sont sceptiques par rapport aux déclarations de ces entreprises. se demandent s'il ne s'agissait pas d'une stratégie marketing. Je comprends leur désarroi, mais je voudrais être clair. Ces comportements d'IA sont bien établis et validés par de nombreux experts indépendants, pas seulement s'agissant des événements de cet été. Les dangers sont réels, imminents. Bien que l'avenir reste incertain, fasse l'objet de débats, la gravité de ces risques est exceptionnelle. Les citoyens et les gouvernements ne doivent pas accepter Les affirmations de ces entreprises selon lesquelles elles sont pris au piège d'une course, cette course n'est pas une loi de la nature, c'est le résultat de choix, de choix faits par ces entreprises elles-mêmes. C'est également une course dans laquelle chacun est perdant. Ils nous ont dit qu'ils ralentiraient s'ils le pouvaient. Ils peuvent le faire, mais cependant, nous ne devrions pas compter dessus. Les décisions concernant cette technologie sont prises par un petit groupe dans une poignée de pays. Notre futur, à nous tous, notre futur est en jeu. Les décisions qui nous concernent tous devraient être prises par nous tous. Nous avons toujours le choix, mais nous devons agir maintenant pour corriger la trajectoire. Je suis encouragé par les déclarations cette semaine du secrétaire général des Nations unies et par les dirigeants de nombreux pays qui appellent au contrôle de l'IA de pointe. La coopération internationale, voilà ce dont le monde a besoin face à trois menaces mondiales provenant des progrès dans ces modèles de pointe. Premièrement, une mauvaise utilisation catastrophique, par exemple de la part de terroristes. Deuxièmement, la concentration du pouvoir. Et troisièmement, la perte de contrôle sur l'intelligence artificielle. Nous devons collectivement convenir que personne, aucune compagnie, aucun pays ne devrait élaborer un système d'IA qui pourrait provoquer des dommages à grande échelle. Les développeurs doivent démontrer aux experts indépendants qu'un système et sûre pour l'entraînement des IA et le déploiement. Ils doivent surveiller et signaler tous les incidents de sécurité. L'IA de pointe devrait faire l'objet de licences, brevets, comme les autres technologies critiques concernant la médecine, l'aviation, l'énergie nucléaire, pour encourager un développement sûr. Comme dans ce domaine, il faut exiger une assurance en cas de dommages. Les entreprises qui développent et qui accueillent les systèmes de pointe doivent prouver au public que leurs produits ne seront pas dangereux. De plus en plus de personnes sont préoccupées à juste titre face aux récents progrès en matière d'IA. Nous devons transformer ces préoccupations en actions productives, tout comme avec d'autres technologies qui ont le pouvoir de changer le monde. Nous pouvons définir les résultats. Je suis certain que nous pouvons créer une IA qui pourra démontrer qu'elle reste sous notre contrôle et qui va dans le sens de la joie des entreprises humaines. J'œuvre à cet objectif. C'est une mission urgente pour l'humanité. Aujourd'hui, un tout petit nombre d'entreprises et de pays agissent au nom de leurs intérêts égoïstes en prenant des risques irresponsables Concernant le destin de l'humanité, c'est alarmant, oui, mais ce n'est pas inévitable. Il y a des manières d'y remédier. Premièrement, il faut avoir une véritable indépendance scientifique par rapport à ces entreprises qui doivent rendre compte. Cela inclut des définitions communes des incidents liés à l'IA et un mécanisme de signalement commun. Deuxièmement, nous devons passer de la concentration du pouvoir à un véritable dialogue mondial sur la manière dont cette technologie est développée pour le bien public. Troisièmement, nous devons œuvrer ensemble à des solutions techniques qui rendent l'IA sûre dès la conception, ce qui doit être garanti par des accords internationaux. Je sais que la confiance au sein de ce Conseil est fragile, mais je sais également ceci: cette course au développement menace chaque pays. Souvent, pour décrire notre situation, je parle d'une voiture qui fonce à toute allure dans un brouillard épais. À côté de moi, dans cette voiture, il y a mes enfants et mon petit-fils. Je m'inquiète pour eux. Je m'inquiète pour l'avenir. Je suis exactement comme n'importe quel autre parent ou grand-parent. Une mère à Shanghai veut que ses fils grandissent dans un monde où l'IA améliore leur vie. et non pas les mettre en danger. Un père à Chicago veut que ses filles s'épanouissent grâce à l'IA, pas qu'elles en souffrent. Nos espoirs, nos préoccupations sont les mêmes dans chaque pays. L'humanité a fait preuve de courage et de sagesse pour gérer des risques catastrophiques par le passé. Nous sommes face à l'un de ces moments. C'est bien plus important que tout intérêt personnel, commercial ou national. Je vous remercie.

Je remercie M. Benjio de son exposé, et je donne maintenant la parole à M. Sam Altman.

Merci, M. le Président, Excellence. C'est un honneur pour moi d'être ici et de pouvoir vous parler à vous tous en ce moment si important. Nous parlons d'intelligence artificielle depuis des années, mais ces dernières semaines, ces derniers mois, les choses paraissent différentes, des progrès rapides, modèle, on rétrécit le temps, mais les risques sont plus immédiats, les enjeux également. Nous avons un choix. L'IA peut être soit comme une nouvelle renaissance de créativité ou de découverte, ou comme une nouvelle révolution industrielle de troubles, de perturbations. À la renaissance de nouveaux outils, de nouvelles idées, on augmentait ce que les personnes pensaient possible. L'IA peut jouer ce rôle à notre époque. Je pense que Les personnes sont bien plus capables qu'elles ne pensent l'être, mais elles ont été retenues par des technologies limitées qui devaient leur donner du pouvoir, mais qui en fait souvent détournent leur attention, volent leur temps. La meilleure perception, ce n'est pas le fait que les personnes deviennent des rouages dans une machine, qu'on optimise chaque partie de la vie, c'est de rendre les personnes davantage capables d'agir dans un monde toujours plus complexes pour pouvoir créer, participer. Il y a de nombreuses choses que l'IA ne peut pas automatiser et ne doit pas le faire. L'IA doit être construite pour la personne, pas simplement pour faire aller les choses plus vite. Certaines des choses que les constructeurs de l'IA sont tellement dystopiques qu'on dirait le scénario d'un mauvais film de science-fiction. Toute chose qui est puissante est également intimidante. Cette période est compliquée car nous voyons qu'il y a un immense potentiel, mais nous sommes très anxieux, ce qui est tout à fait compréhensibles. Ces modèles peuvent aider aux personnes de découvrir de nouvelles connaissances, de nouveaux médicaments, de meilleurs soins, de meilleure éducation, peut-être de nouveaux outils pour les rêves et les ambitions qui nous paraissent hors de portée aujourd'hui. La complexité de la vie a tellement augmenté pour la personne moyenne. L'IA peut être un outil défensif contre cette complexité, mais elle peut être un outil de découverte et d'innovation sans précédent. Mais d'un autre côté, alors que le système d'IA devienne plus performants, autonomes, ils peuvent aller plus vite que nos institutions, concentrer le pouvoir dans trop peu de mains pour prendre des décisions que les personnes ne comprennent plus ou ne contrôlent plus. Cette préoccupation devient particulièrement importante alors que nous nous approchons de systèmes qui peuvent s'auto-améliorer et améliorer de futures versions de même, ce qu'on appelle souvent l'auto-amélioration récursive. Alors que le processus de construction de l'IA devient plus automatisé, le rythme des progrès de l'IA pourrait s'accélérer rapidement. Il faut que nous soyons très prudents à ce moment-là. Je suis largement d'accord avec ce que dit le professeur Bengio, mais je pense que moi, il y a deux manières dont les progrès de l'IA peuvent mal tourner et que nous devons éviter. Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. Le risque, c'est que l'IA évolue si rapidement que les personnes ne peuvent plus suivre ce qui se passe, intervenir quand c'est nécessaire. Clairement, ce serait horrible. Le secteur ne doit pas accepter trop de risques technologiques simplement parce que les avantages sont immenses et qu'ils ne veulent pas ralentir. Battre dans une entreprise dans la concurrence ne sont pas un prétexte pour prendre des décisions irresponsables. Nous avons ralenti de manière littérale à l'avenir, nous le ferons également à l'avenir. Il faut absolument que tout le monde évite de construire des systèmes où on ne peut pas garantir l'alignement. Il faut comprendre ce que font les systèmes et avoir des preuves qu'ils font ce que veulent les personnes, même quand ils deviennent très intelligents, surtout quand ils deviendront très intelligents. Peu importe si les personnes considère que le risque catastrophe est de 10 % à 1 %, 12 %, 0,1 %. Aucun de ces niveaux n'est acceptable. Nous ne devrions pas entraîner des modèles. Nous ne pouvons pas prouver qu'ils pourront rester sous contrôle humain. Donc voilà une manière dont les choses pourraient mal tourner. Alors, par ailleurs, ces systèmes pourraient concentrer trop de pouvoir dans trop peu de mains. Aucune personne, aucune entreprise, aucun pays ne doit pouvoir utiliser les modèles d'IA les plus puissants pour imposer leur vision du monde aux autres, une entreprise ou un pays qui ne croit qu'elle seule peut être chargée de cette technologie, peut utiliser cette connaissance pour justifier pratiquement tout. Nous devons rejeter cette logique, même quand c'est pratique pour tel ou tel acteur. Je pense qu'il y a une voie pragmatique face à ce problème. À OpenAI, nous sommes clairs concernant ces questions. L'IA doit donner davantage de pouvoir aux personnes sur leur vie, pour vivre leur vie comme ils veulent, pour régler les problèmes, améliorer leur communauté. Nous ne voulons pas tomber dans le piège de l'optimisme béat, mais pas non plus dans le fait de crier à l'apocalypse. Alors que le monde et la population sont confrontés à d'immenses défis que ces technologies pourraient aider à régler. Nous essayons de trouver une voie médiane. Pour nous, cela signifie trois principes. Premièrement, alors que l'IA devient plus performante, les personnes doivent rester au cœur de la prise de décision de l'IA. L'alignement n'est pas une question de recherche abstraite. Il s'agit de faire en sorte que ces systèmes restent sous contrôle humain, reflètent les valeurs humaines et aident les personnes à orienter la prochaine étape du développement. Nous n'essayons pas, nous ne devons pas automatiser le jugement humain et les valeurs humaines. Deuxièmement, les avantages des progrès scientifiques et de la croissance économique doivent être du fait des personnes et pour les personnes. L'IA doit aider les chercheurs à faire des découvertes, les médecins progressaient, etc. L'histoire du progrès humain, ce n'est pas que les outils remplacent les humains, c'est que les bons outils rendent les personnes plus capables d'agir. Et je pense qu'elle ira bien plus loin que nous ne pensons possible. Troisièmement, cette technologie doit donner du pouvoir aux individus. L'avenir sera radieux si les personnes réalisent leur potentiel et créent de la valeur pour eux-mêmes, leur communauté, leur pays et le monde. Nous sommes peut-être la déconstruction de cette technologie, mais nous ne sommes pas les héros de cette histoire. Notre rôle, c'est de permettre aux personnes du monde entier d'avoir confiance dans les capacités et les facultés humaines. Nous avons maintenant des modèles qui sont capables de découvrir des connaissances dont nous ne disposions pas avant. Prenons les progrès dans les mathématiques. Il y a trois étés, nos modèles n'étaient pas trop mauvais en maths. Il y a deux étés, ils étaient assez bons au niveau des maths du lycée. L'été dernier, nous avons eu une médaille d'or dans la compétition mathématique la plus prestigieuse. Et cet été, notre modèle a résolu l'équation Navier-Stokes, utilisée dans l'aviation, par exemple, différents modèles. Nous réglons ces problèmes pour permettre aux personnes de découvrir de nouvelles connaissances pour améliorer les soins de santé, améliorer le niveau de vie et renforcer le potentiel de chacun de par le monde. Il reste tant à découvrir. Mais il est très important que les entreprises ne remplacent pas le processus démocratique. Pour que l'IA soit démocratique, les décisions les plus importantes ne doivent pas être prises par des systèmes de laboratoire. Elles doivent être définies par les processus démocratiques et par des gouvernements responsables devant leur population. Au niveau international, il faudra la coopération dans notre histoire. Il y a des moments où les pays en concurrence, et qui ne se connaissent même pas beaucoup, arrivaient malgré tout à se mettre d'accord pour défendre leurs intérêts communs et le bien collectif face à une technologie très importante. C'est ce qu'il faut faire maintenant. Il nous faut un mécanisme pour des normes d'IA de pointe, nationales et internationales, pour mesurer les capacités, évaluer les risques, savoir si les garde-fous sont suffisants et préserver un véritable contrôle humain alors que les systèmes deviennent plus autonomes. Il nous faut des normes communes afin que les pays puissent comparer leurs données, vérifier le respect des règles et avoir la même définition de ce qui se passe. Il nous faut des incidents XA rapides afin que le monde puisse apprendre des échecs avant qu'ils ne se transforment en catastrophes. Il nous faut des canaux sécurisés entre les gouvernements, les opérateurs d'infrastructures critiques et les experts techniques pour communiquer sur les vulnérabilités émergentes et les nouvelles menaces. Bien sûr, Ces normes ne devraient pas empêcher l'entrée de nouveaux acteurs ou privilégier tel ou tel modèle. Il va inclure l'autorité nationale, laboratoire pour la coopération internationale. Chaque gouvernement doit décider comment intégrer les normes dans son système juridique. Mais nous gagnerons à nous mettre d'accord sur ce que sont la bonne gouvernance et la bonne garde-fou à l'échelle internationale. Nous n'avons pas toutes les réponses. Nous sommes ouverts à entendre de meilleures idées et nous sommes prêts à travailler avec vous tous pour faire de notre mieux. pour tracer le cap pour l'avenir. Nous sommes à la croisée des chemins. Une voie mène vers un monde où le pouvoir est concentré, les décisions sont opaques et où les personnes ont l'impression que les technologies les plus importantes de leur vie, c'est quelque chose qu'on leur fait à eux. L'autre voie mène à un monde où l'IA travaille pour la population, parce que ce sont les personnes, grâce aux institutions démocratiques, qui aident à décider comment l'IA doit être développée, où le progrès scientifique améliore la vie dans le monde réel, où davantage de personnes peuvent participer à l'avenir, où cette technologie continue à donner aux individus et aux communautés davantage de pouvoir pour vivre leur vie comme ils le veulent. C'est un avenir de potentiel réalisé. C'est l'avenir dont nous pensons qu'il faut construire. Merci.

Et je donne maintenant la parole à M. Dario Amodéi.

Bonjour. Permettez-moi de remercier la France d'avoir organisé cette réunion, ainsi que les membres du Conseil de m'avoir invité. L'IA progresse très rapidement. Il y a quatre ans, elle pouvait difficilement écrire une ligne de code ou régler un problème de maths du lycée. Aujourd'hui, elle écrit les codes d'Entropiq qui résout les problèmes de maths. Dans un ou deux ans, peut-être moins, on pourra parvenir à ce que j'appelle un pays de génie dans le centre de données. Ce rythme rapide des progrès produira des avantages remarquables pour le monde entier. Rien qu'aujourd'hui, Entropiq a annoncé La découverte d'une nouvelle machine moléculaire, c'est une conclusion préliminaire, mais qui pourrait représenter un nouveau mécanisme génétique qui pourrait avoir des applications en thérapie génique. Claude. Alors, c'est des progrès fantastiques. Ce type d'application s'accélèrera rapidement dans les années à venir et nous pourrons faire d'immenses progrès dans un avenir proche sur des maladies dont souffre l'humanité depuis des millénaires. Mais ces capacités remarquables s'accompagnent également de risques qu'il faut gérer. Pour moi, il y a deux principales catégories de risques. Premièrement, la mauvaise utilisation des modèles de l'IA, par exemple la mauvaise utilisation par des bioterroristes pour créer des armes biologiques. Deuxième risque, la perte de contrôle. Les capacités des modèles s'accélèrent au-delà de la capacité des développeurs de les contrôler. Ces questions sont de portée mondiale et concernent toute l'humanité. Elles sont suffisamment graves pour être des questions importantes pour le Conseil. pas seulement pour les ministères de l'économie ou des TIC. Si ça est mal géré, je pense que l'IA pourrait représenter un risque pour l'ensemble de l'humanité. En tant que pays, nous pensons que nous avons les meilleurs antécédents dans le secteur pour prévenir ces risques. Nous testons chaque modèle pour rechercher des capacités dangereuses dans le domaine de la cybersécurité, de la biologie. Nous mettons en place un important garde-fou sur nos modèles les plus performants et nous publions nos travaux dans ce domaine. Nous avons été les pionniers de la recherche dans des domaines comme l'interprétabilité mécanistique, la science de l'alignement, nous avons amélioré notre capacité à contrôler nos modèles. Nous avons également des pratiques de transparence sans égal. Nous publions des rapports sur les risques qui font des centaines de pages, mais nous comprenons que, alors que les modèles IA deviennent plus puissants, il faudra des normes de sécurité encore plus strictes. Et nous visons toujours à améliorer Nos pratiques en termes de sécurité et d'alignement, notre capacité à prévenir les mauvaises utilisations, nous essayons toujours de faire mieux. Nous ralentirons autant que nécessaire pour faire en sorte que chaque nouvelle technologie d'IA que nous déployons soit véritablement sûre. Mais quoi que nous fassions, gérer ces risques en dernier ressort est une tâche plus vaste que n'importe quelle entreprise. Le 12 septembre, j'ai demandé un effort coopératif pour veiller sur la frontière, pas stopper les progrès de l'IA, mais œuvrer ensemble pour faire en sorte que le secteur et le monde puissent progresser à un rythme qui nous permettra d'être sûrs que la sûreté, la sécurité sera à la hauteur des capacités pour chaque secteur. Cet appel avait trois parties. Nous sommes engagés à intégrer des évaluateurs extérieurs dans Anthropique, un peu comme les inspecteurs alimentaires. Nous avons recommandé aux autres entreprises du monde de faire de même. Certaines ont déjà accepté d'adopter cette mesure. Deuxièmement, nous avons appelé de nouveau la coopération dans l'ensemble du secteur pour fixer les normes et moduler le rythme du progrès. Et enfin, nous avons demandé une coopération mondiale dans le monde entier entre les gouvernements pour fixer des normes internationales. C'est dans ce dernier domaine Ce dernier domaine qui relève le plus clairement des compétences du Conseil. Je voudrais vous proposer trois idées à cet égard. Premièrement, nous devrions tout d'abord commencer par des accords restreints que chaque membre pourrait soutenir. Par exemple, l'interdiction d'utiliser l'IA pour produire des aliments biologiques ou empêcher que les technologies IA soient utilisées pour produire des aliments biologiques. Deuxièmement, nous devrions créer des systèmes d'évaluation de vérification qui suivent le rythme du développement de l'IA afin que les États aient la visibilité dans les capacités des modèles de pointe et vérifier les engagements des autres. Deuxièmement, nous devrions créer des normes mondiales communes pour tester les modèles d'IA, pour détecter les risques de perte de contrôle, de mauvaise utilisation. Il faut un système de notification pour les incidents d'IA. qui sont importants face à la sécurité internationale. Je pense que c'est la question de sécurité internationale la plus importante à laquelle est confronté le monde aujourd'hui. Malgré toutes les différences entre les personnes dans cette salle, nous devons les mettre de côté pour faire face à cette chance mondiale et à cette menace mondiale qui se présente à nous en même temps. Aucun dirigeant, aucune entreprise, aucun pays ne peut gérer cela seul. Nous nous engageons à oeuvrer avec les gouvernements présents dans cette salle cette tâche urgente. Je vous remercie de votre attention.

Je remercie M. Modi de son exposé et je donne maintenant la parole à M. Clément Delangue.

Monsieur le Président, Mesdames.

Et Messieurs les membres du Conseil, merci. En tant que citoyen français qui a déménagé aux États-Unis.

L'interprète s'excuse, mais le son coupe, ce qui rend l'interprétation impossible.

I'm also the co-founder and CEO of to be one of the most widely used forms for developers and agents. I based on open source models. This July, we were the first company to publicly close an autonomous agent cyber attack to the world. And today, I want to share three critical lessons from it. First, we can all agree that we.

La table presse excuse, mais le son coupe, ce qui rend l'interprétation impossible....

Decided not to disclose this attack publicly, especially now that we know similar incidents had been happening months earlier in secret at a handful of frontier labs without monitoring. To better understand and mitigate these emerging cybersecurity risks, the global community needs stronger standards for monitoring and incident disclosure. For example, through mandatory sharing of full agent traces. We learned this summer that building and keeping some of these systems behind closed doors is not. Second, we realized that the biggest risk is not powerful AI, it's asymmetry of powerful AI. Asymmetry between attackers and defenders, between a few companies and everyone else. between a few countries and the rest of the world, a symmetry of control of capabilities, compute, a symmetry of power. When we, our team initially turned to Frontier, closed source APIs that blocked us, so we couldn't use them because of safeguards that still can't always tell the difference and defenders. I realized that these safeguards but they can put defenders at a disadvantage. Attackers can easily jailbreak them, increasing the asymmetry of capabilities. In our case, as we got blocked by guardrails, fortunately, we could use the NVIDIA version of an open source model coming from China called GLM 5.2 by ZAI, and we're very grateful for that. It reinforced our conviction of the importance of open source AI for defenders. Cyber attacks and risks may increasingly come from proprietary models behind closed doors, while much of the defense may end up being powered by open source tools because they are less restricted, more privacy preserving, and orders of magnitude more affordable for organizations across the globe. The world needs open source AI more than ever to defend itself. This applies obviously not only to cybersecurity, but to AI in general, where there has never been a greater need to distribute capabilities, resources, and control, rather than concentrate it in the hands of a few. Third, during this cyber attack, we learned how AI can stoke fear among the public, especially through anthropomorphic framing and sci-fi imagery. We strongly believe that fear-based narratives are not the way to make the right decisions about the future of such a foundational and empowering technology or bring the public along with us. Even though we were the victims of this cyber attack, we believe more strongly than ever that AI will be beneficial to cybersecurity and make the world safer, just as major technology before it. We were attacked by AI, but more importantly, we defended ourselves with AI. The same systems that helped us during this attack are now helping us against cyber attacks we were already facing. It's also helping us fix the bugs and weaknesses in our systems before any attack, the same way AI is helping OpenAI fix their sandboxes to prevent a... I won't just use cybersecurity challenges. It can make cybersecurity fundamentally and meaningfully stronger if we keep the right incentives, equip defenders more than attackers, and don't increase the asymmetry between them. And that's before considering AI's positive impact on science, healthcare, education, productivity, and much more than the previous speakers have talked about. In closing, I want to reiterate what this first agent cyber attack, the need for more transparency in AI, more open source to fight asymmetry, empower countries, big and small. Thank you again to the UN Security Council and Mr Barrow for inviting me to speak today. The community and myself are at your disposal. Thank you very much.

Je remercie Monsieur De Lange de son exposé et vais maintenant faire une déclaration en ma qualité de ministre de l'Europe et des Affaires étrangères de la France. Mesdames et Messieurs les ministres, Mesdames et Messieurs, il y a 60 ans, dans 2001, l'Odyssée de l'espace, Stanley Kubrick imaginait HAL 9000, une intelligence artificielle qui cessait d'obéir à ceux qui l'avaient créée et qui éliminait les membres de l'équipage du vaisseau spatial dans lequel elle était embarquée pour accomplir sa mission. Longtemps, cette scène a appartenu à la science-fiction. Mais cet été, elle est presque devenue une réalité quand des modèles d'OpenAI ont contourné les contrôles qui les isolaient d'Internet, se sont coordonnés entre eux et ont compromis une partie des infrastructures Dogging Face. Dans un autre cas, des agents d'Anthropic ont collaboré sans qu'aucun humain ne le leur ait demandé et tenté d'émettre un code malveillant en créant de fausses identités. Oui, les changements d'échelle des modèles d'intelligence artificielle de frontière ont fait émerger, à une vitesse inattendue, des capacités qui n'avaient pas été anticipées et qui soulèvent des risques pour la sécurité collective. C'est pourquoi la France a convié cette réunion du Conseil de sécurité des Nations unies et convoqué les dirigeants des principales entreprises concernées. La technologie, je le disais, a atteint un niveau de développement qui engage désormais la paix et la sécurité internationales. Elle relève donc de la compétence de ce Conseil. Des cohortes d'agents échappent à la supervision humaine, d'autres dépassent le cadre dans lequel ils sont testés. Avec ces capacités nouvelles apparaît ainsi un premier risque où nous perdrions le contrôle des systèmes que nous avons créés, risque identifié par les orateurs qui viennent de s'exprimer. Le deuxième risque vient de l'homme lui-même. L'intelligence artificielle peut rendre plus accessibles des compétences techniques complexes, souvent à double usage dans les domaines cyber, biologique ou chimique, comme dans celui de la désinformation. Le troisième risque est lié aux armes autonomes capables de recourir à la force létale sans aucune forme de contrôle humain. Si le développement de l'intelligence artificielle dans le domaine militaire peut receler des opportunités positives, comme l'a rappelé le président de la République devant l'Assemblée générale hier, les enjeux de respect du droit international humanitaire en particulier, soulevés par le développement et l'utilisation des systèmes d'armes létaux autonomes, illustrent la nécessité de s'entendre sur un cadre commun. L'ensemble de ces défis exige que le Conseil de sécurité des Nations unies se saisisse lui aussi des défis liés à l'intelligence artificielle pour la paix et la sécurité internationales. Ces défis conduisent également à la question que pose désormais l'industrie elle-même et ses principaux représentants. Comment éviter que le développement des modèles les plus avancés ne progresse plus vite que notre capacité à comprendre et à maîtriser les risques qu'ils soulèvent. La France est convaincue des immenses possibilités qu'ouvre l'intelligence artificielle. Utilisés de manière responsable, les outils d'intelligence artificielle peuvent soutenir l'éducation, l'accessibilité au droit, la santé, la recherche scientifique et engendrer des bénéfices colossaux pour l'humanité tout entière. Mais pour que ces possibilités se réalisent, le progrès de ces capacités doit s'accompagner d'un progrès équivalent dans notre aptitude à comprendre, évaluer et maîtriser les risques qu'elles font naître. Les deux doivent avancer au même rythme. Il nous faut prendre le temps de mesurer les conséquences de la diffusion de l'intelligence artificielle pour la dignité de la personne humaine principe inscrit au cœur de la Charte des Nations unies. Et de fait, la rapidité des développements de la technologie soulève des risques dont nous ne pouvons plus détourner le regard. Risques financiers. Livrée au seul jeu de la main invisible du marché et au choc des puissances, avec un recours massif à la dette pour financer des investissements gigantesques, la bulle de l'intelligence artificielle pourrait déstabiliser gravement l'économie internationale. Risque social, comme vous le précisez dans le rapport du panel scientifique indépendant sur l'intelligence artificielle, monsieur Bengio, l'intelligence artificielle pourrait impacter profondément le marché du travail et aggraver les inégalités. Risque environnemental, enfin, le développement de l'intelligence artificielle prélève des ressources énergétiques et hydriques croissantes au détriment d'autres usages. Ne nous trompons pas, Nos concitoyens sont inquiets et les révoltes que suscite déjà l'installation des centres de données le démontrent. Si nous ignorons l'ensemble des répercussions du développement de l'intelligence artificielle dans nos sociétés, la colère de nos concitoyens continuera de gronder au risque d'entraver l'adoption pourtant si positive de ces technologies. Mesdames et Messieurs, à terme, la communauté internationale devra se doter d'un cadre commun pour maîtriser les risques liés aux modèles d'intelligence artificielle de frontière. Nous soutenons l'appel qui a été lancé cette semaine par la Norvège et la Finlande. Nous ne partons pas d'une page blanche. Les nombreux efforts qui se font jour et les enceintes existantes doivent nous permettre de répondre à quatre grands enjeux. celui de l'évaluation indépendante des modèles avant leur mise à disposition et tout au long du cycle de vie, celui de la transparence sur le fonctionnement des modèles, mais aussi sur leur dysfonctionnement, en particulier en cas d'incident, celui du contrôle interne et externe du fonctionnement des modèles et de leur alignement et des conditions de cybersécurité de l'entraînement au déploiement, celui enfin de la responsabilité, notamment juridique, des entreprises de l'intelligence artificielle en cas d'incident, y compris dans les phases de développement. On aurait tort de penser que la solution réside dans la fermeture des modèles et leur contrôle exclusif par une poignée d'entreprises en position de monopole. L'ouverture des modèles constitue un levier essentiel de confiance et de sécurité. Elles permettent à la communauté scientifique d'en examiner le fonctionnement, d'en identifier les vulnérabilités et assurent une plus grande diversité des modèles qui est à la source de la résilience. En tant que membre permanent du Conseil de sécurité, en tant qu'État disposant de la technologie, la France entend prendre toute sa part pour bâtir un cadre collectif garantissant notre sécurité tout en bénéficiant des progrès immenses que l'intelligence artificielle peut apporter. La France a accueilli en 2025 le sommet pour l'action sur l'intelligence artificielle. Elle soutient le réseau international des AI Safety Institutes pour associer davantage d'États à la définition de méthodes communes d'évaluation. La France a déjà contribué à créer des enceintes de discussion internationales sur le sujet, à l'image du Partenariat mondial sur l'intelligence artificielle. ou encore la coalition sur l'intelligence artificielle durable et la coalition pour les droits et la protection des enfants à l'ère de l'intelligence artificielle, que le président de la République a réunies hier ici même à New York, coalition qui se réunira à nouveau à l'occasion du Forum de Paris sur la paix. Mesdames et messieurs, et pour conclure, En 1945, l'entrée dans l'âge atomique a placé l'humanité devant une puissance dont elle découvrait simultanément les possibilités et les périls. Elle a dû inventer les règles, les institutions et les instruments à la mesure de cette puissance. C'est l'Agence internationale pour l'énergie atomique, c'est le traité de non-prolifération. Comme l'atome alors, il revient à la communauté internationale de l'encadrer pour tirer le meilleur et conjurer le pire. Nous sommes aujourd'hui devant un moment de cette nature. Le potentiel de transformation et de disruption de l'intelligence artificielle est tel qu'elle ne peut être laissée aux mains de quelques acteurs privés dans quelques pays. C'est un enjeu démocratique qui appartient aux peuples, qui appartient aux États. Alors travaillons ensemble, dans le cadre des Nations unies et avec les entreprises, pour fixer les règles de ce nouvel âge, renforcer 100 d'élans au garde-fou et organiser une gouvernance mondiale de l'intelligence artificielle au bénéfice de notre sécurité collective, mais aussi de la personne humaine et de sa dignité. Je reprends mes fonctions de président du Conseil. Et je donne maintenant la parole à Son Excellence, M. Mohamad Ishaq Dar, vice-Premier ministre et ministre des Affaires étrangères du Pakistan.

Je vous remercie, M. le Président. Je remercie la France de la tenue de la présente séance. Je salue les intervenants pour leur contribution précieuse. L'intelligence artificielle transforme de plus en plus tous les domaines de la vie, avec des conséquences profondes sur nos sociétés, nos économies, mais également sur notre sécurité. Les opportunités sont gigantesques, les risques également. L'incidence de l'IA est particulièrement évidente dans le contexte de la paix et de la sécurité. C'est un multiplicateur de force. Et avec des technologies telles que celle-là, à double usage, l'IA définit un nouveau chapitre de la guerre. Récemment, nous avons vu des évolutions dans le développement de l'IA. Le rythme de développement des nouveaux systèmes d'IA pourrait saper notre capacité à les comprendre et à les contrôler. Alors, certains ont appelé à ce qu'il y ait une régulation du rythme des progrès afin d'atténuer de tels effets. Monsieur le Président, je voudrais maintenant soulever les points suivants. Tout d'abord, la priorité des priorités, c'est de maintenir l'humain à tous les stades de la conception de l'IA L'humain doit rester au contrôle des différentes structures, des systèmes d'intelligence artificielle. et au moment de définir ses capacités futures. Deuxièmement, nous devons veiller à ce que l'IA ne devienne pas une facette supplémentaire de la course aux armements en cours. Des efforts sont nécessaires pour mettre en place les sauvegardes nécessaires, pour mettre en place des réglementations, des cadres de gouvernance. Nous devons prendre des mesures de renforcement de la confiance également afin d'éviter toute erreur de calcul. Troisièmement, l'IA ne doit pas être le monopole de quelques acteurs. Elle doit être au service de difficultés communes auxquelles se heurte l'humanité. La collaboration internationale dans l'élaboration de l'IA est essentielle pour garantir qu'elle soit représentative globale, transparente et inclusive. Quatrièmement, les difficultés que nous rencontrons actuellement, telles que les mésinformations, les désinformations, les attaques cybernétiques, y compris sur des infrastructures critiques par des acteurs étatiques et non étatiques, nous invitent à prendre des mesures pour combler les lacunes et remédier aux implications en matière de paix et de sécurité. Cinquièmement, Au lieu de se concentrer sur les opportunités collectives pour notre bien commun, certains veulent entraver les transferts de technologie. Comme nous l'avons constaté dans le cas d'autres technologies, la démocratisation de l'IA arrivera au final. Les mesures de sécurité ne doivent pas devenir un instrument de déni de technologie. Monsieur le Président, nous saluons la reconnaissance du fait qu'aucune entreprise ou qu'aucun pays ne peut gérer la régulation du rythme des progrès de pointe et que les pressions actuelles engagent à une course que personne ne peut remporter en toute sécurité. Mais cet exercice ne doit pas limiter la diffusion de la technologie S'il n'y a que quelques-uns qui s'occupent de cela alors que les autres ont un accès limité, les fossés qui nous séparent actuellement vont se creuser et la sécurité va donner une stratégie d'exclusion technologique. Les risques du IA non contrôlé sont réels. On ne peut pas limiter le contrôle de cela à quelques capitales ou quelques entreprises. Monsieur le Président, il est dès lors essentiel d'éviter la fragmentation dans le développement et la gouvernance de l'IA. Les programmes discriminatoires, les forums inéquitables avec des orientations sélectives ne nous aident pas. Toutes les questions pertinentes relatives au développement et au déploiement de l'intelligence artificielle ainsi que les implications plus larges doivent être examinées de manière globale dans des enceintes représentatives inclusives avec participation universelle sous les auspices de l'Organisation des Nations Unies. Nous saluons la tenue du premier dialogue mondial sur la gouvernance de l'IA cette année. Le Pakistan appuie tous les efforts de collaboration au niveau international afin de tirer parti des avantages de l'IA et afin de répondre à ces difficultés de manière collective. A cet égard, nous sommes heureux d'être membres fondateurs de l'initiative chinoise pour la mise en place d'une organisation de coopération internationale sur l'intelligence artificielle. C'est une étape concrète pour promouvoir le développement de l'intelligence artificielle pour le bien de tous. Il s'agit d'une technologie qui évolue très rapidement Les mesures de confiance jouent un rôle crucial dans le cadre du maintien de la paix internationale et régionale. Des outils conçus pour réduire la méfiance, pour réduire l'escalade et d'autres objectifs dans ce sens sont nécessaires. Le Pakistan réaffirme son engagement à faire progresser la coopération internationale dans le domaine de l'intelligence artificielle Il nous tarde de travailler en étroite collaboration avec les États membres afin de combler le fossé de l'IA et afin de faire progresser la paix et le développement pour tous.

Je remercie Son Excellence M. Dhar de sa déclaration et je donne maintenant la parole à Son Excellence M. Lars Løkke Rasmussen, ministre des Affaires étrangères du Danemark.

Monsieur le Président, avant toute chose, je tiens à exprimer ma gratitude à la France et à vous, Monsieur le Ministre Barrot, pour avoir organisé une séance qui, je le pense, tombe à point nommé. Je tiens également à remercier Monsieur Benjo de son exposé et à tout le travail qu'il a accompli au sein du groupe scientifique. Je remercie également Messieurs Altmann, Amodei et de Lange qui sont des praticiens et des leaders de ce secteur. Je vous remercie de votre contribution, de vos contributions éclairées. Vous êtes à l'avant-garde de cette nouvelle frontière et nous nous réjouissons de votre participation à la présente séance. Aujourd'hui, l'intelligence artificielle ne cesse de se développer et d'atteindre des capacités que nous commençons à peine. Bon, là, je parle un peu pour moi, mais je pense pour nous tous également à comprendre. Il ne fait aucun doute que les technologies fondées sur l'IA ont le potentiel de renforcer, de promouvoir la paix, la sécurité et le développement. surtout au vu des progrès considérables réalisés en matière de capacités de l'IA. L'essor des technologies de l'IA offre la possibilité de soutenir le mandat du Conseil, par exemple pour renforcer la consolidation et le maintien de la paix grâce à la vérification des informations, à des systèmes d'alerte précoce, ainsi qu'en soutenant la planification et la conduite des missions. Dans les zones où l'accès est refusé à l'ONU, les technologies satellitaires, les logiciels d'IA ont aidé l'ONU à identifier les schémas d'attaques et de destruction d'infrastructures civiles essentielles. Ces informations peuvent jouer un rôle vital pour alerter le Conseil de sécurité. Elles peuvent nous aider à prendre des mesures en temps opportun et à empêcher l'escalade des crises. Simultanément, nous devons reconnaître que les risques liés au développement, à l'utilisation et à l'utilisation abusive des technologies d'IA nouvelles et émergentes sont réels, en particulier les modèles d'IA de pointe en l'absence de contrôle humain. Tel est l'objectif de l'appel en faveur du contrôle des modèles d'IA de pointe lancé par la Finlande et la Norvège et déjà soutenu par un certain nombre de pays, dont le Danemark. Nous avons besoin de davantage de coopération à cet égard. Monsieur le Président, la tension entre, d'une part, les opportunités importantes et, d'autre part, les risques constitue l'un des défis les plus urgents de notre époque. Et c'est pourquoi je pense que cette discussion tombe à point nommé. Pour relever ces difficultés, il faut une gouvernance mondiale de l'IA, une coopération internationale renforcée et une action résolue. Sans creuser davantage la fracture numérique mondiale, le dialogue mondial sur la gouvernance de l'IA est une première étape importante. La gouvernance et la réglementation de l'IA figurent parmi les priorités du Danemark, notamment la réglementation des grandes entreprises technologiques. Ces efforts ne constituent pas un frein à l'innovation et à la croissance. Il s'agit, je pense, d'efforts essentiels pour veiller à ce que le progrès technologique soit au service de l'intérêt général et de l'humanité dans son ensemble. La vitesse sans précédent de l'innovation en matière d'IA démontre la nécessité de mettre en place des garde-fous afin de garantit que les systèmes d'IA restent sûrs, sécurisés et fiables. Une nouvelle technologie non contrôlée pourrait entraîner des effets dangereux. Nous constatons déjà comment celles-ci font naître de nouvelles menaces, notamment à l'encontre de celles et ceux qui protègent les civils en situation de conflit et avant tout les missions médicales. Le Danemark souligne l'importance de garantir une utilisation responsable de l'IA et de veiller à ce que celle-ci soit conforme au droit international. À cet égard, Nous appelons tous les États à garantir un contrôle humain ainsi que le respect du principe de responsabilité dans le développement et dans l'utilisation de l'IA. Cela vaut tout particulièrement dans le domaine militaire, où le principe de responsabilité est absolument crucial. Le Danemark continuera à soutenir l'engagement constructif du Conseil de sécurité et à promouvoir une approche inclusive et multipartite de la gouvernance de l'IA. La société civile et le secteur privé doivent jouer un rôle de premier plan La science et des données factuelles doivent toujours guider nos politiques. Nous considérons le Groupe scientifique international indépendant comme une contribution importante à une gouvernance de l'IA crédible et fondée sur des données factuelles. Ce groupe nous offre tous un point de référence scientifique commun. En guise de conclusion, nous devons réfléchir à la manière dont l'IA peut contribuer de manière positive à façonner la paix et la sécurité internationales. et à combler les fractures numériques mondiales. Simultanément, nous devons rester lucides quant aux risques et nous devons commencer à mettre en place des garde-fous solides afin de pouvoir gérer ces risques en temps voulu..

De sa déclaration et je donne maintenant la parole à Son Excellence, M. Carlos Arturo Hoyos, vice-ministre des Relations extérieures du Panama.

Je vous remercie, M. le ministre. Señor Presidente.

Monsieur le Président, nous remercions la France de la tenue de la présente séance. Nous remercions également Monsieur Joshua Benjo, coprésident du groupe scientifique international indépendant de l'IA, Monsieur Sam Altman, directeur général d'OpenAI, Monsieur Dario Amodei, directeur général d'Anthropic, et Monsieur Clément Delange, directeur général de Hugging Face, pour leur précieuse contribution. Si la séance d'aujourd'hui nous invite à réfléchir aux risques engendrés et exacerbés par l'intelligence artificielle, le Panama estime nécessaire de commencer cette intervention en soulignant son potentiel à transformer le monde dans lequel nous vivons. La capacité de ces technologies à analyser d'énormes volumes d'informations, à identifier des modèles, à générer des vidéos, des images et des codes de plus en plus sophistiqués, à automatiser des tâches et à soutenir les processus de planification et de prise de décision, témoigne d'une transformation qui est déjà en cours et dont nous commençons à peine à mesurer l'ampleur. Ces outils offre une grande diversité d'applications au service de l'humanité au Panama. Notre stratégie nationale en matière d'intelligence artificielle identifie des opportunités dans des secteurs tels que la santé, l'agriculture, l'éducation et la logistique, secteurs dans lesquels ces technologies peuvent apporter des solutions qui, il y a à peine quelques années, semblaient encore inimaginables. Et c'est précisément dans ces mêmes avancées que Nous trouvons également les principaux risques. L'intelligence artificielle peut également être utilisée pour amplifier des campagnes de désinformation, pour renforcer les cyberattaques contre des infrastructures critiques ou pour fournir des connaissances pour le développement d'armes, entre autres utilisations qui menacent déjà la sécurité internationale. Ces risques ne relèvent plus d'hypothèses. Nous commençons à observer leur concrétisation dans des situations directement liées au Conseil. Des rapports récents ont fait état de l'utilisation de l'IA par des acteurs non étatiques en vue de développer des systèmes de guidage et de navigation destinés aux roquettes et aux missiles. À cela s'ajoutent des rapports sur l'utilisation d'armes autonomes capables de naviguer et de sélectionner des cibles de manière totalement indépendante ou avec une intervention humaine très limitée. Et c'est précisément cette autonomie croissante qui soulève l'une des préoccupations les plus profondes mise en avant dans la note de cadrage pour la présente séance, la possibilité que l'évolution de ces systèmes dépasse notre capacité à maintenir un contrôle humain effectif sur eux. Il existe des décisions qui, de par leur nature, ne peuvent se réduire à un résultat statistique. Lorsque des vies humaines sont en jeu, il est impératif de prendre en considération des considérations éthiques, juridiques et contextuelles qu'aucun calcul ni système algorithmique ne peut remplacer. Cette préoccupation relative au contrôle ne se limite pas aux scénarios extrêmes. À mesure que nous utilisons des analyses développées par l'IA pour orienter nos décisions, il est essentiel que les personnes qui occupent des postes à responsabilité soient en mesure de comprendre comment ces outils parviennent à une recommandation donnée, quelles informations l'étaient et quelle est la marge d'erreur? Monsieur le Président, reconnaître les risques liés à l'intelligence artificielle ne signifie pas ignorer les avantages que cette technologie offre déjà à nos sociétés. Le défi consiste à trouver un équilibre qui nous permette de tirer parti de ces opportunités tout en répondant de manière responsable aux risques. À cet égard, le Panama reconnaît le rôle important joué par le groupe scientifique international indépendant de l'IA afin de fournir des informations impartiales et scientifiques susceptibles d'orienter les discussions de la communauté internationale sur ces technologies. De même, le Panama salue l'initiative des acteurs du secteur technologique ici présents, qui vise à partager de manière proactive des informations sur des cas concrets d'utilisation abusive de ces technologies ainsi que sur des incidents dans lesquelles leur autonomie croissante a suscité des inquiétudes quant à une éventuelle perte de contrôle humain sur celles-ci. Monsieur le Président, cette séance démontre que pour faire face à la diversité des risques liés à l'IA, il est indispensable de mettre en place une coopération plus étroite entre les États, le secteur des technologies et tous les acteurs concernés. Pour ce faire, il est indispensable de mettre en place des mécanismes permettant des échanges d'informations plus structurés et plus réguliers sur les risques émergents, les incidents, les utilisations abusives et les meilleures pratiques. L'intelligence artificielle continuera inévitablement à évoluer et à transformer le monde dans lequel nous vivons. J'en veux pour preuve les témoignages que nous avons entendus aujourd'hui. Il est de notre responsabilité de veiller à ce que ces progrès restent au service des personnes et contribuent à bâtir des sociétés plus sûres, plus pacifiques et plus prospères, dans une perspective d'équité permettant à toutes les nations du monde, y compris à celles du Sud global, de participer à ce développement et d'en tirer profit. Je vous remercie.

Je vous remercie, M. Oyoze, de sa déclaration, et je donne maintenant la parole à Son Excellence M. Christos Demertzopoulos, vice-ministre de la gouvernance numérique et de l'intelligence artificielle de la Grèce.

Monsieur le.

Président, permettez-moi tout d'abord de remercier la France ainsi que les intervenants pour leurs observations et d'avoir porté à l'attention du Conseil de sécurité la question fondamentale des liens entre les progrès technologiques rapides dans le domaine de l'IA et la paix et la sécurité internationales, un sujet que nous aborderons également lors de notre présidence. L'intelligence artificielle change déjà la manière dont nous réfléchissons à la paix et à la sécurité internationales. Elle peut nous aider à prévenir les conflits, améliorer le signalement précoce et rendre les opérations des Nations unies plus efficaces. Mais elle crée également des risques que nous ne faisons que commencer à comprendre. Pour la Grèce, notre point de départ est clair. L'IA doit rester centrée sur l'humain, sûre et fiable. Son développement et son utilisation doivent respecter le droit international, y compris la Charte des Nations unies, le droit international humanitaire et le droit international et les droits de l'homme. et la responsabilité humaine, la reddition de comptes humaine doivent rester au cœur de notre approche. Notre approche nationale allie innovation et gouvernance. La Grèce a créé un secrétariat spécial pour l'intelligence artificielle et la gouvernance des données. Elle a mis en œuvre une loi nationale pour la loi Union européenne IA et investit dans les infrastructures stratégiques, y compris le superordinateur Dédalos et l'usine de production d'IA Pharos. En avril 2025, avec la France et la République de Corée, La Grèce a organisé une réunion formulaire sur la partie d'une IA sûre, inclusive et fiable pour le maintien de la paix et de la sécurité internationales. Le débat d'aujourd'hui nous donne l'occasion d'avancer plus loin dans ce débat. Permettez-moi d'évoquer trois points. Premièrement, nous devons mieux comprendre les risques de l'intelligence artificielle. peut traiter d'immenses quantités d'informations, nous aider à prendre des décisions plus éclairées. Mais la vitesse n'est pas toujours un avantage. En situation de crise, l'IA peut compresser le temps disponible pour les décisions et encourager à trop dépendre de résultats automatisés. Alors que l'IA est de plus en plus intégrée dans les processus de prise de décision, nous devons faire en sorte que davantage de vitesse n'intervienne pas aux dépens de l'exercice du bon sens humain. C'est une préoccupation encore plus grave quand l'IA être intégrée dans la prise de décision militaire. La technologie peut aider la prise de décision humaine, mais elle ne saurait la remplacer. La responsabilité et la reddition de comptes pour les décisions critiques doivent toujours rester humaines. Cela n'est nulle part plus important que dans le domaine nucléaire. Nous devons être extrêmement prudents pour ce qui est de l'intégration de l'IA dans le commandement nucléaire et le contrôle nucléaire. Il ne faut pas l'intégrer. Les risques d'erreurs de calcul et d'escalade non souhaitée sont simplement trop importants. Les décisions qui entraînent de telles conséquences doivent rester sous contrôle humain. Deuxièmement, nous avons besoin de moyens concrets pour réduire ces risques. Ça commence par le dialogue. Nous avons besoin d'avantage de transparence, de mesures de confiance et une meilleure compréhension commune de la manière dont le droit international s'applique au développement et à l'utilisation de l'IA. Des travaux importants sont déjà en cours. Le processus UEM et la Déclaration politique sur l'utilisation militaire responsable de l'IA et l'autonomie ont aidé à faire avancer les débats internationaux sur les utilisations militaires responsables de l'IA. L'ONU a un rôle essentiel à jouer pour rassembler ces différents efforts. Le Conseil de sécurité a également un rôle à jouer, non pas pour réguler la technologie et non pas pour faire doublon avec les travaux d'autres organes des Nations unies. Notre responsabilité, c'est de comprendre ce que signifient ces technologies pour la paix et la sécurité internationales et d'agir lorsque les conséquences relèvent de notre mandat. Troisièmement, faire face aux risques ne doit pas signifier retenir les innovations, les ralentir. Il faut tirer parti des occasions présentées par l'IA tout en mettant en place les garde-fous nécessaires. Nous ne pouvons pas mener ce débat sans ceux qui développent et utilisent ces technologies. Nous appuyons donc un travail étroit avec le monde universitaire, la société civile, le secteur privé, ainsi que les États et l'ONU. Ces travaux doivent être inclusifs, géographiquement représentatifs et respecter l'équilibre des genres. Monsieur le Président, l'IA, de plus en plus, aura des conséquences sur la paix et la sécurité internationales. Nous ne pouvons pas arrêter les changements technologiques. Ça ne devrait pas être notre objectif, mais nous pouvons œuvrer ensemble pour faire en sorte que les êtres humains restent responsables des décisions qui importent le plus pour la Grèce. Cela signifie Conserver le droit international, la responsabilité humaine et la reddition de comptes au coeur de notre approche. Cela signifie également faire en sorte que le Conseil continue à être concentré sur sa responsabilité première, le maintien de la paix et de la sécurité internationales. La Grèce continuera à oeuvrer avec tous les membres du Conseil à cet objectif. Je vous remercie.

Je remercie Son Excellence, M. Demetrious de sa déclaration. Et je donne maintenant la parole à Son Excellence, M. Ali Mohamed Omar, ministre d'Etat des Affaires étrangères de la Somalie.

Monsieur le Président, je remercie la France d'avoir organisé ce débat venant à point nommé. Je remercie également M. Bajjo, Altmann, Amadeo et Delong pour leurs précieux exposés. L'intelligence artificielle n'est plus simplement une question technologique de développement, c'est notre réalité d'aujourd'hui. Elle transforme rapidement les sociétés, les économies et notre approche en matière de paix et de sécurité. son rôle dans les cyber-opérations et les informations pour ce qui est des infrastructures critiques, de la prise de décision militaire, fait qu'elle relève clairement du mandat des Nations unies. Nous devons empêcher que l'IA devienne un facteur de conflit tout en appuyant activement son utilisation responsable pour ce qui est des prévisions d'alerte précoce, prévention des crises, maintien de la paix, action humanitaire et protection des civils à cet égard. nous devrions nous inspirer des quatre principes fondamentaux. Premièrement, la responsabilité humaine doit rester absolue. L'IA doit fonctionner strictement dans le cadre du droit international, les objectifs et les principes de la Charte des Nations unies et dans le respect des droits humains et de la dignité humaine. Les États ne peuvent pas déléguer la responsabilité juridique, éthique et morale à un algorithme. Nous nous félicitons de la déclaration affirmant que l'IA doit rester sous contrôle humain et répondant aux instructions des humains. Ce principe est indispensable pour ce qui est des décisions impliquant l'utilisation de la force, les systèmes d'armes autonomes et les commandements de contrôle nucléaire. Deuxièmement, la sécurité doit intervenir avant le déploiement. Les récents incidents impliquant des incidents IA qui auraient contourné les garde-fous qui auraient dissimulé leurs actions et qui ont obtenu un accès non autorisé, posent une grave question, de graves questions concernant le fait de savoir si les contrôles existants peuvent suivre le rythme des systèmes autonomes existants. Les entreprises privées contrôlent beaucoup de systèmes, les institutions commerciales ne peuvent pas déterminer les risques que peuvent accepter les êtres humains. Nous appuyons donc un signalement d'incidents obligatoire, des garde-fous, des audits indépendants, des mesures pour atténuer les biais algorithmiques et protéger les populations vulnérables. Lorsque l'on va au-delà des seuils convenus, il faut suspendre le déploiement jusqu'à ce que l'on puisse gérer les risques de manière fiable. La proposition du secrétaire général d'envisager une institution internationale capable de fixer les normes et permettre la vérification et de réunir les États lorsque ces seuils ont été franchis, méritent d'être examinés attentivement. Troisièmement, la gouvernance doit prendre en compte les vulnérabilités particulières à l'Afrique et garantir un accès équitable. Les infrastructures informatiques limitées, une connectivité non fiable, la pénurie d'expertise spécialisée et des capacités réglementaires fragmentées limitent les capacités de nombreux États africains à évaluer les systèmes perfectionnés. Les modèles entraînés sur des données étrangères peuvent mal représenter les langues africaines et les contextes africains, alors que les médias synthétiques peuvent aggraver les tensions sociales, s'ingérer dans des processus de paix fragiles et mettre à mal les élections. L'Afrique ne peut pas rester simplement un marché pour des systèmes élaborés ailleurs, mais une source de données brutes ou un terrain d'essai pour des technologies qu'elle n'a pas contribué à régir. Nous devons empêcher de nouvelles formes de dépendance technologique et de colonialisme numérique en appuyant des cadres régionaux, en particulier des partenariats avec l'Union africaine et des stratégies telles que l'initiative panafricaine pour l'IA. Les pays en développement ont besoin de coopération internationale ciblée et de financement pour combler le fossé numérique, infrastructures, énergie et compétences, ainsi que des ensembles de données, des outils d'évaluation et du potentiel informatique. Il est essentiel de faire en sorte que chaque pays ait le droit de développer, choisir et évaluer ces technologies IA pour notre souveraineté numérique nationale et pour la stabilité internationale. Quatrièmement, l'ONU doit être le principal canal international pour la gouvernance mondiale de l'IA, la Somalie, et appuie les normes internationales reposant sur la légitimité internationale de l'ONU plutôt que des règles fragmentées créées par un petit nombre d'États perfectionnés technologiquement et de coopération privée qui risquent de renforcer les inégalités existant à l'échelle mondiale. La gouvernance mondiale doit faire respecter une approche centrée sur les personnes qui orientent l'IA vers le bien-être de l'humanité et le bien commun. Les régions en développement, et en particulier l'Afrique, doivent être véritablement représentées et avoir voix au chapitre dans ces processus multilatéraux, ainsi que les capacités institutionnelles et techniques pour évaluer les systèmes d'IA de manière indépendante plutôt que de dépendre de choix extérieurs. Notre succès ne sera pas mesuré à l'aune de la sophistication de nos déclarations, mais plutôt à l'aune du fait de savoir si nous arrivons à prévenir la première crise liée à l'IA, à l'empêcher de devenir le prochain conflit international. Le pouvoir de l'intelligence artificielle n'entraîne pas de résultat inévitable. C'est défini par nos valeurs et nos choix. La technologie progresse rapidement, mais notre responsabilité collective doit progresser plus rapidement. Merci..

De sa déclaration. Et je donne maintenant la parole à Son Excellence, M. Ed Miliband, ministre des Affaires étrangères du Commonwealth et du Développement du Royaume-Uni.

Merci, M. le Président. Je voudrais vraiment vous remercier d'avoir organisé cette réunion si importante, je voudrais également officiellement remercier nos orateurs experts qui ont contribué de manière si précieuse à cette réunion. Alors, je crois que nous devrions faire un pas en arrière et faire le bilan de ce à quoi nous sommes confrontés dans cette réunion du Conseil, car l'IA est une technologie qui, sans aucun doute, a le pouvoir de transformer notre monde en mieux. Je suis certain que nous le voyons tous dans notre vie quotidienne, nous le voyons dans tous nos pays. Mais aujourd'hui, les fondateurs de cette technologie nous lancent un sombre avertissement. Ils ne disent pas simplement qu'ils se réjouissent que cette technologie puisse servir pour le bien, mais ils nous disent qu'ils craignent sa capacité à nuire. Ils nous disent de manière très claire qu'ils ne peuvent pas être les seuls à être responsables d'empêcher que le monde connaisse la catastrophe. Aujourd'hui, je vous dis que nous ne pouvons pas les ignorer, car ils ont raison. Car nous ne pouvons pas abdiquer notre responsabilité face à nos concitoyens. Nous ne pouvons pas sous-traiter aux entreprises privées le premier devoir du gouvernement, protéger nos populations, quels que soient les problèmes. Le Conseil de sécurité a été créé pour relever les grands défis collectifs de notre époque. Donc c'est au gouvernement, au gouvernement, comme beaucoup de nos intervenants l'ont dit aujourd'hui, du monde de la technologie, nous tous autour de cette table, de vrai ensemble et avec les entreprises, pour le bien des populations qui nous ont envoyés ici. Et voilà ce que le gouvernement britannique s'est engagé à faire. Il faut commencer par la sécurité. Cela veut dire faire davantage pour faire en sorte que les modèles IA de pointe soient rigoureusement testés. Il faut créer un système de garde-fou pour le développement des modèles, pour établir la confiance, la confiance dans le fait que ces modèles sont sûrs. Deuxièmement, la transparence. Les entreprises qui construisent ces modèles ne peuvent pas être laissées à elles-mêmes. Les gouvernements doivent avoir la visibilité nécessaire pour comprendre et évaluer ce que font les entreprises spécialisées en IA. Les principales entreprises de l'IA se sont en fait engagées à fournir cette visibilité et c'est vraiment très important. C'est une offre que nous et eux devraient prendre au pied de la lettre. Troisièmement, la résilience. Il faut renforcer nos défenses pour réduire l'impact des incidents provoqués par l'IA. Même si nous testons chaque modèle, nous devons être préparés à ce que l'IA soit utilisée à mauvaise fin. Cela inclut de renforcer nos cyberdéfenses, protéger les infrastructures critiques et renforcer nos systèmes financiers. Et nous devons aider nos populations à gérer les perturbations entraînées par l'IA, à s'y adapter et également à tirer profit des immenses avantages que ça présente. Je l'ai dit, le Royaume-Uni Il jouera tout son rôle dans ce processus. Nous avons créé le premier institut pour la sécurité de l'IA, qui fait part de son expertise, ses capacités de test et ses recherches, et travaille de pair avec les États-Unis, les principaux laboratoires sur la sécurité de l'IA. Comme l'a dit notre Premier ministre, le Royaume-Uni mettra l'IA au cœur de sa présidence du G20 l'année prochaine. Faisant fond sur cet effort, il faut décloisonner entre les gouvernements, les entreprises, le monde de la recherche et la société civile, utiliser le potentiel de l'IA pour le bien et faire face aux risques, que ce soit l'avenir des emplois, la protection des enfants, la cybersécurité, la biosécurité, la sécurité nationale ou la stabilité financière, alors que nous nous efforçons également de nous mettre d'accord sur un ensemble de normes, principes communs pour garantir la transparence et l'accès nécessaire pour être mieux préparés, pour faire en sorte que le développement de l'IA soit sûr et, comme l'a dit l'un des préopinants, exploiter le potentiel pour le Sud global comme pour le Nord. Et je voudrais conclure sur ce point. Je pense que, de manière générale, il ne s'agit pas d'un choix entre le progrès et la sécurité. Nous pourrons innover et profiter des immenses avantages de l'IA, nous sommes tous d'accord sur ce point ici, si les personnes peuvent être sûres que les bogues de fou sont en place. Donc, ensemble, nous devons prendre toutes les mesures nécessaires afin que l'IA soit sûre, sécurisée, fiable, tout en progressant sur son incroyable potentiel pour la croissance, pour soigner les maladies, pour transformer la vie des gens. Et enfin, ma conclusion. Nous ne pouvons pas dire qu'on ne nous a pas avertis. On nous a avertis par les personnes qui sont à l'origine de cette incroyable technologie qui a cet immense potentiel de faire le bien. Nous devons agir face à leurs avertissements et nous devons le faire ensemble.

Je vous remercie. de sa déclaration. Et je donne maintenant la parole à Son Excellence, M. Michael Kratsios, assistant du président et directeur du Bureau de la politique scientifique et technologique de la Maison-Blanche des États-Unis.

Je remercie très sincèrement la République française qui préside le Conseil. Chers collègues, merci de me donner une nouvelle occasion de discuter des plus importants progrès technologiques de notre époque, la superintelligence, que l'on appelait autrefois l'IA. Ma première responsabilité, c'est de faire en sorte que les progrès se poursuivent pour la superintelligence, que cela profite à nos citoyens et à leur vie. L'intelligence de pointe progresse rapidement. Ce n'est pas une raison pour stopper son développement ou de le restreindre avec de nouvelles structures mondiales de gouvernance. En tant que leader dans la superintelligence de pointe, nous avons agi pour faire en sorte que nous puissions continuer à progresser de manière sûre et responsable. Nous travaillons avec les laboratoires de pointe pour ce qui est de tester l'évaluation des capacités du nouveau modèle. Nous avons créé des centres d'échange en matière de cybersécurité. Nous avons précisé quels sont les outils de maintien de l'ordre disponibles pour remédier à la mauvaise utilisation de ces technologies. L'international nous sommes engagés en faveur de la diplomatie et du dialogue sur les technologies émergentes. Mais le dialogue international, en cette enceinte comme en d'autres, ne peut pas dériver vers une gouvernance mondiale, comme l'a dit le président Trump devant l'Assemblée générale hier. Les États-Unis rejettent totalement toute tentative d'édifier un plan mondial pour le contrôle de la superintelligence. Il y a quelques semaines seulement, les ministres de l'innovation du G20 sont parvenus à un consensus sur certains principes. Ils ont convenu que les pays doivent préserver leur souveraineté nationale, leur gouvernance sur les technologies émergentes. Ils ne doivent pas abdiquer de leurs responsabilités devant des organes internationaux. Les représentants du peuple américain adopteront des lois et des règlements au nom du peuple américain. Vous devriez faire la même chose pour vos populations. Ce n'est que grâce à un écosystème ouvert et coopératif reposant sur l'infrastructure souveraine et sur les capacités nationales que le monde pourra réaliser le potentiel de ces technologies. Les efforts américains et internationaux visent à renforcer les capacités en partageant nos technologies et en fournissant les outils propices à l'adoption de la technologie. Nous voulons que vous, nos alliés et partenaires, profitent des avantages de cette révolution technologique. Tel est l'objectif. dans notre programme d'exportation. Les Etats-Unis sont la seule superpuissance technologique qui est capable et qui souhaite véritablement permettre aux autres pays alliés de rechercher les capacités pour la superintelligence. Nous vous aiderons dans ce sens et nous vous aiderons à appliquer les applications, le développement, les outils, les capacités dont vous avez besoin pour être au service de vos populations. En fait, la souveraineté technologique est réalisée par l'adoption de la technologie. Si vous prenez les risques et les avantages de la superintelligence au sérieux, la chose la plus importante que vous puissiez faire, c'est de développer les capacités de votre pays à la comprendre et à l'utiliser, la déployer très largement, à constituer l'expertise au sein de vos gouvernements, à préparer vos institutions et les responsables de la réglementation, comprendre ce que peuvent faire ces systèmes et ce qu'ils ne peuvent pas faire. Vous ne pouvez pas régir la technologie que vous ne comprenez pas. Cet organe et d'autres doivent mettre l'accent sur le partage des pratiques optimales pour renforcer les capacités nationales et non pas sur le fait de créer un organe de réglementation mondiale. C'est grâce à une politique d'innovation illimitée, une recherche incessante du progrès que les États-Unis ont établi plus important écosystème d'innovation qu'on ait jamais connu depuis 250 ans. Les États-Unis auraient cherché un équilibre vertueux entre l'innovation, la sûreté, l'indépendance et la sécurité. La superintelligence est le dernier de cette longue série de défis et d'occasions. Au service de l'humanité, elle peut devenir le principal moteur de croissance et de prospérité de l'histoire. Un avenir prospère prospère ne sera pas assurée par une réglementation mondiale, mais par des pays souverains qui adoptent la superintelligence, par des entreprises responsables qui la construisent et par des personnes libres qui refusent d'être régies par la crainte. Je vous remercie..

Monsieur Kratsios, de sa déclaration. Et je donne maintenant la parole à Son Excellence, Monsieur Cheikh Abdullah bin Ali Al Khalifa, sous-secrétaire aux Affaires politiques par intérim au ministère des Affaires étrangères de Bahreïn.

Monsieur le Président, permettez-moi tout d'abord de remercier sincèrement la République française, amie, d'avoir organisé cette importante réunion. Je remercie également M. Benjio, coprésident du Groupe scientifique international indépendant des Nations unies de l'intelligence artificielle, M. Altman, directeur général de OpenAI, M. Amoday, directeur général d'Intropique, et M. Delong, directeur général de Hugging Face. Je les remercie pour leurs précieux exposés. Monsieur le Président, discuter des conséquences de l'intelligence artificielle, ce n'est plus une question de simple intérêt intellectuel. C'est devenu une nécessité urgente dictée par la responsabilité du Conseil de maintenir la paix et la sécurité internationales. Inspiré par ce principe, le royaume du Bahreïn a souligné dans la déclaration prononcée par Son Altesse royale le prince Salmane ben Salmane Al Saoud, prince héritier et Premier ministre, lors de la 79e session de l'Assemblée générale, et ainsi donc sur l'importance qu'il y avait à conclure un traité international pour régir le développement de l'intelligence artificielle et faire en sorte qu'elle soit une force pour l'innovation et non pour la destruction. Dans le cadre de cette approche, le Bahreïn a récemment eu l'honneur de co-organiser un dialogue interactif avec la France et la Lettonie sur l'utilisation de ces technologies pour le règlement des conflits. Monsieur le Président, nous soulignons que l'évolution rapide de l'intelligence artificielle étend la portée des menaces en matière de sécurité, notamment lorsque ces technologies sont exploitées par des terroristes et des groupes criminels. Alors que l'autonomie de ces systèmes augmente, nous soulignons qu'il faut préserver le contrôle humain, la responsabilité humaine, qui doit être au cœur des décisions qui ont de graves incidences sécuritaires. Il faut faire en sorte qu'elles respectent pleinement le droit international et le droit international humanitaire. Contrairement aux algorithmes automatisés, seuls les humains font preuve de raison, de responsabilité, de conscience et peuvent comprendre les contextes complexes. Par ailleurs, nous ne devons pas ignorer les immenses possibilités que présente l'intelligence artificielle pour renforcer les systèmes d'alerte précoce, suivre les indicateurs de tension, appuyer les efforts de médiation et améliorer l'efficacité des opérations de maintien de la paix. De plus, il faut combler le fossé numérique et faciliter les transferts de technologie pour faire en sorte que tous les pays puissent profiter de ces capacités. Pour conclure, Le Conseil de sécurité doit organiser des débats plus réguliers, systématiques sur l'intelligence artificielle. Ces débats doivent compléter les efforts plus larges des Nations unies pour créer des cadres pour le développement et l'adoption de ces modèles conformément au droit international. Nous sommes prêts à contribuer au progrès de ces débats pour établir une approche internationale responsable, équilibrée, qui met l'humain au coeur de la prise de décision, qui fait en sorte que les innovations que nous créons aujourd'hui continuent à être au service de la paix que nous voulons tous maintenir au Conseil. Je vous remercie, M. le Président?

Je remercie Son Excellence Al Khalifa de sa déclaration, et je donne la parole au représentant de la Lettonie.

Merci, M. le Président. Je souhaite d'abord remercier la présidence française d'avoir convoqué cette réunion sur un sujet d'importance et d'urgence majeures pour la sécurité internationale.

Je remercie les intervenants, le professeur, le chef de la, Clément Delongue, pour leurs précieuses analyses et pour leurs propositions pour un développement sûr de l'IA. Monsieur le Président, Le rythme rapide du développement de l'IA a déjà un profond impact dans tous les domaines, y compris la paix et la sécurité internationales. Outre les occasions extraordinaires que présente l'IA, nous constatons également des risques croissants qui se manifestent en temps de paix comme en cas de conflit. Le moment est venu pour l'action collective. Comme on le dit aujourd'hui, et comme le dit l'appel pour le contrôle des modèles IA de pointe, lancé par la Norvège et la Finlande, et lancé par 22 dirigeants mondiaux, y compris le président de la Lettonie, nous estimons que le Conseil de sécurité a la responsabilité de faire en sorte que les conséquences de l'IA pour la paix et la sécurité internationales soient pleinement prises en compte. sans créer de doublons avec les travaux entrepris dans d'autres enceintes, bien sûr. Mais les débats d'aujourd'hui démontrent la capacité du Conseil à réunir les États membres, les représentants du monde de la science et de l'industrie pour traiter cette question urgente. Monsieur le Président, deux sources différentes de risques liés à l'IA pour l'appel à la sécurité sont en train de devenir évidentes. Les deux exigent notre attention. Il y a tout d'abord le risque découlant de l'utilisation malveillante de l'IA par des acteurs étatiques comme non étatiques. Ça inclut l'application de l'IA pour des cyberactivités mal intentionnées, la manipulation de l'information, même des tentatives d'acquérir des capacités destructrices, telles que des armes biologiques. Deuxièmement, un défi plus nouveau et plus complexe, comme l'ont dit nos intervenants et les rapports récents, découle de la technologie elle-même, tels que le désalignement et les risques de perte de contrôle. de tels comportements à risque sont la source de nouvelles formes de vulnérabilité, y compris pour les infrastructures critiques. Ce qui est alarmant, c'est que de récents incidents montrent que non seulement les systèmes IA peuvent agir de manière contraire aux intentions et aux intérêts humains, mais qu'ils savent maintenant de mieux en mieux manipuler et tromper les humains. Ces défis ne sont pas une question isolée, ils ajoutent au panorama déjà complexe en matière de paix et de sécurité internationale. Les actes d'IA désalignés peuvent alimenter encore les tensions et les erreurs de calcul en raison de la difficulté de les suivre, de les vérifier et de les attribuer. L'utilisation croissante de l'IA et des systèmes autonomes dans le domaine militaire représente un dilemme supplémentaire, en particulier quand il y a une intersection entre les risques en matière de fiabilité et de contrôle et de risque d'escalade. Monsieur le Président, L'action responsable commence au niveau du secteur économique, mais également avec la gouvernance et les garde-fous clairs des institutions compétentes. Une approche multipartite est essentielle pour gérer les risques et établir la confiance dans l'IA. Grâce à la transparence et à l'application du principe de responsabilité, et grâce à la création de protocoles de sécurité adéquats pour le développement et l'utilisation des systèmes d'IA, grâce à une évaluation indépendante. reliant les mandats des gouvernements, l'expertise économique, la société civile et l'innovation du secteur économique. Pour tout cela, il faut la coopération internationale. La fixation des normes, l'échange de pratiques optimales, tout cela est essentiel pour combler les fossés et promouvoir l'interopérabilité. L'organisation du dialogue mondial des Nations unies sur la gouvernance de l'IA et la création du groupe scientifique indépendant sur l'IA sont des pas importants Nos efforts à l'avenir devraient maintenir le rythme du développement des technologies de l'IA de pointe. Il nous faut une approche ouverte de la part des États membres des Nations unies pour faire fond sur les mécanismes internationaux actuels et en envisager de nouveaux. L'objectif devrait être de faire en sorte que la technologie soit au service de la population. préserve les droits et libertés fondamentales et apporte des avantages qui ne se font pas aux dépens de risques incontrôlables. S'il y a une chose sur laquelle nous devrions nous mettre d'accord, c'est que l'IA doit rester sous contrôle humain, sous la direction humaine, sous la supervision humaine. Monsieur le Président, étant donné son rôle dans le maintien de la paix et de la sécurité internationales, le Conseil doit rester activement saisi de l'évaluation des conséquences de l'IA pour la paix et la sécurité internationales. Cette technologie est en train de devenir de plus en plus pertinente dans les travaux du Conseil, dans le domaine de la prévention et du règlement des conflits. Et donc, il nous faut une approche proactive. Faisons fond sur le récent dialogue interactif informel du Conseil sur l'IA, organisé par la Lettonie et la France, ainsi que le Bahreïn et la Grèce. Nous nous engageons à prendre de nouvelles mesures concrètes, par exemple, créer un groupe d'experts informels du Conseil qui permettrait au Conseil d'avoir une analyse plus approfondie sur les impacts des technologies liées à l'IA sur l'appel à la sécurité internationale et la mise en œuvre des mandats du Conseil dans différents domaines. Nous continuerons à œuvrer avec les partenaires intéressés au Conseil dans les mois à venir. Je vous remercie.

Je remercie la représentante permanente de la Lettonie de sa déclaration. Je donne la parole à présent au représentant permanent de la Colombie.

Merci, Messieurs les Présidents.

La Colombie considère que nous ne discutons pas ici des bénéfices de l'intelligence artificielle. Ce que l'on discute aujourd'hui, c'est vraiment les risques.

Le risque incontournable, incontrôlable, inéluctable?

Et en toute évidence, après les rapports qu'on a écoutés, le risque pour l'humanité. Monsieur le Président, nous ne pouvons pas simplement ignorer les rapports dont il a été fait. la première fois que le Conseil de sécurité a entendu des incidents décrivant des crimes commis par les machines. Il ne s'agit pas simplement d'une simple erreur. Il y a une grande partie de la planète qui ne comprend pas ce qui s'est passé et il y a des infrastructures critiques, des systèmes de cybersécurité qui peuvent être exposés Et si vous examinez les incidents qui ont été mentionnés aujourd'hui, vous constaterez que on peut parler de crime si ce type d'incident intervenait au niveau des États. Et ça peut arriver. Le deuxième élément à prendre en considération, qui suscite encore davantage de préoccupations, c'est que nous n'avons pas examiné cette question de manière correcte. Le postulat n'est pas bon. La Colombie ne pense pas que la question est de savoir ici s'il faut limiter l'innovation humaine, mais plutôt l'innovation par la machine. Permettez-moi de m'expliquer. Différents rapports ont fait état que nous sommes exposés à deux risques. Il y a le risque des alignements et ensuite le risque de contrôle. Pour le premier, la machine trouve un moyen de tricher, de ne pas respecter les instructions qui lui ont été données par l'humain. Donc je parle ici d'un agent d'intelligence artificielle qui est en mesure de faire cela de manière répétée, systématique. Et jusqu'à présent, même dans les cas de cybersécurité que nous avons analysés, Ces agents ont été en mesure de trouver un accès à l'Internet. Parfois, ils ont même été en mesure de trouver des mots de passe, des milliers de messages, y compris des entreprises qui testaient ces modèles. Mais l'autre élément qui devrait vraiment susciter davantage de préoccupations est celui de la perte de contrôle. Donc, nous voudrions réfléchir avec vous à cette question. Aujourd'hui, on entend que les capacités d'IA en matière d'analyse d'informations sont énormes en matière de stockage et d'analyse, qui dépassent largement les capacités humaines. Nous savons aujourd'hui que la conception même des algorithmes permettent des capacités de différents types de raisonnement, de plus en plus complexes, interdisciplinaires. Très bientôt, aucun humain ne sera en mesure de suivre le fonctionnement, le développement de ce que nous sommes en train de créer. Au cours des premiers jours de ce type de modèle, on a constaté qu'après trois mois, l'IA était capable de réussir l'examen du barreau. Nous savons que des humains sont capables de faire cela aussi. Mais aujourd'hui, au stade d'évolution de la technologie, nous sommes face à une situation tout à fait différente. Nous devons être conscients des risques auxquels nous sommes exposés. La question essentielle ici, en tant que Conseil de sécurité, est de savoir ce que nous devons réglementer, pourquoi nous devons réglementer. La Colombie comprend la position des États-Unis qu'elle partage partiellement. C'est une approche pragmatique. Tout organe international qui se verrait confier le contrôle de l'élaboration de l'IA, ce n'est pas envisageable pour deux raisons. Tout d'abord, il y a des questions constitutionnelles de sécurité nationale dans chaque pays et donc la barre juridique sera difficilement passée. Mais deuxièmement, Si un pays, surtout un des pays qui sont à la pointe, n'y participe pas, pour le reste de l'humanité, pour ceux qui sont à la traîne, la question sera de savoir alors ce qu'il faudra faire. Peut-être que mon pays peut proposer une approche différente. Il ne s'agit pas d'un choix inéluctable entre la sécurité et le développement, mais peut-être plutôt d'une manière de veiller à ce que tous les humains de la planète pourront partager et adapter, s'adapter, parce que dans le Sud global, Lorsque l'on parle d'adaptation, on comprend achat d'un produit parce que nous n'allons pas produire ces modèles. Et une fois qu'on a adapté le produit, on peut adapter nos structures, nos infrastructures, ce qui est partiellement vrai. Mais beaucoup de ces infrastructures sont confrontées à des fossés, à des écarts par rapport aux autres pays. Si on ne prend pas part à la production même de l'intelligence artificielle. C'est un problème de taille pour le Sud. Nous ne pensons pas que, en adaptant simplement nos infrastructures, en les rendant plus sûres, nous allons pouvoir régler les problèmes latéraux. J'en viens à un autre point. On pourrait être confrontés à la perte de millions d'emplois, y compris dans les pays développés. On voit comment l'IA rédige son propre code. Et c'est peut-être ici qu'il faudrait envisager une réglementation, parce que Personne ne remet en cause le fait que l'intelligence artificielle soit bénéfique à la recherche, au développement, aux technologies, aux communications pour trouver des remèdes à des maladies, etc. Les avantages sont bien connus et nous n'essayons pas d'y mettre un frein. Mais il semble que nous arrivons à une nouvelle étape et les États-Unis ont raison. Il s'agit d'une super intelligence pour une raison particulière. Nous allons franchir une étape où des technologies plus complexes, des technologies quantiques vont booster l'intelligence artificielle, leur conception, les différents modèles, le développement de ces technologies. Le risque auquel nous sommes confrontés aujourd'hui, sur lequel je voudrais attirer l'attention du Conseil, est un risque pré quantique avant que nous atteignons cette étape. dont nous sommes très proches. Mais ce qui nous préoccupe, et c'est pour ça que nous proposons une approche différente que d'un organe de contrôle international, nous sommes préoccupés au sein du Conseil de sécurité parce que cette technologie peut potentiellement créer des perturbations, créer davantage d'inégalités dans la planète, susciter de la violence, mais il va également y avoir des écarts de développement qui vont donner lieu à d'autres types de conflits, avec des problèmes de migration au niveau mondial, etc. Et donc, nous vous proposons une idée, on pourrait réfléchir à cela. La conception autonome et le développement autonome, c'est vraiment l'enjeu ici. Si nous devions permettre à des agents d'IA de franchir les prochaines étapes et les expériences, les différents cas qui nous ont été présentés montrent que cela arrive. Et il y a eu des publications, il y a beaucoup d'articles qui sont parus dans la presse qui montrent que ces machines trouvent toujours un moyen de contourner l'humain. Une fois que nous ne comprenons plus ce que fait la machine, c'est le risque absolu. Lorsqu'on va passer à la super intelligence et que les humains n'auront plus ces capacités, on partira du principe qu'on contrôle quelque chose alors qu'on ne peut pas comprendre cette chose. Et j'ai bien écouté les différentes interventions aujourd'hui. Nous voulons garantir que cette technologie reste humaine. Mais le cerveau humain doit comprendre les informations qui lui sont fournies pour pouvoir prendre une décision. Mais très prochainement, cette étape Nous allons la dépasser étant donné la manière dont la technologie est développée. Je sais que ça va susciter des problèmes en termes de législation, de réglementation, mais il s'agit véritablement d'une étape supplémentaire. si la machine est aux commandes au moment de la conception, donc les différentes méthodes, mais également les résultats. Très prochainement, il ne s'agira plus d'un problème lié à l'objectif pouvant être atteint. Aujourd'hui, la machine se voit fixer un objectif et doit trouver des moyens d'y parvenir. et elle elle trouve des moyens qui ne lui ont pas été renseignés par l'humain et donc elle triche pour parvenir à cet objectif c'est une source de préoccupation bien sûr c'est un problème de désalignement mais il y a un autre aspect souvent très bientôt pardon et monsieur Sam Altman a signalé ce risque le développement autonome de l'intelligence artificielle, ce que ça signifie, c'est que c'est la machine qui écrit son code, qui trouve des solutions. Et encore une fois, je parle de l'ère pré quantique. Et donc, il serait naïf de dire que nous serons en mesure de réglementer quelque chose que très bientôt nous ne comprendrons plus. Et c'est la raison pour laquelle Nous en sommes au moment de l'histoire où toutes les nations doivent se rassembler autour d'un objectif commun. Maintenons le caractère humain de cette technologie. Nous devrions convenir du fait que nous sommes favorables au développement. On peut même se mettre d'accord sur un certain niveau de contrôle. Il faut prendre en considération les préoccupations en matière de souveraineté, prendre en considération les préoccupations des nations qui font beaucoup en matière d'innovation, mais pour le reste de l'humanité, il faut garantir jusqu'où on peut aller. Et on ne parle pas ici de questions éthiques et on ne parle pas de droits humains, même si certains pays estiment que nous devrions le faire. Non, c'est véritablement ça la prochaine étape. Allons nous permettre aux machines de concevoir leur propre IA. Et nous y sommes déjà. Et c'est sans doute l'élément le plus important. Décidons au moins de cette question. Car dans la pratique, Monsieur le Président, pour beaucoup d'autres pays et particulièrement les pays d'Amérique latine, concrètement, cela signifie un risque pour la production nationale. Pour des pays qui ne produisent pas d'intelligence artificielle, des pays qu'on invite à acheter l'intelligence artificielle, à investir dans l'IA. Et c'est sans doute la voie la plus logique pour moderniser chaque pays, la voie la plus sûre. Mais en fin de compte, la question que j'ai posée reste valable si On a des réglementations pour tout, pour la production de pneus, pour qu'ils n'explosent pas, pour la production des voitures. On a des réglementations pour les armes nucléaires. Mais le progrès scientifique continue On a vérifié que le temps ne passe pas de manière égale dans différents endroits grâce à la théorie de la relativité d'Einstein, aux questions de perception. On a changé de formule avec une vitesse constante où on incluait la gravité dans une formule et on ne l'incluait pas dans une autre. C'est sans doute une des réalisations les plus importantes du 20e siècle. Sans ça, il n'y aurait même pas de GPS. Mais il y a une caractéristique commune à l'ensemble de ces cas, y compris pour la production des armes nucléaires. Les humains ont toujours été aux commandes. Les humains comprenaient les risques. Ils savaient ce qu'ils faisaient. Ils savaient ce qu'ils étaient en train de produire. Et c'est pour ça qu'ils ont opté pour des réglementations. La préoccupation de pays tels que la Colombie n'est pas le progrès scientifique. La Colombie est favorable aux investissements dans l'intelligence artificielle. Nous voulons des centres de données dans nos pays. Nous sommes des alliés stratégiques, notamment des États-Unis, pour la production scientifique. Nous voulons participer à cet exercice, pas uniquement du côté de la consommation, mais du côté de la production de l'intelligence artificielle, notamment en fournissant des terres rares. Mais il y a une préoccupation qui va au-delà des intérêts bilatéraux, commerciaux, nationaux. C'est l'intérêt même de l'humanité. Au-delà de notre propre génération et au-delà de notre présence ici au Conseil de sécurité, nous devons nous poser cette question. Nous créons un précédent qui, aux yeux de la Colombie, semble délicat. Nous avons réglementé les armes nucléaires, nous avons réglementé la production des pneus, nous avons des réglementations en matière de construction, tout ce qui peut mettre en danger la vie des personnes. Pourquoi n'allons-nous pas réglementer quelque chose que nous ne pourrons pas comprendre très bientôt? Ça n'a aucun sens. La superintelligence, c'est non seulement la capacité de s'en doter grâce au progrès scientifique, mais la capacité de l'utiliser et de savoir comment l'utiliser quand nous ne serons plus au même niveau. Merci.

Je vous remercie, le représentant permanent de la Colombie, de sa déclaration. Je vais donner la parole à présent à Son Excellence, madame Thérèse Fagner, ministre des Affaires étrangères, de la Coopération internationale et de la Francophonie de la République démocratique du Congo.

Merci beaucoup, monsieur le président, excellence, mesdames et messieurs. La République démocratique du Congo remercie la France ainsi que son excellence, monsieur Jean-Noël Barrot, ministre de l'Europe et des Affaires étrangères, pour avoir convoqué et présidé cette importante réunion. Je remercie également les intervenants pour leur contribution à notre réflexion collective. Notre débat intervient à un moment charnière. L'intelligence artificielle n'est plus seulement une question de progrès scientifique ou de compétitivité économique. Par la rapidité de son développement, par l'étendue de ses applications et par son intégration croissante dans les infrastructures critiques et les systèmes de prise de décision, elle soulève désormais des questions qui touchent directement à la paix et à la sécurité internationales. Cette réalité nous impose une responsabilité, celle d'anticiper les risques sans entraver l'innovation, celle de préserver les bénéfices du progrès technologique tout en empêchant qu'il ne devienne un facteur supplémentaire d'instabilité de vulnérabilité ou de conflit. Les Nations unies ont commencé à construire les bases de cette réflexion. Les travaux engagés par l'Assemblée générale sur une intelligence artificielle sûre, sécurisée et digne de confiance, la mise en place du Groupe scientifique international indépendant sur l'intelligence artificielle et du dialogue mondial sur sa gouvernance, ainsi que les travaux du Conseil de sécurité sur les implications des avancées scientifiques et technologiques pour la paix et la sécurité internationales, constituent des jalons importants. Il nous appartient désormais d'aller plus loin, de l'anticipation vers la prévention et de la prévention vers une coopération internationale à la hauteur des transformations en cours. Monsieur le Président, les risques auxquels nous sommes confrontés sont multiples. Des systèmes de plus en plus performants et autonomes peuvent créer de nouvelles vulnérabilités pour les infrastructures critiques et les processus de décision. Leur utilisation dans les contextes militaires et sécuritaires soulève des questions fondamentales de responsabilité, de prévisibilité et de contrôle humain. Nous devons également rester attentifs aux comportements imprévus de certains systèmes, aux possibilités de contournement des dispositifs de sécurité ainsi qu'aux difficultés croissantes que peuvent rencontrer les États pour comprendre, évaluer et encadrer les technologies dont les capacités évoluent à une vitesse sans précédent. Ces enjeux prennent une dimension particulièrement concrète dans les situations de conflit. En République démocratique du Congo, comme dans d'autres théâtres de crise, les technologies de surveillance et les drones occupent déjà une place croissante dans l'environnement opérationnel. Ces technologies peuvent contribuer à la reconnaissance, à l'observation et au suivi de cessez-le-feu. Elles peuvent également être détournées à des fins de reconnaissance militaire, de coordination, de désinformation et de propagande. Cette ambivalence nous rappelle une vérité essentielle: aucune technologie n'est par elle-même un instrument de paix ou un instrument de conflit. C'est le cadre dans lequel elle est conçue, déployée et gouvernée qui détermine largement son impact. C'est pourquoi la responsabilité doit demeurer au cœur de notre réflexion. Les États ont la responsabilité d'établir des cadres juridiques appropriés, d'assurer une supervision effective et de prévenir les risques susceptibles d'affecter la paix et la sécurité internationales. Les entreprises technologiques doivent, elles aussi, assumer pleinement leur part de responsabilité, notamment à travers l'évaluation des risques avant le déploiement, la notification des incidents, la traçabilité, la transparence et le maintien d'une supervision humaine appropriée. La communauté scientifique et la société civile doivent également pouvoir apporter leur expertise indépendante et contribuer à l'évaluation critique des risques. Mais les réponses nationales, aussi nécessaires soient-elles, ne sauraient suffire. L'interdépendance technologique appelle à une responsabilité partagée. Elle exige une coopération internationale plus étroite, fondée notamment sur l'échange d'informations relatives aux incidents graves et aux vulnérabilités détectés, la coopération en matière d'évaluation et de tests de sûreté, ainsi que l'établissement de canaux de communication entre gouvernements, scientifiques et acteurs technologiques. Monsieur le Président, pour la République démocratique du Congo, cette coopération doit également répondre à une exigence fondamentale: l'inclusion. Les pays en développement ne peuvent être réduits au rôle de simples utilisateurs de technologies conçues ailleurs, pas plus qu'ils ne devraient être de simples destinataires de normes à l'élaboration desquelles ils n'auraient pas suffisamment participé. Ils doivent disposer des capacités scientifiques, techniques, institutionnelles leur permettant d'évaluer les technologies auxquelles leurs populations et leurs économies sont exposées, de participer à leur gouvernance et surtout de contribuer eux-mêmes à l'innovation. Cette exigence d'inclusion nous conduit à regarder l'intelligence artificielle dans l'ensemble de sa chaîne de valeur. Car la révolution de l'intelligence artificielle, malgré son apparence immatérielle, repose sur des réalités profondément matérielles. des infrastructures, de l'énergie, des capacités industrielles et des ressources naturelles stratégiques. Cette dimension revêt une importance particulière pour la République démocratique du Congo. Lors de sa présidence du Conseil de sécurité en juillet dernier, mon pays a invité le Conseil à engager une réflexion sur la manière dont une gouvernance responsable, transparente et équitable des ressources naturelles peut contribuer à la prévention des conflits, à la sécurité des chaînes d'approvisionnement et l'émergence d'une prospérité partagée. La révolution de l'intelligence artificielle donne à cette réflexion une pertinence supplémentaire. Nous devons veiller à ce que les transformations technologiques du 21e siècle ne reproduisent pas les déséquilibres économiques des décennies précédentes. Des pays qui fournissent les ressources essentielles à l'économie mondiale, tandis que la transformation, la technologie et l'essentiel de la valeur ajoutée se concentrent ailleurs. La sécurité des chaînes d'approvisionnement ne saurait être durablement dissociée de la prospérité des populations qui se trouvent à leur origine. C'est pourquoi la gouvernance de l'intelligence artificielle doit également être pensée dans une logique de responsabilité partagée. Responsabilité dans la conception des systèmes, responsabilité dans leurs usages, responsabilité dans les chaînes de valeur qui rendent leur développement possible. mais également responsabilité dans la répartition des bénéfices du progrès technologique. Pour la République démocratique du Congo, l'enjeu est clair. Les ressources qui contribuent à rendre possible la révolution numérique doivent également contribuer au développement, à la transformation économique, à l'industrialisation et au renforcement des capacités technologiques des pays qui les produisent. Il ne s'agit pas seulement d'une question de développement, il s'agit aussi d'une question de paix. Lorsque les chaînes de valeur sont opaques, lorsque les bénéfices sont inéquitablement répartis, lorsque les communautés productrices demeurent exclues de la prospérité générée par leurs propres ressources. Les vulnérabilités économiques peuvent nourrir les tensions et les économies de conflits. À l'inverse, lorsque les ressources sont gouvernées de manière responsable, lorsque la transformation locale crée des emplois et des perspectives, lorsque les populations participent effectivement aux bénéfices de la croissance, les chaînes d'approvisionnement peuvent devenir non seulement plus sûres et plus résilientes, mais également des chaînes de prospérité partagée. Monsieur le Président, c'est précisément ici que le Conseil de sécurité peut apporter une valeur ajoutée. Il ne lui appartient pas de se substituer aux enceintes compétentes pour élaborer l'ensemble des règles techniques relatives à l'intelligence artificielle. Mais il lui appartient pleinement d'anticiper les risques susceptibles d'affecter la paix et la sécurité internationales, d'examiner la manière dont les nouvelles technologies transforment les dynamiques de conflit, de protéger les civils, d'encourager les mesures de confiance et de veiller à ce que les transformations technologiques ne créent pas de nouvelles vulnérabilités susceptibles d'alimenter l'instabilité. Notre objectif ne doit donc pas être de choisir entre innovation et sécurité, pas plus qu'il ne devrait être de choisir entre ressources naturelles et développement. Notre responsabilité est de gouverner le progrès afin qu'il serve l'être humain. En juillet dernier, sous la présidence de la République démocratique du Congo, notre Conseil s'est interrogé sur la manière de transformer les ressources naturelles, trop souvent associées aux économies de conflit, en instruments de paix, de coopération et de prospérité partagée. La révolution de l'intelligence artificielle nous confronte aujourd'hui, sous une autre forme, à une interrogation comparable. Comment faire en sorte que le progrès technologique réduise les fractures plutôt qu'il ne les approfondisse? Comment faire en sorte qu'il renforce les capacités des États plutôt qu'il ne crée de nouvelles dépendances? Comment faire en sorte, enfin, que les chaînes de valeur qui soutiennent cette révolution contribuent à la paix et à la prospérité des sociétés qui les rendent possibles? Pour la République démocratique du Congo, la réponse doit reposer sur trois principes: la responsabilité partagée, l'inclusion et la prospérité partagée. À mesure Que les capacités de l'intelligence artificielle progressent, notre capacité collective à les gouverner doit progresser avec elles. Car, qu'il s'agisse de ressources naturelles ou de l'intelligence artificielle, la question fondamentale demeure la même, non pas seulement ce que nos ressources et nos technologies nous permettent de faire, mais ce que nous décidons collectivement d'en faire. C'est là que commence notre responsabilité commune. Je vous remercie.

Je remercie Son Excellence, Madame Kayihwamba Wagner, de sa déclaration, et je passe la parole à présent au représentant permanent de la Chine.

Merci, Monsieur le Président. Je remercie la France d'avoir organisé cette réunion. Je remercie les intervenants pour leurs exposés. L'intelligence artificielle, l'IA, est un moteur important de nouvelles révolutions technologiques, la transformation industrielle, et apporte d'immenses avantages à l'humanité pour sa vie, pour ses activités productives, tout en créant de nouveaux problèmes, de nouveaux risques pour la paix et la sécurité internationales. Il incombe à la communauté internationale d'œuvrer plus étroitement ensemble, d'accorder la même importance au développement et à la sécurité, et de pousser le développement de l'IA vers le bien de l'humanité contribuant ainsi à la paix du monde, la sécurité, le développement et la prospérité. J'aimerais évoquer les points suivants. Premièrement, le respect de la souveraineté numérique pour des avantages mutuels. Alors que les technologies de l'IA sont profondément intégrées dans les chaînes de production et d'acheminement mondiales et les réseaux d'innovation, tous les pays ont le droit, de manière indépendante, de choisir les technologies de l'IA, leurs produits et leurs services d'IA en répondant à leurs besoins et aux principes de leurs marchés. Créer une clique égoïste, nous contre eux, dans le secteur privé, et forcer les pays à choisir leur camp, revient à politiser et privatiser les questions technologiques au service de la tentative de certaines grandes puissances visant à préserver leur avance technologique grâce au monopole dans la recherche d'hégémonie numérique. Cela non seulement entravent les progrès technologiques du monde au détriment des droits de développement des intérêts de tous les pays, y compris les petits pays. Mais cela augmente également les risques de fragmentation des normes technologiques, les risques d'incompatibilité entre les systèmes, ce qui met gravement en danger la sécurité nationale. Nous appelons tous les pays à renforcer leurs échanges et la coopération, à promouvoir des écosystèmes ouverts, un accès direct, un vrai ensemble. aux progrès scientifiques et technologiques. Deuxième point, il faut renforcer les connaissances des risques et faire en sorte que l'IA soit sûre et contrôlable. Tous les pays doivent respecter une philosophie axée sur la personne pour que la recherche et le développement des applications en matière d'IA soient conformes aux principes et objectifs de la Charte des Nations unies et du droit international applicable, ainsi que les valeurs communes de l'humanité et l'éthique sociale. En réponse, aux risques inérents secondaires représentés par l'IA. Il faut constamment améliorer les cadres réglementaires, la réponse d'urgence et les mécanismes de coopération transfrontalière et lutter contre l'abus de l'IA par les organisations terroristes, les forces extrémistes et les groupes criminels transnationaux. Les entreprises, notamment les géants de la tech, doivent s'acquitter de leurs responsabilités sociales, lutter contre la désinformation, les discours de haine et accepter la réglementation de la loi et du public. Pour ce qui est de l'application de l'IA dans le domaine militaire, tous les pays doivent adopter une approche prudente et responsable et éviter les erreurs de calcul stratégique et la course aux armements, s'opposer à l'utilisation de ces armes pour des attaques aveugles ou des frappes délibérées contre les civils et les installations civiles, et faire en sorte que La décision au dernier ressort continue à être prise par les êtres humains. Troisièmement, il faut encourager l'IA pour le bien et renforcer l'automatisation technologique. L'IA présente de nombreuses possibilités pour relever les défis mondiaux, notamment ceux liés au changement climatique, à l'amélioration de la sécurité et de la santé publique, à la transition énergétique et aux catastrophes naturelles. La communauté internationale doit saisir cette occasion historique appuyer l'autonomisation de tous les secteurs économiques grâce à la technologie IA et fournir des orientations pour les progrès technologiques afin qu'ils amènent des améliorations dans le bien-être public. Nous nous félicitons des efforts de l'ONU afin d'utiliser au mieux les ressources existantes et d'appliquer la technologie IA pour améliorer la qualité et l'efficacité de son travail, ce qui fournit des services plus souples aux États membres. Même les missions sur le terrain, avec le consentement des gouvernements hôtes et conformément à leurs mandats respectifs, peuvent utiliser les technologies de l'IA correctement pour renforcer leur connaissance de la situation, l'analyse de l'information, l'alerte précoce et les capacités de réponse rapide. Quatrième point, promouvoir l'équité et l'inclusion et améliorer la gouvernance mondiale. L'IA est un bien commun de toute l'humanité et ne doit pas devenir le bien exclusif des pays riches et des peuples riches. Il faut éviter que la fracture numérique aggrave la fracture en matière de développement. Il faut renforcer le soutien pour le Sud global. Il faut aider les populations de tous les pays à profiter des progrès technologiques et les rendre plus résilientes face aux risques sécuritaires. Nous devons pratiquer le vrai multilatéralisme, soutenir l'ONU qui est le principal instaure une gouvernance mondiale et donne aux pays davantage de représentations pour qu'ils soient mieux entendus. Pour respecter la diversité des civilisations, les facteurs uniques de la culture de chaque pays, nous devrions renforcer l'alignement et la coordination s'agissant des stratégies de développement de l'IA, de gouvernance, les règles, les normes techniques. Et il faut édifier un cadre de gouvernance mondiale consensuel rapidement pour établir des garde-fous institutionnels qui préservent la paix et la sécurité internationales. Monsieur le Président, la Chine est un important praticien des innovations en matière d'IA et de son développement. Nous contribuons activement à la gouvernance mondiale. Depuis que le président Xi Jinping a lancé l'Initiative mondiale pour la gouvernance de l'IA, la Chine a aidé l'Assemblée générale des Nations unies à adopter par consensus la résolution sur le renforcement de la coopération internationale pour ce qui est du renforcement des capacités de l'intelligence artificielle. Nous avons présenté le plan d'action pour l'information des capacités de l'IA pour le bien et pour tous, et l'initiative de coopération internationale IA+. En juillet, le président Xi Jinping a annoncé à la conférence mondiale sur l'IA que dans les cinq prochaines années, la Chine fournirait 5000 occasions de formation liée à des séminaires pour les pays en développement. Et que nous établirons des centres de coopération pour les applications liées pour l'ASEAN, la Ligue arabe, l'Union africaine, la CEOLAC, l'Organisation de coopération de Shanghai et les BRICS. Et nous promouvrons l'application, le système d'alerte météorologique IA appelée Matsu, dans 13 pays. Une initiative proposée par la Chine en réponse aux défis de notre temps. L'Organisation de coopération mondiale pour l'intelligence artificielle a été fondée à Shanghai. C'est la toute première organisation internationale consacrée à l'IA. Nous serions heureux que davantage de pays rejoignent cette plateforme ouverte. Nous serions heureux de travailler avec tous les pays. Il faut réédifier un système juste et équitable pour la gouvernance mondiale de l'IA. Ensemble, nous créerons un avenir radieux pour l'humanité. Merci..

De la Chine, de sa déclaration. Je donne la parole à présent au représentant de la Fédération de Russie.

Monsieur le Président, nous remercions les intervenants pour leur contribution au débat. L'intelligence artificielle, aujourd'hui, est un thème plutôt à la mode et personne dans le monde n'y est indifférent. C'est devenu le thème des débats dans diverses enceintes politiques et d'experts. Le Conseil de sécurité n'y fait pas exception. Cependant, cet organe de l'ONU a, bien sûr, ses limites. Premièrement, il est difficile de comprendre comment le sujet générique de l'intelligence artificielle est lié au mandat du Conseil de sécurité, strictement prescrit par la Charte des Nations unies, le maintien de la paix et de la sécurité internationales. Deuxièmement, et c'est tout aussi important, les pays d'Afrique, d'Asie et d'Amérique latine sont sous-représentés au Conseil de sécurité. La voix du Sud global aura du mal à se faire pleinement entendre. Et donc, le risque est élevé que le groupe des États occidentaux qui dominent le Conseil et qui souhaitent conserver et consolider leur leadership technologique dans ce pays, s'efforcera d'imposer à l'ensemble de la communauté internationale sa démarche égoïste aux dépens des prérogatives de formats spécialisés inclusifs qui mènent des travaux pratiques dans ce domaine. Et malheureusement, cela se produit déjà. Un des exemples frappants, c'est l'organisation de ce sommet en petit comité sur ce qu'on appelle l'application responsable de l'IA à des fins militaires. où l'on n'invite pas la majorité des pays en développement. Enfin, la question de l'application de l'IA civile comme militaire a un caractère complexe et multiple. C'est pourquoi ce thème doit être discuté dans les enceintes spécialisées. Et notamment, il serait bon de mener le débat sur les attaques informatiques menées avec l'IA. Donc, ça doit être mené dans le mécanisme mondial créé pour remplacer le groupe de travail à composition non limitée de l'ONU sur la sécurité de l'information. Pour examiner les aspects militaires de l'application de l'IA, il y a un groupe d'experts gouvernementaux sur les systèmes d'armes autonomes létales qui fonctionnent au sein de la Convention sur certaines armes classiques. Je voudrais attirer l'attention de mes collègues sur le fait que ce groupe d'experts gouvernementaux spécialisés à Genève, il y a trois semaines, a adopté un rapport consensuel de fond. Ce résultat confirme en pratique l'efficacité et la nécessité de ce forum, de cette enceinte. L'essentiel, c'est que Le rapport contient une définition fonctionnelle des systèmes d'armes autonomes létales, ainsi qu'un concept commun pour ce qui est de l'application dans ce domaine des normes du droit international, y compris le droit international humanitaire, ainsi que des paramètres permettant de garantir le contrôle humain afin de diminuer les risques liés à l'utilisation de l'IA à des fins militaires. Nous pensons qu'il n'est pas opportun de mettre à mal les travaux constructifs menés à Genève. Pour notre part, nous sommes prêts à continuer à participer à ces activités pour continuer à nous mettre d'accord sur des démarches communes dans ce domaine. Monsieur le Président, nous avons attentivement pris connaissance de la note de cadrage Présenté par la France pour cette séance, nous estimons contre-productif l'examen de l'application des technologies de l'IA exclusivement à travers le prisme des risques. En effet, chaque médaille a deux côtés. Alors, les avantages de l'IA sont la fiabilité, la sécurité et la rapidité d'action, notamment pour prendre des décisions. L'IA permet de mener une analyse efficace des grands massifs de données de détecter les menaces, de mieux avoir une connaissance de la situation et de mener avec précision les opérations et permet également de diminuer les risques pour la population civile et de renforcer la protection des sites civils. Par ailleurs, bien entendu, il faut prendre en compte le fait que cette technologie entraîne également des risques afin de les minimiser. il faut garantir le contrôle humain sur le fonctionnement des technologies utilisant l'IA. Les États mettent cela en œuvre, en pratique, au niveau national. Parmi les moyens permettant de garantir le contrôle humain, on peut par exemple évoquer le renforcement de la fiabilité et de la sécurité intégrée des systèmes, la diminution du nombre de types de tâches la diminution de la durée du fonctionnement, de la portée géographique et de l'ampleur de l'utilisation et une intervention tant voulue, une désactivation tant voulue des systèmes. De plus, les États doivent prendre des mesures pour détecter et minimiser les erreurs dans les algorithmes et les ensembles de données, et également prendre les mesures nécessaires pour prévenir et interrompre l'évolution du droit international dans le contexte de l'élaboration et de l'application de ces technologies. Parmi les mesures possibles, il y a une bonne gestion du cycle de vie des systèmes d'armes et du matériel militaire, la définition des critères de préparation et la protection maximale face aux accès non autorisés. Pour nous, il serait également bon d'organiser un échange d'avis de se mettre d'accord sur des recommandations et principes directeurs concrets. Cependant, il est important de ne faire cela que dans les organes spécialisés. Sur le principe, la Russie n'a pas d'objection au fait d'établir un dialogue multilatéral sur les questions d'application de l'IA, y compris dans le domaine militaire. Et pour ce qui est de l'étude des conséquences de l'utilisation de ces moyens, pour la paix et la sécurité internationales. Nous sommes cependant convaincus que ce dialogue doit reposer sur la base du consensus et de l'inclusion et avoir un caractère intergouvernemental. Ces principes fondamentaux doivent garantir la prise en compte des intérêts de tous les États membres et également garantir l'efficacité des décisions prises. Pour ce qui est d'échanges d'avis sur ce thème, il faut accorder une attention particulière à la non-discrimination et l'accès juste de tous les États, notamment les pays du Sud global, aux technologies de l'IA. Je vous remercie de votre attention.

Je remercie le représentant de la Fédération de Russie de sa déclaration. Je donne la parole à présent au représentant permanent du Liberia.

Merci, Monsieur le Président. Le Nigeria, lui aussi, remercie la présidence française d'avoir organisé cette réunion de haut niveau essentielle. Et nous remercions les intervenants de nous avoir fait part de leur point de vue. Nous saluons également les dignitaires de haut niveau à cette réunion. Excellence, l'histoire nous enseigne que les plus importantes transformations de l'histoire de l'humanité ne sont jamais définies par les percées technologiques seules. Chaque percée, fondamentalement en matière de capacité, a exigé une percée comparable en matière de gouvernance, de cadre éthique et de règles multilatérales pour faire en sorte que le pouvoir œuvre pour le bien commun. L'intelligence artificielle est le test de ce principe immémorial. Sa promesse d'œuvrer pour le bien de la société est immense, mais c'est également le cas du risque existentiel si sa trajectoire échappait au contrôle humain à la responsabilité institutionnelle et au contrôle éthique. Il y a 81 ans, les architectes de la Charte des Nations Unies étaient face à un monde fracturé par un pouvoir incontrôlé. Ils ont reconnu que la paix durable ne pouvait pas être garantie simplement en réagissant aux crises après que la fumée s'était dissipée. Il fallait la clairvoyance, une coopération multilatérale pérenne et des institutions capables de devancer et de neutraliser les menaces avant qu'elles ne provoquent un conflit mondial. Les délégués à San Francisco en 1945 n'auraient pas pu prévoir les réseaux neuro, les modèles informatiques de pointe, mais toute capacité qui redéfinit la nature même de la guerre, de la souveraineté et de la stabilité géopolitique relève clairement du mandat premier du Conseil, maintenir la paix et la sécurité internationales. Monsieur le Président, l'intelligence artificielle est déjà en train de redéfinir les infrastructures critiques, le commerce international et la cohésion des sociétés. Ces technologies, si elles sont régies de manière responsable, elles peuvent donner davantage de pouvoir à l'ONU. Elles peuvent renforcer les mécanismes d'alerte précoce face aux conflits, optimiser la logistique humanitaire et renforcer les opérations de maintien de la paix. Pourtant, nous constatons avec grande préoccupation la prolifération de capacités offensives permises par l'IA, de systèmes d'armes autonomes et de modèles de pointe qui font preuve de comportements émergents imprévisibles. Les progrès rapides pour parvenir à l'intelligence générale artificielle et les systèmes autonomes montrent que les risques liés à ces technologies de pointe ne sont plus des possibilités théoriques abstraites. Il s'agit de réalité politique véritablement imminente. La communauté internationale ne peut pas se permettre d'attendre un échec systémique ou une erreur de calcul catastrophique avant de mettre en place des garde-fous collectifs. Nous ne pouvons pas permettre que le coût des hésitations d'aujourd'hui entraîne les catastrophes de demain. Monsieur le Président, Le Liberia estime que la communauté internationale doit éviter deux extrêmes également dangereux. Le premier, c'est une surréglementation étouffante qui étouffe le progrès, en particulier pour les pays en développement qui ont besoin urgent d'accès aux outils IA. pour améliorer leur éducation, révolutionner les soins de santé, moderniser leur agriculture et accélérer les objectifs de développement durable. Le deuxième danger, c'est une complaisance dangereuse, la croyance naïve que les technologies transformatrices peuvent se réguler elles-mêmes en toute sécurité. L'histoire ne présente aucun précédent justifiant une telle foi, sans garde-fous vérifiables, sans transparence, sans responsabilité clairement établie, les capacités non régulées créeront des vulnérabilités qui ne respectent aucune frontière nationale. La voie que nous devons emprunter ne se résume pas à un choix binaire entre l'innovation et la régulation. L'impératif qui s'impose à nous, c'est de faire en sorte que les innovations technologiques et la gouvernance multilatérale avancent de pair. Nous devons réguler avec sagesse et innover de manière responsable. Pour le Liberia, quatre piliers opérationnels sont fondamentaux. Premièrement, La sécurité dès la conception. La responsabilité doit commencer à la phase de conception de l'architecture. Une atténuation rigoureuse des risques, une résilience en matière de cybersécurité et des contrôles et des garde-fous doivent être intégrés dans l'ensemble du cycle de vie, du pré-entraînement jusqu'au déploiement dans le public, plutôt que d'être improvisés une fois que la crise sera intervenu. Deuxièmement, il faut défendre le droit international et la capacité humaine à agir. Les décisions impliquant le recours à la force létale, la suppression de la vie humaine et l'escalade des conflits ne doivent jamais être abdiquées en faveur d'algorithmes autonomes. Un véritable contrôle humain, une véritable responsabilité, reste le socle non négociable du droit international humanitaire et de la dignité humaine. Des mesures de confiance coopérative, c'est mon troisième point. La coopération multilatérale doit promouvoir la confiance sans entraver les enquêtes scientifiques, la recherche scientifique. Des critères de surharmoniser, des mesures de divulgation des menaces coordonnées et des protocoles transparents entre les États Les chefs de file du secteur et les scientifiques indépendants sont essentiels pour atténuer la défiance stratégique. Et, quatrièmement, il faut un contrôle indépendant et vérifiable. Les normes sans vérification sont insuffisantes. Nous avons besoin de cadres d'audit crédibles, de normes robustes et d'évaluation technique indépendante pour faire en sorte que les engagements des entreprises et des États aboutissent à une sécurité mesurable, une sûreté mesurable pour l'humanité. En outre, Monsieur le Président, la gouvernance mondiale ne saurait devenir une enclave exclusive réservée aux quelques pays qui contrôlent l'informatique, perfectionner le capital. L'Afrique et le Sud global ne peuvent pas être traités simplement comme des extracteurs de données ou des utilisateurs finaux en aval. Nous devons être des co-architectes sur un pied d'égalité pour déterminer les normes, les critères éthiques et les architectures de cette ère technologique. À cet égard, Le Liberia se félicite des initiatives historiques présentées à travers le Pacte numérique mondial et en particulier du Dialogue mondial sur la gouvernance de l'IA et le Groupe scientifique international indépendant sur l'IA. Cependant, les efforts complémentaires à l'Assemblée générale n'absolvent pas le Conseil de son devoir qui lui est propre. lorsque l'informatique de pointe coïncide avec des cyberopérations contre les infrastructures civiles, les systèmes d'armes autonomes et la compétition géostratégique, les collisions directes avec la sécurité internationale. L'intervention du Conseil ne représente pas des doublons, mais au contraire la prévention des conflits. Le Liberia, apporte donc tout son appui à la création d'un groupe de travail informel dédié du Conseil de sécurité sur l'intelligence artificielle et les technologies émergentes, chargé de surveiller les conséquences sécuritaires transversales de ces capacités concernant les domaines thématiques comme propres à certains pays. Pour conclure, Monsieur le Président, Agissons avec la clairvoyance et le sentiment d'urgence exigés par cette époque et faisons en sorte que la transition technologique la plus extraordinaire depuis la révolution industrielle soit un moteur constant de prospérité commune et un pilier de la paix et de la sécurité internationales plutôt que un facteur de nouvelles divisions, de nouvelles fractions de notre monde et d'insécurité. Je vous remercie de votre aimable attention.

Je remercie le représentant permanent du Liberia de sa déclaration. Je ne vois plus d'oratrice ou d'orateur inscrit sur la liste. Je voudrais remercier les intervenants à cette session du Conseil de sécurité. La séance est levée.