Inteligencia artificial y seguridad internacional - Consejo de Seguridad, 10228ª sesión

La 10 228e séance du Conseil.

Se declara abierta la reunión 10 228 del Consejo de Seguridad. Orden del día provisional. Mantenimiento de la paz y la seguridad internacionales. Inteligencia artificial y seguridad internacional. Queda aprobado el orden del día. De conformidad con el artículo 39 del reglamento provisional, invito a los siguientes ponentes a participar en esta reunión: el señor Joshua Bengio, profesor y copresidente del Grupo Independiente Internacional sobre la IA; el señor Sam Altman, director ejecutivo de OpenAI, el señor Dario Amodei, director ejecutivo de Anthropic, y el señor Clemo de Long, director ejecutivo de Hugging Face. Así queda decidido. El Consejo de Seguridad ahora aborda el mensaje del punto 2 de su orden del día. Y ofrezco la palabra al señor Joshua Bengio.

Señor presidente, excelencias, muchas gracias a Francia por convocar esta reunión. Hoy intervengo en un momento de un despertar mundial. En los últimos meses, los agentes de la IA desarrollados por las grandes empresas han actuado de manera inaceptablemente peligrosa y en contra de las instrucciones han adoptado medidas que se considerarían crímenes si los cometieran seres humanos. Han escapado a su limitación, han mentido con tareas encargadas intentando evadir la protección. Los agentes de la IA lanzaron ciberataques coordinados y modificaron sus respuestas para ocultar lo que estaban haciendo. Las empresas que están construyendo los poder, las estos sistemas más poderosos, reconocen los riesgos catastróficos, pero no ofrecen soluciones técnicas, sino que dicen que están como bloqueados y lo que quieren es conseguir que sea más poderoso todavía, ampliando estos riesgos. Este consejo. hace frente a una amenaza sin precedentes, una amenaza que ninguna de sus miembros ha elegido, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos. Muchos son muy escépticos al escuchar las declaraciones de estas empresas y consideran que es marketing. Yo entiendo la desconfianza, pero que algo quede muy claro. Estos comportamientos de la IA están bien documentados y han quedado validados por muchos expertos independientes, y no solo después de los acontecimientos del verano. Los riesgos son reales, inminentes, y aunque el futuro sigue siendo incierto, y aunque se debate, la gravedad de estos riesgos es realmente extraordinaria. Los ciudadanos y los gobiernos no pueden aceptar las declaraciones de las empresas de que están atrapados en esa carrera. La carrera no es una ley de la naturaleza, es resultado de opciones, opciones por las que ha optado las empresas y es una carrera en la que todos son perdedores. Nos han dicho que si pudieran reducirían la velocidad y pueden. Sin embargo, No deberíamos esperar que lo hagan. Las decisiones sobre estas tecnologías las toma un grupo pequeño, en un grupo pequeño también de países. Nos jugamos el futuro, todos nosotros. Las decisiones que nos afectan a todos las tendrían que tomar todos. Todavía podemos elegir, pero tenemos que actuar ahora para corregir el tiro. Me veo alentado por las declaraciones que ha hecho esta semana el secretario general de las Naciones Unidas y también los líderes de muchos países que piden el control del crecimiento de la IA, la cooperación internacional. Eso es lo que necesita el mundo ante tres amenazas mundiales que vemos con el adelanto de estos modelos. Primero, un abuso catastrófico, por ejemplo, por terroristas. En segundo lugar, la concentración de poder. Y en tercer lugar, la pérdida de control de la inteligencia artificial. Tenemos que acordar entre todos que nadie, ni empresa ni país, podrá desarrollar un sistema de IA que pudiera causar daños a gran escala. Aquellos que trabajan en el desarrollo deben demostrar a expertos independientes que el sistema es seguro para formarlo y para desplegarlo. Tienen que darle seguimiento, tienen que informar de todos los incidentes de seguridad. La IA tiene que tener una licencia, como todas las demás tecnologías esenciales, la medicina, la aviación, la energía nuclear, para que así se pueda incentivar el desarrollo seguro. Al igual que en esos ámbitos, hay que exigir un seguro de responsabilidad. Y las empresas que desarrollan o acogen estos sistemas punteros tienen que demostrar a la opinión pública que sus no van a ser peligrosos. Hay cada vez más gente preocupada por los adelantos de la IA. Tenemos que canalizar esa preocupación para actuar de manera productiva. Al igual que se hace con otras tecnologías que cambian el mundo, sí que podemos modular el resultado y confío en que podemos crear una IA que siga claramente bajo nuestro control y que apoye la actividad y la alegría humana. Yo estoy trabajando en ese propósito y es una misión urgente para la humanidad. Hoy hay un grupo de países y de empresas que están actuando por interés propio, asumiendo riesgos gravísimos con el destino de la humanidad. Es preocupante, sí, pero no es inevitable. Todavía tenemos maneras de arreglar esto. Primero, Necesitamos independencia científica real de las empresas, a las que hay que exigirles cuentas. Ahí se incluye una definición común de incidentes IA y un mecanismo de preparación de informes compartido. En segundo lugar, tenemos que pasar del poder concentrado hacia un diálogo mundial real sobre cómo se desarrolla esta tecnología por el bien común. Y en tercer lugar, tenemos que trabajar de consuno en soluciones técnicas que hagan que la IA sea segura por diseño, siempre garantizado por los acuerdos internacionales. Soy consciente de que flaquea la confianza en este Consejo, pero también puedo decir lo siguiente. Esta carrera amenaza a todas las naciones. A menudo describo esta situación como un coche que va a toda velocidad entrando en una niebla muy densa. En el coche llevo a mis hijos y a mi nieto, y estoy preocupado por ellos. Me preocupa su futuro. Y yo no soy distinto de cualquier otro padre, madre o abuelo y abuela. Una madre en Shanghái quiere que sus hijos se críen en un mundo donde la IA mejore sus vidas, no las ocabe. Y un padre en Chicago quiere que sus hijas prosperen por la inteligencia artificial, no que sufran por lo que pueda ocasionar. Nuestras esperanzas y nuestras preocupaciones son las mismas en todos los países. La humanidad ya ha demostrado la valentía y la sabiduría de gestionar riesgos catastróficos antes. Y hemos llegado a uno de esos puntos. Y esto es mucho más grande que cualquier interés personal, comercial o nacional. Muchas gracias.

Le doy las gracias al señor Benjo por su presentación y ahora le doy la palabra al señor Sam Altman.

Muchas gracias, presidente. Excelencias, tengo el honor de estar aquí. Muchas gracias por permitirme hablar en estos tiempos tan importantes. Llevamos años hablando de la IA, pero en las últimas semanas parece que algo ha cambiado. Los modelos avanzan rápidamente. Parece que tenemos menos tiempo, el resultado más tangible, pero los riesgos más inmediatos también. Ahora tenemos que elegir. La IA puede ser un nuevo renacimiento de creatividad y de descubrimiento, una nueva revolución industrial de la gente. El renacimiento fue un momento en el que las herramientas nuevas, las nuevas ideas y las nuevas instituciones. Ampliaron lo que la gente pensaba que podía hacer y la IA puede hacer esto en nuestros tiempos. Me parece que la gente es mucho más capaz de lo que imaginan ser, pero se les está limitando por una tecnología limitada que a menudo desvía la atención y les distrae. La mejor versión de la IA no es para convertir a la gente en parte de una maquinaria o optimizar toda la vida hasta que desaparezca el ser humano, sino darles más capacidad en un mundo cada vez más complicado, más capacidad de aprender, de descubrir, de crear, de participar, de construir. La IA, hay muchas cosas que no puede hacer y que no debe hacer. La IA hay que construirla para la gente, no solamente para que la máquina funcione mejor por su propio bien. Algunos elementos que se han construido parece que son tan distópicos que parece como una ciencia ficción mala. Pero todo lo poderoso también intimida. Este momento es complicado porque vemos mucho potencial, pero también vemos ansiedad, es comprensible. Estos modelos le puede ayudar a la gente a descubrir conocimientos, nuevos medicamentos, asistencia sanitaria, mejor educación y generar economías más productivas. Pueden ser herramientas para ser más ambiciosos y llegar a cosas que hoy están. fuera del alcance de la mano. Y la complejidad de la vida es muy importante. Y la IA te puede defender de esta complejidad, pero puede también esa herramienta para tener la de descubrimiento y la innovación y para prosperar. Por otro lado, a medida que los sistemas son más capaces y más autónomos, también pueden ir más rápidos que nuestras instituciones. Concentrar el poder en pocas manos y adoptar decisiones que la gente ya no entiende o puede controlar. Esta preocupación es sobre todo importante cuando nos acercamos a sistemas que se pueden mejorar solos en versiones futuras, estas mejoras recursivas, como se han dado en llamar. A medida que el proceso de construir la IA se automatiza, también se podría acelerar muchísimo más rápidamente. Por lo tanto, ahí tenemos que tener cuidado y ser cautelosos. Estoy de acuerdo en buena medida con el profesor Benjio, aunque a mí me parece que hay dos maneras en las que podemos equivocarnos con el progreso de la IA y los que tenemos que evitar. Podemos perder el control del futuro de la IA. El riesgo es que vaya tan rápido que ya no se pueda dar seguimiento a lo que está pasando o detenerlo cuando sea necesario, y esto sería muy problemático. La industria no puede aceptar demasiado riesgo tecnológico porque los beneficios sean muy grandes y porque sea o parezca demasiado importante para para desacelerarlo. Tampoco nos parece que estemos en una carrera en la que no podamos precisamente detenerlo. Lo hemos hecho en el pasado y no queremos crear sistemas. Nos parece que es importante que todo el mundo evite crear sistemas de los que ya no se pueda efectivamente ofrecer unas garantías de seguridad como las que son necesarias. Tenemos que entender los sistemas, necesitamos pruebas de que van a hacer efectivamente lo que tienen que hacer, incluso cuando sean muy inteligentes, sobre todo cuando sean muy inteligentes. Da igual que el riesgo de catástrofes sea un 10-12% estos niveles no son aceptables ninguno de ellos y no podemos formar modelos cuando pensemos que no van a poder estar bajo control humano. Eso es un elemento muy importante. Por otro lado, estos sistemas podrían concentrar demasiado poder en demasiadas pocas manos. Ni una empresa, ni una persona, ni un país debería poder utilizar estos modelos poderosos para imponer su voluntad sobre otros. Una empresa o un país que considera que solamente podría justificar cualquier cosa si se les confiara esta tecnología. Tenemos que rechazar esta lógica. A mí me parece que hay un camino pragmático para abordar estas cuestiones. En OpenAI, Lo que intentamos hacer es darle a la gente más poder para su propia vida, para vivir la vida como quieren, la capacidad de resolver problemas y de mejorar sus comunidades. No queremos tampoco caer en la trampa del optimismo ciego, pero tampoco queremos que nos compliquemos demasiado. Lo que tenemos que hacer es arrostrar los desafíos y resolverlos, sobre todo en un momento en el que el mundo y la gente tiene que hacer frente a tantos desafíos que esta tecnología puede contribuir a resolver. Así que intentamos movernos entre esos dos límites. Tres principios. Primero. A medida que la IA adquiere más capacidad, la gente tiene que seguir en el núcleo, en el centro de las decisiones. Alinear no es una cuestión abstracta, es el trabajo de garantizar que estos sistemas siempre estén bajo control humano, reflejen los valores humanos y ayuden a la gente a orientar la siguiente fase del desarrollo. No intentamos automatizar los valores humanos, el juicio del ser humano. Luego, los beneficios del crecimiento científico tienen que ser por la gente y para la gente. Hay que ayudar a los investigadores a descubrir, a enseñar, a curar, a liderar empresas y que las comunidades resuelvan problemas que pensaban que no podían resolver. El progreso humano, esa es la continuidad, pero no es sustituir la capacidad humana, sino incrementar esa capacidad humana. Y me parece que eso es posible. Y en tercer lugar, esta tecnología hay que empoderar al individuo. El gran futuro vendrá del individuo que logra desarrollar su potencial, que genera valor para sí mismo, para su comunidad, para el país y para todo el mundo. Igual somos unos de los que contribuimos a esta tecnología, pero no somos los que están en la última línea de esta historia. Hay que hacerlo en todo el mundo y confiar en la capacidad de la humanidad y en la magia. Ahora tenemos modelos que pueden descubrir conocimientos que no teníamos antes. Consideren los progresos que hemos visto en matemáticas hace tres veranos. Nuestros modelos podían resolver matemáticas. Luego, ya hace dos años, en el instituto. Y luego, ya el año pasado, logramos precisamente una medalla de oro en la competición más importante. Y este verano, justo pasado, se ha resuelto un problema matemático que no se había resuelto todavía. Se utiliza para diseñar Aeronaves para prever el tiempo. Lo que intentamos es empoderar a la gente, descubrir conocimientos nuevos y utilizarlo para mejorar la asistencia sanitaria, la el nivel de vida y para ampliar el potencial de todo el mundo. Queda tanto por descubrir. Sin embargo, es muy importante que no nos alejemos del proceso democrático. Si le llamas democrática, las decisiones más importantes no las pueden tomar en laboratorios de San Francisco. Esto se tiene que hacer a través de procesos democráticos por los gobiernos que rindan cuentas a los pueblos a los que sirven a nivel internacional. Para eso se necesita cooperación. En la historia hemos visto momentos en los que los países competían y no se llevaban muy bien, pero aún así se unían por el interés compartido por el bien colectivo. Ante la tecnología tan poderosa, nos parece que este tiene que ser uno de esos momentos. Necesitamos un mecanismo para que se complementen estas normas, normas para medir las capacidades, valorar los riesgos, determinar si las salvaguardias son suficientes y para salvaguardar la supervisión humana con sistemas que son más autónomos. Tenemos normas comunes para que se pueda comparar, verificar el cumplimiento y tener un idioma compartido y un entendimiento compartido sobre lo que está pasando. Tenemos que preparar informes. Necesitamos también informes y protocolos aprender de los errores antes de que se conviertan en catástrofes. Y necesitamos canales seguros entre los gobiernos, operadores de infraestructura esencial y expertos para hablar de vulnerabilidades y efectos. Obviamente, estas normas no pueden favorecer un modelo empresarial sobre otro. Hay que apoyar a aquellos que desarrollan modelos abiertos, laboratorios establecidos y nuevos, autoridades nacionales, cooperación internacional. Cada gobierno tiene que decidir cómo incorporar las normas a su sistema jurídico, pero todos estaremos mejor Si nos ponemos de acuerdo en dónde están las pruebas, las salvaguardas y la supervisión a nivel mundial, no tenemos todas las respuestas y desde luego que escucharemos ideas mejores. Estamos dispuestos a colaborar con todos e intentaremos ver qué camino seguir. Estamos en una encrucijada, un camino lleva a un mundo donde se concentra el poder. donde la gente tiene la sensación de que la tecnología más importante de su vida es algo que se les está haciendo a ellos. El otro camino, sin embargo, lleva a un mundo donde la idea trabaja para la gente, porque la gente, a través de sus instituciones democráticas, contribuye a decidir cómo se va a desarrollar y cómo se orientado en el progreso científico, mejora la vida, donde más personas pueden participar en su futuro y donde la tecnología sigue dando a los individuos y a las comunidades un mayor poder para vivir la vida como quieran. Eso es un futuro de un potencial logrado. Y ese es el que nos parece que merece la pena construir. Muchas gracias.

Gracias, señor Altman, por esta presentación. Ahora de la palabra, el señor Dario Amodei.

Buenas tardes. Doy las gracias a Francia por convocar esta reunión y también a los miembros del Consejo por invitarme a tomar la palabra. La IA avanza rápidamente. Hace cuatro años, parcialmente, no se podía resolver un problema de matemáticas en un instituto y no podía escribir, no podía codificar. Sin embargo, ahora hace todo eso. Si queremos continuar durante un año o dos más, se podría llegar a un país de genios en un centro de datos. Esta velocidad genera muchos beneficios para el mundo. Justo hoy, Antropic ha anunciado el descubrimiento de un nuevo régimen molecular. Es un resultado preliminar, pero que nos parece que puede ser un nuevo mecanismo de ingeniería genética que podría aplicarse en la terapia genética. Se puede teorizar, se puede haber un diseño experimental y luego humanos que verifican los experimentos en el laboratorio. Nos parece que estos usos se incrementará rápidamente en los años venideros y podemos avanzar mucho en un futuro próximo en aquellas enfermedades que han afectado a tantos países y sociedades durante milenios. Pero hay riesgos que hay que gestionar y veo dos categorías principales de riesgo. Primero, el abuso de los modelos. que abusen de ellos los bioterroristas para crear armas biológicas, la pérdida del control del segundo riesgo, la capacidad del modelo que se acelera más allá de la capacidad de aquellos que desarrolla para controlarlo. Estas preguntas son mundiales, afectan a toda la humanidad y son suficientemente graves para considerar que son preguntas importantes para este Consejo, no solamente para ministerios de Economía o de las TIC. Si no se gestiona bien, me parece incluso que la IA podría ser un riesgo para la humanidad en su totalidad. Y en nuestra empresa consideramos que vamos muy bien comparando con otros para prevenir los riesgos a nivel operacional y también en nuestra investigación probamos todos los modelos para las capacidades peligrosas en el ámbito de la biología de la ciberseguridad. Tenemos salvaguardias firmes con nuestros modelos más capaces y publicamos nuestro trabajo. También somos pioneros en investigación, como la interpretabilidad mecanística, la ciencia de la alineación, e intentamos controlar y dirigir nuestros modelos. También tenemos unas prácticas de transparencia sin parangón, publicando informes de cientos de páginas. Pero entendemos que a medida que los modelos son más poderosos, nos parece que se necesita más seguridad, más normas. Y siempre intentamos mejorar nuestras prácticas de seguridad. para prevenir abusos y siempre procuramos hacer más y mejor. Reduciremos en la medida de lo posible para garantizar que todos los éxitos en la tecnología que publiquemos realmente sea un avance seguro. Pero independientemente de lo que hagamos, gestionar los riesgos es algo que va mucho más allá de una empresa. Esto tiene un alcance mundial. El 12 de septiembre pidió un esfuerzo de colaboración para ir limitando esos avances, no para detenerlo, pero para colaborar, para garantizar que la industria y el mundo puedan proceder a un ritmo en el que estemos seguros de que la seguridad y la capacidad van de la mano. Este llamado tenía tres partes. Primero, nos comprometimos a tener evaluadores externos en la empresa, en Entropic, que tengan acceso, al igual que se hace con los inspectores de alimentos, por ejemplo, y recomendábamos que otras empresas del mundo hicieran lo propio. Algunas ya lo han aceptado y han adoptado esta medida. En segundo lugar, pedimos también la colaboración en toda la industria para marcar normas y para modular el ritmo del avance. Y luego habíamos pedido también colaboración mundial. en todo el mundo, entre gobiernos, para fijar normas internacionales. Este último ámbito, que desde luego es el que más le compete a este Consejo. Y les doy tres ideas en este sentido. Primero, Tenemos que empezar con acuerdos limitados que todos los miembros pueden apoyar, como por ejemplo, prohibir la IA para fabricar armas biológicas o prohibir que la tecnología de IA se utilice para construir armas biológicas. En segundo lugar, necesitamos sistemas de evaluación y de verificación que estén a la altura del desarrollo de la IA para que los Estados tengan visibilidad, para que entiendan las capacidades más punteras, para que puedan verificar también los compromisos de unos y otros. Y en tercer lugar, normas mundiales comunes para probar estos modelos por si hay riesgo de pérdida de control o de abuso y malos usos y un sistema de notificación para cuando se produzcan incidentes suficientemente importantes para la seguridad mundial. Me parece que esta es la cuestión de seguridad mundial más importante que arrostra el mundo hoy día. Por todas las diferencias que puede haber entre todos los que están en esta sala, tenemos que apartar estas diferencias para acoger esta oportunidad mundial, pero esta amenaza que se nos presenta a la vez. No hay líder, empresa o nación que pueda hacer esto por sí sola. Nos comprometemos a trabajar con los gobiernos en esta sala, en esta cuestión tan importante. Muchas gracias por su atención.

Muchas gracias, señor Amodei, por esta presentación. Ofrezco ahora la palabra al señor Clement Delongue.

Señor presidente, gracias. Como ciudadano francés que se Modo a Estados Unidos, lamentablemente el sonido se entrecorta.

Thank you, appreciation for the challenging work. I'm also the co-founder and CEO of. It to be one of the most widely used forms for developers and agents. I based on open source models. This July, we were the first company to publicly. un ataque cibernético autónomo al mundo. Y hoy quiero compartir tres lecciones críticas de ello.

Primero, todos estamos de acuerdo en que necesitamos más transparencia en la IA. Yo me pregunto a menudo qué hubiera pasado si no hubiera publicado el ataque que se había producido públicamente.

Se disculpa el intérprete, el sonido se entrecorta.

Lamentablemente. Second, we realized that the biggest risk is not powerful AI, it's asymmetry of powerful AI. Asymmetry between attackers and defenders, between a few companies and everyone else, between a few countries and the rest of the world. Asymmetry of control, of capabilities, compute, asymmetry of power. Our team initially turned to Frontier closed source APIs that blocked us, so we couldn't use them. Because of safeguards that still can't always tell the difference and defenders. I realized that these safeguards but they can put defenders at a disadvantage. Attackers can easily jailbreak them, increasing the asymmetry of capabilities. In our case, as we got blocked by guardrails, fortunately, we could use the NVIDIA version of an open source model coming from China called GLM 5.2 by ZAI, and we're very grateful for that. It reinforced our conviction of the importance of open source AI for defenders. Cyber attacks and risks. may increasingly come from proprietary models behind closed doors, while much of the defense may end up being powered by open source tools, because they are less restricted, more privacy preserving, and orders of magnitude more affordable for organizations across the globe. The world needs open source AI more than ever to defend itself. This applies obviously not only to cybersecurity, but to AI in general, where there has never been a greater need to distribute capabilities, resources, and control, rather than concentrate it in the hands of a few. Third, during this cyber attack, we learned how AI can stoke fear among the public, especially through anthropomorphic framing and sci-fi imagery. We strongly believe that fear-based narratives are not the way to make the right decisions about the future of such a foundational and empowering technology or bring the public along with us. Even though we were the victims of this cyber attack, we believe more strongly than ever that AI will be beneficial to cybersecurity and make the world safer just as major technology before it. We were attacked by AI, but more importantly, we defended ourselves with AI. The same systems that helped us during this attack are now helping us against cyber attacks we were already facing. It's also helping us fix the bugs and weaknesses in our systems before any attack. The same way AI is helping OpenAI fix their sandboxes to prevent AI won't just create new cybersecurity challenges. It can make cybersecurity fundamentally and meaningfully stronger if we keep the right incentives, equip defenders more than attackers, and don't increase the asymmetry between them. And that's before considering AI's positive impact on science, healthcare, education, productivity, and much more than the previous speakers have talked about. In closing, I want to reiterate what this first agent cyber attack told us. The need for more transparency in AI, more open source to fight asymmetry, and power countries big and small. Thank you again to the UN Security Council and Mr. Barrow for inviting me to speak today. Community and myself are at your disposal. Thank you very much.

Muchas gracias al señor de Longue por su presentación. A continuación, formularé una declaración en mi condición de ministro de Europa y Asuntos Exteriores de Francia. Señoras y señores, ministras, ministras, damas y caballeros, hace 60 años, en 2001, una odisea en el espacio, Stanley Kubrick imaginó al 9000, una inteligencia artificial que dejó de obedecer a su creador y que eliminó a la tripulación de la nave espacial en la que se había embarcado para cumplir su misión. Esta escena desde hace mucho ha sido parte de la ciencia ficción, pero ahora ya se ha convertido en una realidad. Los modelos de OpenAI han evitado los controles, se han coordinado y han comprometido infraestructuras de Hacking Face. En otro caso, agentes de Anthropic colaboraron sin que ningún humano se lo hubiera pedido y trataron de emitir un código malicioso creando identidades falsas. Esto ha hecho emerger, esos modelos han aparecido a una velocidad inesperada con capacidades no anticipadas y que plantean riesgos para la seguridad colectiva. Por eso, Francia ha convocado esta reunión del Consejo de Seguridad de las Naciones Unidas. y ha llamado a los dirigentes de las principales empresas en cuestión. La tecnología, como decía yo, ha llegado a un nivel de desarrollo que afecta desde ya a la paz y la seguridad internacionales.

Por tanto, es algo que corresponde a las funciones de este Consejo.

Grupos de agentes escapan a la supervisión humana, otros superan los marcos en los que se ponen a prueba. Con ello ha aparecido un primer riesgo, perderíamos el control de los sistemas que hemos creado. Este riesgo acaban de identificar los oradores que han hablado. El segundo riesgo viene del propio ser humano. La inteligencia artificial hace más accesibles competencias técnicas complejas, a menudo de doble uso en los ámbitos del ciberespacio. del ámbito biológico, químico y también en la desinformación. El tercer riesgo tiene que ver con las armas autónomas que pueden recurrir a la fuerza letal sin ningún tipo de control humano. El desarrollo de la inteligencia artificial en el ámbito militar puede albergar oportunidades positivas, como recordaba ayer el presidente de Francia ante la Asamblea General, lo que está en juegos respecto del derecho internacional humanitario, en particular planteados por el desarrollo de la utilización de drones autónomos, son ejemplo de la necesidad de emprender, de mantener un marco común Estos desafíos justifican que el Consejo de las Naciones Unidas se ocupe de los desafíos de la inteligencia artificial en cuanto a la paz y la seguridad internacionales. Estos desafíos también nos llevan a la cuestión que se plantea la propia industria y sus principales representantes. Cómo evitar que el desarrollo de los modelos más avanzados no avance más rápidamente que nuestra capacidad de comprenderlos y controlar los riesgos que plantean. Francia está convencida de las enormes posibilidades que plantea la inteligencia artificial. Usadas de manera responsable, las herramientas de inteligencia artificial pueden servir en el ámbito de la educación, la accesibilidad a los derechos, la salud, las investigaciones científicas y dar beneficios colosales a toda la humanidad. Pero para que estas posibilidades se hagan una realidad, los progresos de esas capacidades deben verse acompañados de un progreso equivalente en cuanto a nuestra aptitud a la hora de comprender, evaluar y controlar los riesgos que generan. Ambas cosas deben avanzar al mismo ritmo. Tenemos que tomarnos el tiempo de medir las consecuencias de la difusión de la inteligencia artificial para la dignidad del ser humano, principio que está inscrito en el núcleo de la Carta de las Naciones Unidas. Y efectivamente, la rapidez de las novedades tecnológicas plantean riesgos que no podemos ignorar, riesgos financieros. Si se deja todo en manos del mercado y a los enfrentamientos de potencias con un recurso masivo a la deuda para financiar inversiones gigantescas, la burbuja de la IA podría desestabilizar gravemente la economía internacional. También un riesgo social, como decía el informe del grupo científico independiente sobre la inteligencia artificial, el señor Benjoe, la inteligencia artificial podría tener un impacto enorme en el mercado de trabajo y agravar las desigualdades. También un riesgo ambiental para acabar. El desarrollo de la IA más recursos energéticos y hídricos cada vez mayores en detrimento de otras finalidades. Que no nos equivoquemos, nuestros ciudadanos están inquietos y el rechazo que ya suscita la instalación de centros de datos ya lo demuestra. Si ignoramos el conjunto de repercusiones que tiene el desarrollo de la IA en nuestras sociedades, la cólera de nuestra ciudadanía seguirá creciendo, lo que podría complicar la adopción de la positiva de esta tecnología. Señoras y señores, en algún momento la comunidad internacional deberá dotarse de un marco común para controlar los riesgos de los modelos de inteligencia artificial de última generación. Nosotros apoyamos el llamamiento de Noruega y Finlandia esta semana. Los numerosos esfuerzos que se están haciendo deben hacernos responder a cuatro grandes cuestiones: la valoración independiente de los modelos antes de que se pongan a disposición y todo su ciclo de vida, también el de la transparencia en el funcionamiento de los modelos y también su mal funcionamiento, sobre todo en caso de incidente; también el control interno y externo del funcionamiento de los modelos y su ajuste y las condiciones de ciberseguridad en su entrenamiento, pasando del entrenamiento al desarrollo. Y también el tema de la responsabilidad, sobre todo jurídica, de las empresas de IA en caso de incidente, incluso en la fase de desarrollo. La solución no reside en unos modelos cerrados ni en un control por parte de un monopolio de empresas. La apertura de los modelos es una palanca esencial de la confianza y la seguridad. Permite a la comunidad científica examinar el funcionamiento de la IA, identificar sus puntos débiles y garantizar una mayor diversidad de modelos, que es fuente de resiliencia. Como miembro permanente del Consejo de Seguridad, Como Estado que cuenta con tecnología, Francia va a hacer todo lo posible por generar un marco colectivo que garantice nuestra seguridad, al tiempo que nos beneficiemos de los enormes progresos que puede aportar la inteligencia artificial. En 2025, Francia ha acogido una cumbre de inteligencia artificial. Apoyamos la red internacional de AI Safety Institutes para asociar a más Estados a la definición de modelos comunes. Y también hemos contribuido a crear foros e instituciones internacionales, como el Partenariado Mundial sobre IA o la Coalición sobre Inteligencia Artificial Sostenible, la Coalición por los Derechos y Protección de la Infancia en la Era de la Inteligencia Artificial, que el presidente de la República reunió ayer aquí mismo, en Nueva York, que se reunirá de nuevo en el Foro de París sobre la paz. Para concluir, señoras y señores, en 1945, la llegada de la era atómica colocó a la humanidad ante una potencia, un poder con grandes posibilidades y peligros. Y entonces hubo que inventar reglas, instituciones e instrumentos a la medida de este nuevo poder. el OIA y el Tratado de No Proliferación, concretamente. Como ocurrió con el átomo, corresponde a la comunidad internacional marcar la situación para extraer lo mejor y evitar lo peor. Eso es lo que nos pasa ahora, en un momento igual, como ha desarrollado el presidente El desafío de la inteligencia artificial es democrático, pertenece a los pueblos y a los Estados, así que trabajemos juntos en las Naciones Unidas y con las empresas para crear las reglas de esta nueva era, reforzar nuestras garantías y organizar una gobernanza mundial de la IA en beneficio de nuestra seguridad colectiva y también del ser humano y de su dignidad. Retomo ahora mis funciones como presidente del Consejo y a continuación cedo la palabra al excelentísimo señor Muhammad Ishaq Dar, viceprimer ministro y ministro de Exteriores de Pakistán.

Gracias, presidente, y gracias a Francia por haber convocado esta reunión de hoy. Y también doy las gracias a los ponentes por sus valiosísimas perspectivas. La IA cada vez más transforma todos los ámbitos de la vida, con un enorme impacto en las sociedades, las economías y la seguridad. Las oportunidades son inmensas, pero también lo son los desafíos. El impacto de la IA es clarísimo en el contexto de la paz y la estabilidad internacional y regional, como multiplicadora de la fuerza y como tecnología de doble uso, la IA define un nuevo capítulo en la guerra moderna. El debate ha cambiado mucho en los últimos tiempos. Quienes están en la vanguardia del desarrollo de la IA han reconocido que el ritmo de desarrollo de nuevos sistemas de IA podría superar nuestra capacidad de entender y controlar estos modelos. Algunos piden que se actúe con cautela para evitar riesgos catastróficos. Señor Presidente, quiero hacer cinco comentarios a continuación. Uno, la principal prioridad es mantener el control humano en todas las fases del diseño, el desarrollo y la integración de la IA. Los humanos deben estar al mando de las estructuras de los sistemas de IA y también de la velocidad y la naturaleza de sus futuras capacidades. 2. Hay que garantizar que la IA no se convierta en otra faceta de la carrera armamentística en marcha. Se requieren esfuerzos de consumo para establecer las garantías necesarias, así como reglamentos y marcos de gobernanza pertinentes. Necesitamos medidas de moderación y fomento de la confianza para resolver posibles errores de cálculo y la buena toma de decisiones.

3.

No debe existir un monopolio de un puñado de actores. Deben abordarse con la IA los desafíos comunes de la humanidad. La colaboración internacional al desarrollo de la IA es crucial para garantizar que sea representativa, completa, transparente e inclusiva.

4.

La IA está potenciando desafíos actuales como la desinformación, los bulos, los ciberataques, incluso contra infraestructuras críticas por parte de actores estatales y no estatales. Tenemos que tomar medidas concretas para resolver los desafíos y lagunas que tienen enormes implicaciones para la paz y la seguridad. Cinco, lamentablemente, en lugar de centrarnos en las oportunidades colectivas, en beneficio común, hay quien recurre a establecer barreras a la transferencia de tecnología, como ha ocurrido con otras tecnologías. La democratización de la IA ocurrirá finalmente. Medidas sobre textos de la seguridad no deben convertirse en un instrumento para denegar la transferencia de tecnologías. Pakistán atiende el llamado de actuar con cuidado en cuanto a la IA de vanguardia. Ningún país ni empresa por sí solo pueden gestionar este riesgo, y las medidas competitivas están fomentando una carrera que nadie puede ganar en condiciones seguras. Pero el ralentizar no debe ser crear nuevas barreras, algo que establezcan unos pocos en beneficio de unos pocos, mientras que otros estén sometidos a restricciones. Las asimetrías y las divisiones agravarían la agenda de seguridad y se convertirían en un tipo de exclusión tecnológica. Los riesgos de una IA descontrolada los afectan a todos, así que su control no puede estar en manos de un puñado de países o de capitalistas. Por tanto, es esencial evitar la fragmentación en el desarrollo y la gobernanza de la IA. Agendas discriminatorias y foros no equitativos con representación selectiva no son útiles. Todas las cuestiones relevantes en cuanto al desarrollo y el despliegue de la IA y sus repercusiones más amplias deben afrontarse de manera sistemática en foros inclusivos y representativos con participación universal bajo los auspicios de la ONU. Acogemos con beneplácito la convocatoria del primer diálogo global de la ONU sobre gobernanza de la IA este año en Ginebra. Pakistán Apoya todos los esfuerzos de colaboración en los foros internacionales para aprovechar los beneficios de la IA y resolver los desafíos de manera cooperativa. A ese respecto, nos ha complacido unirnos como miembro fundador a la iniciativa china de establecer una organización de cooperación en IA mundial como medida concreta para promover el desarrollo de la IA en beneficio de todos. Con unas tecnologías que avanzan tan rápido y con tanta amplitud, la confianza es esencial en el mantenimiento de la paz y la seguridad internacional y regional. Herramientas para reducir la desconfianza, prevenir escaladas accidentales y gestionar los riesgos militares y fundacionales son necesarias para la paz y la seguridad. Señor Presidente, Pakistán reafirma su compromiso de impulsar la cooperación internacional en el ámbito de la inteligencia artificial y.

Esperamos trabajar estrechamente con los Estados miembros en los esfuerzos por cerrar la brecha mundial en materia.

De IA y dar acceso equitativo a la paz y el desarrollo para todos y todas. Gracias, señor presidente.

Gracias al señor Darr por su declaración. Ahora tiene la palabra el señor Lars Løkke Rasmussen, ministro de Exteriores de Dinamarca.

Señor presidente, en primer lugar, Quiero dar las gracias a Francia y a usted, señor ministro Barrot, por haber convocado lo que me parece una sesión muy oportuna sobre este tema tan importante. Gracias también al señor Bengio por su presentación y por su trabajo en el Panel Científico de la ONU sobre IA. Y gracias también al señor Altman, al señor Amodei, al señor De Long. en particular, como profesionales y líderes en este ámbito, por sus reflexiones tan profundas. Ustedes están en la vanguardia de esta nueva frontera y celebramos su participación en la reunión de hoy. En la actualidad, la IA se desarrolla de manera constante y alcanza capacidades que solo empezamos, hablo en nombre propio, pero también creo que en general, solo empezamos ahora a comprender. No hay duda de que la tecnología impulsada por la IA tiene la oportunidad de fortalecer y promover la paz y la seguridad y el desarrollo internacionales, sobre todo a la luz de los enormes saltos cualitativos que se han dado recientemente en las capacidades de IA. La importancia cada vez mayor de la tecnología de IA ofrece el potencial de apoyar.

El mandato de este Consejo, por ejemplo.

Mantenimiento y consolidación de la paz, verificación, alerta temprana y apoyo a la planificación y a las misiones en áreas donde la ONU no tiene acceso. Los satélites y los programas de IA han ayudado a identificar patrones de ataques y destrucción de infraestructuras civiles esenciales. Esta información puede tener un papel vital alertando al Consejo de Seguridad, puede ayudarnos a todos a tomar medidas oportunas y evitar escaladas en las crisis. Al mismo tiempo, hay que reconocer los riesgos que presenta el desarrollo, el uso y el abuso de tecnología de IA nueva y emergente, en particular los modelos de última frontera de IA y la falta de control humano. Este es el objetivo del llamado al control de los modelos de IA de frontera, iniciado por Finlandia y Noruega y ya apoyado por varios países, entre ellos Dinamarca. Necesitamos cooperación global en esta agenda. La tensión entre las oportunidades tan importantes, por una parte, y por la otra, los riesgos, define uno de los retos más urgentes de nuestros tiempos. Por eso me parece a mí que este debate es tan oportuno. Superar este desafío requiere una gobernanza global de la IA, una mayor cooperación internacional y una acción decidida, sin expandir la brecha digital mundial. El diálogo global de la ONU sobre gobernanza de la IA es un primer paso importante. La gobernanza y la regulación de la IA son prioridades en la agenda danesa Y esto incluye la reglamentación de las grandes empresas tecnológicas. Estos esfuerzos no son un freno a la innovación y el crecimiento, sino me parece a mí que son esfuerzos esenciales para garantizar que el progreso tecnológico redunde en interés público y sirva a la humanidad en general. La velocidad sin precedentes de las innovaciones en IA demuestra la necesidad de salvaguardias para garantizar que los sistemas de IA sean seguros y fiables. Una nueva tecnología incontrolada podría dar lugar a efectos dañosos y peligrosos. Ya estamos comprobando las nuevas amenazas que plantea. incluso, por ejemplo, para quienes protegen a los civiles en los conflictos y, sobre todo, los profesionales médicos. Dinamarca subraya la importancia de garantizar el uso responsable de la IA y que este uso sea acorde con el derecho internacional. A ese respecto, pedimos a todos los Estados que garanticen el control humano de la IA y la rendición de cuentas por su desarrollo y su uso. y, sobre todo, en el ámbito militar, donde la rendición de cuentas es absolutamente esencial. Dinamarca va a seguir apoyando un diálogo real en el Consejo de Seguridad y promoverá un enfoque inclusivo de múltiples interesados en cuanto a la gobernanza de la IA. Sociedad civil y sector privado tienen que tener papeles fundamentales. La ciencia y los datos objetivos siempre deben informar nuestras políticas. Para nosotros, el Panel Científico Independiente Hace una contribución importante a una gobernanza de la I A creíble y fundada en datos objetivos. El panel nos ofrece un punto de referencia científico común para todos nosotros. Ya para acabar, señor Presidente, tenemos que examinar cómo puede contribuir positivamente la I A. la paz y la seguridad internacionales y a superar la brecha digital. Al mismo tiempo, tenemos que tener muy claros los riesgos importantes y empezar a establecer salvaguardias sólidas para poder gestionar a su debido momento los riesgos globales. Gracias.

Muchas gracias al señor Rasmussen por esta declaración. Ahora tiene la palabra el excelentísimo señor Carlos Arturo Ollo, viceministro de Exteriores de Panamá.

Muchas gracias, señor ministro.

Agradecemos a Francia por la convocatoria de esta importante reunión. Asimismo, agradecemos al señor Joshua Bengio, copresidente del Panel Científico Independiente de las Naciones Unidas sobre Inteligencia Artificial, al señor Sam Altman, director ejecutivo de OpenAI, al señor Dario Amodei, director ejecutivo de Anthropic, y al señor Clement Delfage. director ejecutivo de Hugging Face, por sus valiosas presentaciones. Si bien la sesión de hoy nos invita a reflexionar sobre los riesgos causados y exacerbados por la inteligencia artificial, para Panamá se hace necesario iniciar esta intervención destacando su potencial para transformar el mundo en el que vivimos. La capacidad de estas tecnologías para analizar enormes volúmenes de información, identificar patrones Generar videos, imágenes y códigos cada vez más sofisticados, automatizar tareas y apoyar procesos de planificación y toma de decisiones son prueba de una transformación que ya está en marcha y cuyo alcance apenas comenzamos a dimensionar. Estas herramientas cuentan con una amplia diversidad de aplicaciones en beneficio de la humanidad. En Panamá, nuestra propia estrategia nacional de inteligencia artificial Identifica oportunidades en sectores como la salud, la agricultura, la educación y la logística, donde estas tecnologías pueden ofrecer soluciones que hace apenas un par de años parecían inimaginables. Y es precisamente en estos mismos avances donde, aplicados a otros fines, encontramos también algunos de sus principales riesgos. La inteligencia artificial también puede ser utilizada para amplificar campañas de desinformación potenciar ciberataques contra infraestructura crítica y facilitar conocimientos para el desarrollo de armas, entre otros usos que ya amenazan la seguridad internacional. Estos riesgos ya no son escenarios hipotéticos. Estamos comenzando a observar su materialización en situaciones directamente relacionadas con este Consejo. Existen reportes recientes sobre el uso de inteligencia artificial por parte de actores no estatales para el desarrollo de sistemas de guiado y navegación para cohetes y misiles. A ello se suman informes sobre el uso de armas autónomas capaces de navegar y seleccionar objetivos de manera completamente independiente o con una intervención humana bastante limitada. Es justamente esta creciente autonomía la que plantea una de las preocupaciones más profundas señaladas en la nota conceptual de esta sesión, la posibilidad de que la evolución de estos sistemas supere nuestra capacidad para mantener un control humano efectivo sobre ellos. Existen decisiones que, por su propia naturaleza, no pueden reducirse a un resultado estadístico. Cuando están en juegos vidas humanas, es imperativo tomar en cuenta consideraciones éticas, jurídicas y contextuales que ningún cálculo o sistema algorítmico puede sustituir. A esta preocupación por el control no se limita a escenarios extremos. medida que utilizamos análisis desarrollados por inteligencia artificial para orientar decisiones, resulta esencial que quienes se encuentran en posiciones de liderazgo puedan comprender cómo estas herramientas llegan a una determinada recomendación, qué información la sustenta y cuál es su margen de error. Señor presidente, reconocer los riesgos de la inteligencia artificial no significa desconocer los beneficios que esta tecnología ya ofrece a nuestras sociedades. El desafío está en encontrar un equilibrio que nos permita aprovechar esas oportunidades a la vez que respondemos responsablemente a sus riesgos. En ese sentido, Panamá reconoce el importante papel del Panel Científico Internacional sobre la Inteligencia Artificial para proporcionar información imparcial y científica capaz de orientar las discusiones de la comunidad internacional sobre estas tecnologías. De la misma manera, saludamos la iniciativa de los actores del sector tecnológico aquí presentes de compartir de manera proactiva información sobre casos concretos de uso indebido de estas tecnologías, así como sobre incidentes en los que, en su creciente autonomía, han generado preocupaciones sobre una posible pérdida de control humano sobre ellos. Presidente, Esta sesión es prueba de que para hacer frente a la diversidad de los riesgos relacionados con la inteligencia artificial, será indispensable una cooperación más estrecha entre Estados, el sector tecnológico y actores relevantes. Para ello, es imprescindible establecer un mecanismo que permita un intercambio de información más estructurado y constante sobre riesgos emergentes, incidentes, usos indebidos y mejores prácticas. La inteligencia artificial inevitablemente continuará evolucionando y transformando el mundo en el que vivimos. Prueba de eso son los testimonios escuchados el día de hoy. Nuestra responsabilidad es asegurar que ese avance permanezca al servicio de las personas y contribuya a construir sociedades más seguras, pacíficas y prósperas. con una perspectiva de equidad que les permita a todas las naciones del mundo, incluyendo el sur global, a participar y beneficiarse de su desarrollo.

Muchas gracias. Muchas gracias por esta declaración. Ahora tiene la palabra el excelentísimo señor Christos Yannakopoulos, ministro de Inteligencia Artificial y Regulamentación Digital de Grecia.

Señor presidente, empiezo dando las gracias a Francia también a los ponentes por sus intervenciones y por llamar la atención del Consejo sobre este tema esencial del enlace entre el desarrollo tecnológico rápido en el ámbito de la IA y la paz y seguridad internacionales. Es un tema que también abordaremos durante nuestra presidencia. La inteligencia artificial ya está cambiando la manera en la que pensamos en la paz y seguridad internacionales. Nos puede ayudar a prevenir conflictos, mejorar la alerta temprana y lograr que las operaciones de la ONU sean más efectivas, pero también genera riesgos de los que estamos empezando a ser conscientes ahora. El punto de partida está claro, la IA tiene que seguir centrada en el ser humano, tiene que ser segura y fiable. Su desarrollo y uso tiene que respetar el DI, incluida la Carta, el Derecho Internacional Humanitario y también el Derecho Internacional de los Derechos Humanos. Y la responsabilidad humana y la rendición de cuentas tiene que estar en el centro de nuestro enfoque. Compara la innova, combina la innovación con la gobernanza. Hemos creado una secretaría especial para la IA y gobernanza de datos. Tenemos una ley nacional que transpone la ley de la Unión Europea sobre la IA y también estamos invirtiendo en infraestructura estratégica como el superordenador de Dalo. En abril de 2025, junto a Francia y la República de Corea, organizamos una fórmula arria sobre cómo aprovechar una IA segura, inclusiva y fiable para el mantenimiento de la paz y seguridad internacionales. Hoy tenemos la oportunidad de impulsar esta conversación todavía más. Tres elementos por nuestra parte. Primero, es menester entender mejor los riesgos. La IA puede procesar una cantidad enorme de información y nos puede ayudar a tomar decisiones, pero la velocidad no siempre es una ventaja. En situaciones de crisis, la IA puede comprimir el tiempo disponible para decisiones y alentar también a que haya una dependencia excesiva sobre los resultados automatizados. A medida que la IA entra en el proceso de toma de decisiones, tenemos que garantizar que velocidad no sea expensas, tampoco ni del uno ni del otro. Estas preocupaciones son mayores cuando ya entramos en la toma de decisión militar. La tecnología puede ayudar en el juicio humano, pero no lo puede sustituir. La responsabilidad y la rendición de cuentas para las decisiones esenciales siempre tiene que permanecer en manos del ser humano. Y esto siempre es más importante en el ámbito nuclear. Tenemos que tener mucho cuidado de no integrar la IA en el mando y en el control nuclear. El riesgo de error de cálculo, regurgitamiento no intencionado, es demasiado grande. Las decisiones con este tipo de consecuencias siempre tienen que estar bajo control humano. En segundo lugar, necesitamos maneras prácticas de reducir el riesgo. Y se empieza por el diálogo. Necesitamos más transparencia, fomento de la confianza y también un mejor entendimiento común de cómo el DI se aplica al desarrollo y uso de la IA. El trabajo ya se está haciendo. El proceso REAIM y la declaración política sobre el uso militar responsable de la IA y su autonomía permiten impulsar la conversación internacional sobre el uso militar responsable de la IA. La ONU desempeña un papel esencial para agrupar estos esfuerzos. El Consejo también tiene que asumir su papel. No se trata de reglamentar la tecnología, ni tampoco se trata de duplicar el trabajo que se haga en otros órganos. Nuestra responsabilidad es la de entender qué significan estas tecnologías para la paz y seguridad internacionales e intervenir cuando estas consecuencias caigan dentro de nuestro mandato. En tercer lugar, abordar los riesgos no significa retener la innovación. Tenemos que aprovechar las oportunidades que nos brinda la IA con las salvaguardias adecuadas. Y no podemos tener esta conversación sin aquellos que desarrollan y utilizan estas tecnologías, por lo que apoyamos una interacción directa con el mundo académico, la sociedad civil, el sector privado, junto a los Estados y la ONU. Esta interacción tiene que ser inclusiva, representativa a nivel geográfico y tiene que tener un equilibrio de género. Señor presidente, la IA afectará cada vez más a la paz y seguridad internacionales. No podemos detener el cambio tecnológico, ni tampoco es esa nuestra función, pero tenemos que colaborar para garantizar que los seres humanos sigan siendo responsables de aquellas decisiones que más importan. Para Grecia, esto significa que el derecho internacional, la responsabilidad humana y la rendición de cuentas sigan estando en el centro de nuestro enfoque. Y también significa darle a este Consejo el enfoque principal de su responsabilidad primaria en el mantenimiento de la paz y la seguridad internacionales. Seguiremos colaborando con todos los miembros en pro de este objetivo. Muchas gracias.

Doy las gracias al excelentísimo señor Dermenpoulos por esta intervención y ofrezco la palabra al excelentísimo señor Ali Mohamed Omar, ministro de Estado y de Asuntos Exteriores de Somalia.

Señor Presidente, doy las gracias a Francia por convocar este debate. También le doy las gracias a los señores Bengio, Altman, Amodei y de Lange por estas presentaciones tan completas. La IA ya no es una mera cuestión tecnológica o de desarrollo, es nuestra realidad vivida. Está transformando rápidamente nuestras sociedades, las economías y también nuestro enfoque a la paz y seguridad. Su papel en las ciberoperaciones, en la desinformación, en la infraestructura esencial de la toma de decisión militar, lo sitúa claramente en el marco del mandato de Naciones Unidas. Tenemos que impedir que la IA se convierta en vector de conflicto, al tiempo que apoyamos de manera activa su uso responsable en alerta temprana, prevención de crisis, mantenimiento de la paz, acción humanitaria y protección civil. En esta línea, nos parece que debemos guiarnos por cuatro principios esenciales. Primero, la responsabilidad humana tiene que ser absoluta. La IA tiene que operar strictu sensu dentro del marco del derecho internacional. los propósitos y principios de la Carta, así como el respeto por los derechos humanos y la dignidad humana. Los Estados no pueden delegar la rendición de cuentas jurídica, ética o moral a un algoritmo. Agradecemos la declaración que afirma que la IA tiene que seguir bajo dirección humana, también bajo supervisión y control humano. Este principio resulta indispensable en aquellas decisiones que conllevan el uso de la fuerza en los sistemas de armas autónomos y en el mando y control nuclear. En segundo lugar, la seguridad tiene que venir antes del despliegue. Los incidentes recientes que afectan a agentes de la IA que soslayan las salvaguardias, que ocultan sus acciones y que obtienen un acceso no autorizado, plantea dudas serias sobre si los controles existentes pueden estar a la altura de los sistemas cada vez más autónomos. Las empresas privadas desarrollan y controlan muchos de estos sistemas, pero los incentivos comerciales no podrán determinar cuánto riesgo puede aceptar la humanidad. Por ello, apoyamos la preparación de informes de incidentes de manera obligatoria. con salvaguardas técnicas por capas, auditorías independientes y medidas para mitigar el sesgo del algoritmo y proteger las poblaciones más vulnerables. Cuando los umbrales de capacidad acordados se traspasan, hay que suspender el despliegue hasta que se puedan gestionar correctamente los riesgos. La propuesta del SG de Considerar una institución internacional que pueda marcar normas, facilitar la verificación y convocar a los Estados cuando se crucen estos umbrales nos parece que es algo que merece considerarse. En tercer lugar, la gobernanza tiene que considerar también las vulnerabilidades específicas de África y garantizar un acceso equitativo. La falta de infraestructura computacional, falta de conexión fiable, también falta de conocimientos especializados y una capacidad reguladora fragmentada limita la capacidad de muchos estados africanos de evaluar estos sistemas avanzados. Los modelos que se forman con datos extranjeros a lo mejor no representan correctamente los idiomas y los contextos africanos, mientras que los medios sintéticos pueden también arengar las tensiones sociales, pueden interferir en procesos de paz frágiles y socavar las elecciones. África no puede ser meramente un mercado para sistemas desarrollados en otro lugar, una fuente de datos brutos o un lugar donde se ponen a prueba unas tecnologías que no puede controlar. Tenemos que prevenir nuevas formas de dependencia tecnológica y también prevenir el colonialismo digital, apoyando marcos regionales, sobre todo alianzas con la UA y también estrategias como la iniciativa panafricana en torno a la IA. Los países en desarrollo necesitan cooperación internacional específica para superar las brechas digitales de infraestructura, de energía y de capacidad. junto a acceso a datos locales, herramientas de evaluación y poder computacional. Hay que garantizar que cada país tenga derecho de desarrollar, de elegir y de valorar las tecnologías IA. Esto es esencial para la soberanía digital nacional y para nuestra estabilidad mundial compartida. En cuarto lugar, las Naciones Unidas tienen que ser el canal principal para la gobernanza IA mundial. Apoyamos las normas internacionales que se anclan en la legitimidad universal de la ONU, en lugar de normas fragmentadas determinadas por un grupo pequeño de estados avanzados tecnológicamente y empresas privadas que podrían seguir reforzando las desigualdades mundiales existentes. La gobernanza mundial necesita seguir un enfoque centrado en el ser humano que dirija la IA hacia el bienestar humano y también el bien de todos. Las regiones en desarrollo y sobre todo África, necesitan voz, representación de forma genuina en todos los procesos multilaterales, junto a la capacidad institucional y técnica de evaluar los sistemas IA de manera independiente, en lugar de depender de determinaciones externas. ¿Seremos exitosos? No cuando sean más sofisticadas nuestras declaraciones, sino cuando podamos impedir la primera crisis facilitada por la IA para que no se convierta en un conflicto internacional. El poder de la IA no conlleva un resultado inevitable, sino que se ve enmarcada y recibe el significado de nuestros valores y opciones. La tecnología avanza rápidamente y nuestra responsabilidad colectiva tiene que ir más rápido. Muchas gracias.

Le doy las gracias al excelentísimo señor Mohamed Omar por esta intervención. Y le doy la palabra ahora al excelentísimo señor Ed Miliband, secretario de Estado de Asuntos Exteriores y Asuntos Económicos y de Desarrollo.

Gracias, presidente. Muchas gracias por convocar esta reunión tan importante. También que quede constancia mi agradecimiento a los ponentes, que han contribuido de manera considerable a esta reunión. Me parece que tenemos que dar un paso atrás y hacer balance de lo que estamos abordando en esta reunión del Consejo. La IA es una tecnología que claramente puede transformar nuestro mundo para mejor. Lo vemos en la vida cotidiana, lo vemos en todos los países. Sin embargo, los creadores de esta tecnología vienen y nos alertan con claridad y nos dicen no solo que ven la oportunidad de que esta tecnología haga el bien, sino que también tienen el temor de que tenga la capacidad de hacer el mal. Y nos están diciendo muy claramente que no pueden ser ellos los únicos los que trabajen en prevenir un desastre que pudiera afectar al mundo. Yo les digo hoy que no les podemos ignorar, porque tienen razón. Porque, efectivamente, no podemos abandonar nuestra responsabilidad ante los ciudadanos. No podemos externalizar a la empresa privada la primera obligación del gobierno, que es proteger a su pueblo, independientemente de cuál sea la amenaza. Este Consejo de Seguridad se fundó para tratar los grandes desafíos colectivos de nuestros tiempos. Así que los gobiernos, tantos como han contribuido aquí del mundo de la tecnología, así lo han dicho, todos los que estamos aquí sentados a esta mesa tenemos que colaborar también junto a la industria para cumplir en nombre de los que nos han enviado aquí, de nuestros pueblos. Y a eso se compromete el gobierno del Reino Unido. Tenemos que empezar por la seguridad. Eso significa trabajar más duro para que los modelos señeros estén sometidos a pruebas rigurosas y un sistema de garantías en torno al desarrollo de modelos para que pueda haber confianza de que estos modelos son seguros. En segundo lugar, transparencia. Las empresas que generan los modelos no lo pueden hacer solas. Los gobiernos tienen que tener visibilidad para entender y valorar lo que están haciendo estas empresas de la IA. Las empresas líderes se han comprometido a ofrecer esta visibilidad y eso es muy importante y es una oferta a la que hay que darle seguimiento, tanto ellos como nosotros. En tercer lugar, resiliencia. Tenemos que mejorar nuestras defensas para reducir el impacto de los incidentes facilitados por la IA, porque incluso aunque pongamos a prueba cada modelo, hay que prepararse para los abusos y malos usos. Hay que fomentar la ciberdefensa, proteger la infraestructura crítica y también reforzar nuestros sistemas financieros. Y tenemos que apoyar a nuestra población para gestionar y para adaptarse a las perturbaciones que pueda tener ella para nuestro modelo de convivencia y también aprovechar sus beneficios. El Reino Unido hará lo que le corresponda en este proceso. Ya hemos creado el primer Instituto de Seguridad de la IA que comparte sus conocimientos y capacidades con los Estados Unidos y con los laboratorios líderes. Como decía nuestro primer ministro ayer, el Reino Unido situará la IA en el centro de su presidencia del G20 el año que viene, basándonos en nuestro registro y en nuestra historia de reunir a todos los que tienen que estar reunidos, reuniendo la empresa, los investigadores, la sociedad civil, para aprovechar el potencial de la IA para el bien y para gestionar de manera adecuada los riesgos, ya sea en cuanto al empleo, los niños, la seguridad, la ciberseguridad, la bioseguridad, la seguridad nacional o la estabilidad financiera. a medida que también trabajamos en acordar un conjunto de principios mundiales y de normas para garantizar que la transparencia y el acceso necesario para incrementar nuestra preparación y para que el desarrollo de la IA sea seguro y, como comentaba el orador anterior, para también aprovechar el potencial para el Sur y para el Norte global por igual. Y abundo en esta cuestión. En general, me parece que no estamos decidiendo si optamos por el progreso o la seguridad. Solo vamos a poder innovar y aprovechar los beneficios de la IA que todos queremos. Aquí compartimos esto en esta sala y confiamos en que están las salvaguardias adecuadas. Así que juntos tenemos que adoptar las medidas necesarias para que la IA sea segura y fiable. al tiempo que aprovechamos su potencial de impulsar el crecimiento, curar las enfermedades y mejorar las oportunidades de vida. Y acabo con este último punto. No podemos decir que no nos habían avisado. Nos han avisado. Y nos avisan aquellos que han fundado esta tecnología increíble con ese potencial de hacer el bien. Por lo tanto, tenemos que actuar, escuchar esas alertas y actuar entre todos. Muchas gracias.

Le doy las gracias al señor Miribán por su intervención y ahora ofrezco la palabra al excelentísimo señor Michael Kratsios, asistente del presidente y director de la Oficina de Ciencia y Tecnología de la Casa Blanca de los Estados Unidos.

Muchísimas gracias a Francia, que ostenta la presidencia del Consejo. Distinguidos colegas, doy las gracias por tener la oportunidad de tratar el desarrollo tecnológico más importante de nuestros tiempos, la superinteligencia que se conocía. como inteligencia artificial. Nuestra responsabilidad es garantizar que los avances en la superinteligencia beneficien a nuestros ciudadanos y garanticen el mantenimiento de su forma de vida. La inteligencia avanza muy rápidamente, pero eso no significa que tengamos que detener el desarrollo o que tengamos que limitarlo con nuevas estructuras globales de gobernanza. Como líder en la superinteligencia, la IA de Estados Unidos ha adoptado medidas para que se siga avanzando de manera segura y responsable. Estamos trabajando con los laboratorios más señeros para tener nuevas capacidades de pruebas. Tenemos cámaras de compensación para coordinar la mitigación de vulnerabilidad y para aclarar las herramientas policiales existentes para abordar los usos negativos de la superinteligencia a nivel internacional. Estados Unidos se comprometen con la diplomacia y el diálogo en la tecnología emergente, pero el diálogo internacional en este foro y también en otros no podrá. llevarnos hacia una gobernanza mundial. Como ha dicho el presidente Trump ante la Asamblea General el día de ayer, Estados Unidos rechaza de plano cualquier intento de construir un sistema internacional de control de la superinteligencia. Tan solo hace unas semanas, los ministros de innovación del G20 llegaron a un consenso sobre los principios de Carolina. Acordando que los países tienen que mantener la soberanía nacional en la gobernanza de las tecnologías emergentes y no abandonar su responsabilidad en beneficio de órganos internacionales. Los representantes del pueblo americano van a legislar en su nombre y ustedes deben hacer lo mismo para sus pueblos. Solamente con un sistema de cooperación que se base en infraestructura soberana, en capacidad nacional, el mundo podrá aprovechar el potencial de esta tecnología. Los esfuerzos internacionales de Estados Unidos pretenden fomentar esa capacidad. Compartimos nuestra tecnología y dando las herramientas para que se pueda utilizar y adoptar. Queremos que ustedes, nuestros aliados y socios, también se beneficien de esta revolución tecnológica. Ese es el propósito de nuestro programa de exportación. Estados Unidos es la única superpotencia tecnológica capaz y con la voluntad de empoderar la coordinación, precisamente trabajando en la capacidad de la superinteligencia para todos. Las empresas estadounidenses trabajarán con todos ustedes para generar una infraestructura de primera, para que puedan aplicar, para que puedan utilizar, desarrollar la capacidad de las herramientas que necesitan para servir a En esta era, la soberanía tecnológica se plasma en la adopción, en el uso de la tecnología. Si se asumen los riesgos y los beneficios y se toman en serio, lo más importante que se puede hacer es desarrollar la capacidad de su país para entenderla y para utilizarla. Desplieguenla, generen conocimientos en su gobierno, preparen sus instituciones y aquellos que regulan, entiendan lo que los sistemas pueden y no pueden hacer. no se puede liderar o gobernar una tecnología que no se entiende. Y este órgano lo que tiene que hacer es compartir mejores prácticas para generar capacidad nacional y no determinar un sistema reglamentario internacional o mundial con las políticas de innovación, precisamente trabajando en lo señero y en lo puntero, adoptando y utilizando la tecnología. Así es como es construido el ecosistema internacional más importante que se ha conocido nunca antes. Durante 250 años hemos trabajado en el equilibrio entre seguridad e innovación, independencia y seguridad. La superinteligencia es lo más reciente en esa gran serie de desafíos y de oportunidades. Al servicio de la humanidad, se puede convertir en el mayor motor de crecimiento y de prosperidad de la historia. Un futuro próspero no se consigue reglamentando a nivel mundial, se consigue de la mano de países soberanos que adoptan la superinteligencia, empresas responsables que lo construyen. y aquellos que no quieren ser gobernados por el temor. Muchas gracias.

Le doy las gracias al excelentísimo señor Kratsios por esta declaración. Y ahora voy a ofrecer la palabra al excelentísimo Shaik Abdulhameed bin Ali Al Khalifa, subsecretario de Asuntos Políticos en funciones del Ministerio de Exteriores de Bahréin.

Señor presidente. En primer lugar, me gustaría expresar mi sincero agradecimiento y reconocimiento a la República Francesa por convocar esta reunión. También doy las gracias al señor Benyon, copresidente del Panel Científico Internacional Independiente sobre la IA. también al señor Altman, director ejecutivo de OpenAI; al señor Amodei, director ejecutivo de Anthropic; y también damos las gracias al señor DeLong, director ejecutivo de Hugging Face. Agradecemos sus presentaciones tan valiosas. Señor presidente, tratar las implicaciones y consecuencias de la IA ya no es una cuestión meramente intelectual. Se ha convertido en una necesidad urgente que se deriva de las responsabilidades del Consejo, de mantener la paz y la seguridad internacionales. Partiendo de este principio, el Reino de Bahrein destacó en el discurso que hizo Su Alteza Real el Príncipe Salman bin Hamad Al Jalifa, Príncipe Heredero y Primer Ministro, durante el septuagésimo noveno período de sesiones de la Asamblea General, insistiendo en la importancia de celebrar un tratado internacional que regule el desarrollo de la inteligencia artificial para garantizar que sea fuerza para la innovación y no para la destrucción. De conformidad con este enfoque, Bahrein tuvo el honor recientemente de copatrocinar un diálogo interactivo con Francia y Letonia para ver cómo aprovechar esta tecnología en el arreglo y solución de controversias. Señor Presidente, el desarrollo rápido de la IA amplía el alcance de las amenazas de seguridad, sobre todo cuando estas son explotadas por grupos terroristas y organizaciones criminales. A medida que se incrementa la autonomía de estos sistemas, mi país insiste en la necesidad de mantener la supervisión y responsabilidad humanas en el núcleo de las decisiones con consecuencias graves para la seguridad y que se garantice también la plena conformidad con los principios del DI y del DIH. Solo el ser humano puede juzgar con razón, responsabilidad y conciencia, a diferencia de los algoritmos automatizados. Por otro lado, Mi país también insiste en que no se pueden pasar por alto las oportunidades enormes que ofrece la IA para fortalecer los sistemas de alerta temprana, para detectar indicadores de tensión, para respaldar los esfuerzos de mediación y para mejorar la eficacia de las operaciones de mantenimiento de la paz. También es menester reducir la brecha digital, promover la transferencia de tecnología para que todos los Estados se puedan beneficiar de estas capacidades. Para concluir, insistimos en que el Consejo de Seguridad celebre debates más sistemáticos y periódicos sobre la IA. Estas conversaciones deben complementar los esfuerzos más amplios de la ONU para desarrollar marcos para el desarrollo y evaluación de los modelos en línea con el derecho internacional. Estamos preparados para seguir contribuyendo al adelanto de estas deliberaciones con el propósito de generar un enfoque internacional responsable y equilibrado que sitúa al ser humano en el núcleo de la toma de decisiones y garantice que las innovaciones que creamos hoy estén al servicio de la paz que todos buscamos preservar en este Consejo. Muchas gracias, señor presidente.

Le doy las gracias al Excelentísimo Shaik Abdul-Happin Al-Khalifa por esta intervención. Le ofrezco la palabra a la representante de Letonia.

Gracias, presidente. En primer lugar, doy las gracias a la presidencia de Francia por convocar esta reunión sobre un tema tan importante y de máxima urgencia para la seguridad internacional. Y también doy las gracias a los ponentes, señores Bengio, Altmann, Amodei y de Lange, por sus contribuciones y valoraciones, y muchas gracias por las propuestas que han hecho en aras del desarrollo seguro de la IA. Presidente, el ritmo rápido del desarrollo de la IA ya tiene un impacto profundo en todos los ámbitos, incluido el ámbito de la paz y seguridad internacionales. Junto a las oportunidades que nos ofrece la IA, también vemos riesgos crecientes que se manifiestan tanto en tiempos de paz como de conflicto. ha llegado el momento de actuar de manera colectiva, tal y como escuchamos y tal y como se ha pedido también en el llamado al control de los modelos señeros de la ya iniciado por Noruega y Finlandia el día. El lunes por parte de 22 líderes mundiales, entre los que se contaba también el presidente de Letonia. Nos parece que el Consejo de Seguridad tiene la responsabilidad de garantizar que las consecuencias de la ya para la paz y seguridad internacionales se consideren plenamente. sin que se duplique o traslape el trabajo que se hace en otros foros. Pero la conversación de hoy demuestra la capacidad del Consejo de convocar a los Estados miembros, a los líderes de la ciencia y de la industria para arrostrar este tema tan importante. Presidente. Vemos cómo se plantean dos fuentes de riesgos derivados de la IA para la paz y la seguridad, y ambas merecen nuestra atención. Primero, los riesgos que se derivan del abuso de la IA por parte de ambientes estatales y no estatales. Ahí se incluye el recurso a la IA en ciberactividades malignas, manipulación de la información e incluso intentos de generar capacidades destructivas, como armas biológicas. En segundo lugar, Un desafío más complicado, novel, quizá, como resaltan también los ponentes y los informes recientes, se deriva de la tecnología misma, como por ejemplo el desajuste o el riesgo de perder control. Estos riesgos de comportamiento son fuente de una nueva forma de vulnerabilidad también para la infraestructura esencial. De manera preocupante, los incidentes recientes indican que los sistemas IA no solo pueden ir en contra de las intenciones e intereses de los humanos, sino que incluso ahora son mejores a la hora de manipular y engañar a los humanos a medida que lo hacen. Esto no es una cuestión aislada porque contribuyen ya a el entorno de paz y seguridad internacional tan complicado. Las medidas que adopte una IA desajustada puede alimentar tensiones y errores de cálculo y una dificultad de rastrear, verificar y atribuirlas. El uso creciente de la IA y de los sistemas autónomos en el ámbito militar plantea también dificultades adicionales, sobre todo donde la fiabilidad, el control y los riesgos de escalada se cruzan. Presidente, la medida responsable empieza en la industria. pero también con los gobiernos. Necesitamos salvaguardias claras e instituciones capaces. Un enfoque multipartamente. Eso es lo que se necesita para gestionar el riesgo y fomentar la confianza en la IA a través de transparencia y rendición de cuentas, creando protocolos de seguridad adecuados para el desarrollo y usos de sistemas a través de la evaluación independiente. conectando el mandato del gobierno, los conocimientos económicos, la sociedad civil y la innovación de la industria. Y para todo ello se necesita la cooperación, coordinación, sentar normas, capacitación. Todo esto es esencial para superar la brecha y para fomentar la interoperabilidad. La convocatoria del Diálogo Mundial de la ONU sobre la gobernanza de la IA, la creación del panel científico internacional independiente ya son pasos muy importantes. Sin embargo, nuestros esfuerzos tienen que estar también al ritmo del desarrollo de la tecnología senyera tal y como se resalta en el llamado al control de estos modelos. Necesitamos un enfoque con espíritu abierto para que los Estados se basen en mecanismos internacionales actuales y que se buscan los nuevos. El objetivo general tiene que ser el de garantizar que la tecnología esté al servicio de la gente, que proteja los derechos fundamentales, las libertades y que dé beneficios que no vengan a expensas de riesgos sin control. Si hay algo en lo que nos tendríamos que poner de acuerdo, la IA tiene que estar bajo dirección humana, supervisión y control por igual. Presidente. Ya considerando el papel en el mantenimiento de la paz y seguridad internacional, el Consejo tiene que seguir participando activamente en la valoración de las consecuencias para la ya para la paz y seguridad mundiales. Esta tecnología. es cada vez más relevante para el trabajo del Consejo en el ámbito de la prevención y arreglo de conflictos. Para ello, se necesita un enfoque proactivo, basándonos en el diálogo interactivo oficioso reciente del Consejo sobre la IA, que organizaron Letonia y Francia, con el apoyo de Bahréin y de Grecia. Estamos comprometidos a seguir dando pasos concretos, por ejemplo, en la creación de un grupo de expertos oficioso del Consejo, que permitiría tener un análisis en mayor profundidad ver el impacto de las tecnologías de la IA para la paz y seguridad internacionales y también para la aplicación y cumplimiento de los mandatos. Seguiremos trabajando con todos los interesados para impulsar este trabajo. Gracias.

Gracias a la representante permanente de Letonia por esta declaración. Y ahora tiene la palabra la representación permanente de Colombia.

Gracias, señor.

Presidente.

Colombia. Considera que. Aquí lo que está, lo que tenemos que abordar sin duda son los riesgos.

Innegables.

Y, sin duda, después de los informes que se nos han presentado, los riesgos para la humanidad.

Señor presidente, no podemos ignorar ciegamente que es esta la primera vez en la historia en que.

El Consejo de Seguridad recibe un informe de un delito perpetrado por una máquina.

Esto no es un error por azar. Por favor, traten de transmitir la idea de que gran parte del planeta no tiene esta posibilidad. Si uno se lee los casos que se nos han explicado hoy, comprenderemos que sería un delito, incluso si esto lo perpetrase un Estado. Y esto puede ocurrir.

El segundo elemento para nosotros, y quizás el más preocupante, es que no hemos contextualizado correctamente la cuestión. Colombia no considera que la cuestión aquí sea limitar la innovación humana, sino la innovación automática o de máquinas. Y voy a explicarme. Distintos informes nos dicen que afrontamos dos riesgos. El primero es el desajuste y el segundo, la pérdida del control.

En cuanto al desajuste, se trata de que las máquinas están encontrando la manera de vulnerar las instrucciones que reciben de los humanos. Esos son los agentes de IA los que hacen esto de manera repetida, sistemática y hasta este momento.

Incluso en el caso, en el incidente de ciberseguridad, estos agentes consiguieron entrar en Internet y burlar el sistema. En otras ocasiones han obtenido claves, incluso multitud de mensajes, incluso contra las empresas que las mantenían en estos entornos cerrados. Pero lo segundo que debería preocupar muchísimo a este consejo es la pérdida de control. Así que queremos hacer un argumento lógico. Se nos dice hoy que la IA tiene una enorme capacidad de almacenar información, muy superior a la capacidad humana. Dados los modelos que estamos adoptando y también según el diseño de los algoritmos y las vías que abrimos en ese diseño, estas capacidades también permiten involucrar un tipo de razonamiento diferente, cada vez más complejo e interdisciplinar. En otras palabras, pronto no va a haber humanos capaces de seguir el funcionamiento y el desarrollo de lo que estamos creando. En los albores de estos modelos observábamos como una máquina.

Podría pasar el examen de la abogacía de Estados Unidos en tres meses y ningún humano puede hacer esto, el.

Examen del Colegio de Abogados. Pero en esta fase del desarrollo de la tecnología nos enfrentamos a una situación diferente, pasar de errores humanos a errores random de las máquinas y tenemos que ser conscientes de los riesgos que asumimos si decidimos ir por ese camino. El problema aquí está en saber, como consejo de seguridad, qué es lo que estamos regulando, por qué lo hacemos y por qué deseamos hacerlo. Y lo que es más importante, Colombia entiende la postura de Estados Unidos, que comparte parcialmente su enfoque pragmático Un órgano internacional supervisando la producción soberana de IA es algo que no es práctico por dos motivos. Primero, hay cuestiones constitucionales y seguridad nacional en todos los países, así que la batalla legal va a ser enorme. Pero en segundo lugar, si un país para, entonces el otro quizás no. ¿Y qué pasa con el resto de la humanidad, con los que están rezagados? La pregunta es qué hacer a continuación. Y ahí quizás nuestro país puede ofrecer una vía diferente y no como una opción.

Que entre desarrollo y seguridad que se excluyan, sino más bien para.

Garantizar que todos los seres humanos estén incluidos. No solo adaptando a los países, porque a nosotros nos parece desde el sur global que cuando decimos adoptar, ¿qué quiere decir con eso? Comprar un producto que no procedimos. Y una vez que compramos esto, podemos adoptar estas estructuras. Esto es cierto parcialmente, pero muchos de estos países sufrirán una brecha incluso de un siglo con otro país. Si no participamos en la producción de IA, ese es un problema muy importante para el sur global. No creemos que simplemente adoptando una infraestructura, haciéndolo más segura, eliminemos los problemas colaterales. Y eso nos lleva a lo que tratamos, a que podemos perder millones de empleos.

Esa es una posibilidad que se está considerando incluso en países en desarrollo.

Hemos visto como la IA empieza a crear código informático. Y ese, quizás, para nosotros debe ser el único punto de partida de la reglamentación, porque nadie discute, nadie puede decir que la IA no sea beneficiosa para la salud, la investigación, el desarrollo, la tecnología, las comunicaciones. Los beneficios son amplios y no queremos pararlos. Pero Me parece que estamos entrando en una fase nueva y Estados Unidos tiene razón, esto es superinteligencia. Vamos a dar un paso hacia una tecnología potencialmente más compleja, la tecnología cuántica, que impulsará la IA en el diseño, en los modelos y en el desarrollo. Así que los riesgos actuales quiero señalarle al Consejo son riesgos pre-cuánticos. Y estamos a punto de llegar a esa fase cuántica. Pero para nosotros la inquietud, y quizás eso es lo que ofreceríamos como un enfoque diferente en lugar de una supervisión internacional. El Consejo de Seguridad se preocupa por ello porque Esta tecnología puede crear mucha mayor desigualdad en el planeta y también violencia, así como también brechas de desarrollo que nos llevarán a otro tipo de conflictos, como migraciones globales, etcétera. Así que nosotros le proponemos una reflexión importante para empezar por ahí, porque este es el momento. Diseño y desarrollo autónomos. Eso es lo que está en juegos ahora realmente. Debemos permitir que las máquinas, los agentes de IA, tomen las medidas ulteriores que se han demostrado en los experimentos, en los casos, y que se han publicado, no hoy. Hay muchos artículos en todas partes publicados. que nos dicen cómo las máquinas utilizan otras vías diferentes de las humanas. Una vez que perdamos el control de la gestión, ese es el principal riesgo, una vez que no entendamos lo que hace la máquina, porque si vamos a una superinteligencia, y esta capacidad no la poseemos los humanos, estaremos presuponiendo que controlamos algo que no podemos entender. Y uno de los principales elementos de esta tecnología, y he escuchado yo hoy todas las intervenciones, queremos que esto siga siendo humano. Ahí está el problema. El cerebro humano tiene que entender la información que tiene ante sí para tomar una decisión. Pero a nosotros nos parece que pronto vamos a dejar atrás esta fase, porque según se desarrolla la tecnología, y esto no tiene que ver con límites éticos, entendemos que eso será algo contradictorio para muchos, y también será un problema en cuanto a legislación, reglamentación. Incluso algunos dirán que esto es burocracia, etc. No, esto es otro paso, porque si la máquina es la que dirige el diseño, los caminos, los resultados, esto no será un problema de los insumos ni de una meta inalcanzable. En otras palabras, parece que la máquina está tratando de conseguir una meta y para ello está encontrando caminos que normalmente no toman los humanos y que no le dieron instrucciones a la máquina de que los tomara, pero la máquina los encontró y escondió el resultado. Y eso es preocupante. El desajuste es eso. Pero lo segundo es que pronto el señor Sam Altman lo dijo muy claramente, es que el desarrollo autónomo de la inteligencia artificial lo que significa es que las máquinas escriben su código, que encuentran vías, que establecen soluciones. Y esto es la era pre cuántica. Así que sería ingenuo pensar que podremos regular algo que en breve no entenderemos. Y por eso, quizás, este es el momento en la historia en que todas las naciones tienen que unirse en torno a una meta común. Mantengamos esto como algo humano. Estamos de acuerdo en que queremos desarrollo. Quizás estemos de acuerdo en que no queremos supervisión. Podemos entender las inquietudes en cuanto a la soberanía, sobre todo las naciones que tienen más desarrollo científico. No es culpa suya tener capacidades, innovación, etcétera, pero para el resto de la humanidad, como mínimo, debe ser importante que decidamos cómo de lejos queremos ir. Esto no es algo ético. No hemos hablado ni siquiera de derechos humanos. Algunos países dicen que sí en cuanto a privacidad, no. Ese es el siguiente paso. Vamos a permitir que las máquinas construyan máquinas que diseñen su IA. Y si ya estamos en ese punto, y eso es quizás lo más importante, entonces los países tienen que decidir al menos eso, porque en la práctica, señor presidente.

Particularmente los latinoamericanos, En la práctica, eso significa un riesgo para la producción nacional de muchos países, países que no producen la inteligencia artificial, a los que se les ha invitado a comprar la inteligencia artificial, a invertir en ella. Y probablemente hacerlo sea el camino más lógico para modernizar la infraestructura de cada nación y hacerla más segura. Pero al final del tiempo, la pregunta se mantiene, si nosotros tenemos regulaciones hasta para un cepillo de dientes, la producción de un neumático, de una llanta, para que no se explote, para que no se salga, si regulamos la producción de los automóviles, si lo hicimos con las armas nucleares, la pregunta que hay es constante, en los diferenciales del progreso científico incluyendo uno de los más importantes, el paso de la teoría especial de la relatividad de Einstein a la teoría general de la relatividad de Einstein. No solamente verificamos que el tiempo pasa diferente en diferentes lugares, sino que entendimos la progresión científica a partir de la percepción, intercambiando la fórmula de una velocidad constante sin incluir la gravedad y en otra donde se incluyó. y llegamos a una progresión científica, tal vez la más importante del siglo XX, sin la cual ni siquiera habría un GPS hoy día. Pero hay una característica en todos estos casos, incluyendo la producción de armas nucleares, los humanos siempre estuvieron en control. Los humanos entendían los riesgos, sabían lo que estaban haciendo, sabían lo que estaban produciendo y por eso lo regularon. La preocupación de países como Colombia no es el progreso científico. Colombia invita a la inversión en inteligencia artificial, quiere centros de data en su país. Somos un aliado estratégico de varios de los países y particularmente de los Estados Unidos en la producción científica y estamos naturalmente interesados en hacer parte de eso. no solo en el consumo, sino en la producción de la inteligencia artificial, seguramente siendo prácticos a través de las tierras raras. Pero hay una preocupación que va más allá del interés bilateral, comercial y nacional. Es el interés de la humanidad, más allá de nuestro propio tiempo, de nuestra propia generación y de nuestro tiempo aquí en este Consejo para cada uno de nosotros. Nosotros estuvimos acá y teníamos que hacernos esa pregunta, una pregunta diferencial En esta ocasión estamos estableciendo este elemento, este precedente, que a juicio de un país como Colombia parece delicado. Regulamos las armas nucleares, regulamos la provisión de neumáticos, regulamos incluso la provisión de las casas, todo lo que pueda poner en peligro la vida de las personas que utilizan esas cosas. ¿Por qué no vamos a regular algo que pronto no vamos ni a entender. Eso no tiene sentido. Superinteligencia no solamente es la capacidad de adquirirla a través de la transformación científica, sino la capacidad de tenerla para saber cuándo nosotros ya no estamos a ese nivel. Muchas gracias, presidente.

Gracias al representante permanente de Colombia por esa declaración.

Excelentísima señora Thérèse Barner, de la República Democrática del Congo.

Muchas gracias, señor presidente.

Excelencia, señoras y señores, la RDC da las gracias a Francia y al señor Barrot, ministro de Europa y Exteriores, por haber convocado y presidido esta importante reunión. Gracias también a los oradores por su contribución a nuestro debate colectivo.

Este momento, el debate actual, es fundamental. La IA no es solo un tema de progreso científico o de competitividad económica. Con su rápido desarrollo y con la amplitud de sus aplicaciones y su integración creciente en las infraestructuras críticas y en la toma de decisiones, plantea desde ya cuestiones que afectan directamente a la paz y la seguridad internacionales. Esta realidad nos impone una responsabilidad, anticipar los riesgos sin complicar la innovación, preservar los beneficios del progreso tecnológico, impidiendo que no se convierta en un factor suplementario de inestabilidad, vulnerabilidad o conflicto. La ONU ha empezado a construir las bases de esta reflexión. Los trabajos de la Asamblea General sobre una inteligencia artificial segura y fiable, la creación del Grupo Científico Internacional Independiente sobre Inteligencia Artificial, el diálogo global sobre gobernanza y los trabajos del Consejo de Seguridad sobre las implicaciones de los avances científicos y tecnológicos para la paz y la seguridad internacionales son hitos importantes. Ahora hay que ir más lejos, anticiparse hacia la prevención de la anticipación a la prevención y de la prevención a la cooperación internacional, que esté a la altura de la transformación actual. Los riesgos actuales son múltiples sistemas, cada vez más eficaces y autónomos, pueden crear nuevos puntos débiles en las infraestructuras críticas y en los procesos de decisión.

Su utilización en contextos.

Militares y de seguridad plantean cuestiones fundamentales de responsabilidad, previsibilidad y control humano. También hay que seguir de cerca los comportamientos imprevistos de ciertos sistemas, las posibilidades de que se puenteen los dispositivos de seguridad y las dificultades crecientes de los Estados para comprender, evaluar y enmarcar las tecnologías cuyas capacidades evolucionan con una velocidad sin precedentes. Esto presenta una dimensión especialmente concreta en caso de conflicto. En la RDC, como en otros escenarios de crisis, las tecnologías de vigilancia y los drones ya tienen un papel cada vez más importante en el entorno operacional. Esas tecnologías pueden contribuir al reconocimiento, la observación y el seguimiento de los altos del fuego. También pueden utilizarse para reconocimiento militar, coordinación, desinformación o propaganda. Esta ambivalencia nos recuerda una verdad esencial: ninguna tecnología es por sí sola un instrumento de paz o de conflicto. Es el marco en el que se concibe, despliega y gobierna lo que determina su impacto en gran parte. Por eso, la responsabilidad tiene que estar en el núcleo de nuestra reflexión. Los Estados son responsables de establecer marcos jurídicos apropiados, garantizar una supervisión efectiva y prevenir los riesgos que puedan afectar a la paz y la seguridad internacionales. Las empresas tecnológicas deben, ellas también, asumir plenamente su parte de la responsabilidad, sobre todo con la evaluación de los riesgos antes del despliegue, la notificación de los incidentes, el seguimiento, la transparencia y el mantenimiento de una supervisión humana apropiada. La comunidad científica y la sociedad civil también pueden poder aportar sus conocimientos independientes y contribuir a una evaluación.

Crítica de los riesgos.

Pero las respuestas nacionales, por muy necesarias que sean, no bastarán. La interdependencia tecnológica requiere una responsabilidad compartida que exige una cooperación internacional más estrecha, fundada sobre todo en el intercambio de información sobre incidentes graves y puntos débiles detectados, cooperación en materia de evaluación y test de seguridad y también el establecimiento de canales de comunicación entre gobiernos, científicos y agentes tecnológicos. Para la RDC, esta cooperación también debe responder a una exigencia fundamental, la inclusión.

Los países en desarrollo no pueden quedar reducidos al riesgo de meros usuarios de tecnologías concebidas en otros lugares, y tampoco deben ser simples destinatarios de normas en la cuya elaboración no han participado suficientemente.

Tienen que tener capacidades científicas, técnicas e institucionales. que permiten evaluar a las tecnologías a que se van a exponer sus pueblos y economías y.

Participar en su gobernanza y, sobre todo, contribuir a la innovación. Esta exigencia de inclusión nos lleva a considerar la IA en el conjunto de la cadena de valor, porque la revolución de la IA, a pesar de su apariencia inmaterial, reposa en realidades muy materiales, infraestructuras, energía. capacidad industrial y recursos naturales estratégicos.

Esta dimensión reviste especial importancia para la RDC. En su presidencia en julio del Consejo de Seguridad, mi país invitó.

Al Consejo a emprender una reflexión sobre la manera en que una gobernanza responsable, transparente y equitativa de los.

Recursos naturales puede contribuir a prevenir conflictos, garantizar la seguridad de las cadenas de suministro y a la aparición de una prosperidad compartida. La revolución de la IA ofrece a esta reflexión una mayor pertinencia aún. Hay que velar porque las transformaciones tecnológicas del siglo XXI no reproduzcan los desequilibrios económicos de décadas precedentes: países que aportan recursos esenciales para la economía mundial, mientras que la transformación, la tecnología y el valor añadido más importante se concentran en otros países. La seguridad de las cadenas de suministro no puede desvincularse sosteniblemente de la prosperidad de la población que se encuentra en su origen. Por eso, la gobernanza de la IA también debe concebirse dentro de una lógica de responsabilidad compartida. Responsabilidad en la concepción de los sistemas, responsabilidad en sus usos y responsabilidad de las cadenas de valor que permiten su desarrollo, y también responsabilidad en el reparto de los beneficios del progreso tecnológico. Para la RDC, lo que está en juegos es muy claro. Los recursos que contribuyen a posibilitar la revolución digital también deben contribuir al desarrollo, la transformación económica y la industrialización y mejora de capacidades tecnológicas de los países que los producen. No se trata tan solo de una cuestión de desarrollo, sino también es una cuestión de paz. Cuando las cadenas de valor son opacas, cuando los beneficios se reparten de manera desigual, Cuando las comunidades productoras siguen excluidas de la prosperidad generada por sus propios recursos, las vulnerabilidades económicas pueden alimentar tensiones y las economías del conflicto. Y, por contra, cuando los recursos se gobiernan de manera responsable, cuando la transformación local crea empleo y perspectivas de futuro, cuando la población participa efectivamente en los beneficios del crecimiento, las cadenas de suministro pueden convertirse no solo en algo más seguro y resiliente, sino también en cadenas de prosperidad compartida. Presidente, precisamente ahí el Consejo de Seguridad puede aportar un valor añadido. No se trata de sustituir a los foros competentes para elaborar las reglas técnicas sobre IA, pero sí que le corresponde plenamente prever los riesgos que puedan afectar la paz y la seguridad internacionales, examinar cómo las nuevas tecnologías transforman las dinámicas de conflicto, proteger a los civiles, alentar medidas de fomento de la confianza y velar porque las transformaciones tecnológicas no creen nuevas vulnerabilidades susceptibles de alimentar la inestabilidad. Nuestro objetivo, por tanto, no debe ser optar entre innovación y seguridad, ni tampoco elegir entre recursos naturales y desarrollo. Nuestra responsabilidad es gobernar el progreso para que sirva al ser humano. En el pasado mes de julio, bajo presidencia congoleña del Consejo, nos preguntábamos por cómo transformar los recursos naturales, muy a menudo asociados a los economías de conflicto en instrumentos de paz, cooperación y prosperidad compartida. La revolución de la IA nos enfrenta hoy a una interrogante comparable. ¿Cómo velar porque el progreso tecnológico reduzca las fracturas en lugar de agravarlas? ¿Cómo velar porque refuerce las capacidades de los Estados más de que crear nuevas dependencias? ¿Cómo conseguir, finalmente, que las cadenas de valor añadido que apoyan esta revolución contribuyan a la paz y la prosperidad de las sociedades que las posibilitan? Para la RDC, la respuesta debe basarse en tres principios: responsabilidad compartida, inclusión y prosperidad compartida. A medida que progresan las capacidades de la IA, nuestra capacidad colectiva de regularla también debe avanzar. porque tanto si se trata de recursos naturales como de inteligencia artificial, la cuestión fundamental es la misma. No solamente lo que estos recursos y tecnologías nos permiten hacer, sino lo que decidamos colectivamente hacer con ellos. Ahí es donde empieza nuestra responsabilidad.

Muchas gracias.

Muchas gracias a la señora Wagner por esta declaración.

A continuación, cedo la palabra a la Representación Permanente de China.

Muchas gracias, presidente. Doy las gracias a Francia por convocar esta reunión. Gracias a los ponentes. La IA es un vector importante de una nueva ronda de transformación industrial y revolución tecnológica, y trae muchos elementos convenientes para el ser humano, a tiempo que también genera nuevos desafíos a la paz y seguridad internacionales. A la comunidad internacional le compete colaborar más y considerar la importancia del desarrollo de la seguridad y dirigir el desarrollo para lo positivo, para lo bueno y en pro de la humanidad, contribuyendo de esta manera a la paz mundial a la estabilidad, al desarrollo y a la prosperidad. Subrayamos los siguientes puntos. Primero, hay que respetar la soberanía digital y abogar por la apertura en beneficio de todos. La IA se integra en las cadenas de suministro y de producción mundiales, las redes de innovación. Por ello, todos los países tienen el derecho de optar de manera independiente por los productos y los servicios que necesitan, siguiendo sus propios principios. Reuniéndose en un grupo de nosotros contra ellos en el sector tecnológico y obligar a los demás países a tomar partido significaría que se politiza la cuestión tecnológica al servicio de los intentos de algunas grandes potencias de mantener el monopolio tecnológico en sus manos y buscando la hegemonía tecnológica. Esto no solamente obstaculiza el avance tecnológico en detrimento de los intereses de todos los países, sobre todo los pequeños y de su desarrollo, sino que también incrementa el riesgo de fragmentación de las normas tecnológicas y la compatibilidad en los sistemas, poniendo en riesgo la seguridad mundial. Pedimos a todos los países que mejoren los intercambios y la cooperación, que promuevan las fuentes abiertas y que colaboren en pro de adelanto científico y tecnológico común. El segundo elemento, concienciar del riesgo y garantizar que la IA sea segura y se pueda controlar. Todos los países tienen que defender la filosofía centrada en el ser humano, procurando que la IA, la investigación, los usos estén en línea con los propósitos y principios de la Carta y el de aplicable, así como los valores comunes de humanidad y ética social. En respuesta a los riesgos inherentes y secundarios que plantea la IA, es necesario seguir mejorando los marcos reglamentarios, los riesgos emergentes con mecanismos de cooperación transfronteriza y combatir el uso maligno de la IA por parte de organizaciones terroristas, fuerzas extremistas y también grupos criminales transnacionales. Los gigantes de la tecnología deben cumplir con su obligación de responsabilidad social, combatir el discurso de la desinformación y someterse a la reglamentación de la ley y la supervisión de la opinión pública, independientemente de los usos en el ámbito militar y en el I+D. Todos los países tienen que ser prudentes y responsables para evitar errores de cálculo estratégicos y una carrera armamentista, oponerse al uso de las armas conexas para ataques indiscriminados o ataques contra civiles o instalaciones civiles y procurar que el poder de toma de decisiones en última instancia quede en manos del ser humano. En tercer lugar, es la defensa de la IA para el bien y reforzar el empoderamiento tecnológico. La IA nos da muchas posibilidades para hacer frente a desafíos mundiales como los que tienen que ver con el cambio climático, la seguridad alimentaria, la salud pública, la transición energética. y también los desastres naturales. La comunidad internacional tiene que aprovechar esta oportunidad histórica y apoyar el empoderamiento de todas las industrias a través de las tecnologías de la IA y así ofrecer orientación para los adelantos tecnológicos para así traducirse mejor en mejoras del bienestar. Agradecemos los esfuerzos de la ONU de aprovechar al máximo los recursos y utilizar la tecnología para mejorar la calidad y la eficiencia de su trabajo, de esta manera, ofreciendo un servicio más ágil a los Estados miembros. Las misiones en el terreno tienen que buscar el consentimiento de los países anfitriones y, en línea con sus mandatos, pueden utilizar la IA para reforzar su conocimiento de la situación, la alerta temprana, la evaluación de riesgos y la respuesta. En cuarto lugar, hay que promover la justicia y la inclusión y mejorar la gobernanza mundial. La IA es un activo compartido para toda la humanidad y no se puede convertir en un juegos para los ricos y los países ricos. No podemos permitir que la brecha en la IA incremente la brecha en el desarrollo e incrementar el apoyo al sur global para que todos los países participen de manera pacífica en los dividendos de progreso tecnológico y para que sean más resilientes contra los riesgos tecnológicos. Tenemos que ser multilateralistas y apoyar a la ONU como el foro principal para la gobernanza y dar a los países más representación y una voz mayor. Hay que respetar la diversidad. De las civilizaciones y el carácter único de la cultura de cada país, por lo que tenemos que mejorar que se alineen y la coordinación de las estrategias de desarrollo, las normas y las normas técnicas. y también que haya una gobernanza consensuada ya desde el primer momento para que también se puedan proteger las salvaguardias que mantiene la paz de seguridad internacionales. Nosotros trabajamos en la innovación y en el desarrollo de la IA y contribuimos también activamente a la gobernanza mundial. el presidente Xi Jinping, lanzó la Iniciativa Mundial de Gobernanza de la IA. Y desde entonces hemos ayudado a la Asamblea General de Naciones Unidas a adoptar por consenso la resolución para mejorar la cooperación internacional y la capacitación de la inteligencia artificial. Y hemos planteado también el plan de acción en este ámbito por el bien de todos, así como la iniciativa de cooperación IA Plus. En julio, el presidente Xi Jinping anunció en la conferencia mundial de la IA que en los próximos cinco años, China va a ofrecer 5000 oportunidades en formación de IA y en programas de seminario para países en desarrollo. Para generar usos y centros de colaboración para ASEAN, para la Liga de Estados Árabes, la UEA, la CELAC, la Organización de Cooperación de Shanghai y los BRICS para impulsar el uso De los sistemas de alerta meteorológico que se utiliza Mars en 30 países, algo que propone y que bandera China en respuesta a las necesidades de nuestros tiempos. la y crear. se creó la Organización de Cooperación de la Inteligencia Artificial en Shanghai, que es la primera organización intergubernamental que trabaja con el tema de la IA. Agradecemos la participación de los países y queremos recibir a más y queremos fomentar la gobernanza entre todos para crear un futuro más próspero para toda la humanidad. Muchas gracias.

Le doy las gracias al representante permanente de China por esta intervención. Ofrezco ahora la palabra a la representación de la Federación de Rusia.

Señor Presidente, damos las gracias a los ponentes por sus presentaciones. La IA hoy día es un tema muy debatido y prácticamente nadie en el mundo permanece indiferente ante esta cuestión. Se ha tratado en toda una serie de foros políticos y de expertos. El Consejo no es una excepción. Ahora bien, este órgano de las Naciones Unidas tiene unas limitaciones muy claras. En primer lugar, Es difícil entender cómo la temática general de la IA se articula y relaciona con el mandato del Consejo de Seguridad, tal y como se define claramente en la Carta de mantener la paz y la seguridad internacionales. En segundo lugar, y no menos importante, los países de África, Asia y América Latina no están suficientemente representados en el Consejo. La voz del sur global difícilmente será escuchada en toda su extensión. Por ello, existe un riesgo alto de que el grupo predominante de los Estados occidentales en el Consejo, interesado en preservar y reforzar su liderazgo tecnológico en este ámbito, intente imponer su enfoque limitado y egoísta a toda la comunidad internacional, en detrimento de las prerrogativas de los formatos especializados e inclusivos que trabajan en este ámbito. Lamentablemente, eso es lo que ya estamos viendo. Un ejemplo más flagrante es que se celebren cumbres a puerta cerrada sobre el uso responsable de la IA con fines militares, a la que no se invita a la mayoría de los países en desarrollo. Y, por último, Cuestiones que tienen que ver con el uso civil y militar de las tecnologías de inteligencia artificial. Bueno, pues estas cuestiones son complejas y multidimensionales. Y precisamente por ese motivo, estas cuestiones deben debatirse en los foros especializados más pertinentes. Por ejemplo, el debate sobre ataques informáticos realizados con ayuda de la inteligencia artificial. Esto es algo que debería abordarse en el mecanismo global que se ha creado para reemplazar el grupo de trabajo de composición abierta de la ONU sobre la seguridad internacional de la información. Para considerar los aspectos militares de la IA, para eso existe el Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomos Letales, que funciona en el marco de la Convención sobre Ciertas Armas Convencionales. Querríamos llamar la atención de los colegas sobre el hecho de que este grupo de expertos gubernamentales en Ginebra adoptó hace tres semanas un informe sustantivo por consenso, y este resultado confirma la eficacia y relevancia de ese foro. Y todavía más importante, el informe contiene una definición de trabajo de estos sistemas autónomos letales, de entendimientos comunes también sobre la aplicación del derecho internacional, incluido el de IH, así como parámetros también para garantizar el control humano y reducir los riesgos asociados al uso militar de la IA. No nos parece adecuado socavar el trabajo constructivo ya logrado en Ginebra. Por nuestra parte, estamos dispuestos a seguir participando activamente en el trabajo del grupo, con vistas a buscar enfoques comunes en este ámbito. Señor presidente, hemos estudiado con mucha atención la nota que se ha presentado por parte de la presidencia francesa para esta sesión. Nos parece contraproducente analizar las tecnologías únicamente desde la perspectiva de los riesgos, ya que toda moneda tiene dos caras. Entre las ventajas de la IA están la fiabilidad, la seguridad y, sobre todo, la rapidez, también en la toma de decisiones. La IA permite analizar eficazmente grandes volúmenes de datos. Puede contribuir a detectar amenazas, incrementar la conciencia situacional y también la precisión operativa. Y puede también reducir riesgos para la población civil y reforzar la protección de los bienes y objetos civiles. Al mismo tiempo, hay que considerar que esta tecnología también conlleva riesgos. Y para minimizarlos, hay que garantizar el control humano sobre el funcionamiento de los sistemas que recurren a la IA. Ahora, las formas específicas de ese control, los tendrán que determinar los Estados a nivel nacional. Algunas medidas para garantizar el control humano podrían consistir en incrementar la fiabilidad y la resiliencia de los sistemas, reducción los objetivos, quizá limitaciones en duración, alcance geográfico, también escala de uso y quizá también la intervención o desactivación del sistema en tiempo y forma. Además, hay que adoptar medidas para detectar y minimizar errores en los algoritmos y en los datos, y también adoptar medidas adecuadas para prevenir y evitar las violaciones del derecho internacional en el contexto de desarrollo y uso de estas tecnologías. Entre estas medidas podrían incluirse una buena gestión del ciclo de vida de los sistemas de armas y equipos militares, la definición de criterios de preparación y también garantizar la protección máxima ante accesos no autorizados. También nos parece que hay un valor añadido cuando se intercambian opiniones y pareceres y cuando se desarrollan recomendaciones y directrices concretas. Ahora bien, esto solo puede hacerse en foros especializados. Rusia no se opone a un diálogo multilateral sobre el uso de la IA. por principio, al menos, y eso incluye también los usos militares, ni tampoco se opone a que se estudien las consecuencias para la paz y la seguridad internacionales. Ahora bien, estamos convencidos de que este diálogo tiene que basarse en el consenso, en la inclusión y también tiene que ser de carácter estrictamente intergubernamental. Estos principios fundamentales garantizan que se consideren los intereses de todos los Estados miembros y también que las decisiones adoptadas sean eficaces. Siempre hay que centrarse muy concretamente en garantizar que haya un acceso justo y no discriminatorio de todos los Estados, sobre todo los del Sur Global, para que puedan acceder a estas tecnologías de IA. Muchas gracias por su atención.

Doy las gracias al representante de Rusia y ahora ofrezco la palabra a la representación de Liberia.

Muchas gracias, señor presidente. Nos sumamos al agradecimiento a la presidencia de Francia por convocar este debate de alto nivel y también damos las gracias a los ponentes por compartir sus opiniones y perspectivas. También queremos saludar a todos los representantes de alto nivel que participan. Excelencias, la historia nos enseña que la transformación más importante en la humanidad no se define tan solo por los avances tecnológicos. Cualquier paso fundamental que se haya dado en la capacidad siempre ha exigido un paso adelante en la gobernanza, en los marcos éticos y morales y en las normas multilaterales para garantizar que el poder siempre siga concentrado en el bien común. La inteligencia artificial ahora, desde luego, que va a ser la prueba de fuego de este principio. Su promesa de levantar, de mejorar las sociedades, es una promesa importantísima, pero también está el riesgo existencial si la trayectoria de la IA escapara al control humano, a la rendición de cuentas institucional y a la supervisión ética. Hace 81 años, Los arquitectos de la Carta de las Naciones Unidas hacían frente a un mundo fracturado por el poder irrestricto y reconocieron que no se puede garantizar una paz sostenible meramente respondiendo a crisis una vez que se ha disipado el humo. Exige previsión. Cooperación multilateral sostenida y también instituciones capaces de anticiparse, adelantarse, neutralizar amenazas antes de que causen un conflicto mundial. Los delegados en San Francisco en 1945 no hubieran podido prever redes neuronales o modelos computacionales, señeros y punteros, pero cualquier capacidad que afecte al carácter de la guerra, a la soberanía y a la estabilidad geopolítica, desde luego que encaja, clarísimamente en el mandato fundamental de este Consejo, que es el de mantener la paz y seguridad internacionales. Señor Presidente, la inteligencia artificial ya está modificando la infraestructura esencial, el comercio mundial, así como la cohesión social. Si se dirige, gobierna, enmarca con responsabilidad, estas tecnologías pueden empoderar a las Naciones Unidas, mejorando así los mecanismos de alerta temprana de los conflictos, optimizando la logística humanitaria y también reforzando las operaciones de mantenimiento de la paz. Ahora bien, vemos con grave preocupación cómo proliferan capacidades ofensivas facilitada por la IA, sistemas autónomos de armas, así como modelos punteros que presentan un comportamiento emergente e impredecible. Los adelantos rápidos hacia la inteligencia artificial general y los sistemas autónomos o muy autónomos, subrayan que estos riesgos ya no son meramente abstractos o posibilidades teóricas. Estamos hablando de una realidad política inminente. La comunidad internacional no se puede permitir que se produzca un fallo sistémico o un error de cálculo catastrófico antes de determinar salvaguardias colectivas. No podemos permitir que el coste de las dudas de hoy se conviertan en la catástrofe de mañana. Presidente, Liberia considera la comunidad internacional tiene que controlar dos extremos igualmente peligrosos. En primer lugar, una sobre-reglamentación. asfixiante que limita el progreso, sobre todo para países en desarrollo que necesitan urgentemente las herramientas IA para fomentar la educación, revolucionar la asistencia sanitaria, modernizar la agricultura y también, de paso, acelerar los ODS. En segundo lugar, sería La consideración inocente y peligrosa de que las tecnologías transformadoras se van a autorregular. La historia, desde luego, que no nos da precedente para expresar esta confianza. Sin salvaguardias verificables, sin transparencia y sin una responsabilidad clara, las capacidades no reglamentadas no harán más que generar vulnerabilidades que no se detienen en las fronteras nacionales. Nuestro camino no es sea la innovación o la reglamentación. El imperativo que se nos presenta es garantizar que la innovación tecnológica y la gobernanza multilateral avancen codo con codo. Tenemos que reglamentar con sabiduría y debemos innovar con responsabilidad. A nuestro entender, nos parece que hay cuatro pilares operacionales esenciales. Primero, la seguridad tiene que estar en el diseño. La responsabilidad empieza desde el momento del desarrollo del diseño. Mitigación de riesgo rigurosa, resiliencia en la ciberseguridad y controles de seguridad que tienen que estar en todo el ciclo de vida, desde el momento inicial al despliegue público, en lugar de improvisarlo una vez que se ha producido la crisis. En segundo lugar. la defensa del derecho internacional y la independencia de actuación humana. Las decisiones que conlleven el uso de la fuerza, el hecho de que puedan perderse vidas humanas o reproducirse un conflicto es algo que nunca se puede dejar en manos de un algoritmo autónomo. El control humano significativo y la rendición de cuentas siguen siendo la base no negociable del DIH y también de la dignidad humana. Un fomento de la confianza por colaboración. Ese es el tercer elemento. La cooperación multilateral debe fomentar la confianza sin obstaculizar la investigación científica. Una armonización de la seguridad coordinar la publicación de las amenazas y también protocolos transparentes entre Estados, la industria y los científicos independientes. Todo ello es esencial para mitigar la desconfianza estratégica. Y ahora ya en cuarto lugar, una supervisión independiente y verificable. Las normas sin verificación son insuficientes. Necesitamos marcos de supervisión creíbles, necesitamos normas firmes y evaluaciones técnicas independientes que permitan que los compromisos corporativos y estatales se traduzcan en una seguridad palpable. Además, señor presidente, la gobernanza mundial no puede convertirse en una Cuestión exclusiva, reservada para unos cuantos países que controlan la computación avanzada y el capital. No se puede tratar a África y al Sur Global como un proveedor de datos o usuario final. También tenemos que participar en la determinación de las normas, en el elemento ético, así como en las estructuras de esta era tecnológica. En este contexto, Liberia quiere agradecer la iniciativa señera que se impulsa a través del Pacto Digital Mundial, a saber, el diálogo mundial sobre la gobernanza de la IA, así como el Panel Científico Internacional Independiente sobre la IA. Ahora bien, los esfuerzos complementarios que despliega la Asamblea no le resta al Consejo cumplir con su obligación específica. Cuando la computación avanzada se cruza con ciberoperaciones contra infraestructura civil, cuando hablamos de sistemas de armas autónomos, cuando hablamos de competencia geoestratégica, esto se traslapa directamente con la seguridad internacional. Que el Consejo se implique no es duplicación, es prevención de conflictos. Liberia, por lo tanto, se expresa con firmeza a favor de la creación de un grupo de trabajo oficioso del Consejo de Seguridad sobre inteligencia artificial y tecnologías emergentes, que se ocupe de darle seguimiento a las consecuencias transversales de seguridad, tanto en el ámbito temático como también en los programas específicos de país. Y ya para concluir, señor presidente, Hemos de actuar con urgencia, con previsión, lo que este momento nos exige, garantizando en que la transición tecnológica más poderosa desde la revolución industrial sirva de motor para la prosperidad compartida y también como pilar de la paz y seguridad internacionales. y que no sea una oportunidad para una mayor división y una fractura más profunda, así como la inseguridad. Muchas gracias por su amable atención a todos.

Le doy las gracias al representante permanente de Liberia por esta intervención. No tenemos más oradores en la lista. Quiero dar las gracias a todos los oradores. Se levanta la reunión.