Consejo de Seguridad de la ONU analiza riesgos de la inteligencia artificial con líderes tecnológicos
Naciones Unidas.— El Consejo de Seguridad de Naciones Unidas celebrará este miércoles una sesión de alto nivel dedicada a los riesgos de la inteligencia artificial (IA) para la paz y la seguridad internacionales, con la participación de directivos de algunas de las principales empresas del sector.
La reunión fue convocada por Francia, que ejerce durante septiembre la presidencia rotatoria del Consejo. Está previsto que participen Sam Altman, director ejecutivo de OpenAI; Dario Amodei, director ejecutivo de Anthropic; y Clément Delangue, cofundador y director ejecutivo de Hugging Face. El ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot, presidirá el encuentro. (reuters.com)
También está prevista la participación de Yoshua Bengio, copresidente del Panel Científico Internacional sobre IA de Naciones Unidas. El debate ocurre mientras gobiernos y empresas analizan cómo responder al rápido desarrollo de sistemas cada vez más capaces y a los posibles riesgos asociados con su uso.
Seguridad, uso malicioso y supervisión
De acuerdo con la agenda de la reunión, uno de los temas centrales será determinar qué riesgos puede representar el desarrollo acelerado de la IA para la seguridad internacional y cómo deberían responder los gobiernos y los actores no estatales.
También se analizarán mecanismos de cooperación y confianza, así como la posibilidad de establecer métodos que permitan evaluar y verificar las capacidades y sistemas de seguridad de los modelos avanzados a un ritmo similar al de su desarrollo. Reuters señaló que el objetivo de la sesión es examinar escenarios en los que sistemas de IA pudieran afectar la seguridad de los Estados o incluso contribuir a desencadenar conflictos. (reuters.com)
El Consejo de Seguridad ya había abordado los riesgos de la inteligencia artificial en 2023 y 2024, pero la sesión de este miércoles reúne nuevamente a representantes gubernamentales y dirigentes de compañías tecnológicas en un momento de creciente debate sobre el desarrollo de sistemas más autónomos. (reuters.com)
OpenAI propone estándares internacionales
La reunión ocurre después de que OpenAI pidiera a Estados Unidos encabezar un esfuerzo internacional para desarrollar estándares técnicos comunes para los sistemas de IA más avanzados.
La empresa ha planteado establecer criterios para medir las capacidades de los modelos, evaluar sus riesgos y reportar incidentes relevantes, además de fomentar una mayor coordinación internacional para evitar que distintos países desarrollen marcos incompatibles entre sí. (reuters.com)
Sam Altman tiene previsto plantear ante el Consejo mecanismos de referencia para medir las capacidades de los sistemas y valorar las medidas de seguridad que utilizan las empresas durante su desarrollo. (reuters.com)
Por su parte, dirigentes del sector como Amodei han expresado preocupación por la velocidad del desarrollo de la tecnología y han defendido una mayor coordinación en materia de seguridad. Al mismo tiempo, otras empresas y especialistas sostienen que las medidas de supervisión deben evitar convertirse en obstáculos para la innovación. (reuters.com
Una postura distinta desde Estados Unidos
El encuentro se desarrolla un día después de que el presidente estadounidense, Donald Trump, rechazara ante la Asamblea General de la ONU la creación de un “esquema global” para controlar la inteligencia artificial.
Trump afirmó que Estados Unidos debe continuar impulsando el desarrollo de esta tecnología para mantener su ventaja frente a China y señaló que su gobierno vigilará sus posibles riesgos mediante el Departamento de Justicia, en lugar de establecer restricciones internacionales amplias. (reuters.com
El debate en el Consejo de Seguridad refleja así las distintas posiciones que existen sobre el futuro de la IA: mientras algunos gobiernos y empresas plantean mecanismos internacionales de evaluación y seguridad, otros priorizan mantener el ritmo de desarrollo tecnológico y la competitividad entre países.
La sesión busca determinar qué herramientas de cooperación internacional podrían aplicarse frente a riesgos relacionados con la inteligencia artificial y su posible impacto en la seguridad mundial.
