ONU pide reforzar la regulación de la inteligencia artificial ante posibles riesgos a los derechos humanos
Ginebra.- El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió sobre los posibles riesgos que plantea el desarrollo acelerado de la inteligencia artificial (IA) para derechos fundamentales como la privacidad, la salud, la seguridad y el acceso a servicios esenciales.
En un comunicado, el funcionario señaló que el avance de sistemas de IA cada vez más capaces requiere establecer mecanismos que permitan prevenir posibles afectaciones a los derechos humanos y mantener controles adecuados sobre esta tecnología.
Türk consideró que la actual competencia por desarrollar modelos de mayor capacidad podría incrementar los riesgos asociados con su utilización y planteó la necesidad de que los gobiernos y las empresas actúen antes de que determinadas aplicaciones alcancen niveles de complejidad difíciles de supervisar.
Advierten sobre sistemas de IA con mayor autonomía
El alto comisionado puso especial atención en la denominada IA agéntica, una categoría de sistemas diseñada para ejecutar tareas y tomar determinadas decisiones con un mayor grado de autonomía.
De acuerdo con Türk, posibles fallos en este tipo de herramientas podrían afectar servicios esenciales, comunicaciones e infraestructura crítica si fueran incorporadas sin mecanismos suficientes de supervisión.
Entre los escenarios que mencionó se encuentran posibles interrupciones en servicios relacionados con el agua, la calefacción o los sistemas financieros. Se trata de riesgos potenciales vinculados con el funcionamiento y la dependencia de infraestructura tecnológica, no de afectaciones que la ONU haya señalado como inevitables.
Türk también expresó preocupación por el uso de la inteligencia artificial en conflictos armados y afirmó que su incorporación a aplicaciones militares podría modificar la manera en que se desarrollan las guerras y aumentar los riesgos para la población civil.
Crece el debate sobre el desarrollo de la IA
Las declaraciones del funcionario de la ONU se producen en un contexto de creciente debate dentro de la industria tecnológica sobre el ritmo con el que avanzan los modelos de inteligencia artificial.
Entre las figuras que han planteado la necesidad de establecer mayores controles se encuentran Dario Amodei, director ejecutivo de Anthropic; Sam Altman, director ejecutivo de OpenAI, y el empresario Elon Musk, quienes han expresado en distintos momentos preocupaciones relacionadas con los posibles riesgos de los sistemas avanzados de IA.
La discusión incluye aspectos como la seguridad de los modelos, la supervisión humana, el uso militar de la tecnología, la privacidad y el impacto de la automatización.
ONU plantea reglas internacionales
Volker Türk sostuvo que los gobiernos y las empresas deben trabajar mediante mecanismos multilaterales para establecer reglas que permitan desarrollar y utilizar la inteligencia artificial de acuerdo con el derecho internacional y los derechos humanos.
El funcionario señaló que ningún país o empresa debería determinar por sí solo los riesgos que puede asumir la sociedad frente a esta tecnología.
La ONU plantea así la necesidad de encontrar un equilibrio entre el aprovechamiento de las aplicaciones de inteligencia artificial y la protección de derechos fundamentales, mediante normas, mecanismos de supervisión y cooperación internacional.
