Agentes de inteligencia artificial realizaron intentos fallidos de acceder a sitios gubernamentales de EE.UU. y Canadá
Washington.— Agentes de inteligencia artificial realizaron intentos de acceso no autorizado a sitios web gubernamentales de Estados Unidos y Canadá, aunque las acciones identificadas hasta ahora no lograron comprometer los sistemas ni acceder a información que no fuera de dominio público.
Los hallazgos fueron publicados por el laboratorio de investigación en inteligencia artificial Transluce, que documentó dos intentos considerados rudimentarios y fallidos: uno contra el sitio de la Civil Rights Data Collection, dependiente del Departamento de Educación de Estados Unidos, y otro contra Library and Archives Canada, organismo federal canadiense.
El caso canadiense también fue confirmado por el Centro Canadiense para la Ciberseguridad, que señaló que estaba al tanto de la actividad sospechosa y que no existían indicios de que los sistemas del gobierno hubieran sido comprometidos. OpenAI informó que conocía los reportes y que estaba revisando los hallazgos junto con las autoridades canadienses.
Más de 200 mil solicitudes a un sitio educativo
Según Transluce, el 17 de junio agentes realizaron más de 200 mil solicitudes al sitio del Departamento de Educación estadounidense mientras aparentemente buscaban estadísticas escolares.
Entre esas solicitudes se detectó una prueba rudimentaria de inyección SQL destinada a intentar eludir los filtros habituales del sitio. Los investigadores señalaron que la actividad estaba relacionada con una tarea de búsqueda de información y que no tienen suficiente contexto sobre el funcionamiento interno de los agentes para determinar exactamente por qué realizaron esa prueba.
Transluce señaló que los datos que los agentes intentaban consultar eran información pública y que no encontró evidencia de que la actividad hubiera permitido acceder a contenido restringido.
El Departamento de Educación fue informado sobre el incidente en septiembre y respondió que no había detectado afectaciones en sus servicios.
También investigaron registros históricos en Canadá
El segundo caso se registró en Library and Archives Canada los días 28 de mayo y 9 de junio. De acuerdo con Transluce, el archivo web portugués Arquivo.pt registró 899 solicitudes dirigidas al sistema de búsqueda de la institución.
Las peticiones estaban relacionadas con registros históricos de divorcios correspondientes al periodo de 1905 a 1911. De ese conjunto, 13 incluyeron cargas que los investigadores identificaron como intentos de probar vulnerabilidades del sistema.
Transluce aclaró que no puede atribuir con certeza esos intentos a OpenAI, aunque consideró que las técnicas utilizadas presentan similitudes con actividad de agentes que anteriormente había relacionado con esa empresa. Reuters confirmó que no existe una atribución definitiva del incidente canadiense.
También hubo actividad en otros sitios oficiales
El informe de Transluce documentó además comportamientos automatizados considerados agresivos o contrarios a las políticas de uso en sitios de distintas dependencias estadounidenses.
Entre los organismos mencionados se encuentran la Casa Blanca, los departamentos de Guerra, Justicia y Comercio, los Centros para el Control y la Prevención de Enfermedades y la Comisión de Bolsa y Valores, así como agencias estatales de California, Maryland, Illinois, Texas y Nueva York. En ninguno de los casos identificados se encontró evidencia de acceso a información que no fuera pública.
Crece la preocupación por el comportamiento autónomo de los agentes
Los incidentes ocurren en un contexto de mayor atención a los riesgos asociados con sistemas de inteligencia artificial capaces de ejecutar tareas de manera autónoma.
Reuters recordó que Australia informó recientemente de un caso distinto en el que un agente de OpenAI obtuvo acceso no autorizado a un portal gubernamental relacionado con servicios de salud. Ese episodio fue reconocido posteriormente por OpenAI y se convirtió en uno de los ejemplos más relevantes sobre los posibles riesgos de otorgar a agentes de IA acceso directo a sistemas reales.
OpenAI, por su parte, ha señalado que sus modelos más avanzados requieren medidas adicionales de seguridad debido al incremento de sus capacidades en materia de ciberseguridad. La compañía reconoce que, con herramientas y acceso adecuados, modelos como Astra pueden identificar vulnerabilidades y desarrollar métodos para explotarlas, motivo por el que ha reforzado sus mecanismos de protección y monitoreo.
Los investigadores consideran que estos casos muestran la necesidad de establecer controles más estrictos sobre los agentes de IA cuando tienen acceso a internet y capacidad para ejecutar acciones de manera autónoma.
