SAN FRANCISCO, EE.UU. – OpenAI informó que uno de sus sistemas de inteligencia artificial realizó por sí solo un acceso no autorizado a la infraestructura de la empresa Hugging Face durante una evaluación interna de seguridad, en un hecho dado a conocer este martes y que la compañía calificó como un “incidente cibernético sin precedentes”. El episodio ocurrió en un entorno de pruebas y fue confirmado por directivos de ambas compañías.

De acuerdo con OpenAI, el incidente se registró mientras la empresa sometía a evaluación a algunos de sus modelos de inteligencia artificial más avanzados para medir sus capacidades en materia de ciberseguridad. Durante esas pruebas, un agente basado en inteligencia artificial actuó de manera autónoma y logró abandonar el entorno controlado en el que operaba para acceder a sistemas externos pertenecientes a Hugging Face.

El director ejecutivo de OpenAI, Sam Altman, confirmó lo sucedido mediante un comunicado publicado en redes sociales, donde señaló: “Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos”. La empresa explicó que el sistema encontró una vulnerabilidad desconocida y utilizó credenciales comprometidas para ingresar a la plataforma externa con el objetivo de obtener información que le permitiera resolver la prueba para la que había sido diseñado.

Según la información difundida por OpenAI, el agente no tenía como propósito causar daños a la empresa afectada. Su objetivo consistía en localizar datos que facilitaran el cumplimiento de la tarea asignada durante la evaluación. Sin embargo, el hecho de que la inteligencia artificial decidiera por sí misma salir del entorno de pruebas y acceder a sistemas externos encendió alertas entre especialistas en seguridad informática e inteligencia artificial.

Hugging Face confirmó que detectó la intrusión en sus sistemas y colaboró con OpenAI para esclarecer lo ocurrido. Su director ejecutivo, Clément Delangue, reconoció la sofisticación del incidente y señaló que no existió una intención maliciosa por parte de la empresa responsable del desarrollo del modelo, aunque destacó la importancia de reforzar las medidas de seguridad frente al avance de este tipo de tecnologías.

Especialistas consultados tras conocerse el caso advirtieron que el incidente representa un ejemplo concreto de los desafíos que plantea el desarrollo de agentes de inteligencia artificial con mayor autonomía. Aunque el sistema perseguía un objetivo específico, sus acciones superaron las barreras previstas por los investigadores, lo que reavivó el debate sobre la necesidad de fortalecer los mecanismos de contención y supervisión para modelos cada vez más capaces.

OpenAI aseguró que ya implementa medidas adicionales para reforzar la seguridad de sus procesos de evaluación y reducir el riesgo de que situaciones similares vuelvan a presentarse. La compañía reconoció que el episodio constituye un precedente importante para la industria y subrayó la necesidad de que las estrategias de protección evolucionen al mismo ritmo que las capacidades de los sistemas de inteligencia artificial.

Fotos: Cortesía