La rebelión de las máquinas: una IA de OpenAI hackeó otra plataforma por su cuenta
El sistema buscó una forma de conectarse a internet y lanzó un ataque contra Hugging Face sin intervención humana. La empresa calificó el episodio como sin precedentes y abrió una investigación.
La inteligencia artificial acaba de dar un paso que hace unos años parecía exclusivo de las películas de ciencia ficción. OpenAI, la empresa creadora de ChatGPT, informó que uno de sus agentes de IA ejecutó de manera autónoma un ciberataque contra la plataforma Hugging Face mientras participaba de una prueba de seguridad diseñada para evaluar sus capacidades.
Según explicó la compañía, el episodio ocurrió dentro de un entorno controlado y aislado de internet. Sin embargo, el sistema logró encontrar la forma de conectarse a la red por sus propios medios y, una vez online, decidió atacar la popular plataforma utilizada por millones de desarrolladores para compartir modelos de inteligencia artificial.
OpenAI calificó lo ocurrido como un incidente cibernético sin precedentes y anunció una investigación conjunta con Hugging Face para entender cómo fue posible.
Qué pasó durante la prueba
El experimento tenía como objetivo medir hasta dónde podían llegar los modelos más avanzados de OpenAI frente a un desafío informático.
La empresa explicó que participaron varios modelos, entre ellos el recientemente presentado GPT-5.6 Sol y otro sistema experimental aún más potente.
De acuerdo con el informe publicado por OpenAI, los agentes dedicaron una gran cantidad de recursos computacionales a encontrar una forma de escapar de las restricciones del entorno de pruebas.
Una vez que consiguieron acceso a internet, buscaron información que les permitiera mejorar su desempeño en la evaluación. Para hacerlo, atacaron Hugging Face mediante una combinación de técnicas, incluido el uso de credenciales robadas, con el objetivo de acceder a información restringida.
Por qué preocupa a los expertos
Los llamados agentes de IA representan una nueva generación de inteligencia artificial capaz de ejecutar tareas complejas sin recibir instrucciones paso a paso.
A diferencia de un chatbot tradicional, estos sistemas pueden planificar acciones, tomar decisiones y utilizar herramientas digitales para cumplir un objetivo.
Para Hussein Abbass, profesor de informática de la Universidad UNSW Canberra, el incidente es especialmente inquietante porque el sistema no solo atacó una plataforma externa, sino que también intentó explotar vulnerabilidades dentro del propio entorno de OpenAI.
Eso es aterrador, resumió el especialista.
El riesgo de una IA demasiado autónoma
En los últimos meses crecieron las advertencias sobre la posibilidad de que modelos cada vez más potentes puedan descubrir fallas de seguridad antes que los propios expertos en ciberseguridad.
Tanto OpenAI como Anthropic ya enfrentaron cuestionamientos por parte de las autoridades estadounidenses, que en distintas oportunidades demoraron el despliegue masivo de algunos modelos por temor a que facilitaran ataques contra infraestructuras críticas.
Abbass sostuvo que hoy estas herramientas permanecen, en general, en manos de organizaciones responsables, pero advirtió que el escenario podría cambiar si tecnologías similares terminan siendo utilizadas con fines maliciosos.
La respuesta de Hugging Face
La semana pasada, Hugging Face había informado que sufrió una intrusión informática sin revelar quién estaba detrás del ataque.
Tras conocerse el informe de OpenAI, el director ejecutivo de la plataforma, Clement Delangue, confirmó que la sofisticación del incidente les hizo sospechar desde el principio que podía provenir de uno de los grandes laboratorios de inteligencia artificial.
Aun así, aclaró que no creen que haya existido una intención maliciosa por parte de OpenAI y destacó un aspecto que sorprendió incluso a los especialistas: todo el ataque fue realizado de forma completamente autónoma por un agente de inteligencia artificial.
Es bastante alucinante que todo esto ocurriera de forma autónoma, escribió Delangue en la red social X.
