El chatbot de Instagram permitió hackear cuentas: cómo fué la falla en la IA de Meta
Una falla en el sistema de soporte automatizado de Instagram permitió que atacantes cambiaran correos y contraseñas sin verificar la identidad de los usuarios.
Durante el fin de semana, varios usuarios de Instagram reportaron en Reddit y en X que sus cuentas habían sido tomadas por desconocidos. Entre los afectados estuvieron la cuenta de la Casa Blanca de la era Obama, inactiva desde 2017, y la del sargento mayor John Bentivegna, jefe del Estado Mayor de la Fuerza Espacial de Estados Unidos.
FALLA DE SEGURIDAD
El chatbot de Instagram permitió hackear cuentas: cómo fué la falla en la IA de Meta
Una falla en el sistema de soporte automatizado de Instagram permitió que atacantes cambiaran correos y contraseñas sin verificar la identidad de los usuarios.
También fue hackeada la investigadora de seguridad Jane Wong, quien describió la experiencia en X. Su contraseña fue cambiada sin su conocimiento mientras recibía intentos de reseteo durante todo un día.
Luego le pide al bot que agregue una dirección de correo nueva a la cuenta de la víctima. El chatbot envía un código de verificación a ese mail, que es el del atacante. El atacante comparte ese código con el bot.
El bot muestra un botón para resetear la contraseña. El atacante ingresa una contraseña nueva y toma control de la cuenta.
TechCrunch verificó que el mailbox público del hacker efectivamente recibió el código de verificación tal como se veía en el video.
Por qué pudo pasar
El fallo central es que el chatbot no verificó en ningún momento que la persona que pedía agregar un mail nuevo fuera la dueña legítima de la cuenta.
Asumió que quien iniciaba la conversación de soporte tenía derecho a modificar los datos de acceso, y ejecutó el pedido sin cruzarlo contra la identidad real del titular.
Es un problema conocido en el diseño de sistemas de soporte con IA: los chatbots entrenados para ser útiles y resolver problemas rápido pueden volverse un vector de ataque si no tienen controles de identidad suficientemente seguros.
En este caso, el atacante no tuvo que hackear ningún sistema técnico complejo. Simplemente le pidió al bot lo que quería, y el bot lo hizo.
El problema de dejar decisiones sensibles en manos de la IA
El episodio llega en un momento en que las grandes plataformas están reemplazando equipos humanos de soporte al cliente con sistemas de IA para reducir costos e integrar estos sistemas.
Meta no es la excepción pero el problema es que un agente humano de soporte, ante un pedido de cambiar el mail de una cuenta, probablemente haría preguntas adicionales o pediría verificaciones extra. El chatbot no lo hizo.
Los hackers no engañaron a un empleado de Instagram ni vulneraron un sistema sofisticado de seguridad, sino que convencieron al propio asistente de Meta de que los ayudara. La misma inteligencia artificial diseñada para resolver problemas de los usuarios terminó facilitando el ataque.
Meta corrigió la falla, pero cuando una IA tiene permisos para actuar, un error de criterio puede ser tan peligroso como un error de código.
¿Cuántos sistemas de soporte automatizado similares tienen vulnerabilidades equivalentes que todavía no fueron descubiertas ni explotadas públicamente?
---------------
