Grok y la polémica por generación de desnudos: X dio marcha atrás con el chatbot
La compañía tecnológica que administra la red social X suspendió recientemente el acceso a Grok, un chatbot capaz de generar imágenes mediante inteligencia artificial, luego de una polémica internacional por permitir la creación de contenido que incluía desnudos no solicitados. La medida se anunció tras numerosas denuncias en distintos países y la presión de usuarios y legisladores que advirtieron sobre los riesgos y límites éticos de estas tecnologías.
Layla Scheli, ingeniera en Sistemas de la Información, dialogó con el equipo de Ramos generales y explicó que esta decisión pone en el centro los debates sobre los pros y contras de la inteligencia artificial generativa, que ofrece herramientas potentes para la creación de textos e imágenes, pero plantea desafíos sobre ética, seguridad, moderación de contenidos y protección de menores.
"Ya de por sí es polémico que permita generar los desnudos, pero el problema fue más allá de eso, sin entrar en detalle, generó más de 3 millones de imágenes sexualizadas en muy poco tiempo y había imágenes que correspondían a menores de edad", explicó.
Los defensores de la suspensión destacan que retirar temporalmente la funcionalidad permite ajustar los sistemas de seguridad, filtros y políticas de uso responsable, mientras que algunos usuarios advierten que restringir estas capacidades puede limitar la innovación o la accesibilidad de herramientas útiles.
La empresa explicó que la marcha atrás se produjo en respuesta a denuncias globales por la generación de desnudos no autorizados, lo que abrió un debate más amplio sobre los límites y responsabilidades de las plataformas digitales frente a contenidos sensibles o potencialmente dañinos.
