16/01/2026 10:54
16/01/2026 10:54
16/01/2026 10:53
16/01/2026 10:53
16/01/2026 10:52
16/01/2026 10:52
16/01/2026 10:51
16/01/2026 10:51
16/01/2026 10:45
16/01/2026 10:45
» TN
Fecha: 16/01/2026 09:01
Luego de una exponencial escalada de críticas, el chatbot de la red social X ya no puede generar deepfakes sexuales, imágenes creadas con artilugios de la Inteligencia Artificial en las que personas reales aparecían desnudas o con poca ropa. Los reclamos contra Grok aumentaron cuando se supo que permitía esa opción con fotografías de menores de edad. Las falsificaciones son uno de los efectos colaterales del auge de la Inteligencia Artificial Generativa. La capacidad de los modelos para crear imágenes a partir de instrucciones simples del usuario no solo abrió paso a una creatividad inocua y provechosa. En ocasiones, las deepfakes se utilizan para el fraude digital, en campañas de desinformación intencionada y para difamación. Las fotos con IA sexualizadas son un ejemplo del último caso. Polémica en el chatbot de Elon Musk: falsificaciones sexualizadas que involucraron a nenes Apenas comenzó el 2026, en la red social X se viralizaron las renovadas capacidades de Grok para la generación de imágenes. Lo cierto es que todos los chatbots conocidos ChatGPT, Gemini, Meta AI, entre otros pueden crear contenido a partir de prompts. El problema es que la IA de Elon Musk es abiertamente irreverente. En este caso, la polémica comenzó luego de que Grok actualizara su sistema de generación de imágenes, permitiendo editar imágenes que suben los usuarios. En ese marco, se popularizó en X el pedido en bikini, en referencia a la solicitud para transformar la foto de una persona vestida en una con menos ropa. Leé también: La red social X fue multada en Europa y tomó represalia contra su verdugo: le bloqueó la cuenta Lo más peligroso de esto fue que dio a cualquiera el poder de editar las imágenes de cualquier persona y usarlas en situaciones sexuales falsas, señala al respecto Phone Arena y menciona que muchos usuarios retocaron imágenes de personalidades, entre ellos el propio Musk. Tal como indicamos, la problemática escaló cuando se supo que la herramienta también se utilizó para generar imágenes sexualizadas de nenes. X toma medidas luego de reclamos, investigaciones y bloqueos a Grok El escrutinio sobre el chatbot de Musk fue en ascenso. Figuras públicas manifestaron su preocupación, organizaciones internacionales solicitaron medidas, también se establecieron bloqueos e incluso se llevaron a cabo investigaciones en diversos países. Por ejemplo, el ente regulador británico de medios hizo lo propio, el Ministerio de Tecnologías de la Información de la India envió una notificación formal a la compañía solicitando la eliminación de todas las imágenes falsas sexualizadas; mientras que en Malasia e Indonesia prohibieron el uso de esa IA. Esta misma semana, agrupaciones de defensa exigieron a Google y Apple la eliminación de la red social X y el chatbot Grok de sus respectivas tiendas de aplicaciones. Exigimos que retiren urgentemente a Grok y X para evitar más abusos y actividades delictivas (...) El panorama es aterrador. Un chatbot de IA y una aplicación de redes sociales se están convirtiendo rápidamente en una herramienta y plataforma para deepfakes sexuales no consensuadas, que regularmente representan a menores, alertaron. Leé también: Nueve de cada 10 personas usan funciones de IA en sus teléfonos, pero solo el 38% lo sabe Previamente a los cambios que ahora impiden a Grok generar este tipo de imágenes, los responsables de la red social X habían limitado esa capacidad a los usuarios de pago, con el ánimo de frenar la propagación de deepfakes, tal como habíamos señalado en TN Tecno.
Ver noticia original.gif)
.gif)
Examedia © 2024
Desarrollado por