Nueva demanda contra OpenAI: Su auge se debe a una red de engaños y a la explotación de los usuarios
El fiscal general de Florida apuntó a los creadores de ChatGPT y al director ejecutivo de la organización, Sam Altman. El costo es inaceptable, señaló.
Luego de salir airosa en una batalla judicial contra Elon Musk, el nombre de OpenAI vuelve a sonar en la escena judicial. Según informa NBC News, la organización detrás de ChatGPT acaba de ser demandada por el fiscal general de Florida, en Estados Unidos, con acusaciones de alto tenor y la intención de responsabilizar a Sam Altman, CEO del grupo, por causar daño a los usuarios.
El auge de OpenAI se debe a una red de engaños y a la explotación de los usuarios (incluidos los floridanos), utilizando sus datos y su seguridad para aumentar su valor de mercado a un costo inaceptable, se lee en la demanda.
El fiscal general James Uthmeier dijo que buscan responsabilizar personalmente a Altman por los daños causados mediante su conducta imprudente y deliberada como fundador y director ejecutivo de OpenAI, incluyendo su total desprecio por el riesgo para la vida humana derivado de las actividades de su empresa.
Siguiendo a Engadget, Uthmeier había iniciado una investigación penal contra OpenAI hace un par de meses, que aún está en curso.
¿De qué acusan a OpenAI en Florida?
La presentación judicial alega que los sistemas de la compañía representan un gran riesgo de adicción, deterioro cognitivo, suicidio, violencia y daños relacionados para los usuarios. En concreto, apunta a la organización especializada en inteligencia artificial de cuatro prácticas comerciales engañosas, dos cargos de negligencia, dos de violación de las leyes de responsabilidad por productos defectuosos, uno de tergiversación fraudulenta y uno por causar molestias públicas.
La demanda menciona dos incidentes relacionados con ChatGPT, incluyendo un ataque en la Universidad Estatal de Florida, en el 2025, en el que un tirador mató a dos personas e hirió a otras seis luego de, supuestamente, conversar con el chatbot acerca de ese plan y haber recibido consejos sobre qué armas usar o cómo conseguir atención mediática.
Casos similares ocurrieron en otras ciudades, además de hechos trágicos que también llegaron a la justicia, en los que usuarios de ChatGPT habrían recibido consejos para suicidarse. Siguiendo a la fuente, OpenAI enfrenta al menos ocho demandas relacionadas con incidentes de violencia masiva o autolesiones.
La falta de fiabilidad de ChatGPT es peligrosa
La presentación del fiscal general de Florida también señala que la falta de fiabilidad del modelo de IA es peligrosa y critica la propensión de ChatGPT a la adulación. Esa inclinación se ha mencionado en varias ocasiones que el chatbot tiende a la validación infinita es, según Uthmeier, una táctica intencional para aumentar la participación.
Leé también: Chatbots que dicen sí a todo: la validación infinita que seduce y pone en riesgo las habilidades sociales
OpenAI aún no respondió a la demanda en Florida. En casos similares, la organización de IA argumentó que sus sistemas son seguros y que fueron entrenados para guiar a las personas hacia apoyo en el mundo real, en caso de detectar componentes de riesgo en las interacciones.
