Anthropic lanzó una IA que, según la propia empresa, era demasiado potente como para hacerla pública
Aunque el nuevo modelo, llamado Fable, tiene salvaguardas y limitaciones, su uso implica riesgos por sus capacidades avanzadas para trabajar sobre sistemas informáticos.
Anthropic abrió al público esta semana una versión de una herramienta de inteligencia artificial que, meses atrás, la propia compañía había presentado como demasiado poderosa para estar disponible de manera general.
La IA se llama Claude Fable 5 y deriva de Claude Mythos, un modelo que en abril había sido entregado solo a un grupo reducido de organizaciones para pruebas privadas.
Aunque Fable llega con salvaguardas y limitaciones de uso, Anthropic admitió que liberar un modelo con ese nivel de capacidad implica riesgos y afirmó que la herramienta supera a cualquier otro sistema que haya puesto a disposición del público general.
Un antecedente similar ocurrió hace dos meses. En abril, la empresa presentó Mythos de forma privada y explicó que el modelo tenía capacidades avanzadas para trabajar sobre sistemas informáticos, al punto de poder ayudar a explotar o hackear computadoras.
La empresa también informó que unas 150 organizaciones que ya habían probado Mythos accederán ahora a Claude Mythos 5, una versión sin las mismas limitaciones en ciberseguridad o biología, según el tipo de uso autorizado para cada entidad.
Una IA con controles para el público y acceso ampliado para expertos
Fable y Mythos son, en términos generales, variantes de un mismo sistema. La diferencia está en las barreras de seguridad, el tipo de acceso y los límites aplicados a cada usuario.
Para el público general, Anthropic eligió lanzar Fable con restricciones. El objetivo es permitir el uso de un modelo más potente sin habilitar funciones que podrían ser peligrosas en manos equivocadas.
Leé también: La competencia de ChatGPT crece con ayuda de Elon Musk: Claude usará servidores de SpaceX
En paralelo, Mythos 5 quedará disponible para un grupo reducido de especialistas en ciberseguridad y proveedores de infraestructura. La empresa dijo que planea ampliar ese acceso mediante un programa de confianza más amplio.
Hasta ahora, las organizaciones que usaron Mythos reportaron a Anthropic el descubrimiento de más de 10.000 fallas críticas de seguridad en sus propios sistemas. Ese dato muestra el potencial defensivo del modelo: puede ayudar a detectar vulnerabilidades antes de que sean explotadas por atacantes.
La misma capacidad explica el temor de muchos analistas. Una herramienta capaz de encontrar fallas críticas también podría ser utilizada para acelerar ataques, automatizar tareas complejas o reducir la barrera técnica para actores maliciosos.
La carrera de la IA y el debate por los límites
La presentación de Fable llega en un momento de fuerte competencia entre las principales compañías de inteligencia artificial. Anthropic, además, se encamina a convertirse en una empresa pública y su valuación privada se acercó a USD 1 billón, según la información difundida. Mostrar modelos más potentes y con aplicaciones concretas refuerza su posición ante inversores.
Leé también: Claude, al desnudo: se filtró el código y las nuevas funciones que sumará el chatbot de Anthropic
El caso también expone una discusión más amplia: quién decide cuándo una IA es demasiado poderosa para abrirse al público y qué controles deben aplicarse antes de su lanzamiento.
Por su parte, el cofundador de Anthropic, Jack Clark, planteó la semana pasada otra preocupación: la industria avanza con mucha velocidad y no existen mecanismos claros para reducir el ritmo cuando sea necesario.
Ese debate está planteado y la pregunta que queda por delante es si esas barreras serán suficientes en una etapa en la que los modelos de IA ya no solo responden preguntas, sino que también pueden trabajar durante períodos más largos sobre instrucciones humanas y completar tareas complejas con menos intervención.
