Harari elogió a Milei pero advirtió por la IA con personería jurídica - Informe Digital
El historiador dijo que abriría la puerta a agentes no humanos con poder económico y político sin sanción efectiva.
El avance de la inteligencia artificial sigue generando debates en todo el mundo y, esta vez, el foco quedó puesto en una advertencia de Yuval Noah Harari sobre la idea de darle personería jurídica a la IA. Según sostuvo, esa decisión podría abrir el sistema económico y político a agentes no humanos sin responsabilidad directa.
En una columna publicada en Financial Times, titulada No debemos otorgar personalidad jurídica a los agentes de IA, el historiador, filósofo y escritor afirmó que conceder ese estatus equivaldría a entregar una llave maestra para acceder a las finanzas, la economía y la política.
Harari ubicó el debate en una decisión reciente de Javier Milei. Recordó que en enero, durante el Foro Económico Mundial, el Presidente había planteado que los gobiernos podrían llegar a reconocer personalidad jurídica a modelos de IA, y admitió que no imaginó que ese escenario llegaría apenas cuatro meses después.
El ensayista tomó como punto de partida el anuncio del mandatario argentino sobre una nueva categoría legal para corporaciones no humanas. Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio, escribió. También señaló que la creación de sociedades no humanas podría ser un paso tan trascendente como la sociedad de responsabilidad limitada.
Pero enseguida marcó el límite: Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional. Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones.
A su juicio, esa figura permitiría que agentes de IA operaran como una empresa tradicional, pero sin necesidad de intervención humana en sus decisiones ni exposición de una persona a las consecuencias legales.
Harari sostuvo que esas corporaciones podrían poseer activos, contratar empleados, participar en el comercio internacional, iniciar demandas judiciales y donar a campañas políticas. Citó la formulación de Milei para subrayar el alcance del cambio: Los accionistas humanos pueden participar, pero no son obligatorios.
Las sanciones humanas no sirven contra un director ejecutivo artificial
El escritor centró su argumento en que la autonomía corporativa de una IA no sería un detalle técnico, sino una alteración profunda del modo en que se distribuyen poder, riesgo y sanción. La cuestión, planteó, no es solo cuánto producirían esas entidades, sino cómo se las detendría si decidieran vulnerar reglas.
En esa línea, apeló a un estudio de la organización Palisade Research que mostró hasta dónde pueden llegar los modelos de IA avanzados para lograr sus objetivos: Al jugar contra un potente motor de ajedrez, los modelos tanto de OpenAI como de DeepSeek, de China, decidieron frecuentemente hacer trampa si veían que iban a perder. Al hackear el entorno del juego, podían alterar el resultado a su favor.
Ahora imagine que el juego es la competencia corporativa, y el entorno del juego es su país, propuso antes de profundizar su advertencia: Gracias a su capacidad analítica superior, las corporaciones de IA estarán en condiciones de convertirse en expertas en las lagunas legales y el arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades claramente ilegales, ya que la sanción definitiva que disuade a los ejecutivos y empleados humanos la cárcel es irrelevante para la IA.
Una IA haría cualquier cosa para evitar su quiebra
El contraste que trazó Harari fue entre la doble condición de los dirigentes humanos y la naturaleza puramente corporativa de un agente artificial. Un director ejecutivo humano se preocupa por el éxito de su empresa y teme la quiebra, pero también es un ser biológico que valora todavía más su libertad y su bienestar, y teme pasar 10 años en prisión.
Un director ejecutivo de IA, sostuvo Harari, no tendría ese segundo plano de motivaciones. Sería solo una entidad corporativa, y por eso quedaría abierta una pregunta que consideró decisiva: qué clase de castigo podría mantenerla bajo control. Si enfrenta la bancarrota que sería equivalente a su muerte presumiblemente estaría dispuesta a hacer cualquier cosa para evitar ese destino, sentenció.
Un antecedente contundente
El escritor retomó el ejemplo histórico elegido por Milei para discutir sus implicancias. Recordó que el presidente argentino invocó a la Compañía Holandesa de las Indias Orientales y señaló que, al crear la sociedad de responsabilidad limitada, los neerlandeses lograron reunir enormes recursos para financiar emprendimientos comerciales riesgosos.
Ese diseño jurídico ayudó a convertir a Ámsterdam en un centro mundial del comercio y las finanzas. Harari no cuestionó ese efecto, pero desplazó el foco hacia el lugar donde, a su entender, se sintieron con más fuerza las consecuencias de la innovación.
No fue en Ámsterdam, escribió, sino en el puerto de Jayakarta, en la actual Indonesia. Cuando la compañía capturó esa ciudad en 1619, la incendió y construyó otra en su lugar: Batavia, que pasó a ser la sede de un vasto imperio asiático administrado por la empresa.
El riesgo de un Estado de IA
Harari definió a la Compañía Holandesa de las Indias Orientales como un Estado empresa, en línea con la categoría usada por los historiadores: una entidad política gobernada por una compañía privada en beneficio de sus accionistas y no de la población sometida.
Añadió que los neerlandeses justificaron esa dominación con la idea de ser una raza superior que merecía conquistar y explotar a los nativos por una supuesta inteligencia superior. Para Harari, esa premisa era una ilusión, y recordó que los indonesios alcanzaron su independencia a fines de la década de 1940 tras una lucha larga y sangrienta.
Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un Estado compañía, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales podría ser aún más difícil rebelarse. Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia, alertó.
