Europa vs. los deepfakes: a partir de agosto los contenidos creados con IA deberán llevar una advertencia sobre su origen
La Unión Europea busca reducir los riesgos de engaño, suplantación, manipulación y desinformación asociados a herramientas capaces de fabricar escenas realistas, voces clonadas, rostros falsos o videos de personas diciendo y haciendo cosas que nunca
La Unión Europea empezará a exigir que los contenidos creados o manipulados con inteligencia artificial sean identificados de forma clara cuando puedan ser confundidos con imágenes, audios o videos reales.
La obligación alcanza a los deepfakes y forma parte del AI Act, la ley europea que regula el uso de sistemas de IA en el bloque continental.
La norma comenzará a aplicarse desde el 2 de agosto de 2026 y establece que quienes utilicen sistemas de IA para generar o alterar contenidos audiovisuales deberán informar que ese material fue creado o manipulado artificialmente. La advertencia tendrá que aparecer de manera clara, distinguible y accesible, a más tardar en el momento de la primera exposición del usuario al contenido.
El objetivo de la medida es reducir los riesgos de engaño, suplantación, manipulación y desinformación asociados a herramientas capaces de fabricar escenas realistas, voces clonadas, rostros falsos o videos de personas diciendo y haciendo cosas que nunca ocurrieron.
La Comisión Europea sostiene que la transparencia sobre el origen artificial de estos contenidos es clave para que las personas puedan tomar decisiones informadas frente a material generado con IA.
Qué dice el AI Act sobre los deepfakes
El artículo 50 del Reglamento (UE) 2024/1689 fija obligaciones de transparencia para proveedores y usuarios profesionales de determinados sistemas de inteligencia artificial. En el caso de los deepfakes, la regla apunta a los llamados desplegadores: quienes usan un sistema de IA bajo su responsabilidad para generar o manipular imágenes, audios o videos que puedan parecer auténticos.
En cuanto a los contenidos, además de tener una marca técnica invisible, deberá estar informado en ellos, de manera comprensible, que fue generado o alterado por inteligencia artificial. Por otra parte, los proveedores de sistemas capaces de producir audio, imagen, video o texto sintético deberán incorporar marcas en formato legible por máquina cuando sea técnicamente posible.
Leé también: Gemelos Digitales: qué es el proyecto de IA del Gobierno para usar datos y anticipar el impacto de políticas
El AI Act define los deepfakes como contenidos generados o manipulados por IA que se parecen a personas, objetos, lugares, entidades o hechos existentes y que podrían parecer reales para una persona. La categoría puede incluir desde videos hiperrealistas de figuras públicas hasta audios clonados, imágenes falsas de eventos y piezas audiovisuales creadas para simular una escena verdadera.
No alcanza con decir fue hecho con IA
Uno de los puntos centrales de la regulación es el momento de la advertencia. La información deberá estar disponible desde la primera interacción o exposición del usuario. Es decir, no debería quedar escondida en una descripción difícil de encontrar, en una aclaración posterior o en una nota al pie sin visibilidad.
La Comisión Europea también trabaja en herramientas prácticas para aplicar la norma. Entre ellas, un código de buenas prácticas sobre transparencia de contenidos generados con IA, pensado para orientar a proveedores y desplegadores en el marcado, detección y etiquetado de material sintético. La adhesión a ese código será voluntaria, mientras que las obligaciones del artículo 50 son legales.
Qué contenidos abarca la nueva norma
La regla alcanza a imágenes, audios y videos generados o manipulados con IA cuando constituyan deepfakes. También contempla publicaciones de texto generadas o manipuladas artificialmente cuando sean difundidas con el propósito de informar al público sobre asuntos de interés general.
Leé también: De ChatGPT a la automatización total: estas son las cinco etapas de la Inteligencia Artificial Generativa
La norma incluye excepciones. La obligación no se aplica cuando el uso esté autorizado por ley para detectar, prevenir, investigar o perseguir delitos. Además, cuando el contenido forme parte de una obra claramente artística, creativa, satírica, ficticia o similar, la advertencia deberá informar la existencia de material generado o manipulado sin afectar la exhibición o disfrute de la obra.
Ese punto será uno de los más sensibles en la aplicación práctica: la frontera entre una pieza humorística, una recreación artística, una campaña política, una estafa o un contenido desinformativo puede ser difícil de trazar.
La ley no convierte en legal cualquier deepfake por el simple hecho de estar etiquetado. Si el contenido implica fraude, daño reputacional, abuso de imagen, violación de privacidad o suplantación de identidad, también pueden intervenir otras normas europeas o nacionales.
Las multas por incumplir
El AI Act prevé sanciones económicas para las empresas y operadores que incumplan sus obligaciones. Para infracciones vinculadas con distintas obligaciones del reglamento, las multas pueden llegar hasta 15 millones de euros o hasta el 3% de la facturación anual mundial de la compañía, según cuál sea el monto más alto.
Leé también: Qué es la IA emocional, la próxima evolución de los sistemas de inteligencia artificial
La medida marca un cambio de etapa para la inteligencia artificial generativa en Europa. El bloque no prohíbe los deepfakes de manera general, aunque exige que los usuarios sepan cuándo están frente a un contenido artificial que puede parecer verdadero.
En la práctica, la norma apunta a una idea simple: si una imagen, un audio o un video fue creado o manipulado con IA y puede confundirse con la realidad, el usuario deberá saberlo desde el primer momento.
