La Inteligencia Artificial (IA) ha revolucionado la generación de imágenes y textos, hasta al punto que los modelos son capaces de crear obras con un alto nivel de detalle y originalidad. Sin embargo, este avance ha planteado también importantes desafíos legales, especialmente en lo que respecta a la protección de los derechos de autor. Uno de los temas más debatidos dentro de este contexto es el uso de datasets para entrenar estos modelos, ya que los mismos suelen incluir grandes volúmenes de contenido cuya autoría puede estar protegida por derechos de autor.
El Problema de los Datasets en la IA Generativa
Los datasets son el motor de los sistemas de IA generativa, que aprenden a crear imágenes, textos o incluso sonidos a partir de estos grandes conjuntos de datos. Estos datos suelen provenir de tres fuentes principales:
- Información pública disponible en internet.
- Licencias de terceros.
- Contenido aportado por usuarios.
El problema surge porque muchos de los contenidos que están disponibles públicamente en internet, aunque accesibles, están protegidos por derechos de autor, lo que significa que su uso sin permiso puede constituir una infracción.
El Reglamento de Inteligencia Artificial (RIA) y el Derecho de Opt-Out
Para abordar este desafío, la Unión Europea ha aprobado el Reglamento de Inteligencia Artificial (RIA), que tiene como objetivo establecer un marco legal para el uso y desarrollo de sistemas de IA. Este reglamento introduce a su vez nuevas obligaciones para las plataformas que utilizan IA generativa, especialmente en relación con la transparencia y el respeto por los derechos de autor.
Dentro del RIA, los considerandos 105 al 107 establecen las bases para garantizar que los modelos de IA respeten los derechos de autor y derechos afines durante el proceso de entrenamiento, y en particular, desarrollan el concepto del Derecho de Opt-Out.
¿Qué es el Derecho de Opt-Out?
El Derecho de Opt-Out es el mecanismo que permite a los autores y creadores de contenido excluir sus obras de los datasets utilizados para entrenar los modelos de IA generativa. En otras palabras, los autores pueden solicitar que sus imágenes, textos u otras creaciones no se utilicen para entrenar estos sistemas, evitando así que sus obras sean explotadas sin su consentimiento.
Este derecho se basa en la transparencia que el RIA exige a las plataformas de IA. El Considerando 107 del reglamento establece que los proveedores de modelos de IA deben poner a disposición del público un resumen detallado del contenido utilizado para entrenar el modelo, incluyendo las principales colecciones o datasets que se han empleado. De esta manera, los autores pueden verificar si sus obras han sido utilizadas y, en caso de ser así, ejercer su derecho de exclusión.
¿Por qué es importante este derecho?
El proceso de entrenamiento de modelos de IA utiliza una técnica llamada data mining, que permite a las IA identificar patrones y aprender de grandes volúmenes de datos. Sin embargo, el proceso de entrenamiento suele “difuminar” o “añadir ruido” a los datos originales por lo que el resultado final de las obras hace que los autores tengan dificultades para identificar si sus obras han sido utilizadas. El Derecho de Opt-Out es crucial porque permite a los creadores tomar medidas preventivas y proteger su trabajo de manera más efectiva.
Casos Reales que destacan la importancia de este nuevo derecho digital de Opt-Out
El caso de The New York Times vs. OpenAI
Un caso reciente y de gran repercusión es la demanda presentada por The New York Times contra OpenAI. En 2023, el periódico descubrió que algunos de sus artículos habían sido utilizados para entrenar el modelo de IA sin el debido consentimiento, lo que llevó a una demanda en la que alegaban una violación de derechos de autor. Aunque OpenAI argumentó que el uso de estos textos estaba protegido bajo la doctrina del fair use (uso legítimo) en EE.UU., el caso abrió el debate sobre los límites del uso de contenido protegido por derechos de autor en el entrenamiento de IA.
Este caso demuestra lo difícil que puede ser para los creadores, incluso para grandes corporaciones, proteger su contenido en un entorno de IA generativa que no siempre es transparente.
Stable Diffusion y el Dataset LAION
Otro caso importante es el de la plataforma Stable Diffusion, que utiliza el dataset LAION para entrenar sus modelos. Stable Diffusion ha sido más transparente que otras plataformas, permitiendo a los creadores conocer si sus obras han sido incluidas en el dataset y ofreciendo opciones para ejercer el derecho de opt-out. Sin embargo, el proceso sigue siendo complejo y requiere conocimientos técnicos avanzados, lo que limita su accesibilidad para muchos creadores.
Los Desafíos de Implementar el Derecho de Opt-Out
Aunque el Derecho de Opt-Out es un avance importante para la protección de los derechos de autor en la era de la IA, su implementación no está exenta de dificultades:
- Falta de Transparencia: Muchas plataformas de IA no revelan de manera clara de dónde provienen los datos que utilizan para entrenar sus modelos. Esto impide que los autores sepan si sus obras están siendo utilizadas sin su consentimiento. Solo algunas plataformas, como Stable Diffusion, permiten acceso parcial a los datasets que utilizan.
- Procesos complicados: Incluso cuando se ofrece el opt-out, el proceso para ejercerlo puede ser tecnológicamente complicado, exigiendo a los autores una proactividad en cada una de sus obras que pretenden excluir así como la de un cierto nivel de conocimiento técnico para navegar los sistemas y excluir las obras.
Conclusión: ¿Hacia dónde vamos con el Derecho de Opt-Out?
El Derecho de Opt-Out es un paso crucial para proteger los derechos de los creadores en un mundo donde la IA generativa está transformando la creación de contenido. Sin embargo, su efectividad depende de la transparencia de las plataformas de IA y de la facilidad con la que los autores puedan ejercer este derecho. Casos como el de The New York Times vs. OpenAI y herramientas como Have I Been Trained? demuestran que, aunque existe un marco legal, todavía queda mucho por hacer para que los creadores puedan controlar cómo se utilizan sus obras en el entrenamiento de la IA.
El futuro del Derecho de Opt-Out probablemente estará marcado por nuevos casos que irán configurando e implementando este derecho con un nuevo derecho digital dentro del campo de la propiedad intelectual y las nuevas tecnologías.