Entrevista con Camille Domange, abogada del Colegio de Abogados de París y fundadora de CDO AVOCAT, bufete dedicado a los sectores creativo, digital y de la innovación, para saber más sobre los retos de la inteligencia artificial en el sector musical.

CamilleCon tanta gente hablando de inteligencia artificial todos los días, ¿cómo define el término?
Cuando hablamos de un sistema de inteligencia artificial, nos referimos a un sistema basado en una máquina, diseñado para funcionar con distintos niveles de autonomía y que puede generar resultados. Por tanto, no hay un solo tipo de inteligencia artificial, sino varios. Midjourney, ChatGPT y DALL-E son buenos ejemplos.

¿Cómo funcionan estos sistemas de inteligencia artificial como Midjourney o ChatGPT?
Estos sistemas de inteligencia generativa generan contenidos que en lenguaje informático se denominan datos de "salida". Para obtener estos datos de salida, los sistemas de inteligencia artificial desmontan, por así decirlo, los datos preexistentes que han ingerido previamente para analizarlos y extraer tendencias, o descomponen los datos preexistentes en características elementales y comunes para convertirlos en datos técnicamente explotables, y luego los recomponen utilizando sus facultades generativas para crear nuevos contenidos. Lo que hay que tener en cuenta es que los datos preexistentes ingeridos por estos sistemas de inteligencia artificial pueden estar sujetos a un régimen de protección específico. Estoy pensando en datos personales, obras protegidas por derechos de autor, derechos conexos o datos protegidos por derechos de la personalidad, como la imagen o la voz de una persona.

En el sector musical, esto puede complicarse rápidamente, dado el número de actores que intervienen...
La legislación musical es compleja. Hay que tener en cuenta los derechos de edición, composición y grabación, así como los derechos morales del compositor y el artista. Los sistemas de inteligencia artificial se enfrentan a toda la fuerza de los derechos de los autores y artistas... Tenemos que ser conscientes de que cuantos más sistemas de inteligencia artificial hayan ingerido una gran cantidad de datos preexistentes, menos posibilidades habrá de percibir, de detectar, el más mínimo elemento de la creación original en el resultado generado. Por tanto, nos enfrentamos a la cuestión de la prueba. 

Como podemos ver en estos sistemas de inteligencia artificial, es posible generar contenidos utilizando el estilo de un autor o artista. ¿Puede un estilo creativo estar protegido por derechos de autor?
Hay un adagio en la legislación sobre derechos de autor que sin duda conoce, según el cual incluso las ideas marcadas por la impronta del genio son cursos libres y, por tanto, no son protegibles como tales por los derechos de autor, de modo que utilizar o tomar prestado el estilo de un autor o artista, o realizar una creación "a la manera de" no requeriría la autorización previa de los titulares de los derechos. Es bastante ilusorio pensar que se puede impedir a cualquiera hacer con máquinas lo que hacía antes, es decir, inspirarse en lo que hacen otros.

Entonces, ¿qué se puede hacer para proteger estas creaciones?
Necesitamos poder actuar en sentido ascendente y controlar lo que utilizan los sistemas de inteligencia artificial para funcionar. Esta es toda la cuestión de la transparencia de los datos utilizados por los sistemas de inteligencia artificial. 

Esto es lo que el SACEM ejerciendo su derecho de exclusión para los autores de su catálogo, ¿no es así?
Así es. Este derecho de exclusión voluntaria se introdujo como parte de una directiva europea de 17 de abril de 2019 sobre derechos de autor y derechos afines en el mercado único digital. Esta directiva establece una excepción a los derechos de autor relacionados con la minería de textos y datos, conocida como la excepción "TDM". Este mecanismo de excepción encuentra una aplicación concreta con los sistemas deentrenamiento de inteligencia artificial que ingieren una gran masa de datos. No obstante, hay que recordar que los mecanismos de excepción están sujetos a un marco específico que no puede tener como efecto menoscabar la explotación normal de la obra o causar un perjuicio injustificado a los intereses legítimos de los titulares de los derechos. Por lo tanto, legitimar el web scraping sobre la base de esta excepción es jurídicamente cuestionable. 

¿Cómo funciona el derecho de exclusión voluntaria?
Con el fin de lograr un equilibrio con los derechos de los autores, se ha establecido este derecho de exclusión voluntaria en beneficio de los titulares de derechos , que pueden utilizarlo para expresar explícitamente, mediante un proceso legible por máquina, que no desean que sus datos protegidos por derechos de autor sean buscados e integrados en sistemas de inteligencia artificial. Este derecho de exclusión voluntaria se ha transpuesto al código francés de la propiedad intelectual de forma más restrictiva, ya que sólo pueden ejercerlo los propios autores y, por extensión, sus representantes. Aunque este derecho de exclusión voluntaria sigue siendo bastante insatisfactorio si tenemos en cuenta la forma en que los datos circulan, se comparten y se hacen virales en las redes, no debemos pasar por alto esta base jurídica, que puede ser una palanca pertinente en el contexto de posibles acciones y puede ejercerse como medida cautelar.

Se trata de un verdadero problema, porque incluso con el ejercicio de este derecho de exclusión voluntaria, será difícil identificar las obras utilizadas, cómo se utilizaron y, sobre todo, cuándo se utilizaron... especialmente antes de la introducción de este derecho de exclusión voluntaria.
Los sistemas de inteligencia artificial se han convertido en auténticas cajas negras, por lo que resulta extremadamente complejo identificar los datos que llevaron a la creación de las obras o que se están utilizando actualmente. Por ello, en el marco del diálogo a tres bandas (Parlamento Europeo, Consejo Europeo y Comisión Europea) que examina el futuro reglamento europeo sobre inteligencia artificial, se han iniciado importantes debates sobre la transparencia de los datos, con el objetivo de obligar a las empresas que desarrollan estos sistemas de inteligencia artificial a revelar las fuentes sobre las que se han entrenado. Esta cuestión está lejos de ser anecdótica, porque más allá de las implicaciones jurídicas de una mayor transparencia sobre las fuentes utilizadas, plantea cuestiones de confianza y gobernanza. Habría sido deseable que los proveedores de inteligencia artificial pudieran proporcionar una lista detallada y continuamente actualizada de las obras utilizadas por los sistemas de IA y sus fuentes. Para ser eficaz, esta lista podría haberse enviado a terceros de confianza, como organismos de gestión colectiva o una autoridad administrativa independiente.
El acuerdo político alcanzado el pasado 8 de diciembre en el marco del futuro reglamento europeo sobre inteligencia artificial prevé la obligación de que los proveedores de inteligencia artificial publiquen un resumen detallado de los datos de entrenamiento utilizados, así como la necesidad de informar claramente a los usuarios de que están interactuando con una inteligencia artificial. En su estado actual, esta obligación no es muy restrictiva, ya que la publicación de un simple resumen de los datos utilizados no permitirá a los titulares de derechos, en particular, saber si el fruto de su trabajo se ha utilizado indebidamente.  

¿A quién se aplica y qué prevé este futuro reglamento europeo sobre inteligencia artificial?
Este Reglamento se aplicará no sólo a las tecnologías de inteligencia artificial desarrolladas en la Unión Europea, sino también a cualquier operador que opere en el mercado único europeo. Sienta las bases de un conjunto de normas europeas para proteger los derechos de las personas en relación con el uso de la inteligencia artificial. Los debates sobre este texto han desembocado en un acuerdo político la noche del 8 de diciembre. Esta normativa europea es calificada por sus artífices de "histórica" y de "plataforma de lanzamiento para las start-ups y los investigadores europeos en la carrera mundial de la inteligencia artificial".

Este acuerdo adopta una definición uniforme y tecnológicamente neutra de la inteligencia artificial, de modo que el texto no se encierra en ninguna tecnología concreta y puede aplicarse a todos los futuros sistemas de inteligencia artificial. El texto se articula en torno a dos pilares principales.
El primer pilar se refiere a la introducción de normas comunes para todos los sistemas de inteligencia artificial, como la necesidad de solidez técnica y seguridad, la supervisión humana de los sistemas de inteligencia artificial y el respeto de los principios de confidencialidad, diversidad y no discriminación, entre otros.
El segundo pilar se refiere a obligaciones más o menos restrictivas en función del grado de riesgo para los derechos de las personas que puedan generar las inteligencias artificiales. La idea es que cuanto mayor sea el riesgo, más onerosas serán las obligaciones para los proveedores de estos sistemas. En este contexto, está previsto un componente represivo. Cualquier infracción de las normas establecidas por los proveedores de inteligencia artificial dará lugar a sanciones, con multas que oscilarán entre los 7,5 millones de euros o el 1,5% del volumen de negocios y los 35 millones de euros o el 7% del volumen de negocios global, en función de la infracción y del tamaño de la empresa.
Ahora que se ha alcanzado este acuerdo político, se seguirá trabajando a un nivel más técnico para ultimar los detalles del futuro reglamento. Y como todos sabemos, el diablo está en los detalles, por lo que aún no está todo ultimado. Este texto finalizado se someterá a la aprobación de los representantes de los Estados miembros(Coreper). A continuación, el texto aprobado deberá ser adoptado formalmente por el Parlamento Europeo y el Consejo antes de las elecciones europeas de la primavera de 2024. Se ha precisado que este reglamento europeo se aplicará dos años después de su entrada en vigor, con algunas excepciones para disposiciones específicas. 

¿Esperamos a que entre en vigor este reglamento europeo para garantizar la regulación de las cuestiones relacionadas con la inteligencia artificial?
El futuro reglamento europeo va a ser una herramienta importante que ayudará a regular los retos de la inteligencia artificial, al igual que otros textos en curso, pero nuestro marco jurídico actual ya permite hacer muchas cosas y las cuestiones reglamentarias también pueden tratarse al margen de las normas legislativas y reglamentarias.
Tuvimos un buen ejemplo de ello en el sector audiovisual al otro lado del Atlántico, con la huelga de guionistas en Estados Unidos, que duró casi 150 días y desembocó en un marco protector gracias a negociaciones profesionales. En concreto, los guionistas querían restricciones sobre el uso de todo o parte de su trabajo de escritura para entrenar sistemas de IA. La Guía de Guionistas de Américael poderoso sindicato de guionistas, ganó su caso tras intensas negociaciones con estudios y productores, y ahora ha respaldado ciertos principios fundamentales relativos al uso de la IA. Sería muy virtuoso contar con un marco configurado por profesionales, por los que están en primera línea. Además de la negociación profesional, la regulación también puede adoptar la forma de una gobernanza empresarial o de acuerdos contractuales entre usuarios, sistemas de IA y titulares de derechos, con el fin de desarrollar sistemas de IA que respeten plenamente los derechos de terceros y que funcionen sobre la base de datos cualificados.

¿No son sólo ilusiones?
No, tenemos actores que nos están dando ejemplos de logros en esta línea. Es lo que está haciendo Stability AI en el sector de la música con Stable Audio, por ejemplo, donde los algoritmos generativos de IA desarrollados se basan en un catálogo de obras musicales preexistentes para las que los autores e intérpretes han dado su autorización y recibirán una parte de los ingresos generados si la canción generada es un éxito. Esto demuestra que los sistemas de IA que respetan los derechos de propiedad intelectual también pueden utilizarse para dar nueva vida a las obras creadas, beneficiando al mismo tiempo a quienes las crearon. Es una cuestión de compartir valor. En el bufete, cada vez nos consultan más sobre estas cuestiones los agentes del mercado que están pensando en establecer sistemas de gobierno corporativo legales y éticos para establecer los principios fundamentales de la forma en que se puede utilizar la inteligencia artificial y las consecuencias asociadas. 

En el estado de desarrollo de la inteligencia artificial tal y como la conocemos hoy, ¿podemos hablar realmente de un sistema inteligente?
Los sistemas de IA, tal como se presentan, son ante todo programas informáticos basados en la extracción de datos. Cuanto más precisas sean las instrucciones escritas por los humanos, más capaces serán los programas de responder y generar datos específicos. Así que es una farsa decir que la herramienta es inteligente y al mismo tiempo borrar el papel del usuario. Los sistemas de IA actuales no se adaptan a lo indeterminado, y en eso consiste la inteligencia. Inteligencia significa adaptarse a un entorno, a unos objetivos, y eso significa enfrentarse a datos sobre los que no tenemos control. No estoy seguro de que actualmente podamos decir que la IA puede adaptarse a su entorno sin reglas previas.

Entonces, ¿no se trata sólo de decir que la inteligencia artificial sustituirá a la creatividad humana?
Las inteligencias artificiales generativas trabajan sobre creaciones anteriores, sobre lo producido en el pasado por autores y artistas. Por lo tanto, se trata más de un contenido generado que de un acto de creación propiamente dicho... pero, al fin y al cabo, en derecho, todo es cuestión de calificación, y sería totalmente concebible considerar un sistema de inteligencia como una simple ayuda técnica a la creación humana que podría reclamar protección en virtud de la legislación sobre derechos de autor tal y como ha sido configurada por la jurisprudencia francesa y europea.
Por todo ello, no está inmediatamente claro que la inteligencia artificial vaya a sustituir a los creadores. Ayudará a dar forma a su trabajo, pero no puede sustituir al creador, a su poder de innovación, a su poder de vivir, porque eso es lo que impulsa y convoca nuestras emociones ante la singularidad de una creación. En lo que respecta a la música, la IA generativa es bastante formidable cuando se trata de generar y combinar sonidos, pero no puede, al menos por el momento, sustituir el trabajo de composición y creación melódica. Ha aparecido en X una cuenta certificada de una "compositora" e "intérprete" llamada Anna Indiana, creada ex-nihilo por la inteligencia artificial. En esta cuenta se comparte la creación musical de la "artista de IA". Este enfoque me parece bastante interesante, ya que muestra claramente el potencial que ofrece la IA, pero también sus límites en términos musicales.

Lo que está en juego hoy en día es cómo los autores y artistas pueden utilizar la IA en su trabajo creativo, y cómo se reparte el valor entre todos los implicados en el proceso creativo, con el fin de garantizar un sano equilibrio entre regulación e innovación. Este tema no está contemplado en el futuro reglamento europeo, y es precisamente sobre esta cuestión crucial sobre la que se espera que actúe el legislador.

*Véase también el comunicado de prensa del Syndicat français des compositrices et compositeur de musique contemporaine.