Las empresas de tecnología parecen estar entrenando ilegalmente IA con imágenes de fabricantes holandeses

Este artículo fue actualizado por última vez el agosto 6, 2024

Las empresas de tecnología parecen estar entrenando ilegalmente IA con imágenes de fabricantes holandeses

Las empresas de tecnología parecen estar entrenando ilegalmente IA con imágenes de fabricantes holandeses

Parece evidente que los modelos de inteligencia artificial de OpenAI y Midjourney para generar imágenes sin permiso fueron entrenados con imágenes de creadores holandeses. Así se desprende de una investigación de NOS y lo confirman cuatro expertos. Al hacerlo, es posible que las empresas de tecnología hayan infringido los derechos de autor.

OpenAI no quiso responder sustancialmente a la investigación, pero se refirió, entre otras cosas, a la posibilidad de que los creadores de imágenes se opongan. Midjourney no respondió a nuestras preguntas.

Vestido amarillo

Para la investigación, pedimos a los modelos de IA que generaran imágenes al estilo de varios creadores de imágenes holandeses conocidos, incluidos Erwin Olaf, Eddy van Wessel y Dick Bruna. Sólo pedimos imitar el estilo, sin más instrucciones.

Cada vez surgieron rasgos característicos de obras conocidas. Por ejemplo, los modelos de IA generaron imágenes de mujer con un vestido amarillo, como en una serie de fotografías de Erwin Olaf.

En el caso de Eddy van Wessel, se crearon imágenes en blanco y negro de zonas de guerra, escenas por las que el fotógrafo es conocido. También se generaron imágenes de Miffy cuando solicitamos una imagen al estilo de Dick Bruna. Los titulares de derechos de Bruna no dan permiso para utilizar esas imágenes en este artículo.

En particular, la creación de imágenes al estilo de ciertos artistas con DALL-E de OpenAI (la compañía detrás de ChatGPT) a veces se rechaza porque viola sus términos. Sin embargo, al intentarlo nuevamente en otra pestaña, a menudo funciona.

La NOS presentó los resultados a cuatro expertos en el campo de la IA: Evangelos Kanoulas y Efstratios Gavves de la Universidad de Amsterdam, Olya Kudina de TU Delft y Noelle Cicilia de Brush AI. Todos dicen que, aunque no se puede decir con certeza al 100 por ciento, parece muy claro que los modelos de IA fueron entrenados en las fábricas holandesas.

“Esta es una descripción muy genérica”, dice Kanoulas de la UvA. “Sin embargo, los modelos de IA son capaces de establecer una asociación, por ejemplo, con un vestido amarillo basándose únicamente en el nombre de alguien”.

Cicilia enfatiza que un modelo de IA no es creativo en sí mismo. “Los modelos de IA generativa simplemente intentan imitar o reproducir lo más fielmente posible los datos con los que se entrenan”.

“Si las obras están protegidas, en general se supone que se ha infringido el derecho de autor con bastante rapidez si alguien se las arregla”, afirma Mirjam Elferink, abogada de propiedad intelectual de Elferink & Kortier.

Pero existe una excepción para la recopilación de datos públicos, explica Elferink. Esta excepción se aplica, por ejemplo, a las instituciones científicas. Pero los comerciantes también pueden hacer uso de esto, siempre que los titulares de los derechos no se hayan opuesto explícitamente: el llamado opt-out.

Esta opción de exclusión se utilizó para las obras de Dick Bruna y Eddy van Wessel, lo que puede constituir una violación de los derechos de autor. Este no es el caso de Erwin Olaf, dice Shirley den Hartog, quien ahora dirige su trabajo: “Hablamos antes de su muerte de que sería muy bueno que personas de todo el mundo siguieran involucradas en su trabajo”.

No actualizado

“Es bueno saber que la excepción a los derechos de autor se introdujo en la ley antes de que estas herramientas de inteligencia artificial fueran accesibles al público”, afirma el abogado Elferink. Según ella, esto ahora genera incertidumbre sobre su aplicación al entrenamiento de modelos de IA.

“La lástima es que en los Países Bajos todavía no ha habido ningún proceso judicial sobre este tema, por lo que el juez aún no ha podido pronunciarse al respecto”. Hay varias demandas contra esto en Estados Unidos. Abierto AI como A mitad del viaje. Aún no hay declaraciones.

Hanneke Holthuis, abogada de la organización de derechos de imagen Pictoright, afirma que muchos creadores de imágenes no están familiarizados con este “giro del copyright”. Según ella, nadie tuvo en cuenta que de repente los modelos de IA se entrenarían con obras disponibles públicamente: “No se puede esperar que alguien haga una reserva para algo que aún no existe en ese momento”.

Optar por no

La ley europea de IA, que está en vigor desde este mes, parece estar en consonancia con el sistema de exclusión voluntaria. Los creadores de imágenes deben indicar que quieren utilizar su derecho de exclusión voluntaria, las empresas de tecnología deben ser transparentes sobre cómo se entrenan los modelos y pueden demostrar que no infringen los derechos de autor.

El problema con la exclusión voluntaria es que en realidad es necesario aplicarla antes de entrenar a la IA para hacer el trabajo, dice Holthuis. “Una vez entrenado, a un sistema de IA le resulta difícil “desaprender” datos específicos. Esto significa que los trabajos que no se publicaron mediante exclusión voluntaria antes de que se entrenara la IA pueden haberse utilizado de forma irreversible”. Los creadores de imágenes holandeses son bienvenidos. optoutnow.ai indicar que desean ejercer su derecho de exclusión voluntaria.

entrenar IA con imágenes