En enero de 2023, el director de Ciencia Aplicada de Microsoft, Brent Hecht, afirmó en un memorando interno que entrenar los modelos de inteligencia artificial con contenido ajeno suponía «un robo asombroso de proporciones sin precedentes» y «el mayor robo de trabajo de la historia de la humanidad».
Hasta ahora, la frase estaba tachada. Ha salido a la luz en los documentos desprecintados de la demanda por derechos de autor que The New York Times interpuso hace tres años contra OpenAI y Microsoft, y no es el único dato: el escrito recoge también que el responsable de ChatGPT consideraba que los medios se enfrentaban a una «amenaza existencial», que el buscador con IA de Microsoft hundió las visitas al periódico hasta un 93 % y que empleados de OpenAI hablaron de un truco para saltarse el muro de pago del diario.
Las frases que hasta ahora estaban tachadas
El escrito cita comunicaciones internas y declaraciones bajo juramento de directivos de las dos compañías. Estas son las que tienen más peso.
- Brent Hecht, director de Ciencia Aplicada de Microsoft, en un memorando interno de enero de 2023: el asunto es «un robo asombroso de proporciones sin precedentes» y «el mayor robo de trabajo de la historia de la humanidad».
- Nick Turley, responsable de ChatGPT en OpenAI, en una comunicación interna: los medios se enfrentan a una «amenaza existencial» por productos como el chatbot, que son «en gran medida sustitutivos» y «serán cada vez más sustitutivos a medida que mejoren».
- Greg Brockman, presidente de OpenAI, describió los modelos como «excelentes en noticias».
- Satya Nadella, consejero delegado de Microsoft, en una declaración de este año: «cualquier cosa que esté tras un muro de pago debería ser licenciada por quien quiera usarla… para grounding o entrenamiento». Añadió que si le hubieran informado de que OpenAI había hecho scraping y entrenado con material tras un muro de pago, habría invocado el derecho de Microsoft a exigir a OpenAI que reentrenase sus modelos.
- Un documento de Microsoft admite que existe un «riesgo real» de que la IA generativa «perturbe significativamente el empleo de las mismas personas que generaron los datos con los que se entrenó el modelo».
El comentario más citado de todos procede de un intercambio entre dos empleados de OpenAI: cuando el investigador Nick Ryder le comentó a Brockman que existía un «truco para saltarse el muro de pago del nytimes», la respuesta fue «ah, qué bien».
El «bucle fatal»: un 93 % menos de visitas
Lo que más incomoda a Microsoft no es una opinión, sino sus propios datos. Según recoge el escrito, el «motor de respuestas» de Copilot redujo la tasa de clics hacia el dominio de The New York Times hasta un 93 % en comparación con una búsqueda tradicional en Bing.
Una presentación interna de enero de 2024, firmada por el propio Hecht, califica esa caída como un «bucle fatal» que «perjudicaría el rendimiento de nuestros modelos y el de toda la web al mismo tiempo». El razonamiento es sencillo: si los medios dejan de recibir visitas, dejan de poder producir el material con el que se entrenan los modelos.
El documento lo resume en una frase que describe el problema mejor que cualquier análisis externo:
Esta misma tensión ha llevado a los editores a buscar defensas técnicas, que van desde el bloqueo de rastreadores hasta trucos como ShieldFont, la tipografía que muestra un texto a las personas y otro distinto a las máquinas.
La escala de las copias
Los datos que aparecen por primera vez en el documento permiten dimensionar la magnitud del asunto.
| Copias de obras del NYT, Daily News y Center for Investigative Reporting en los datasets intermedios de OpenAI | Más de 91.692 |
| Documentos de nytimes.com en un conjunto derivado de Common Crawl | Más de 2 millones |
| Obras únicas de los medios demandantes en el dataset de Project Mango | Al menos 160.903 |
| Caída de la tasa de clics hacia el NYT con Copilot frente a Bing | Hasta el 93 % |
| Antigüedad de la demanda | Tres años |
Aparte del volumen, el documento detalla cómo se consiguió dicho material. OpenAI habría facilitado a Microsoft el conjunto completo de entrenamiento de GPT-3 para que evaluara la integración de sus modelos en productos comerciales, y Microsoft habría hecho lo mismo en sentido inverso mediante dos iniciativas llamadas Project Taxi y Project Mango. Parte del contenido procedió del propio índice de Bing.
A esto se añaden los conjuntos WebText y WebText2, que según los demandantes dependían de forma desproporcionada de contenido periodístico, y millones de artículos extraídos de Common Crawl, el repositorio abierto de rastreos de la web.
Otro detalle es el que peor pinta tiene: la acusación de que se retiraron deliberadamente los avisos de copyright del material de entrenamiento porque los investigadores «no querrían que el modelo mostrase» esos avisos a los usuarios.
Por qué estas frases pueden costar caro
Si la demanda se limitara solo a la copia, el asunto estaría casi resuelto a favor de las tecnológicas. Hasta ahora, los jueces estadounidenses han sido bastante receptivos al argumento de que entrenar un modelo es uso legítimo, el fair use, que es la excepción que permite utilizar obra protegida sin permiso en casos como la crítica, la parodia o la información. Este mismo mes, la administración Trump presentó un escrito en defensa del uso sin licencia de material protegido por parte de OpenAI.
El problema es que ese análisis depende de varios factores, y uno de ellos es si el nuevo uso sustituye o daña el mercado de la obra original. Justo ahí es donde impactan las citas desprecintadas:
- Un producto «en gran medida sustitutivo», dicho por el responsable de ChatGPT, describe sustitución, no transformación.
- Un 93 % menos de clics, medido por Microsoft, describe daño al mercado, y lo describe con datos propios.
- Que Nadella declare que lo que está tras un muro de pago debería licenciarse admite que existe un mercado de licencias al que ese uso hace competencia.
Aunque esto no supone una prueba por sí sola, cambia el escenario: hasta ahora el debate se centraba en la teoría jurídica y ahora incluye documentos internos de las propias empresas.
Lo que todavía no se sabe
Conviene no dar el caso por sentenciado por tres motivos.
El primer motivo es el origen de las citas: provienen del escrito de los demandantes y no de las pruebas originales, que siguen precintadas. Han sido seleccionadas por la parte a la que benefician y se han publicado sin el contexto en el que se dijeron. Un memorando interno que advierte sobre un riesgo también puede interpretarse como lo que se supone que debe hacer un director de Ciencia Aplicada.
El segundo es que ni OpenAI ni Microsoft han contestado. No existe la versión de la otra parte ni hay respuesta a ninguna de las acusaciones concretas.
Y el tercero es que un juicio por derechos de autor no se decide por una frase, por muy dura que suene. Se decide por los cuatro factores del uso legítimo y, en última instancia, por lo que dictaminen los tribunales de apelación. Steven Lieberman, abogado del New York Daily News, lo resume según su propio interés: «las pruebas que se revelan aquí por primera vez muestran que OpenAI y Microsoft sabían que lo que hacían estaba mal». Eso es una tesis de parte y, de momento, nada más.
Independientemente del resultado de la demanda, lo que permanece es un documento interno de Microsoft que describe el negocio en el que opera como un riesgo para «las mismas personas que generaron los datos» utilizados para el entrenamiento.
Fuentes
