Raperos automáticos » Enrique Dans

La última colaboración de los raperos Drake y The Weeknd, titulado «Heart on my sleeve«, en el que se dedican a intercambiar versos sobre la actriz Selena Gomez, es especialmente relevante por el hecho de que haberse convertido en viral, sino porque… ni Drake ni The Weeknd han tenido la más mínima intervención en su grabación. Está, en realidad, grabado por una persona que se identifica como @ghostwriter, que afirma que la canción ha sido creada mediante algoritmos generativos entrenados con las voces de los dos raperos.

Este es el tema de mi columna de esta semana en Invertia, titulada «Algoritmos generativos y derechos de autor: la enésima batalla» (pdf). El enlace a YouTube no sé lo que durará: el original subido por @ghostwriter ya fue retirado ayer debido a una reclamación de copyright de Universal Music Group, propietaria de los derechos de las creaciones de los intérpretes (y de aproximadamente un tercio de los derechos del mercado global de la música), y a partir de ahora se prevé una larga y estéril persecución por todo lo largo y ancho de la red, porque según ellos, es lo que tienen que hacer para asegurar que se respetan sus derechos de propiedad intelectual. La canción es completamente sintética, tanto música como letra, y suena regular (tiene algunos momentos en los que las voces no suenan como deberían o en los que se pierde parte de la letra, aunque muchos de los seguidores de los raperos en cuestión afirman que deberían grabarla «de verdad».

¿Qué hacer en un mundo en el que la tecnología puede imitar prácticamente cualquier cosa, desde una voz a una imagen o un vídeo? Sería interesante saber, en primer lugar, cuántos artistas están pensando «esto es un ultraje» y cuántos, en cambio, se están interesando por la tecnología para utilizarla ellos mismos. Hace ya mucho tiempo que utilizo en mis clases deepfakes de Mark Zuckerberg diciendo supuestamente que ha robado los datos de todos sus usuarios y que pertenece a Spectra, de Barack Obama diciendo lo que se le pasa por la cabeza a Jordan Peele, e incluso uno mío cantando ópera. La tecnología está perfectamente madura: entrenar a un algoritmo para que hable o cante como tú era una tarea que precisaba de casi quince minutos de grabaciones, y que ahora se puede hacer con tres segundos de voz. Que pasase una cosa como esta y se viralizase no era ya cuestión de tecnología, sino del tiempo necesario para que alguien se plantease hacerlo.

¿A partir de aquí? Pues lo mismo que todo lo demás. Si Scarlett Johansson hace ya más de cinco años que desesperó y dijo que luchar contra los deepfakes eran una causa perdida y que era absurdo intentar retirar todos los vídeos pornográficos que había en internet con su imagen, parece claro que habrá que admitir dos cosas: la primera, que el porno siempre va por delante. Y la segunda, que cualquiera que tenga una imagen mínimamente pública y que genere un cierto interés se encontrará con imágenes, vídeos o grabaciones que supuestamente ha hecho, pero que en realidad, serán sintéticas. Es posible, incluso, que ocurra como ocurrió con las descargas en su momento: que se conviertan en una métrica de popularidad, y que los artistas más deepfaked sean los que más dinero terminan ganando. Pero como siempre, eso dependerá de la madurez con la que cada uno de los actores asuma el contexto tecnológico y sus consecuencias.

ACTUALIZACIÓN (24/04/2023): Grimes anima en Twitter a hacer deepfakes de su voz y a plantear colaboraciones musicales con ella creando música con su voz, incentivando con el 50% de los royalties generados a cualquier colaboración exitosa del mismo modo que trataría una colaboración con cualquier otro artista.

This article is also available in English on my Medium page, «Should we be worried about deepfake songs?»