A cuenta del uso de las IA generativas.
Hasta
hace bien poco componer música, dibujar o pintar y escribir entre
muchas otras tareas era la consecuencia directa de un largo proceso de
formación. Ese período de formación a menudo comprendía toda la vida de
una persona. Una vida de compromiso con el dominio de una habilidad y de
lucha contra la frustración que, inevitablemente, surge cuando nos
enfrentamos al aprendizaje de cualquier disciplina.
Ahora
esto ha cambiado. A partir de ahora toda persona que lo desee puede
hacer un dibujo, escribir un cuento o componer una melodía.
En
los últimos dos años ha habido una explosión en el uso por parte de
particulares y profesionales de algoritmos y chatbots que generan
textos, imágenes, sonidos o incluso videos. Toda está nueva tecnología
se publicita como accesible y democratizadora. Llegando a referirse al
uso de este tipo de herramientas como liberadoras.
La
IA es omnipresente. Chatgpt, Canvas, Gemini, Grok y muchos otros han
llegado a nuestras vidas. Cada uno con una función específica. Cualquier
búsqueda en Google nos da como primera respuesta un texto generado por
IA Gen. En WhatsApp también ha aparecido recientemente un botón para
recurrir al uso de la IA y nuestros gobernantes han invertido cantidades
ingentes de dinero público en estas nuevas tecnologías.
El año 2022 una imagen generada por IA Gen ganaba un concurso de arte.(1)
En
2023 una persona sin aparente relación con el mundo de la ilustración o
del diseño ganaba múltiples concursos de carteles por toda la
península. Todos esos carteles eran parecidos, tirando de tópicos y a mi
parecer sin ningún interés.
En 2025 se inundaron las redes sociales de imágenes
personales al estilo del famoso estudio Ghibli de animación generadas
mediante chatgpt. Esto plantea varios problemas. Es indudable que esa IA
Gen ha scrapeado todas las películas de ese estudio de animación a fin
de apropiarse del estilo del mismo, esto lo ha hecho sin el
consentimiento de las personas que detentan la autoría de dichas
imágenes y películas. Además el director de dicho estudio de animación,
Hayao Miyazaki es un declarado detractor de este tipo de herramientas.
Por otro lado multitud de personas a lo largo y ancho de todo el mundo
han facilitado sus fotos familiares a chatgpt sin acordar que uso
posterior se les van a dar a esa cantidad ingente de datos. Las fotos
personales no dejan de ser datos biométricos que pueden ser usados para
multitud de acciones sin nuestro consentimiento.
El
pasado verano en el chat de una asociación de diseñadores y diseñadoras se compartió un
video muy llamativo. El reclamo es que ha sido realizado íntegramente
con IA generativa. Todo el trabajo que antes realizaba un equipo de
personas bastante numeroso, ahora una sola persona "creativa" lo puede hacer sin
salir de su casa.
El
video es un falso comercial de una marca de ropa en colaboración con
una conocida marca de maletas de lujo. Venden productos a precios
desorbitados a un público exclusivo, no es para todo el mundo. Vemos
muchachos y muchachas jóvenes viajando en tren pero desconocemos quien
es el protagonista y no hay ninguna narrativa. El tren atraviesa campos
de girasoles infinitos al atardecer. Una joven toca un piano de cola
dentro de un vagón, una abeja se posa en la frente de otro chico. Todos
guapísimos y guapísimas, nadie tiene sobrepeso o chepa, ni tan solo los
dientes torcidos.
El
video fusila directamente la fotografíade la película
Darjeeling limited de Wes Anderson y no
cuenta nada, es una mera sucesión de escenas inconexas sin sentido.
Por
ejemplo, no sabemos con qué energía se mueve ese tren. Primero parece
de vapor pero luego no, porque no se aprecia la locomotora. Tampoco se
ve la catenaria por ningún lado o sea que tampoco es un tren eléctrico
que atraviesa un campo de girasoles donde no se pueden apreciar ni las
vías.
Si se mira con un poco de atención la
lista de fallos y errores de
raccord es gigante, por ejemplo, hay una
cinta de
cassette funcionando sola, asientos que ocupan todo el ancho
del tren, ventanas que no respetan la continuidad de lo que sucede en su
interior, hojas que desaparecen sin más y así hasta aburrir.
En definitiva, ese video no aguanta una revisión a fondo ni una mirada crítica.
Con la IA generativa pasa lo mismo que con el fast food.
A
primera vista todo tiene muy buena pinta. En la carta o en la foto de
promoción la comida nos parece apetitosa y suculenta pero luego, cuando
nos traen el plato envuelto en un papel grasiento es todo lo contrario y
a menudo nos comemos a duras penas una parte y desechamos los bordes de
la pizza o apartamos la lechuga marchita o los pepinillos blandengues
de la hamburguesa.
Entonces
nos damos cuenta que los ingredientes escasean y están mal dispuestos,
el plato está sobre cocinado y no es demasiado rico simplemente está
pasado de sal o de azúcar a fin de que sepa a algo.
Es
una comida sin matices ni diferentes texturas que la hagan sorprendente
o divertida. La materia prima utilizada suele ser de poca calidad,
tirando de alimentos muy procesados con lo que sus características
organolépticas son planas y su valor nutritivo escaso. Y si nos fijamos
bien vemos que el plato está lleno de conservantes, saborizantes y otros
aditivos para que se mantenga ese falso aspecto de frescura durante
largo tiempo.
La
comida rápida no deja de ser un producto que está pensado para
optimizar el transporte, su almacenaje y conservación. Donde lo único que importa es
que el margen de beneficios sea el mayor posible, usando las materias
primas más económicas y estandarizando al máximo la preparación, a
menudo por personal mal retribuido y sin la preparación adecuada.
Las
obras generadas por IA solamente aguantan un vistazo fugaz, de apenas
unos segundos. Si nos paramos a ver detenidamente esas imágenes empiezan
a aflorar aberraciones, errores de composición y otros fallos
evidentes. El aspecto que en una primera mirada nos pareció sorprendente
enseguida se pudre y nos parece pesadillesco. Personas con contorsiones
imposibles, escorzos aberrantes, rostros cerosos y macilentos que se
intentan esconder debajo de filtros glamurosos o iluminaciones muy
saturadas para que la pesadilla nos parezca un sueño más llevadero.
A mi personalmente, como dibujante me daría vergüenza entregar algunos de los trabajos que veo realizados con IA Gen.
Yo
no me considero una persona especialmente creativa, pero he dedicado
toda mi vida a la práctica de una habilidad que ahora se ve amenazada y
tengo que soportar personas que hacen bandera de su creatividad,
defender la herramienta que me va a quitar el trabajo (que de hecho ya me está quitando el trabajo).
La
mayoría de correctores, traductores, escritores y guionistas,
dibujantes e ilustradores tenemos claro que está tecnología amenaza
nuestras profesiones y funciona depredando nuestros textos, audios e
imágenes, sin remunerar ni acreditar las fuentes usadas por lo que
vulnera un derecho básico y universal que es el derecho a la autoría.
Veo
estupefacto como a muchas diseñadoras y diseñadores esto no les plantea
ningún problema. Al contrario, esas personas suelen hablar del diseño
como herramienta de comunicación, de transformación social o
sostenibilidad y se quedan tan anchos. Ignorando los altísimos consumos
tanto de energía como de agua que requieren los centros de datos o las
condiciones en las se ven obligadas a trabajar las personas que criban
esos datos con los que se alimentan esas inteligencias artificiales.
No
entiendo que personas que se dedican al diseño y la creatividad no vean
en el uso de las IA una amenaza a su desarrollo profesional cuando el
mismo Danny Saltaren lo suelta tranquilamente en sus charlas.
Nuestros
gobiernos, administraciones y demás instituciones han apostado mucho
dinero público en estas tecnologías creyendo que les van a resolver los
desafíos a los que nuestra sociedad se enfrentará en un futuro muy
cercano.
Los
propietarios de esas tecnologías han sabido vender muy bien su producto,
presentando la IA como la panacea de todos los males del siglo XXI.
Cuando la realidad es que estas IAs representan la esencia misma del
capitalismo. Está tecnología es el paradigma de la herramienta del
capital pues se basa en la extracción y destrucción del medio ambiente
en pos de la producción y el beneficio. Apropiándose del trabajo ajeno,
eliminando y sustituyendo a los trabajadores especializados por meros
operadores a los que encima mantiene engañados pues les otorga la falsa
sensación de control y conocimiento que no poseen.
Expuestas mis opiniones como creo que se debería proceder...
Pues lo tenemos difícil.
Quizá
lo primero e imprescindible sería declarar abiertamente aquellos
productos generados con IA Gen, de la misma manera que ciertos productos
llevan una advertencia a los posibles consumidores. Una etiqueta o
label que certifiqué si un texto, una imagen o una voz son humanas o
generadas. Esto permitiría al público estar informado y decidir si
quiere consumir ese producto o no asumiendo la parte de la
responsabilidad que conlleva la producción de aquello que consume.
No
creo que haya que prohibir estas nuevas tecnologías pero deberíamos
saber qué datos se han usado y las autoras deberían poder impedir que su
obra sirva para alimentar bases de datos sin su expreso consentimiento.
Pienso
que la afectación de esta nueva tecnología va mucho más allá de las
profesiones "creativas" por lo que son necesarios formas de retribución
para todas aquellas personas que a consecuencia de la IA pierdan o no
tengan acceso a un puesto de trabajo. Esto podría ser en forma de
impuestos a las propietarias y/o usuarias de estas herramientas o en
forma de rentas básicas universales para todas las personas.
Al
contrario de lo que promete, la IA generativa anula el proceso
creativo, lo sustituye por una dependencia a la prontitud y a la
productividad. De la misma manera que la falta de ejercicio afecta a
nuestro desarrollo muscular, la dependencia excesiva de la IA generativa
para los procesos de pensamiento podría conducir a la pérdida de
habilidades cognitivas básicas. (3)
Y ya para cerrar.
A
menudo se me acusa de tecnófobo o neoludita. No creo que sea así, al
contrario, estoy muy a favor del uso de la tecnología siempre y cuando
ésta reporte un beneficio real y tangible a toda la población humana sin
perjuicio para el medio ambiente y sin que represente una amenaza para
las futuras generaciones.
El
sistema en el que vivimos es perverso. No falla, está construido así.
Necesita individuos-consumidores que crean en él. Acólitos dogmáticos
que depositen su fe en abstracciones como el dinero, la producción o la
efectividad. Para luchar contra este sistema inhumano solamente nos
queda apelar a la solidaridad, al apoyo mutuo y al derecho a fallar.
Errar es humano, decía el filósofo.
Las
redes sociales y los algoritmos pueden sernos muy útiles para
organizarnos y tejer redes de comunicación pero también pueden ser
herramientas para aislarnos y convertirnos en individuos en lugar de
personas.
La
IA Gen solamente es el último monstruo que ha creado el sistema para
optimizar su funcionamiento. Prescindir de personas, acortar y optimizar
la producción sustituyendo la calidad por la cantidad. En lugar de
contemplar, disfrutar y comprender lo que produce la IA Gen está
destinado al mero consumo.
La IA Gen no es creativa, simplemente genera contenido.
Si
has llegado hasta aquí muchas gracias por tu atención y una disculpa si
se me han escapado faltas de ortografía o no se entiende alguna parte
de este texto pero lo he escrito enteramente yo, un humano medianamente
inteligente.
Un abrazo
AlexF
Notas:
(1)
https://cordis.europa.eu/article/id/442090-trending-science-ai-won-an-art-contest/es(2)
https://elpais.com/opinion/2024-02-06/ruben-el-ilustrador-murciano-que-gana-todos-los-premios-en-espana.html (3)
https://pubmed.ncbi.nlm.nih.gov/38300581/Otros enlaces de interés
https://www.lavanguardia.com/cultura/20201014/484039920907/el-reto-primer-signo-civilizacion-humanidad.htmlhttps://youtu.be/dTtRjeNw8lo?si=JAkNa3CuJ1JxEpCdhttps://youtu.be/J4FNl38w0Ao?si=enRwnCYhu17fSC-ihttps://arpaeditores.com/products/civilizacion-artificial