A cuenta del uso de las IA generativas.
Hasta
hace bien poco componer música, dibujar o pintar y escribir entre
muchas otras tareas era la consecuencia directa de un largo proceso de
formación. Ese período de formación a menudo comprendía toda la vida de
una persona. Una vida de compromiso con el dominio de una habilidad y de
lucha contra la frustración que, inevitablemente, surge cuando nos
enfrentamos al aprendizaje de cualquier disciplina.
Ahora esto ha cambiado. A partir de ahora toda persona que lo desee puede hacer un dibujo, escribir un cuento o componer una melodía.
En los últimos dos años ha habido una explosión en el uso por parte de particulares y profesionales de algoritmos y chatbots que generan textos, imágenes, sonidos o incluso videos. Toda está nueva tecnología se publicita como accesible y democratizadora. Llegando a referirse al uso de este tipo de herramientas como liberadoras.
La IA es omnipresente. Chatgpt, Canvas, Gemini, Grok y muchos otros han llegado a nuestras vidas. Cada uno con una función específica. Cualquier búsqueda en Google nos da como primera respuesta un texto generado por IA Gen. En WhatsApp también ha aparecido recientemente un botón para recurrir al uso de la IA y nuestros gobernantes han invertido cantidades ingentes de dinero público en estas nuevas tecnologías.
El año 2022 una imagen generada por IA Gen ganaba un concurso de arte.(1)
En 2023 una persona sin aparente relación con el mundo de la ilustración o del diseño ganaba múltiples concursos de carteles por toda la península. Todos esos carteles eran parecidos, tirando de tópicos y a mi parecer sin ningún interés.
Ahora esto ha cambiado. A partir de ahora toda persona que lo desee puede hacer un dibujo, escribir un cuento o componer una melodía.
En los últimos dos años ha habido una explosión en el uso por parte de particulares y profesionales de algoritmos y chatbots que generan textos, imágenes, sonidos o incluso videos. Toda está nueva tecnología se publicita como accesible y democratizadora. Llegando a referirse al uso de este tipo de herramientas como liberadoras.
La IA es omnipresente. Chatgpt, Canvas, Gemini, Grok y muchos otros han llegado a nuestras vidas. Cada uno con una función específica. Cualquier búsqueda en Google nos da como primera respuesta un texto generado por IA Gen. En WhatsApp también ha aparecido recientemente un botón para recurrir al uso de la IA y nuestros gobernantes han invertido cantidades ingentes de dinero público en estas nuevas tecnologías.
El año 2022 una imagen generada por IA Gen ganaba un concurso de arte.(1)
En 2023 una persona sin aparente relación con el mundo de la ilustración o del diseño ganaba múltiples concursos de carteles por toda la península. Todos esos carteles eran parecidos, tirando de tópicos y a mi parecer sin ningún interés.
En 2025 se inundaron las redes sociales de imágenes personales al estilo del famoso estudio Ghibli de animación generadas mediante chatgpt. Esto plantea varios problemas. Es indudable que esa IA Gen ha scrapeado todas las películas de ese estudio de animación a fin de apropiarse del estilo del mismo, esto lo ha hecho sin el consentimiento de las personas que detentan la autoría de dichas imágenes y películas. Además el director de dicho estudio de animación, Hayao Miyazaki es un declarado detractor de este tipo de herramientas. Por otro lado multitud de personas a lo largo y ancho de todo el mundo han facilitado sus fotos familiares a chatgpt sin acordar que uso posterior se les van a dar a esa cantidad ingente de datos. Las fotos personales no dejan de ser datos biométricos que pueden ser usados para multitud de acciones sin nuestro consentimiento.
El pasado verano en el chat de una asociación de diseñadores y diseñadoras se compartió un video muy llamativo. El reclamo es que ha sido realizado íntegramente con IA generativa. Todo el trabajo que antes realizaba un equipo de personas bastante numeroso, ahora una sola persona "creativa" lo puede hacer sin salir de su casa.
El video es un falso comercial de una marca de ropa en colaboración con una conocida marca de maletas de lujo. Venden productos a precios desorbitados a un público exclusivo, no es para todo el mundo. Vemos muchachos y muchachas jóvenes viajando en tren pero desconocemos quien es el protagonista y no hay ninguna narrativa. El tren atraviesa campos de girasoles infinitos al atardecer. Una joven toca un piano de cola dentro de un vagón, una abeja se posa en la frente de otro chico. Todos guapísimos y guapísimas, nadie tiene sobrepeso o chepa, ni tan solo los dientes torcidos.
El video fusila directamente la fotografíade la película Darjeeling limited de Wes Anderson y no cuenta nada, es una mera sucesión de escenas inconexas sin sentido.
Por ejemplo, no sabemos con qué energía se mueve ese tren. Primero parece de vapor pero luego no, porque no se aprecia la locomotora. Tampoco se ve la catenaria por ningún lado o sea que tampoco es un tren eléctrico que atraviesa un campo de girasoles donde no se pueden apreciar ni las vías.
Si se mira con un poco de atención la lista de fallos y errores de raccord es gigante, por ejemplo, hay una cinta de cassette funcionando sola, asientos que ocupan todo el ancho del tren, ventanas que no respetan la continuidad de lo que sucede en su interior, hojas que desaparecen sin más y así hasta aburrir.
En definitiva, ese video no aguanta una revisión a fondo ni una mirada crítica.
Con la IA generativa pasa lo mismo que con el fast food.
A primera vista todo tiene muy buena pinta. En la carta o en la foto de promoción la comida nos parece apetitosa y suculenta pero luego, cuando nos traen el plato envuelto en un papel grasiento es todo lo contrario y a menudo nos comemos a duras penas una parte y desechamos los bordes de la pizza o apartamos la lechuga marchita o los pepinillos blandengues de la hamburguesa.
Entonces nos damos cuenta que los ingredientes escasean y están mal dispuestos, el plato está sobre cocinado y no es demasiado rico simplemente está pasado de sal o de azúcar a fin de que sepa a algo.
Es una comida sin matices ni diferentes texturas que la hagan sorprendente o divertida. La materia prima utilizada suele ser de poca calidad, tirando de alimentos muy procesados con lo que sus características organolépticas son planas y su valor nutritivo escaso. Y si nos fijamos bien vemos que el plato está lleno de conservantes, saborizantes y otros aditivos para que se mantenga ese falso aspecto de frescura durante largo tiempo.
La comida rápida no deja de ser un producto que está pensado para optimizar el transporte, su almacenaje y conservación. Donde lo único que importa es que el margen de beneficios sea el mayor posible, usando las materias primas más económicas y estandarizando al máximo la preparación, a menudo por personal mal retribuido y sin la preparación adecuada.
Las obras generadas por IA solamente aguantan un vistazo fugaz, de apenas unos segundos. Si nos paramos a ver detenidamente esas imágenes empiezan a aflorar aberraciones, errores de composición y otros fallos evidentes. El aspecto que en una primera mirada nos pareció sorprendente enseguida se pudre y nos parece pesadillesco. Personas con contorsiones imposibles, escorzos aberrantes, rostros cerosos y macilentos que se intentan esconder debajo de filtros glamurosos o iluminaciones muy saturadas para que la pesadilla nos parezca un sueño más llevadero.
A mi personalmente, como dibujante me daría vergüenza entregar algunos de los trabajos que veo realizados con IA Gen.
Yo no me considero una persona especialmente creativa, pero he dedicado toda mi vida a la práctica de una habilidad que ahora se ve amenazada y tengo que soportar personas que hacen bandera de su creatividad, defender la herramienta que me va a quitar el trabajo (que de hecho ya me está quitando el trabajo).
La mayoría de correctores, traductores, escritores y guionistas, dibujantes e ilustradores tenemos claro que está tecnología amenaza nuestras profesiones y funciona depredando nuestros textos, audios e imágenes, sin remunerar ni acreditar las fuentes usadas por lo que vulnera un derecho básico y universal que es el derecho a la autoría.
Veo estupefacto como a muchas diseñadoras y diseñadores esto no les plantea ningún problema. Al contrario, esas personas suelen hablar del diseño como herramienta de comunicación, de transformación social o sostenibilidad y se quedan tan anchos. Ignorando los altísimos consumos tanto de energía como de agua que requieren los centros de datos o las condiciones en las se ven obligadas a trabajar las personas que criban esos datos con los que se alimentan esas inteligencias artificiales.
No entiendo que personas que se dedican al diseño y la creatividad no vean en el uso de las IA una amenaza a su desarrollo profesional cuando el mismo Danny Saltaren lo suelta tranquilamente en sus charlas.
Nuestros gobiernos, administraciones y demás instituciones han apostado mucho dinero público en estas tecnologías creyendo que les van a resolver los desafíos a los que nuestra sociedad se enfrentará en un futuro muy cercano.
Los propietarios de esas tecnologías han sabido vender muy bien su producto, presentando la IA como la panacea de todos los males del siglo XXI. Cuando la realidad es que estas IAs representan la esencia misma del capitalismo. Está tecnología es el paradigma de la herramienta del capital pues se basa en la extracción y destrucción del medio ambiente en pos de la producción y el beneficio. Apropiándose del trabajo ajeno, eliminando y sustituyendo a los trabajadores especializados por meros operadores a los que encima mantiene engañados pues les otorga la falsa sensación de control y conocimiento que no poseen.
Expuestas mis opiniones como creo que se debería proceder...
Pues lo tenemos difícil.
Quizá lo primero e imprescindible sería declarar abiertamente aquellos productos generados con IA Gen, de la misma manera que ciertos productos llevan una advertencia a los posibles consumidores. Una etiqueta o label que certifiqué si un texto, una imagen o una voz son humanas o generadas. Esto permitiría al público estar informado y decidir si quiere consumir ese producto o no asumiendo la parte de la responsabilidad que conlleva la producción de aquello que consume.
No creo que haya que prohibir estas nuevas tecnologías pero deberíamos saber qué datos se han usado y las autoras deberían poder impedir que su obra sirva para alimentar bases de datos sin su expreso consentimiento.
Pienso que la afectación de esta nueva tecnología va mucho más allá de las profesiones "creativas" por lo que son necesarios formas de retribución para todas aquellas personas que a consecuencia de la IA pierdan o no tengan acceso a un puesto de trabajo. Esto podría ser en forma de impuestos a las propietarias y/o usuarias de estas herramientas o en forma de rentas básicas universales para todas las personas.
Al contrario de lo que promete, la IA generativa anula el proceso creativo, lo sustituye por una dependencia a la prontitud y a la productividad. De la misma manera que la falta de ejercicio afecta a nuestro desarrollo muscular, la dependencia excesiva de la IA generativa para los procesos de pensamiento podría conducir a la pérdida de habilidades cognitivas básicas. (3)
Y ya para cerrar.
A menudo se me acusa de tecnófobo o neoludita. No creo que sea así, al contrario, estoy muy a favor del uso de la tecnología siempre y cuando ésta reporte un beneficio real y tangible a toda la población humana sin perjuicio para el medio ambiente y sin que represente una amenaza para las futuras generaciones.
El sistema en el que vivimos es perverso. No falla, está construido así. Necesita individuos-consumidores que crean en él. Acólitos dogmáticos que depositen su fe en abstracciones como el dinero, la producción o la efectividad. Para luchar contra este sistema inhumano solamente nos queda apelar a la solidaridad, al apoyo mutuo y al derecho a fallar. Errar es humano, decía el filósofo.
Las redes sociales y los algoritmos pueden sernos muy útiles para organizarnos y tejer redes de comunicación pero también pueden ser herramientas para aislarnos y convertirnos en individuos en lugar de personas.
La IA Gen solamente es el último monstruo que ha creado el sistema para optimizar su funcionamiento. Prescindir de personas, acortar y optimizar la producción sustituyendo la calidad por la cantidad. En lugar de contemplar, disfrutar y comprender lo que produce la IA Gen está destinado al mero consumo.
La IA Gen no es creativa, simplemente genera contenido.
Si has llegado hasta aquí muchas gracias por tu atención y una disculpa si se me han escapado faltas de ortografía o no se entiende alguna parte de este texto pero lo he escrito enteramente yo, un humano medianamente inteligente.
Un abrazo
AlexF
Notas:
(1) https://cordis.europa.eu/
(2) https://elpais.com/opinion/
(3) https://pubmed.ncbi.nlm.nih.
Otros enlaces de interés
https://www.lavanguardia.com/
https://youtu.be/dTtRjeNw8lo?
https://youtu.be/J4FNl38w0Ao?
https://arpaeditores.com/
