Creación de imágenes con IA

El abuso de la inteligencia artificial (IA) para la generación de imágenes

¿Qué sucede cuando los generadores de imágenes mediante inteligencia artificial caen en manos equivocadas?

Armin Castellón, autor AutorArmin Castellón Seguidores: 5

Ilustración principal del artículo El abuso de la inteligencia artificial (IA) para la generación de imágenes

Los más recientes avances tecnológicos hoy nos enfrentan a grandes cambios en la forma en que nos relacionamos y realizamos nuestro trabajo, e incluso en nuestra visión del mundo. La información que consumimos se encuentre al alcance de todos; y aunque estos cambios representen una enorme ventaja para la evolución humana, al dejar obsoletas o en segundo plano algunas practicas anteriores y medios menos eficaces, se hace necesario reflexionar sobre las amenazas o riesgos que conllevan estos avances.

Para bien o para mal la libertad que ofrece Internet y que todos amamos, pone un primer riesgo sobre la mesa: la desinformación. Cualquier persona con mínimos recursos e incluso pocos conocimientos puede compartir contenido en las redes sociales y en la web, que muchas veces es consumido como si fuera cierto, verificable. Sin embargo, recordemos la frase famosa de Marco Aurelio: «Todo lo que escuchamos es una opinión, no un hecho. Todo lo que vemos es una perspectiva, no la verdad». Es necesario tener conciencia y juicio propios sobre toda información que se nos presenta.

¿Cómo funciona la inteligencia artificial que genera imágenes?

El boom de las llamadas inteligencias artificiales (IA) y la generación de imágenes ya está generando polémica. Una de las herramientas de IA que permite generar imágenes, probablemente la más popular en estos días, es Midjourney, que puede generar imágenes increíbles en poco tiempo. Pero... ¿cómo funciona?

Midjourny es un sistema de machine learning que se alimenta de infinidad de imágenes preexistentes. Adicionalmente, el usuario también puede introducir imágenes como referencia de lo que busca producir. A partir la cantidad inabarcable de información con la que el sistema cuenta, y respondiendo al pedido escrito del usuario, esta herramienta extrae partes de aquellas imágenes, y con esos fragmentos crea una nueva imagen, muchas veces de muy alta calidad. En ocasiones produce resultados imperfectos, y esto se debe a que en realidad no comprende lo que está haciendo; pero la velocidad con la que responde y la calidad promedio de los resultados son realmente sorprendentes. El único límite de cualquier inteligencia artificial reside en la cantidad de imágenes que se le introduzcan para «entrenarla».

¿Cuál es la fuente de inspiración de la inteligencia artificial?

El asunto comienza a tornarse extraño cuando nos enteramos que estas imágenes con las que se alimenta a estos sistemas son contenidos creados y compartidos en internet por artistas, fotógrafos, ilustradores y diseñadores gráficos, que jamás dieron su consentimiento para ese fin. Es cierto que las imágenes que crea la inteligencia artificial son nuevas y requieren de una redacción particular por parte de quien las requiere, pero también es cierto la máquina no podría crearlas sin contar con las obras de las que se la nutre, cuyos creadores no reciben compensación ni crédito por su aporte fundamental.

En alguna medida esta nueva tecnología cometería una suerte de «plagio» aún no previsto por la Ley, pues el plagiado nunca es un individuo en particular sino, probablemente, muchísimos artistas y profesionales en forma simultánea. Tal vez el error fatal de los perjudicados haya sido compartir su trabajo de forma abierta, algo que hasta ahora nadie se cuestionaba como un problema.

Los nuevos «artistas de la IA»

Paralelamente va surgiendo un nuevo tipo de «artista de la Inteligencia artificial», que en realidad utiliza esta herramienta que hace casi todo el trabajo por él. Es cierto que este individuo puede recopilar y aportar imágenes para alimentar a la inteligencia artificial e indicar por medio de comandos verbales qué dibujar, tal como lo hace un ilustrador comisionado que recibe un pedido de su cliente. Pero en este caso ¡es gratis! y el trabajo final es una obra que surge del azar de combinar esas miles de imágenes. ¿Está bien que estos nuevos «aristas» se atribuyan la autoría de las imágenes generadas por la IA?

De todos modos, las imágenes generadas por IA aún son fáciles de reconocer por sus desproporciones, deformidades, malas composiciones, elementos flotantes, malas transiciones de forma, desenfoques extraños, formas y patrones orgánicos muy azarosos y asimétricos. Es común ver personajes con dedos de más o pies que parecen tubérculos, pero muchas veces estos «artistas de IA» ni se toman ni el trabajo de mejorar lo que la inteligencia artificial les pone en bandeja. ¿Aún así merecen llamarse artistas?

Últimamente he notado algunos de estos nuevos artistas de la IA, que, al igual que los desinformadores comunes de internet, buscan atención y reconocimiento por medio de sus falsas creaciones, se vanaglorian de un producto ajeno creado por una IA y se atribuyen el crédito de dichas obras a las que incluso les colocan marcas de agua y símbolos de copyrigth.

Pero la IA también puede caer en las manos correctas. Existen artistas y diseñadores que están aprovechándola como herramienta de prueba y como una fuente de inspiración. No buscan que la inteligencia haga su trabajo para presentarlo como propio, sino que la utilizan como un recurso más en el proceso de creación, fundamentalmente para probar rápidamente el potencial de ideas de composición, combinaciones de elementos y colores, para luego realizar un trabajo «como corresponde». Ese uso sí sería correcto y aplaudo a esos profesionales.

Navegando en la web me topé con los trabajos de Johan Peterson, un artista de IA. Los trabajos que presenta cómo suyos son visualmente bellos, pero en ellos pueden observarse los clásicos errores visuales que mencione anteriormente. Un problema que noto es que en los portales donde los publica no se menciona que son imágenes generadas por IA, y lo más triste es que el público cree que son ilustraciones originales o fotografías de estudio reales. El público no sabe distinguir la diferencia y creo que esto puede ser peligroso.

Otro trabajo reciente que noté es un portal en el que se muestran fotografías de animales generadas con IA (imágenes digitales que ya no son una fotografía), animales inexistentes y de colores imposibles para sus especies. Por supuesto que las personas inteligentes y que conocen las IA entienden que son imágenes falsas, pero me impactó ver la cantidad inmensa de personas convencidas de que esos animales son reales y exclaman que «La naturaleza es asombrosa». Lo único asombroso es la ignorancia humana y el hecho de que la situación con las imágenes generadas por IA está comenzando a salirse de control.

¿Cuál es el futuro de la generación de imágenes con IA?

La IA, como cualquier herramienta, es buenas en las manos correctas de gente honesta que sabe cómo utilizarla, pero en manos incorrectas los riesgos podrían ser muy altos. Habrá que ver si es posible establecer algún tipo de regulación de esta tecnología, tanto para los usuarios como para sus desarrolladores. Para empezar sería fundamental que la herramienta especifique cuáles son las fuentes utilizadas para la creación de la imagen, y, mas lo importante, que se aclare que es una imagen generada por inteligencia artificial para no confundirla con una creación original.

Aparentemente se está llegado a un convenio internacional mediante el cual las imágenes generadas por IA deberán ser consideradas de «dominio público», ya que las obras son en realidad una combinación de extractos de trabajos de otros artistas procesadas por una máquina. En ese sentido, estas imágenes no podrán ser consideradas un producto comercial o protegido por derechos de autor.

Quizás en un futuro sea imposible distinguir la obra creada por la máquina de la obra del sere humano. O tal vez eso no suceda nunca. Todavía es pronto para vaticinar una cosa o la otra.

¿Qué te pareció? ¡Comparte tu opinión ahora!


Opiniones:
44
Votos:
37

Este video podría interesarte👇👇👇

Colabora con la difusión de este artículo traduciéndolo

Traducir al inglés Traducir al italiano Traducir al portugués
Código QR de acceso al artículo El abuso de la inteligencia artificial (IA) para la generación de imágenes

Este artículo no expresa la opinión de los editores y responsables de FOROALFA, quienes no asumen responsabilidad alguna por su autoría y naturaleza. Para reproducirlo, salvo que estuviera expresamente indicado, por favor solicitar autorización al autor. Dada la gratuidad de este sitio y la condición hiper-textual del medio, agradeceremos evitar la reproducción total en otros sitios Web. Publicado el 30/08/2023

Descargar PDF

Ilustración principal del artículo ¿White washing o estilización de color?
¿White washing o estilización de color? La Ilustración y sus posibilidades de estilo están siendo atacadas por supuestos voceros de lo políticamente correcto que obviamente no saben nada sobre color.

Debate

Logotipo de
Tu opinión

Ingresa con tu cuenta para opinar en este artículo. Si no la tienes, crea tu cuenta gratis ahora.

Retrato de Ana ✨✨
0
Hace 7 meses

De la misma forma que un ilustrador, diseñador aprende también mirando el trabajo de otros, todo este escrito es una obviedad.

1
Retrato de Armin Castellón
5
Hace 7 meses

Para una respuesta donde solo te basas en sólo uno de aspectos del artículo la verdad dudo que lo hayas leído todo.

1
Retrato de Ana ✨✨
0
Hace 7 meses

El tema que presentas ya ha sido ampliamente discutido, y tu enfoque es bastante introductorio. Reconozco que para algunos, este artículo podría ser un primer acercamiento y su influencia en la generación de imágenes. Por otro lado, no veo necesario poner en duda que he leido tu escrito, apreciar las distintas perspectivas es fundamental, tampoco es una tesis.

0
Retrato de Armin Castellón
5
Hace 7 meses

Cómo dices, es importante respetar las perspectivas y opiniones de todos. Sin embargo, en tu primer comentario, parece ser más una queja que no contribuye al tema que estamos discutiendo. Como mencionaste igual en el mensaje anterior, este tema puede ser desconocido para algunas personas, aunque te resulte sorprendente. Recuerda que no todos tienen la misma experiencia, y es esencial mantener la conversación enfocada en el objetivo principal: generar conciencia sobre este tema. Te sugiero considerar si tus comentarios aportan constructivamente la próxima vez que participes en una conversación.

2
Retrato de Ana ✨✨
0
Hace 7 meses

Perdona por pensar que una artículo de foroalfa tendría más altura al igual que tu respuesta.

0
Retrato de Armin Castellón
5
Hace 7 meses

"un" artículo de ForoAlfa

1
Retrato de Nicole M.
0
Hace 7 meses

Karen Lopez para ti será obvio 🙄 pero para el resto que el tema es bastante NUEVO, estudiantes de artes y diseño NO LO ES!

Que pena que una DOCENTE con 23 años de trayectoria opine cosas tan DESTRUCTIVAS y nada constructivas.

2
Retrato de Ana ✨✨
0
Hace 7 meses

Que nivel.

0
Retrato de Raúl Jaramillo Bustamante
11
Hace 7 meses

... un mundo donde los que contradicen tengan la razón se llamaría Tiranía, su doctrina la cancelación. Me parece que ForoAlfa, conceptualmente, es un foro. Dicho esto, si no es grato un tema ¿porqué aportar aristas cuando se puede compartir conocimiento, buen criterio? Gracias por tu aporte Armin, algunos de los que hemos leído tus textos, me incluyo, no tenemos mayor conocimiento de este asunto del que recién apreciamos algún detalle y me declaro poco conocedor del tema, por lo tanto agradezco el aperitivo que nos has compartido. Un abrazo.

1
Responder
Retrato de Alejandro D’aleman Zamudio
0
Hace 7 meses

Gran reflexión, las IA se han instalado en todos los ámbitos, hasta en las leyes, imagínense una IA dictando sentencias. Es obligatorio comprender que en todo proceso de acoplamiento a las nuevas tecnologías es normal que la curiosidad humana surja y se creen nuevas formas de utilizar dichas tecnologías, y no está mal. En definitiva el hombre siempre ha logrado superar esos avances y ha logrado comprender el límite y, después de dominarlo, su curiosidad lo lleva a crear otras nuevas formas de facilitar sus procesos, creería que eso se llama evolución.

3
Retrato de Andres Sotelo
0
Hace 7 meses

Ya esta ocurriendo Alejandro.

Mira este artículo: https://www.ambito.com/mundo/i...

1
Retrato de Alejandro D’aleman Zamudio
0
Hace 7 meses

Precisamente, el fallo lo dio un juez apoyándose en la tecnología, el punto es la decisión, el juez tiene el albedrío de utilizar o no parte o la totalidad del escrito según su criterio, la humanidad en la decisión no es nula, la consciencia del hombre todavía está latente. El uso de la tecnología es un simple paso para sentencia, es una herramienta en manos de un profesional.

1
Responder
Retrato de Daniela Okay
0
Hace 5 semanas

Este artículo examina el surgimiento de un nuevo tipo de "artista de IA", cuestionando si estos individuos pueden reclamar legítimamente la autoría de las imágenes generadas por máquinas. Esta reflexión sobre el papel del ser humano en el proceso creativo en un mundo cada vez más automatizado es esencial para comprender el impacto cultural y social de estas tecnologías emergentes.

1
Retrato de Raúl Jaramillo Bustamante
11
Hace 5 semanas

... muy interesante criterio, algo así como una "tercerización" digital.

0
Responder
Retrato de Ivana Nicole Sotomayor Castillo
0
Hace 6 meses

Muy bien dicho, la IA si bien es cierto, es solo una herramienta que nos ayuda en nuestro proceso creativo, es una lástima que gente se proveche de esta herramienta para llamar la atención y creerse la gran cosa; últimamente ha generado controversia y popularidad por su producción infinita de imágenes, pero, a pesar de la similitud con trabajos reales de otros artistas, nunca se comparará con la genialidad y creatividad del diseñador o ilustrador.

1
Retrato de Xavier Bemúdez
0
Xavier Bemúdez
Hace 6 meses

Bien dicho. Lo que necesitamos es una mayor Inteligencia humana y colaborativa colectiva y empática. No se puede considerar una obra creativa ni original aquella que no tiene autoría y que recurre por su falta de talento a la IA. La herramienta más poderosa es nuestro talento que provoca evolución en nuestros lenguajes como diseñadores. Viva la inteligencia humana!

2
Responder
Retrato de Raúl Jaramillo Bustamante
11
Hace 7 meses

… parafraseando a Fukuyama me atrevería a decir el final del asombro.

No imagino el alcance a nivel cognitivo de la parálisis o la incapacidad de asombrarse frente a una imagen, tal vez la actividad analítica? No se. No es un problema de estética solamente, es como si el lenguaje común perdiese parte de su espacio para comunicar. Por ejemplo la palabra «épico», un adjetivo que refiere a lo que marca un momento histórico, impresionante, memorable hoy se ve reducida a la descripción de un momento que podría ser banal.

En ese sentido, la imagen AI podría, reiteró «podría» por terminar de banalizar a la imagen como recurso de asombro, pudiendo pasar a un rol secundario, ilustrativo.

Es un nuevo sendero el que transitamos, quizás a nuevos ámbitos de la comunicación que no me atrevo a definir. Es terreno nuevo, inhóspito hasta cierto punto.

Bueno, estas palabras son tan solo una reflexión muy personal desde una interesante reflexión muy bien expuesta por el autor de este post. Gracias Armin.👍

1
Retrato de Armin Castellón
5
Hace 7 meses

Igualmente gracias por tu aporte, concuerdo, es un terreno completamente nuevo e inexplorado, solo se puede especular con lo que puede traer aunque por el momento va pintando un panorama peligroso.

2
Responder
Retrato de Marcela Marzocchi
0
Hace 8 meses

Me gusta que plantees el tema de la responsabilidad y lo de la desinformación que tiene alcance en muchísimos planos, es bueno dar esos debates, es bueno saber que no todo lo que se ve es verdad, es muy bueno que desarrollemos el pensamiento crítico para usar las herramientas. Saludos.

2
Retrato de Armin Castellón
5
Hace 8 meses

Muchas Gracias, es cierto que las IAs pueden ser herramientas útiles en el proceso creativo, pero no pueden reemplazar el valor de algo creado desde la creatividad Humana. Hay que buscar una forma de que no se use está tecnología para crear imágenes que engañen o que se hagan pasar por creaciones propias o fotografías reales.

0
Responder
Retrato de Yeferson Tovar
0
Hace 8 meses

Me genera inquietud los parámetros con los que mides las creaciones de las AI, creo que parte de las creaciones de AI toman elemento de muchos artistas, pero al final es muy similar al proceso de referencias que se usa para crear diseños ..."todo es referencia de la referencia", ningún diseño parte desde cero y eso depende de la dirección de arte o del proyecto, teniendo en cuenta que veras muchos diseños parecidos en Behance, que talvez por azar pueden tener la misma referencia o items gráficos, inclusive hasta la misma categoría de productos.

Pensaría yo, que el debate debería partir desde otros puntos, tal vez relacionado a las habilidades, etc.

1
Retrato de Armin Castellón
5
Hace 8 meses

El punto central del artículo no es sobre los recursos de los cuales surgen las obras con inteligencia artificial, sino de la responsabilidad que se debe tener para evitar la desinformación y uso incorrecto de la misma al estar cerca de llegar a una etapa donde no se pueda diferenciar entre la realidad y lo creado por la misma.

0
Responder
Retrato de Abraham Zuko Leon
0
La semana pasada

Considero que como apoyo esta bien, pero llegar a extremos esta mal

0
Retrato de Marifer Fernández
1
La semana pasada

Considero que las nuevas creaciones que nos brinda la tecnología son muy útiles y funcionales, por que pueden servir de apoyo, para inspirarse, pero, nosotros solemos ser los responsables del mal manejo que les damos a estas. Esperemos que les den ante todo el reconocimiento a los verdaderos "artistas" y valoren sus trabajos y dejar de caer constantemente en el mundo del internet. Buen artículo.

0
Retrato de Alondra Maria Hernandez Redondo
0
Hace 7 semanas

Creo que la inteligencia artificial es similar a cualquier herramienta utilizada en la creación artística. Si bien puede ser una aliada para mejorar nuestras habilidades de dibujo, nunca podrá reemplazar por completo el valor único de una obra creada por un ser humano real. La autenticidad, las emociones, los pensamientos y el amor que un artista transmite a través de su pintura son incomparables. La inteligencia artificial puede ser útil para perfeccionar ciertos aspectos técnicos, pero la esencia y el alma de una obra de arte genuina siempre provienen de la mente y el corazón de una persona de verdad.

1

Te podrían interesar

Próximos seminarios online

Seminarios de actualización para especializarte junto a los que más saben

Estrategia de Marca

Estrategia de Marca

Claves para programar el diseño de símbolos y logotipos de alto rendimiento

20 horas (aprox.)
1 mayo

Tipología de Marcas

Tipología de Marcas

Criterios y herramientas para seleccionar el tipo adecuado al diseñar marcas

15 horas (aprox.)
1 mayo

Branding Corporativo

Branding Corporativo

Cómo planificar, construir y gestionar la marca de empresas e instituciones

20 horas (aprox.)
1 junio