Creación de imágenes con IA

El abuso de la inteligencia artificial (IA) para la generación de imágenes

¿Qué sucede cuando los generadores de imágenes mediante inteligencia artificial caen en manos equivocadas?

Armin Castellón, autor AutorArmin Castellón Seguidores: 4

Ilustración principal del artículo El abuso de la inteligencia artificial (IA) para la generación de imágenes

Los más recientes avances tecnológicos hoy nos enfrentan a grandes cambios en la forma en que nos relacionamos y realizamos nuestro trabajo, e incluso en nuestra visión del mundo. La información que consumimos se encuentre al alcance de todos; y aunque estos cambios representen una enorme ventaja para la evolución humana, al dejar obsoletas o en segundo plano algunas practicas anteriores y medios menos eficaces, se hace necesario reflexionar sobre las amenazas o riesgos que conllevan estos avances.

Para bien o para mal la libertad que ofrece Internet y que todos amamos, pone un primer riesgo sobre la mesa: la desinformación. Cualquier persona con mínimos recursos e incluso pocos conocimientos puede compartir contenido en las redes sociales y en la web, que muchas veces es consumido como si fuera cierto, verificable. Sin embargo, recordemos la frase famosa de Marco Aurelio: «Todo lo que escuchamos es una opinión, no un hecho. Todo lo que vemos es una perspectiva, no la verdad». Es necesario tener conciencia y juicio propios sobre toda información que se nos presenta.

¿Cómo funciona la inteligencia artificial que genera imágenes?

El boom de las llamadas inteligencias artificiales (IA) y la generación de imágenes ya está generando polémica. Una de las herramientas de IA que permite generar imágenes, probablemente la más popular en estos días, es Midjourney, que puede generar imágenes increíbles en poco tiempo. Pero... ¿cómo funciona?

Midjourny es un sistema de machine learning que se alimenta de infinidad de imágenes preexistentes. Adicionalmente, el usuario también puede introducir imágenes como referencia de lo que busca producir. A partir la cantidad inabarcable de información con la que el sistema cuenta, y respondiendo al pedido escrito del usuario, esta herramienta extrae partes de aquellas imágenes, y con esos fragmentos crea una nueva imagen, muchas veces de muy alta calidad. En ocasiones produce resultados imperfectos, y esto se debe a que en realidad no comprende lo que está haciendo; pero la velocidad con la que responde y la calidad promedio de los resultados son realmente sorprendentes. El único límite de cualquier inteligencia artificial reside en la cantidad de imágenes que se le introduzcan para «entrenarla».

¿Cuál es la fuente de inspiración de la inteligencia artificial?

El asunto comienza a tornarse extraño cuando nos enteramos que estas imágenes con las que se alimenta a estos sistemas son contenidos creados y compartidos en internet por artistas, fotógrafos, ilustradores y diseñadores gráficos, que jamás dieron su consentimiento para ese fin. Es cierto que las imágenes que crea la inteligencia artificial son nuevas y requieren de una redacción particular por parte de quien las requiere, pero también es cierto la máquina no podría crearlas sin contar con las obras de las que se la nutre, cuyos creadores no reciben compensación ni crédito por su aporte fundamental.

En alguna medida esta nueva tecnología cometería una suerte de «plagio» aún no previsto por la Ley, pues el plagiado nunca es un individuo en particular sino, probablemente, muchísimos artistas y profesionales en forma simultánea. Tal vez el error fatal de los perjudicados haya sido compartir su trabajo de forma abierta, algo que hasta ahora nadie se cuestionaba como un problema.

Los nuevos «artistas de la IA»

Paralelamente va surgiendo un nuevo tipo de «artista de la Inteligencia artificial», que en realidad utiliza esta herramienta que hace casi todo el trabajo por él. Es cierto que este individuo puede recopilar y aportar imágenes para alimentar a la inteligencia artificial e indicar por medio de comandos verbales qué dibujar, tal como lo hace un ilustrador comisionado que recibe un pedido de su cliente. Pero en este caso ¡es gratis! y el trabajo final es una obra que surge del azar de combinar esas miles de imágenes. ¿Está bien que estos nuevos «aristas» se atribuyan la autoría de las imágenes generadas por la IA?

De todos modos, las imágenes generadas por IA aún son fáciles de reconocer por sus desproporciones, deformidades, malas composiciones, elementos flotantes, malas transiciones de forma, desenfoques extraños, formas y patrones orgánicos muy azarosos y asimétricos. Es común ver personajes con dedos de más o pies que parecen tubérculos, pero muchas veces estos «artistas de IA» ni se toman ni el trabajo de mejorar lo que la inteligencia artificial les pone en bandeja. ¿Aún así merecen llamarse artistas?

Últimamente he notado algunos de estos nuevos artistas de la IA, que, al igual que los desinformadores comunes de internet, buscan atención y reconocimiento por medio de sus falsas creaciones, se vanaglorian de un producto ajeno creado por una IA y se atribuyen el crédito de dichas obras a las que incluso les colocan marcas de agua y símbolos de copyrigth.

Pero la IA también puede caer en las manos correctas. Existen artistas y diseñadores que están aprovechándola como herramienta de prueba y como una fuente de inspiración. No buscan que la inteligencia haga su trabajo para presentarlo como propio, sino que la utilizan como un recurso más en el proceso de creación, fundamentalmente para probar rápidamente el potencial de ideas de composición, combinaciones de elementos y colores, para luego realizar un trabajo «como corresponde». Ese uso sí sería correcto y aplaudo a esos profesionales.

Navegando en la web me topé con los trabajos de Johan Peterson, un artista de IA. Los trabajos que presenta cómo suyos son visualmente bellos, pero en ellos pueden observarse los clásicos errores visuales que mencione anteriormente. Un problema que noto es que en los portales donde los publica no se menciona que son imágenes generadas por IA, y lo más triste es que el público cree que son ilustraciones originales o fotografías de estudio reales. El público no sabe distinguir la diferencia y creo que esto puede ser peligroso.

Otro trabajo reciente que noté es un portal en el que se muestran fotografías de animales generadas con IA (imágenes digitales que ya no son una fotografía), animales inexistentes y de colores imposibles para sus especies. Por supuesto que las personas inteligentes y que conocen las IA entienden que son imágenes falsas, pero me impactó ver la cantidad inmensa de personas convencidas de que esos animales son reales y exclaman que «La naturaleza es asombrosa». Lo único asombroso es la ignorancia humana y el hecho de que la situación con las imágenes generadas por IA está comenzando a salirse de control.

¿Cuál es el futuro de la generación de imágenes con IA?

La IA, como cualquier herramienta, es buenas en las manos correctas de gente honesta que sabe cómo utilizarla, pero en manos incorrectas los riesgos podrían ser muy altos. Habrá que ver si es posible establecer algún tipo de regulación de esta tecnología, tanto para los usuarios como para sus desarrolladores. Para empezar sería fundamental que la herramienta especifique cuáles son las fuentes utilizadas para la creación de la imagen, y, mas lo importante, que se aclare que es una imagen generada por inteligencia artificial para no confundirla con una creación original.

Aparentemente se está llegado a un convenio internacional mediante el cual las imágenes generadas por IA deberán ser consideradas de «dominio público», ya que las obras son en realidad una combinación de extractos de trabajos de otros artistas procesadas por una máquina. En ese sentido, estas imágenes no podrán ser consideradas un producto comercial o protegido por derechos de autor.

Quizás en un futuro sea imposible distinguir la obra creada por la máquina de la obra del sere humano. O tal vez eso no suceda nunca. Todavía es pronto para vaticinar una cosa o la otra.

¿Qué te pareció? ¡Comparte tu opinión ahora!


Opiniones:
28
Votos:
26

Este video podría interesarte👇👇👇

Colabora con la difusión de este artículo traduciéndolo

Traducir al inglés Traducir al italiano Traducir al portugués
Código QR de acceso al artículo El abuso de la inteligencia artificial (IA) para la generación de imágenes

Este artículo no expresa la opinión de los editores y responsables de FOROALFA, quienes no asumen responsabilidad alguna por su autoría y naturaleza. Para reproducirlo, salvo que estuviera expresamente indicado, por favor solicitar autorización al autor. Dada la gratuidad de este sitio y la condición hiper-textual del medio, agradeceremos evitar la reproducción total en otros sitios Web. Publicado el 30/08/2023

Descargar PDF

Ilustración principal del artículo ¿White washing o estilización de color?
¿White washing o estilización de color? La Ilustración y sus posibilidades de estilo están siendo atacadas por supuestos voceros de lo políticamente correcto que obviamente no saben nada sobre color.

Debate

Logotipo de
Tu opinión

Ingresa con tu cuenta para opinar en este artículo. Si no la tienes, crea tu cuenta gratis ahora.

Retrato de Karen ✨✨
0
La semana pasada

De la misma forma que un ilustrador, diseñador aprende también mirando el trabajo de otros, todo este escrito es una obviedad.

1
Retrato de Armin Castellón
4
La semana pasada

Para una respuesta donde solo te basas en sólo uno de aspectos del artículo la verdad dudo que lo hayas leído todo.

0
Retrato de Karen ✨✨
0
La semana pasada

El tema que presentas ya ha sido ampliamente discutido, y tu enfoque es bastante introductorio. Reconozco que para algunos, este artículo podría ser un primer acercamiento y su influencia en la generación de imágenes. Por otro lado, no veo necesario poner en duda que he leido tu escrito, apreciar las distintas perspectivas es fundamental, tampoco es una tesis.

0
Retrato de Armin Castellón
4
La semana pasada

Cómo dices, es importante respetar las perspectivas y opiniones de todos. Sin embargo, en tu primer comentario, parece ser más una queja que no contribuye al tema que estamos discutiendo. Como mencionaste igual en el mensaje anterior, este tema puede ser desconocido para algunas personas, aunque te resulte sorprendente. Recuerda que no todos tienen la misma experiencia, y es esencial mantener la conversación enfocada en el objetivo principal: generar conciencia sobre este tema. Te sugiero considerar si tus comentarios aportan constructivamente la próxima vez que participes en una conversación.

2
Retrato de Karen ✨✨
0
La semana pasada

Perdona por pensar que una artículo de foroalfa tendría más altura al igual que tu respuesta.

0
Retrato de Armin Castellón
4
La semana pasada

"un" artículo de ForoAlfa

1
Retrato de Nicole M.
0
La semana pasada

Karen Lopez para ti será obvio 🙄 pero para el resto que el tema es bastante NUEVO, estudiantes de artes y diseño NO LO ES!

Que pena que una DOCENTE con 23 años de trayectoria opine cosas tan DESTRUCTIVAS y nada constructivas.

2
Retrato de Karen ✨✨
0
La semana pasada

Que nivel.

0
Retrato de Raúl Jaramillo Bustamante
10
La semana pasada

... un mundo donde los que contradicen tengan la razón se llamaría Tiranía, su doctrina la cancelación. Me parece que ForoAlfa, conceptualmente, es un foro. Dicho esto, si no es grato un tema ¿porqué aportar aristas cuando se puede compartir conocimiento, buen criterio? Gracias por tu aporte Armin, algunos de los que hemos leído tus textos, me incluyo, no tenemos mayor conocimiento de este asunto del que recién apreciamos algún detalle y me declaro poco conocedor del tema, por lo tanto agradezco el aperitivo que nos has compartido. Un abrazo.

1
Responder
Retrato de Alejandro D’aleman Zamudio
0
Hace 3 semanas

Gran reflexión, las IA se han instalado en todos los ámbitos, hasta en las leyes, imagínense una IA dictando sentencias. Es obligatorio comprender que en todo proceso de acoplamiento a las nuevas tecnologías es normal que la curiosidad humana surja y se creen nuevas formas de utilizar dichas tecnologías, y no está mal. En definitiva el hombre siempre ha logrado superar esos avances y ha logrado comprender el límite y, después de dominarlo, su curiosidad lo lleva a crear otras nuevas formas de facilitar sus procesos, creería que eso se llama evolución.

2
Retrato de Andres Sotelo
0
Hace 3 semanas

Ya esta ocurriendo Alejandro.

Mira este artículo: https://www.ambito.com/mundo/i...

1
Retrato de Alejandro D’aleman Zamudio
0
Hace 3 semanas

Precisamente, el fallo lo dio un juez apoyándose en la tecnología, el punto es la decisión, el juez tiene el albedrío de utilizar o no parte o la totalidad del escrito según su criterio, la humanidad en la decisión no es nula, la consciencia del hombre todavía está latente. El uso de la tecnología es un simple paso para sentencia, es una herramienta en manos de un profesional.

0
Responder
Retrato de Raúl Jaramillo Bustamante
10
Hace 3 semanas

… parafraseando a Fukuyama me atrevería a decir el final del asombro.

No imagino el alcance a nivel cognitivo de la parálisis o la incapacidad de asombrarse frente a una imagen, tal vez la actividad analítica? No se. No es un problema de estética solamente, es como si el lenguaje común perdiese parte de su espacio para comunicar. Por ejemplo la palabra «épico», un adjetivo que refiere a lo que marca un momento histórico, impresionante, memorable hoy se ve reducida a la descripción de un momento que podría ser banal.

En ese sentido, la imagen AI podría, reiteró «podría» por terminar de banalizar a la imagen como recurso de asombro, pudiendo pasar a un rol secundario, ilustrativo.

Es un nuevo sendero el que transitamos, quizás a nuevos ámbitos de la comunicación que no me atrevo a definir. Es terreno nuevo, inhóspito hasta cierto punto.

Bueno, estas palabras son tan solo una reflexión muy personal desde una interesante reflexión muy bien expuesta por el autor de este post. Gracias Armin.👍

1
Retrato de Armin Castellón
4
Hace 3 semanas

Igualmente gracias por tu aporte, concuerdo, es un terreno completamente nuevo e inexplorado, solo se puede especular con lo que puede traer aunque por el momento va pintando un panorama peligroso.

2
Responder
Retrato de Marcela Marzocchi
0
Hace 3 semanas

Me gusta que plantees el tema de la responsabilidad y lo de la desinformación que tiene alcance en muchísimos planos, es bueno dar esos debates, es bueno saber que no todo lo que se ve es verdad, es muy bueno que desarrollemos el pensamiento crítico para usar las herramientas. Saludos.

2
Retrato de Armin Castellón
4
Hace 3 semanas

Muchas Gracias, es cierto que las IAs pueden ser herramientas útiles en el proceso creativo, pero no pueden reemplazar el valor de algo creado desde la creatividad Humana. Hay que buscar una forma de que no se use está tecnología para crear imágenes que engañen o que se hagan pasar por creaciones propias o fotografías reales.

0
Responder
Retrato de Yeferson Tovar
0
Hace 3 semanas

Me genera inquietud los parámetros con los que mides las creaciones de las AI, creo que parte de las creaciones de AI toman elemento de muchos artistas, pero al final es muy similar al proceso de referencias que se usa para crear diseños ..."todo es referencia de la referencia", ningún diseño parte desde cero y eso depende de la dirección de arte o del proyecto, teniendo en cuenta que veras muchos diseños parecidos en Behance, que talvez por azar pueden tener la misma referencia o items gráficos, inclusive hasta la misma categoría de productos.

Pensaría yo, que el debate debería partir desde otros puntos, tal vez relacionado a las habilidades, etc.

1
Retrato de Armin Castellón
4
Hace 3 semanas

El punto central del artículo no es sobre los recursos de los cuales surgen las obras con inteligencia artificial, sino de la responsabilidad que se debe tener para evitar la desinformación y uso incorrecto de la misma al estar cerca de llegar a una etapa donde no se pueda diferenciar entre la realidad y lo creado por la misma.

0
Responder
Retrato de Martín Sanchez
0
La semana pasada

Gracias, Armin, por el artículo. Como suele suceder con la mayoría de las creaciones humanas, todo depende del uso que se haga de ellas. Basta con recordar lo que ocurrió con el invento de Nobel y lo que está sucediendo hoy en día con las famosas IAs.

Les comparto una anécdota, hace poco me compartieron un material fotográfico de un diseñador, quien —según me comentó el cliente— había hecho bordar artesanalmente unos tejidos para un proyecto editorial. Sin embargo, al revisar varias de las imágenes, noté que algo no encajaba. Finalmente, descubrí en una de las imágenes el logo del "generador de imágenes", lo que puso fin a mi admiración por el dedicado trabajo del colega.

¡Bienvenido el debate real sobre el manejo de lo artificial!

1
Retrato de Iliana Lorán
0
Iliana Lorán
Hace 2 semanas

Es un tema muy interesante al igual que los tiempos que estamos viviendo, me gusta la idea de lo que fue creado con IA se vuelva del dominio público, de esta manera se solucionan las cuestiones de derechos de autor y se da rienda a la imaginación y a «compartir» que es a lo que hoy debemos nuestra mayor atención y oportunidad, a dar conocimiento, arte y todo lo que podamos. Por otro lado esta la cuestión que mencionas de la creación de animales que no existen y algunas personas llegan a creer que es una rara especie, la ignorancia y desinformación son parte de la vida y cada uno debe ser cada vez más consiente para darse cuenta o investigar al respecto, no se debe ejercer un control para todo, cada cual debe incrementar su proceso de crecimiento para darse cuenta de lo que es real.

0
Retrato de Ariel Cross Martinez
0
Hace 3 semanas

Actualmente google lanzó una herramienta que reconoce las obras generadas por AI.

2
Retrato de Daniell Flain
1
Hace 3 semanas

Como nos regalaba Quino a través de la siempre vigente Mafalda: "¿El acabose? No exagere, solo es el continuose del empezose de ustedes"

Cada época tuvo sus miedos, riesgos, desafíos y oportunidades. La clave en mi humilde opinión, es la capacidad de conservar el pensamiento (y actitud) crítica. En todo y en todo tiempo las herramientas se usaron y se usarán para bien o para mal, y sin entrar en que deberíamos acordar qué es bien y qué es mal, nos queda nuestra decisión personal de ser consecuentes a lo que pensemos.

Por otro lado, mientras tanto suceden cosas que por ahí no tienen tanta prensa:

https://es.euronews.com/next/2...

1
Retrato de Marina Rivero
0
Hace 3 semanas

Gracias por dedicar tiempo a debatir sobre esta nueva realidad, sus ventaja y sus problemas. Me parece que nuestra sociedad todavía vea las nuevas tecnologías como mágicamente poderosas y olvida que el verdadero valor detrás sigue estando en la fuerza creadora de los seres humanos.

1

Te podrían interesar

Próximos seminarios online

Seminarios de actualización para especializarte junto a los que más saben

Auditoría de Marca

Auditoría de Marca

Taller de práctica profesional: análisis, diagnóstico y programa de marca sobre casos reales

30 horas (aprox.)
1 octubre

Relecturas del Diseño

Relecturas del Diseño

Una inmersión en el discurso sobre el diseño para despejar sus nociones más controvertidas: creatividad, innovación, arte, tecnología...

20 horas (aprox.)
1 octubre

Branding: Diseñador y Cliente

Branding: Diseñador y Cliente

Tratar con el cliente, hacer presupuestos y planificar las etapas de la creación de una marca

15 horas (aprox.)
1 octubre