Diseño de experiencia de usuario mediado por IA
Una discusión sobre la confianza como elemento clave en la consideración de factores éticos y morales en el diseño de experiencias multimediales mediadas por Inteligencia Artificial.
La Inteligencia Artificial (IA), como disciplina que surge de las ciencias informáticas, está alcanzando una influencia significativa en la industria, dado el resultado de su adopción en múltiples contextos. Esa tendencia puede observarse, incluso, en las proyecciones estimadas para 2030, que estiman que su contribución al producto interno bruto global será del 14%. Esas proyecciones consideran que China será la economía que alcanzará el mayor impacto de esta tendencia para ese mismo año, con una proyección del 26% en su PIB (PwC, 2017). En línea con lo anterior, el índice global de adopción de IA de IBM, sugiere que en comparación con el año 2021 se evidencia que un 13% más de compañías a nivel global, están interesadas en adoptar soluciones mediadas por IA, y que solo una de cada cinco compañías, no planea utilizar IA (IBM, 2022).
Aunque la discusión sobre la convergencia con disciplinas como la IA e Interacción Humano-Computador (HCI, de sus sigla en inglés Human-Computer Interaction) no es reciente, sí podemos afirmar que se vienen produciendo transformaciones sustantivas como resultado de la mediación de esta tecnología en distintas etapas del proceso de diseño de experiencias multimediales. Esto aporta una mayor base de fundamentación sobre la convergencia que beneficia de investigadores. Algunas de estas iniciativas están relacionadas con el proceso de diseño de la interfaz de usuario, o la definición de lineamientos que fundamentan una disciplina aún emergente, de Interacción Humano-IA (Amershi, y otros, 2019), o los estudios que discuten la influencia de la IA en el proceso de diseño de las experiencias de usuario (UX, de su sigla en inglés, user experience), realizados por compañías interesadas en el desarrollo de productos y servicios relacionados (Eriksson & Ali, 2020).
Factores éticos y morales en el diseño de experiencias multimediales mediadas por IA
Teniendo en cuenta las tendencias discutidas anteriormente, resulta inquietante definir cómo orientar el proceso de diseño de este tipo de soluciones teniendo en cuenta una serie de factores éticos y morales, que inviten al equipo responsable del diseño a realizar un proceso responsable. La comunidad de investigadores viene abordando una serie de lineamientos en áreas relacionadas, como por ejemplo, la computación afectiva (Shahriari & Shahriari, 2017).
Asimismo, no solo se ha venido abordando la definición de estándares, sino también la generación de enfoques de trabajo que motiven a los equipos de diseñadores, por medio de estrategias lúdicas y de trabajo colaborativo, a conducir procesos de diseño responsable, considerando factores éticos (Ballard, Chappell, & Kennedy, 2019). Algunos de los enfoques teóricos considerados como referentes para la generación de estas metodologías de trabajo, son el Diseño Sensible al Valor (Friedman & Hendry, 2019) y el Diseño de Ficción (Baumer, y otros, 2018).
La confianza como factor clave para la discusión acerca de los lineamientos relacionados con factores éticos y morales
¿Qué nos hace sentir confianza en otras personas? Esta pregunta puede sugerir un «caleidoscopio» de respuestas por parte de distintas personas, las cuales pueden estar asociadas a sus experiencias previas, su cultura, su formación, su contexto vivencial, entre muchos otros factores que potencialmente influirán en la respuesta.
En el caso de la dimensión asociada con la construcción de confianza en la relación entre Humano-IA, es una discusión actual, abierta y que conduce a diversos desafíos para los investigadores interesados en el diseño de UX mediado por IA, que es importante precisar. Es una discusión que parte desde una base de fundamentación alimentada por distintos referentes. Por ejemplo, el estudio adelantado por Ericsson acerca del diseño de UX en IA, sugiere las dimensiones de competencia, benevolencia y apertura, integridad y carisma, como las principales al momento de construir un modelo de relación de confianza Humano-IA (Eriksson & Ali, 2020).
En el contexto de las ciencias de la salud, algunos autores sugieren que las dimensiones más frecuentemente identificadas con la confianza en los sistemas de salud, son: la honestidad, la competencia, la fidelidad, la confidencialidad y la confianza global del sistema (de salud), mientras que la seguridad, la equidad y la comunicación, son dimensiones identificadas con la confianza en el entorno de investigación (Wilkins, 2018).
Aunque algunas de estas dimensiones podrían potencialmente considerarse como base para la definición de una serie de lineamientos prácticos para abordar el proceso de diseño que venimos analizando, aún no estamos en condiciones de precisarlos como patrones universales.
Sin embargo, sí deberíamos partir de una clasificación preliminar para caracterizar diferentes niveles de relación de confianza que deben darse en el proceso de diseño UX, principalmente cuando se deben diseñar relaciones e interacciones Humano-IA:
- las dimensiones asociadas a un nivel de construcción de confianza entre los integrantes de un equipo de diseño (que permiten construcción de confianza entre el equipo de diseño y los interesados), y
- las dimensiones de confianza entre humano-IA, entendiéndose para este caso, las relacionadas con el diseño de un sistema multimedia interactivo mediado por IA.
Para que un equipo de diseño pueda discutir con objetividad y transparencia el el cumplimiento (o no) de consideraciones éticas y morales de la UX, es necesario previamente definir y acordar cuáles son las dimensiones que pueden garantizar que este proceso se lleve a cabo de manera satisfactoria, efectiva y eficiente. Asimismo, se requiere una construcción de confianza entre los interesados y el equipo de diseño, como un elemento fundamental que contribuye a una retroalimentación efectiva durante todo el ciclo de vida del proceso de diseño, construcción y lanzamiento de la solución.
Por último, es necesario definir las dimensiones de confianza que contribuyen de manera favorable, a la relación Humano-IA, no solo a nivel de usuario-sistema, sino también cómo la IA puede asistir el proceso de diseño UX y cómo hacer un manejo adecuado de los factores éticos y morales que inciden en el proceso. Por ejemplo: cómo un equipo de diseño se enfrenta a la oportunidad de apoyar su proceso creativo de ideación e ilustración con sistemas asistidos por IA (Ramesh, Dhariwal, Nichol, Chu, & Chen, 2022), que aporten favorablemente a la posterior generación de prototipos de la solución. La discusión, queda abierta.
¿Qué te pareció? ¡Comparte tu opinión ahora!
Este video podría interesarte👇👇👇
Colabora con la difusión de este artículo traduciéndolo
Traducir al inglés Traducir al italiano Traducir al portugués- Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., . . . Horvitz, E. (2019). Guidelines for Human-AI Interaction. The ACM CHI Conference on Human Factors in Computing Systems (pp. 1-13). Glasgow, UK: ACM.
- Ballard, S., Chappell, K. M., & Kennedy, K. (2019). Judgment Call the Game: Using Value Sensitive Design and Design Fiction to Surface Ethical Concerns Related to Technology. Proceedings of the 2019 on Designing Interactive Systems Conference (pp. 421-433). New York: ACM.
- Baumer, E. P., Berrill, T., Botwinick, S. C., Gonzales, J. L., Ho, K., Kundrik, A., & Weinfeld, B. (2018). What would you do? Design fiction and ethics. Proceedings of the 2018 ACM Conference on Supporting Groupwork (pp. 244-256). Sanibel Island, Florida, USA: ACM.
- Eriksson, M., & Ali, A. (2020). UX design in AI A trustworthy face for the AI brain. Stockholm, Sweden: Ericsson.
- Friedman, B., & Hendry, D. (2019). Value Sensitive Design: Shaping Technology With Moral Imagination. Boston, Massachusetts: MIT Press.
- IBM. (2022). IBM Global AI Adoption Index 2022. Armonk, NY.: IBM Corporation.
- PwC. (2017). Sizing the prize What’s the real value of AI for your business and how can you capitalise? PwC.
- Ramesh, A., Dhariwal, P., Nichol, A., Chu, C., & Chen, M. (2022). Hierarchical text-conditional image generation with CLIP latents. arXiv preprint arXiv:2204.06125.
- Shahriari, K., & Shahriari, M. (2017). IEEE standard review—Ethically aligned design: A vision for prioritizing human wellbeing with artificial intelligence and autonomous systems. 2017 IEEE Canada International Humanitarian Technology Conference (IHTC). Toronto: IEEE.
- Wilkins, C. (2018). Effective Engagement Requires Trust and Being Trustworthy. Medical Care, S6-S8.
Este artículo no expresa la opinión de los editores y responsables de FOROALFA, quienes no asumen responsabilidad alguna por su autoría y naturaleza. Para reproducirlo, salvo que estuviera expresamente indicado, por favor solicitar autorización al autor. Dada la gratuidad de este sitio y la condición hiper-textual del medio, agradeceremos evitar la reproducción total en otros sitios Web. Publicado el 03/01/2023
