Etiqueta: AI

Sesgos, las Fuerzas Ocultas de la Toma de Decisiones

en por Soraya Carvajal Baronaen Actualidad, Economía, TecnologíaDeja un comentario
Foto de Jr Kropa, Unsplash.

Por: Soraya Carvajal B.

En el panorama competitivo actual, ya sea en tecnología, finanzas o retail, crear productos y servicios que realmente conecten con las personas es primordial. En el Diseño de Experiencia de Usuario (UX) hay un principio fundamental: la absoluta necesidad de colocar al usuario en el centro de cada decisión de diseño para satisfacer sus necesidades de manera efectiva.

Sin embargo, lograr esto requiere algo más que buenas intenciones y procesos optimizados. Exige una comprensión profunda de las corrientes psicológicas invisibles que moldean el comportamiento humano: los sesgos cognitivos. Estos patrones sistemáticos de desviación del juicio racional no son solo conceptos psicológicos abstractos; son fuerzas poderosas que influyen activamente en el razonamiento, el juicio y la toma de decisiones en todas las industrias.

Desde la forma en que se comercializa un producto y cómo se enmarca un servicio, hasta las propias funciones que se priorizan durante su desarrollo, los sesgos cognitivos juegan un papel crítico. Reconocerlos es el primer paso para diseñar experiencias de usuario más intuitivas, éticas y exitosas.

Entre los sesgos más comunes que se deben tener en cuenta se encuentran el sesgo de confirmación, el efecto de encuadre y la falacia del coste hundido. Comprender a estos influenciadores ocultos ya no es solo una ventaja, sino un componente esencial del pensamiento estratégico y del diseño centrado en el usuario en el mundo moderno.

Sesgo Cognitivo: Un sesgo cognitivo es un patrón sistemático de desviación del juicio racional. Nuestro cerebro utiliza estos atajos mentales (heurísticos) para simplificar la toma de decisiones, pero a menudo conducen a una distorsión perceptual, una valoración inexacta y una interpretación ilógica.

  • Efecto de Ambigüedad: La tendencia a evitar opciones para las que la probabilidad de un resultado favorable es deconocida, en favor de opciones donde la probabilidad es conocida, incluso si es menor.

Ejemplo: A un usuario se le presentan dos planes de suscripción. El Plan A indica claramente «Música ilimitada por 9,99 €/mes». El Plan B dice «Pago por uso, el coste varía según lo que escuches». La mayoría de los usuarios elegirá el Plan A para evitar la ambigüedad y la imprevisibilidad potencial del coste del Plan B.

  • Ilusión de Agrupamiento: La tendencia a percibir patrones en eventos aleatorios o a ver agrupaciones en muestras pequeñas de datos donde no existe un patrón real.

Ejemplo: Un desarrollador de aplicaciones ve que el engagement de los usuarios se disparó dos martes consecutivos. Podría suponer incorrectamente que los martes son inherentemente mejores para lanzar nuevas funciones, ignorando que los picos probablemente se debieron a eventos aleatorios no relacionados, como una publicación viral en redes sociales.

  • Sesgo de Confirmación: La tendencia a buscar, interpretar, favorecer y recordar información que confirma o apoya las creencias o valores preexistentes de uno.

Ejemplo: Un product manager que cree que un nuevo botón rojo de «Comprar Ahora» funcionará mejor, prestará atención principalmente a los datos del test A/B (prueba por redirección, que permite comparar dos versiones de algo) que muestran un leve aumento en las conversiones del botón rojo, mientras que restará importancia o desestimará los datos que no muestran ningún cambio significativo o incluso una disminución.

Sesgo Cultural: La tendencia a juzgar e interpretar fenómenos a través del lente de las normas y prácticas culturales propias, lo que lleva a malentendidos o a un diseño inapropiado para otras culturas.

Ejemplo: Una aplicación global de entrega de comida utiliza un icono de pulgar hacia arriba para significar una reseña positiva de un restaurante. Sin embargo, en algunas partes de Oriente Medio y África Occidental, este gesto puede considerarse ofensivo. Lanzar la aplicación con este icono sin adaptación cultural crearía una barrera para los usuarios en esas regiones.

  • Sesgo de Falso Consenso: La tendencia a sobrestimar el grado en que los demás comparten nuestras creencias, opiniones y comportamientos.

Ejemplo: Un equipo de desarrollo, formado por personas expertas en tecnología, diseña una nueva aplicación con un sistema de navegación complejo basado en gestos. Dan por sentado que es intuitivo porque a ellos les parece lógico, solo para descubrir que la mayoría de su base de usuarios, menos técnica, se siente confundida y frustrada.

  • Efecto de Encuadre: La tendencia de las personas a que sus decisiones se vean influenciadas por cómo se presenta la información (por ejemplo, como una pérdida o una ganancia) en lugar de basarse solo en la información en sí.

Ejemplo: Una empresa descubre que presentar su precio como «¡Ahorra 50 € al año!» es más efectivo para convertir usuarios que presentarlo como «Solo 4,99 € al mes», aunque el valor financiero sea idéntico. El encuadre de «ahorro» es más poderoso.

  • Error Fundamental de Atribución: La tendencia a sobre-enfatizar explicaciones basadas en la personalidad para los comportamientos de los demás, mientras se subestiman los factores situacionales.

Ejemplo: Un diseñador ve en los análisis que muchos usuarios abandonan un formulario de registro complejo. El diseñador podría pensar: «Los usuarios son vagos» (una atribución personal) en lugar de considerar que el formulario es demasiado largo y pide información innecesaria (un factor situacional).

  • Sesgo de Retrospectiva: La tendencia a ver los eventos pasados como haber sido predecibles y obvios, resumida a menudo por la frase «ya lo sabía».

Ejemplo: Después de que una nueva consola de videojuegos se agote al instante debido a una demanda sin precedentes, causando caídas de la web, los críticos afirman que la empresa obviamente debería haber preparado más servidores. Esto ignora el hecho de que predecir con precisión una carga tan masiva y en tiempo real es extremadamente difícil, y el resultado solo parece obvio en retrospectiva.

  • Sesgo Implícito y Sesgo Racial: Sesgo Implícito se refiere a las actitudes o estereotipos que afectan a nuestra comprensión, acciones y decisiones de manera inconsciente. Sesgo Racial es una forma específica de sesgo implícito relacionado con la raza.

Ejemplo (Implícito): Un algoritmo de recorte de imágenes, entrenado con un conjunto de datos predominantemente de una etnia, se centra y prioriza constantemente los rostros de esa etnia, recortando o representando incorrectamente a personas de otras razas. Esto refleja el sesgo inconsciente en sus datos de entrenamiento.

Ejemplo (Racial): Una IA de «belleza» o un filtro que aclara automáticamente el tono de la piel o altera los rasgos faciales para ajustarse a un estándar racial específico demuestra un sesgo racial claro y dañino.

  • Efecto de Posición Serial: La tendencia a recordar mejor los primeros (efecto de primacía) y los últimos (efecto de recencia) elementos de una serie.

Ejemplo: En una lista de películas recomendadas en un servicio de streaming, es más probable que los usuarios recuerden y hagan clic en los primeros y últimos títulos mostrados. Las películas en medio de la lista, a pesar de ser igual de relevantes, reciben menos atención.

  • Sesgo de Deseabilidad Social: La tendencia a responder a preguntas o tomar decisiones de una manera que será vista favorablemente por los demás, lo que a menudo lleva a informar en exceso sobre el comportamiento «bueno» y a sub-reportar el «malo».

Ejemplo: En las encuestas, las personas pueden exagerar la frecuencia con la que usan una aplicación de «alimentación saludable» o informar menos del tiempo que pasan en juegos de redes sociales, porque esa es la respuesta socialmente deseable.

  • Falacia del Coste Hundido/Irrecuperable: La tendencia a continuar con un proyecto o persistir en el uso de un producto una vez que se ha realizado una inversión de dinero, esfuerzo o tiempo, incluso si los costes actuales superan los beneficios.

Ejemplo: Un usuario continúa pagando un software de gestión de proyectos premium año tras año, aunque su equipo lo considere inadecuado y no lo use. Siente que ha «invertido» demasiado tiempo en aprenderlo y migrar sus datos como para dejarlo, por lo que el coste hundido lo mantiene suscrito.

  • Sesgo del Superviviente: La tendencia a centrarse en las personas o cosas que «sobrevivieron» a un proceso y pasar por alto inadvertidamente aquellas que no lo hicieron debido a su falta de visibilidad.

Ejemplo: Un equipo de producto solo recopila feedback de los usuarios actuales y activos de su aplicación para planificar nuevas funciones. Esto ignora las necesidades y razones de los usuarios que probaron la aplicación y la abandonaron. Al solo escuchar a los «supervivientes», el equipo desarrolla una comprensión distorsionada de lo que el mercado realmente quiere y por qué la gente abandona el producto.

Comprender estos sesgos es crucial para diseñar mejores productos, interpretar con precisión los datos de los usuarios y tomar decisiones empresariales más racionales.

Si desea profundizar en este tema: «Pensar rápido, pensar despacio», de Daniel Kahneman.

Driving Change: Women in Tech Exploring the Way in the AI Revolution

en por Soraya Carvajal Baronaen Sin categoríaDeja un comentario
From left to right: Macarena Estévez, Julia Hartz, CEO of Eventbrite; Nerea Luis and Esther Paniagua.

In the ever-evolving world of Artificial Intelligence (AI), where novelty meets uncertainty, the «Women in Tech – Fireside Chat about AI«, an event organized by Eventbrite that took place in Madrid, offered a glimpse into the present and possible future of the AI revolution.

The panel led by Eventbrite CEO, Julia Hartz, brought together Macarena Estévez, Nerea Luis and Esther Paniagua, three of Spain’s most prominent voices on LinkedIn, who engage in thoughtful discussions and pitch ideas, addressing both the doubts and fears surrounding AI and the opportunities it presents.

The group emphasized the need to embrace AI as a reality and recognized its potential downsides (e.g. job displacement, bias and discrimination, ethical concerns, lack of transparency, security risks, social interactions) while maintaining faith in human intelligence and the opportunities that industry, education, healthcare or the start-up sector are in.

One area of ​​interest has been social media, where AI can play a central role in connecting people and facilitating interactions, for example through recommender systems, rather than building a dystopian future where we are all disconnected and isolated. Another aspect explored during the event was the integration of AI across industries. 

Nerea Luis, AI expert, highlighted how AI can connect different industries and people involved in the whole process, revolutionize workflows and drive innovation. She highlighted the importance of multidisciplinary collaboration between engineers, software developers, computational linguists, journalists, marketers, and more

Machine learning operations also caught the eye as this expert explored the potential of strategies to retrain models and ensure their continuous improvement, given the importance of keeping models alive and adaptable to evolving data, optimizing their performance to stay relevant in dynamic environments.

Transparency and accountability were key issues discussed at the event. Nerea Luis points out the potential of writing documents with clear explanations of the experimentation process, thus contributing to the transparency of AI development. By documenting the decision-making behind AI systems, biases can be better identified and mitigated, leading to more responsible AI technologies.

The significance of auditing processes in technology was also discussed. Esther Paniagua underlined the importance of implementing rigorous audit procedures so that potential risks and biases can be identified and adequately addressed.

Career opportunities

The event also shed light on emerging career opportunities at the intersection of social sciences and computer science. Paniagua underscored the importance of combined degrees that blend disciplines such as natural language processing, computational linguistics, AI and biotechnology, IA and business, etc. These interdisciplinary careers could hold enormous potential in driving innovation, leveraging AI for societal advancements and respond to the new realities and challenges around us.

Macarena Estévez recognized the growing importance of job creation to ensure the ethical development of AI and to control or mitigate biases to enable a more inclusive and responsible AI ecosystem.

Another aspect the experts emphasized was the crucial role of the Open Source Community in improving the AI landscape. Thus, Nerea Luis recognized the strong community engagement, as well as the powerful movement of sharing AI models, repositories and collaborative work. 

The panelists also stressed the need for governments to play a decisive part in regulatory matters and protect people from the potential negative impacts of AI. They also accentuated the position citizenship should play in demanding responsible governance, so human beings can live with dignity in the face of technological advancements.

Speakers expressed concern about placing all decision-making power exclusively in the hands of big corporations. Therefore, they called for balanced regulations ensuring that AI technologies are developed and used responsibly, with due consideration for ethical, societal, and privacy concerns. 

In light of the rapidly evolving AI landscape, these experts highlighted the need to embrace a lifelong learning approach and upskilling to adapt to the changing technological scenario. 

The expert panel also spotlighted new opportunities in the Spanish start-up ecosystem, showcasing the potential of generative AI, as well as advances in Sport tech, where AI can be used to analyze training and practice, transforming the way users improve their performance. Additionally, they discussed the promising prospects on computer vision and the transformative potential of AI in generating images, despite the ongoing debate related to property rights.

The intersection of AI and blockchain also sparked the panelists’ interest, as they discussed the options of combining these two technologies. Besides, the speakers drew attention to the emerging «one-person start-up» approach, where an entrepreneur can create a start-up and support its management with AI tools.

The «Women in Tech – Fireside Chat about AI» event served as an inspiring platform for attendees, most of them women, to gain insight into the challenges and opportunities in the AI terrain. It must be accepted that despite the uncertainties that may arise, there is a large number of chances to be explored, harnessed and transformed into tangible advances that may benefit individuals and society as a whole.

Inteligencia artificial, presente en nuestras vidas

en por Soraya Carvajal Baronaen Tecnología, TendenciasDeja un comentario

IA 6

Por: Soraya Carvajal B

Si usted realiza compras en las grandes plataformas electrónicas que rastrean sus adquisiciones previas y le sugieren opciones nuevas acorde con sus “preferencias”; si utiliza asistentes de voz desde su móvil para hacer consultas, convertir voz a texto o ejecutar instrucciones; si realiza traducciones en línea, en tiempo real; si utiliza filtros en su correo electrónico; si es usuario de programas de reconocimiento facial; si es asiduo a los videojuegos o si utiliza Google o motores de búsqueda similares, sepa entonces que usted está en contacto cada día con la Inteligencia Artificial (IA). La IA es una realidad cotidiana, está presente en múltiples aspectos de nuestras vidas y no, no es ciencia ficción.

La Inteligencia artificial (IA o Artificial Intelligence, en inglés) es el campo de las ciencias de la computación que se centra en la creación de programas y mecanismos que pueden mostrar comportamientos considerados inteligentes. Así, la IA es la simulación de procesos de inteligencia humana por parte de máquinas, especialmente sistemas informáticos. Estos procesos incluyen el aprendizaje (la adquisición de información y reglas para el uso de la información), el razonamiento (para llegar a conclusiones aproximadas o definitivas) y la autocorrección.

La IA nace en una reunión celebrada en 1956 en Dartmouth (Estados Unidos) en la que participó un grupo de científicos que serían los principales investigadores del área. En este evento J. McCarthy, M. Minsky, N. Rochester y C. E. Shannon redactaron una propuesta en la que aparece por primera vez el término «inteligencia artificial», cuya definición se adjudica a John McCarthy.

Principales temas de la IA

Aunque existen diferentes definiciones acerca de la IA, esta rama de la computación viene trabajando fuertemente en diferentes temas, entre los que destacan:

La planificación automática (Automated Planning)

La planificación es el procedimiento automático diseñado para encontrar un plan que resuelva un problema concreto. Esta disciplina de la IA aborda el diseño de un curso de acción que tendrá por misión satisfacer cierto objetivo, generalmente a través de la ejecución de un robot u otros agentes artificiales capaces de actuar en un entorno.

Representación del conocimiento

La representación del conocimiento y el razonamiento es un área de la inteligencia artificial que tiene como objetivo fundamental representar el conocimiento de una manera que facilite la inferencia. Es decir, sacar conclusiones a partir de dicho conocimiento para poder resolver los problemas. Sus aplicaciones en la medicina, por ejemplo, ayudan a elaborar diagnósticos.

Aprendizaje automático (Machine Learning)

Es una rama de la inteligencia artificial, que permite programar sistemas para tomar decisiones automáticas a partir de grandes cantidades de datos, entrenándolos con miles de ejemplos para identificar patrones y que puedan actuar de forma anticipada posteriormente. Su objetivo es desarrollar técnicas que permitan que las máquinas aprendan, incluso sin ser programadas de manera explícita, dado que los programas informáticos pueden aprender y cambiar cuando se exponen a nuevos datos y/o de sus mismos errores.

Entre los ejemplos de aplicación del aprendizaje automático están: los motores de búsqueda, los programas de detección de fraude en el uso de las tarjetas de crédito, análisis del mercado de valores, la clasificación de secuencias del ADN, la detección de contenidos inadecuados en redes sociales como Twitter, Facebook o Instagram usando algoritmos, la personalización del feed de noticias para cada usuario por parte de Facebook, o la recomendación de nuevos productos y películas por parte de Amazon y Netflix.

Procesamiento del Lenguaje Natural, PLN (Natural Language Processing)

Es un campo de las ciencias que integra la computación, la inteligencia artificial y la lingüística y estudia interacciones entre las máquinas y el lenguaje humano. Como rama de conocimiento de la Inteligencia Artificial se centra en conseguir que una máquina comprenda lo que una persona expresa mediante el uso de su lengua natural de expresión (su idioma).

El PLN busca diseñar mecanismos para comunicarse que sean eficaces computacionalmente, es decir, que se puedan realizar por medio de programas que ejecuten o simulen la comunicación. De esta manera, los modelos que se están aplicando se centran no solo en la comprensión del lenguaje en sí, sino en aspectos generales cognitivos de los humanos, así como en la organización de su memoria.  Aunque las lenguas se expresan en forma oral, escrita o mediante símbolos, El PLN está más avanzado en el tratamiento de textos escritos.

Aprendizaje profundo (Deep learning)

Es una rama de investigación de la inteligencia artificial que imita el trabajo del cerebro humano a la hora de procesar datos y crear patrones. El Deep Learning representa un mayor acercamiento a la arquitectura y al modo de funcionamiento del sistema nervioso humano, con el añadido de que las máquinas aprenden a mayor velocidad y pueden analizar y procesar enormes cantidades de datos, detectando incluso características ocultas en los mismos.

Robótica

Área de la ingeniería que se centra en el diseño y fabricación de máquinas automáticas programables (robots) con el fin de realizar tareas repetitivas (como ensamblaje de aparatos, automóviles, etc.), pero también se están desarrollando robots aptos para tareas complejas y de alta especialización, con mayor autonomía y capacidad para tomar decisiones. Hoy los robots están presentes en numerosos y diversos sectores como la industria, logística, salud, exploración espacial, sector militar, entre otros y también se está utilizando el aprendizaje automático para construir robots que interactúen en entornos sociales.

Visión artificial

Hace referencia a los métodos usados para capturar, procesar y analizar imágenes del mundo real, patrones, señales, caracteres, objetos, escenas, etc., con la finalidad de producir información que pueda ser entendida por una máquina.