un nuevo estudiar realizado por la consultora estratégica Alice Labs y la firma de tecnología global Reaktor arroja luz sobre lo que los investigadores llaman «fatiga algorítmica». La fatiga algorítmica ocurre cuando las personas pasan largos períodos de tiempo haciendo cosas como navegar por los servicios de transmisión. En estos momentos, los sistemas de IA a menudo pueden fallar en su deber de satisfacer las expectativas de los usuarios si no cumplen. Esto a menudo puede hacer que los consumidores se sientan fatigados.
El nuevo estudio identificó tres tipos diferentes de interacciones de IA:
- Pasivo: los usuarios quieren permanecer pasivos frente a un sistema algorítmico.
- Guiado: Los usuarios quieren guiar un sistema algorítmico.
- Colaborativo: Los usuarios quieren colaborar con un sistema algorítmico.
El tipo de interacción de IA que selecciona un usuario depende de la situación y de lo que quiere o necesita, y también se ve afectado por experiencias previas con tecnología inteligente, como la fatiga algorítmica cuando un sistema anterior no cumplió con esas necesidades.
Según los investigadores, la IA se está convirtiendo en algo más que tecnología, y las marcas están comenzando a darse cuenta de la importancia de cómo los usuarios experimentan e interactúan con los algoritmos.
Kirsi Hantula es una de las investigadoras de Alice Labs.
“Aunque son útiles en muchos casos, los algoritmos siguen estando limitados por su mecanicidad: no pueden predecir cuándo los usuarios tienen un mal día y necesitan algo más ligero para ver, ni son capaces de comprender las formas sutiles y variadas en las que los usuarios hacen su trabajo. los gustos evolucionan y se expanden con el tiempo”, dice Hantula.
Debido a que varios dispositivos impulsados por IA existen desde hace más de diez años, muchos usuarios ya saben cómo navegar tácticamente en sistemas imperfectos. Esto significa que los propios usuarios ya han comenzado a luchar contra la fatiga algorítmica. Por ejemplo, uno podría limitar un dispositivo alimentado por IA a sus funciones básicas, como usar un asistente activado por voz para tareas simples.
Algoritmos de recomendación
Los investigadores también encontraron que más consumidores ahora están optando por no usar algoritmos de recomendación, moviéndose más hacia personas influyentes externas para seleccionar contenido. Los influencers externos, o faros, son otras personas que comparten intereses similares, y estas personas suelen ser más confiables que los algoritmos.
Los investigadores dicen que las empresas deberían encontrar formas de combatir la fatiga algorítmica si quieren establecer relaciones más sólidas con sus consumidores.
Olof Hoverfält es Consultor Principal, Estrategia y Diseño de Negocios en Reaktor.
“No se trata tanto de reinventar la IA, la IA funciona bien”, dice Hoverfält. “Se trata de crear otra capa encima de ese sistema, algo que permita una interacción humana más rápida y refinada entre el usuario y el algoritmo. Se trata de la paridad: otorgar al usuario la misma agencia sobre la toma de decisiones, permitiéndole elegir y cambiar cuando quiera participar activamente en el proceso o simplemente guiarlo pasivamente a través de él”.
“Para nosotros, esto también es una cuestión de ética. Creemos que los sistemas de IA que se entrelazan íntimamente con la vida de las personas deben diseñarse de manera que celebren la versatilidad humana y establezcan a los usuarios como agentes positivos y creativos en la toma de decisiones algorítmicas”, dice Hantula.
El nuevo estudio es parte de una colaboración de dos años entre Alice Labs y el Centro de Investigación de la Sociedad del Consumidor de la Universidad de Helsinki. Fue financiado por la Fundación para la Educación Económica.