Michael Schrage es investigador en la Iniciativa sobre Economía Digital de la Sloan School of Management del MIT. Un codiciado experto en innovación, métricas y efectos de red, es autor de ¿En quién quiere que se conviertan sus clientes?, La hipótesis del innovador: cómo los experimentos baratos valen más que las buenas ideas (MIT Press) y otros libros. .
En esta entrevista hablamos de su libro “Motores de recomendación” que explora la historia, la tecnología, el negocio y el impacto social de los motores de recomendación en línea.
¿Qué te inspiró a escribir un libro sobre un tema tan limitado como «Motores de recomendación»?
El encuadre de su pregunta revela el juego… Cuando observé seriamente las tecnologías digitales y los puntos de contacto que realmente influyeron en la vida de las personas en todo el mundo, casi siempre encontré una decisión de conducción de ‘motor de recomendación’. Los recomendadores de Spotify determinan la música y las canciones que la gente escucha; Los motores de recomendación de TikTok definen los ‘videos virales’ que las personas recopilan y comparten; Los recomendadores de Netflix han sido diseñados para facilitar la «observación compulsiva» y los «observadores compulsivos»; Google Maps y Waze recomiendan las mejores y/o las formas más rápidas y/o sencillas de llegar allí; Yesca y partido.com recomienda con quién te gustaría estar o, ya sabes, ‘estar’; Stitch Fix recomienda lo que te gustaría usar que te hace ‘tú’; Amazon te recomendará lo que realmente deberías comprar; La academia y ResearchGate recomendarán la investigación más relevante en la que debe estar actualizado… Podría continuar, y lo hago, en el libro, pero tanto técnica como conceptualmente, los ‘Motores de recomendación’ son la antítesis de ‘estrecho’. Su punto y propósito cubre todo el alcance del deseo y la decisión humanos.
Una cita en su libro es la siguiente: “Los recomendadores no se refieren solo a lo que podríamos comprar, se trata de en quién nos gustaría llegar a ser”. ¿Cómo podrían abusar de esto las empresas o los malos actores?
No hay duda ni duda de que se puede abusar de la recomendación. La pregunta clásica ‘clásica’: ¿Cui bono? – ‘¿Quién se beneficia?’ – se aplica. ¿Están las recomendaciones realmente destinadas a beneficiar al destinatario oa la entidad/empresa que hace la recomendación? Así como es fácil para un colega, conocido o ‘amigo’ que lo conoce ofrecer consejos que realmente no son de su interés, es muy fácil para los recomendadores ‘basados en datos’ sugerirle que compre algo que aumente ‘su’ ganancia a expensas de ‘su’ utilidad o satisfacción. En un nivel, estoy muy preocupado por el potencial y la realidad del abuso. Por otro lado, creo que la mayoría de las personas se dan cuenta rápidamente cuando están siendo explotadas o manipuladas por personas o tecnología. Si me engañas una vez, la culpa es tuya; Engáñame dos o tres veces, qué vergüenza. La recomendación es uno de esos dominios especiales en los que es inteligente ser ético y ético ser inteligente.
¿Las cámaras de eco donde los usuarios solo reciben lo que quieren ver, independientemente de la precisión, son un problema social?
Eli Pariser acuñó la excelente frase ‘la burbuja de filtro’ para describir este fenómeno y patología. Estoy en gran medida de acuerdo con su perspectiva. En verdad, creo que ahora es justo decir que el ‘sesgo de confirmación’, no el sexo, es lo que realmente impulsa la mayoría del comportamiento humano adulto. La mayoría de la gente está buscando un acuerdo la mayor parte del tiempo. Los recomendadores tienen que navegar por un curso cuidadoso entre la novedad, la relevancia de la diversidad y la casualidad porque, si bien demasiada confirmación es aburrida y redundante, demasiada novedad y desafío pueden molestar y ofender. Entonces, sí, la búsqueda de la confirmación es una cuestión tanto personal como social. Dicho esto, los recomendadores ofrecen una forma relativamente poco desagradable de llamar la atención de las personas sobre perspectivas y opciones alternativas. Sin embargo, de hecho, me pregunto si la regulación y la revisión legal definirán cada vez más el futuro de las recomendaciones.
Las burbujas de filtro actualmente limitan la exposición a puntos de vista conflictivos, contradictorios o desafiantes. ¿Debería haber algún tipo de regulación que desincentive este tipo de sobrefiltrado?
Prefiero la supervisión regulatoria de mano dura a la de toque ligero. La mayoría de las plataformas que veo hacen un trabajo bastante pobre al etiquetar ‘noticias falsas’ o establecer un control de calidad. Me gustaría ver mecanismos más innovadores explorados: deslizar hacia la izquierda para una toma contraria; incruste enlaces que elaboren historias o videos de manera que profundicen la comprensión o descontextualicen el ‘sesgo’ que se está confirmando. Pero seamos claros: las arquitecturas de elección que ‘desalentan’ o crean ‘fricciones’ requieren datos y sensibilidades de diseño diferentes a las que ‘prohíben’, ‘censuran’ o ‘previenen’. Creo que este es un problema muy difícil tanto para las personas como para las máquinas. Lo que lo hace particularmente difícil es que los seres humanos, de hecho, son menos predecibles de lo que creen muchos psicólogos y científicos sociales. Hay muchas ‘teorías de la mente’ y ‘agencia’ en competencia en estos días. Cuanto más personalizadas se vuelven las recomendaciones y los recomendadores, más desafiantes y anacrónicos se vuelven los enfoques de «talla única». Es una de las muchas razones por las que este dominio me interesa tanto.
¿Deberían los usuarios finales y la sociedad exigir que se explique por qué se hacen recomendaciones específicas?
Sí, sí y sí. No solo ‘explicabilidad’ sino también ‘visibilidad’, ‘transparencia’ e ‘interpretabilidad’. Las personas deberían tener derecho a ver y comprender las tecnologías que se utilizan para influir en ellas. Deberían poder apreciar los algoritmos utilizados para empujarlos y persuadirlos. Piense en esto como la contraparte algorítmica del «consentimiento informado» en medicina. Los pacientes tienen derecho a obtener, y los médicos tienen el deber de proporcionar, las razones y los fundamentos para elegir ‘este’ curso de acción en lugar de ‘aquello’. De hecho, argumento que el ‘consentimiento informado’, y su futuro, en medicina y atención de la salud ofrece un buen modelo para el futuro del ‘consentimiento informado’ para los motores de recomendación.
¿Crees que es posible “hackear” el cerebro humano utilizando motores de recomendación?
¿El cerebro o la mente? No bromeo. ¿Estamos materialmente, eléctrica y químicamente, pirateando neuronas y lóbulos? ¿O estamos utilizando estímulos sensoriales menos invasivos para evocar comportamientos predecibles? Sin rodeos, creo que algunos cerebros, y algunas mentes, son pirateables algunas veces. Pero, ¿creo que las personas están destinadas a convertirse en ‘títeres de carne’ que bailan al ritmo de las recomendaciones? Yo no. Mira, algunas personas se vuelven adictas. Algunas personas pierden autonomía y autocontrol. Y sí, algunas personas quieren explotar a otras. Pero la preponderancia de la evidencia no me hace preocuparme por la ‘armamento de la recomendación’. Me preocupa más el abuso de confianza.
Una cita en un artículo de investigación de Jason L. Harman y Jason L. Harman afirma lo siguiente: «La confianza que los humanos depositan en las recomendaciones es clave para el éxito de los sistemas de recomendación». ¿Cree que las redes sociales han traicionado esa confianza?
Creo en esa cita. Creo que la confianza es, de hecho, clave. Creo que las personas inteligentes y éticas realmente entienden y aprecian la importancia de la confianza. Con disculpas por el comentario de Churchill sobre el coraje, la confianza es la virtud que permite el crecimiento y la conexión humana saludable. Dicho esto, me siento cómodo argumentando que la mayoría de las plataformas de redes sociales, sí, Twitter y Facebook, ¡te estoy mirando a ti! – no están construidos alrededor o basados en la confianza. Se basan en facilitar y escalar la autoexpresión. La capacidad de expresarse a escala no tiene nada que ver literalmente con crear o generar confianza. No había nada que traicionar. Con recomendación, hay.
Declaras tu creencia de que el futuro de los motores de recomendación contará con las mejores recomendaciones para mejorar la mente. En su opinión, ¿algún motor de recomendación está trabajando actualmente en un sistema de este tipo?
Todavía no. Lo veo como el próximo mercado de billones de dólares. Creo que Amazon, Google, Alibaba y Tencent quieren llegar allí. Pero, quién sabe, puede haber un innovador emprendedor que nos sorprenda a todos: tal vez un Spotify que incorpore atención plena y ‘consejos’ susurrados justo a tiempo pueda ser el avance que mejore la mente.
¿Cómo resumiría cómo los motores de recomendación permiten a los usuarios comprenderse mejor a sí mismos?
Las recomendaciones se refieren a buenas opciones…. a veces, incluso grandes elecciones. ¿Cuáles son las opciones que abrazas? ¿Cuáles son las opciones que ignoras? ¿Cuáles son las opciones que rechazas? Tener el coraje de hacer, y responder, esas preguntas te da una visión notable de quién eres y en quién te gustaría convertirte. Somos las elecciones que hacemos; cualquier cosa que influya en esas elecciones tiene un impacto e influencia notables en nosotros.
¿Hay algo más que le gustaría compartir sobre su libro?
Sí, en primer y último análisis, mi libro trata sobre el futuro de los consejos y el futuro de quién ‘realmente’ quiere llegar a ser. Se trata del futuro del yo – tu ‘yo’. Creo que es un tema emocionante e importante, ¿no crees?
Gracias por tomarse el tiempo para compartir sus puntos de vista.
A nuestros lectores recomiendo mucho este libro, actualmente está disponible en Amazonas en Kindle o en rústica. También puede ver más opciones de pedido en la Prensa del MIT página.