Los algoritmos han tomado el control. Cada vez están a cargo de más y más decisiones, decisiones cada vez más complejas que afectan todos los aspectos de nuestras vidas. Pero los algoritmos no son perfectos; también cometen errores. Asà que se presenta una pregunta: ¿perdonamos a los algoritmos con más facilidad de lo que perdonamos a los humanos por el mismo error? Un estudio de 2021 arroja una luz nueva sobre dicha pregunta y ofrece una reflexión esencial respecto a las caracterÃsticas ideales de los algoritmos y chatbots.
Si solo tienes 30 segundos
Un estudio publicado en 2021 muestra que perdonamos más los errores cometidos por los algoritmos que aquellos cometidos por los humanos.
Al aplicar la «teorÃa de la percepción de mente», los autores del estudio también muestran que el carácter «humano» del algoritmo también afecta el modo en que lo juzgamos; cuanto más «humano» percibe el usuario al algoritmo, menos perdona sus errores.
Desde una perspectiva de marca, los errores de los algoritmos suelen causan menos daño a la marca que los errores humanos.
Estos resultados animan a las empresas a no «humanizar» sus algoritmos, y se trata de una recomendación que también se formuló en una opinión presentada hace poco en Francia de la mano del comité ético en relación con los retos que presentan los chatbots.
2 ejemplos de errores de algoritmos
La naturaleza de los algoritmos es cometer muchos errores. Puesto que se apoyan en datos históricos para predecir el futuro, cualquier evento histórico que falte causará de manera inevitable un error en la predicción.
La amplia mayorÃa de los errores algorÃtmicos pasan desapercibidos, pero algunos se convierten en titulares por los problemas éticos o financieros que presentan.
Los resultados de búsqueda de Google
El algoritmo de Google ya ha aparecido en las noticias en muchas ocasiones por resultados que son, como poco, curiosos. En concreto se le ha acusado de racismo después de que Kabir Ali descubriese que las imágenes asociadas con la búsqueda «tres adolescentes negros» diferÃan marcadamente de las que se mostraban con «tres adolescentes blancos».
La tarjeta de crédito de Apple
Se acusó al criterio para la tarjeta de crédito lanzada por Apple en asociación Goldman Sachs de seguir normas que discriminaban a las mujeres. Aunque más tarde una investigación llevada a cabo por las autoridades anuló las acusaciones, el daño ya estaba hecho; se habÃa acusado al algoritmo de ser sexista.
Crédito: captura de pantalla de la página web de Domino’s Pizza
Por qué perdonamos a los algoritmos con más facilidad que a los humanos
A través de más experimentos basados en distintos escenarios, el estudio muestra de manera general que se juzga con más seriedad un error humano que el error cometido por un algoritmo. La naturaleza no humana del algoritmo nos hace «pasarlo por alto» con más facilidad. En términos de branding, una marca sufrirá menos por un error algorÃtmico que por un error humano.
Darle caracterÃsticas humanas a una máquina se conoce como antropomorfizar. El estudio muestra que ese lÃmite se desdibuja con facilidad si al algoritmo se le conceden caracterÃsticas humanas, cosa que hace que nuestro juicio se vea alterado. Cuando más humano es un algoritmo, más responsabilidad le atribuimos en caso de error. Estas caracterizaciones pueden producirse de distintos modos:
- Dándole un nombre
- Dándole un apellido
- Poniéndole voz
- Poniéndole una imagen
Este efecto aumenta todavÃa más cuando se trata de un algoritmo de machine learning.
Conclusión
Los diseñadores de algoritmos tienen un gran interés en no darle a sus creaciones caracterÃsticas humanas. En caso de que se produzca un error por parte de un algoritmo, la reputación de la empresa sufrirá menos que si el algoritmo tiene caracterÃsticas humanas.
Posted in Data y IT.
