Estamos rodeados de algoritmos en casi todo lo que hacemos, desde navegar por la web hasta tomar decisiones financieras. ¿Pero nosotros, como seres humanos, todavía tenemos algo que ver con la forma en que esos algoritmos dan forma a nuestra realidad?
Tal vez no, según una nueva investigación.
Dionysios Demetis, profesor del Centro de Estudios de Sistemas de la Universidad Hull en Yorkshire, Inglaterra, escribió en un ensayo para The Conversation:
«Nuestra exploración nos llevó a la conclusión de que, con el tiempo, los roles de la tecnología de la información y los humanos se han invertido. En el pasado, los humanos utilizábamos la tecnología como herramienta. Ahora, la tecnología ha avanzado hasta el punto en que nos usa e incluso nos controla».
En el ensayo, Demetis se basa en un artículo que publicó el año pasado con Allen Lee, profesor de la Virginia Commonwealth University, en el Journal of the Association for Information Systems.
Nos controlan sin que no demos cuenta
En lugar de que los algoritmos y las máquinas tomen decisiones que no nos afectan de ninguna manera, Dementis argumenta que de hecho estamos «profundamente afectados por ellos de manera impredecible».
Dementis dijo:
«Hemos restringido progresivamente nuestra propia decisión, capacidad de creación y permitido algoritmos para hacerse cargo».
Como evidencia, Demetis señala que los abogados reemplazaron los ejemplos por inteligencia artificial, los reclutadores que confían demasiado en las herramientas de terceros para eliminar a los malos candidatos, y el hecho de que una gran mayoría de las transacciones en los mercados de divisas no está determinado por los humanos sino por algoritmos que trabajan en fracciones de segundo.
Excesiva necesidad de algoritmos
Esa excesiva dependencia de los algoritmos, según Demetis, también puede dar lugar a choques de mercado, no causados por un «error en la programación» sino por un comportamiento aprendido que «surgió de la interacción de millones de decisiones algorítmicas que se disputan entre sí de manera impredecible».
De hecho, los humanos son un impedimento.
Demetis dijo:
«Las personas que manejan el sistema comercial habían llegado a ver las decisiones humanas como un obstáculo para la eficiencia del mercado».
En última instancia, la opción de entregar la toma de decisiones a las máquinas podría prepararnos para un futuro sombrío. El peor escenario posible: la «dominación tecnológica», según Demetis.
Pero no es demasiado tarde, todavía.
Demetis dijo:
«Tenemos que decidir, mientras podamos, qué significa esto para nosotros como individuos y como sociedad».