Lo que el algoritmo esconde
Las plataformas como Netflix pueden poner la tecnología y los procesos automatizados al servicio de sus propósitos. Esa es la cruda realidad en la nueva economía de internet
Elena Neira
Profesora de los Estudis de Ciències de la Informació i de la Comunicació de la UOC
Elena Neira
El año pasado, por estas mismas fechas, Netflix trataba de capear una de las mayores crisis de reputación de su historia. El detonante fue 'Cuties', una película recién adquirida por la compañía tras haber sido premiada en el festival de Sundance. La cinta, en palabras de su directora, Maïmouna Doucouré, era un alegato contra la hipersexualización de las niñas en el mundo online. Resulta hasta irónico que Netflix hiciese para promocionarla justo aquello que la película pretendía denunciar. En el primer póster oficial aparecían un montón de niñas preadolescentes, escasas de ropa y con actitud provocativa. Apología de la pedofilia, explotación de menores, pornografía infantil… la crisis de reputación que sacudió Internet fue tal que la compañía la retiró de la circulación e hizo varias declaraciones a los medios pidiendo disculpas.
Mientras todo esto ocurría de puertas afuera, internamente Netflix llevaba a cabo una purga para tratar de minimizar el impacto de la crisis, tal y como se desprende de varios documentos internos publicados recientemente por la web especializada 'Verge'. Netflix había tomado la decisión de prescindir de la imagen del póster original (que mostraba a un grupo de niñas corriendo por una colina) porque, en su opinión, no iba a funcionar bien en la plataforma. En su lugar, optó por la imagen de la discordia, más provocativa. Una vez desatada la tormenta, la solución fue esconderla. La película fue retirada de los resultados de búsqueda, del apartado 'Próximamente' y de 'Búsquedas populares'. 'Cuties' tampoco aparecía cuando se buscaban títulos con la palabra 'guapis' ni en ninguna selección de películas infantiles. La película seguía en su catálogo, pero la sepultó bajo una gruesa capa de programación.
Este caso deja bien claro hasta qué punto una compañía como Netflix puede poner la tecnología y procesos automatizados al servicio de sus propósitos. Esa es la cruda realidad en la nueva economía de internet. Ya sabíamos que Netflix emplea algoritmos que condicionan qué muestra a cada usuario en función de su historial de búsqueda y, también, de los contenidos que le interesa promocionar a la compañía. Gracias al caso de 'Cuties' ahora sabemos que el sistema tiene también la capacidad de 'ocultar' determinada información si eso sirve a un propósito en concreto.
Resulta difícil escapar a las garras del algoritmo. Este conjunto de instrucciones que permiten enseñar a los sistemas informáticos cómo solucionar problemas se han convertido en parte estructural de Internet. Como usuarios no percibimos todos los procesos que tienen lugar en la sombra cuando, por ejemplo, buscamos algo que ver en Netflix. Entendemos su utilidad, que se materializa en un resultado final, es decir, lo que ese algoritmo, en función de las indicaciones recibidas, ha decidido mostrar como contenidos recomendados. El algoritmo cincela la realidad y, por extensión, condiciona nuestra percepción de las cosas.
En un mundo ideal los algoritmos podrían convertir el proceso de toma de decisiones en algo mucho más eficiente. Si en su diseño y gestión se observase una suerte de código ético sería posible obtener soluciones más objetivas y menos sesgadas. En la práctica, sin embargo, es muy difícil. Aunque los algoritmos sean en sí mismos neutrales, las intenciones que se persiguen con ellos rara vez lo son. Para Netflix los algoritmos están supeditados a un objetivo principal: poner delante del usuario contenido que le resulte atractivo y, por tanto, conseguir que esté conectado a la plataforma el mayor tiempo posible. Eso reducirá las posibilidades de que el cliente quiera darse de baja y, en el medio plazo, le hará ganar dinero. Ocultar un determinado contenido polémico que pueda poner a prueba la tolerancia y el compromiso del cliente también puede ser el camino para conseguir ese mismo resultado. Empresas como Netflix tienen en sus manos el poder quitar lo incómodo y lo molesto del paisaje. Esto, en el largo plazo, levanta una prisión invisible a la que nosotros mismos estamos echando la llave.
El sesgo es una característica humana. Nuestra visión de la realidad está condicionada por infinidad de elementos que condicionan las infinitas decisiones que tomamos cada día. Y también contagia a la tecnología con ideas preconcebidas, prejuicios, opiniones o propósitos ocultos, que los propios desarrolladores de los algoritmos transfieren y aplican en el diseño de sus modelos. Por eso nuestra realidad está en lo que el algoritmo muestra… pero también en lo que esconde.
Suscríbete para seguir leyendo
- Muere Itxaso Mardones, reportera de Gloria Serra en 'Equipo de investigación', a los 45 años
- Hacienda te devuelve 300 euros si tienes un hijo menor de 25 años y 900 si tienes dos: así tienes que ponerlo en la declaración de la renta
- ¿Llamadas que cuelgan? Así son las robollamadas, la nueva táctica de spam telefónico
- Adiós a los cajones de la cocina: la solución con perchas que puedes colocar en cualquier parte
- Sánchez se plantea renunciar y convocar elecciones tras la investigación a su esposa
- La querella del novio de Ayuso se admitirá a trámite pese a la campaña del fiscal para que sea rechazada
- El CIS publica una encuesta sobre las elecciones en Catalunya a pocas horas del comienzo de la campaña
- Pedro Sánchez se plantea renunciar como presidente del Gobierno tras la investigación a su mujer