29 oct 2020

Ir a contenido

Referente mundial

Shoshana Zuboff: "Extraer nuestros datos es robar nuestra autonomía"

Hablamos con la autora de 'La era del capitalismo de la vigilancia' sobre los riesgos del modelo de negocio de las grandes plataformas tecnológicas y cómo predicen nuestro futuro

Carles Planas Bou

Shoshana Zuboff: "Extraer nuestros datos es robar nuestra autonomía"

Shoshana Zuboff

Es bien sabido que todas las plataformas digitales y redes sociales que utilizas son gratis porque tú no eres su usuario, sino su producto. Pocas voces han indagado más en esa realidad que la socióloga Shoshana Zuboff (1951), profesora emérita de la Harvard Business School y autora del libro ‘La era del capitalismo de la vigilancia’, obra de referencia en el estudio de cómo hemos llegado a una sociedad donde la información personal de los ciudadanos es transformada en la más lucrativa de las mercancías.

Tras mercantilizar todos los rincones del planeta, el capitalismo algorítmico ha logrado también comercializar con tu vida privada, otorgando al sistema un poder sin precedentes. Convertida en un besteller internacional y comparada por su relevancia social con ‘El Capital’ de Karl Marx, la sesuda obra de Zuboff (910 páginas) llega ahora a España de la mano de Paidós. Y su autora, que ha dedicado toda su vida intelectual a investigar los riesgos de la revolución digital, atiende a EL PERIÓDICO través de una videollamada.

No solo aquello que decimos o escribimos importa, sino también aquello que puede ser inducido de nosotros a partir de eso"

Usted fue la primera en hablar del capitalismo de la vigilancia como un nuevo orden económico. ¿En qué se sustenta ese modelo?

El capitalismo evoluciona llevando al mercado las cosas que viven fuera de esa dinámica para convertirlas en cosas que pueden ser compradas y vendidas. El capitalismo industrial lo hizo con la naturaleza, convirtió la tierra en propiedades. En el siglo XXI se siguió el mismo patrón pero con un giro oscuro. En 2001, Google descubrió que la experiencia humana privada podría ser la próxima madera virgen. No solo aquello que decimos o escribimos importa, sino también aquello que puede ser inducido de nosotros a partir de eso. No hace falta que divulguemos nuestra orientación sexual o política, pero a través de nuestro comportamiento rutinario —como entrar en Facebook o buscar algo en línea— se pueden extraer señales muy ricas que pueden ser agregadas en un poderoso método que crea predicciones sobre nuestro comportamiento.

Ahora el producto en venta somos nosotros.

Sí. La forma en que funciona el capitalismo de vigilancia es que la experiencia humana privada es reclamada unilateralmente como una fuente libre de materia prima para traducirla en datos de comportamiento. Esos datos son extraídos y reclamados como activos por las compañías que utilizan nuestra experiencia sin nuestro consentimiento. Después, esos datos se mueven por una fábrica computacional llamada Inteligencia Artificial (IA), de aprendizaje automático, que los analiza para establecer predicciones.

Es lo que en el libro señala como comercialización de nuestros futuros.

Sabemos por un documento filtrado de Facebook que su centro de IA ingiere trillones de datos cada día y es capaz de producir hasta seis millones de predicciones de comportamiento por segundo. Esas predicciones salieron de nuestras vidas, son sobre nosotros pero no son para nosotros. Son empaquetadas y vendidas a clientes de negocios que tienen interés en saber lo que haremos tarde o temprano. Es un nuevo tipo de mercado único, donde se comercia exclusivamente con futuros humanos y el futuro de nuestro comportamiento. Y han llegado a un mercado muy lucrativo, comenzando con la publicidad online personalizada.

Tan lucrativo que todas las otras empresas se apuntaron al negocio.

Todo cambió cuando los capitalistas de la vigilancia, empezando por Google, entendieron que se podía ganar mucho dinero con esta fórmula. Entre 2001 y 2004 sus ingresos en línea crecieron un 3.590%. Todo el mundo lo buscaba.

Y ahora ya es el modelo económico dominante.

Ahora tenemos competencia sobre quién obtiene la mejor predicción. Para ello se necesitan amasar muchos datos y variados, que registren no solo lo que pasa en Internet, también por dónde caminas, cuáles son tus sentimientos o qué enfermedades tienes. Los datos más predictivos se dan con la intervención en el comportamiento de la gente de forma indetectable. A partir de 2013 empezaron a experimentar con objetivos psicológicos y sistemas de recompensa y castigo para aprender qué puede tener un efecto en lo que hacemos.

¿Y cómo lo logran?

Eso se desarrolló aún más con Pokémon Go, incubado durante años en Google por la misma gente que creó el Maps o Street View. Pokémon Go resultó ser una forma de experimentar con el uso de la gamificación, las recompensas y castigos para aprender a guiar a la gente a través de sus ciudades y llevarlos a lugares donde gastaran dinero. Se monetizó porque establecimientos clientes como McDonalds y Starbucks pagaron para tener criaturas Pokémon que atraían a más gente hacia ellos. El juego al que jugaba la gente era en realidad otro juego en el que ellos eran las fichas que, sin saberlo, se movían por el tablero de ajedrez.

Si estas compañías actúan en función de las predicciones sobre nuestro comportamiento para condicionarnos, ¿se puede decir que tomamos decisiones libres? ¿No atenta ese principio contra la autodeterminación? Usted incluso ha asegurado que se trata de “golpe de Estado desde arriba”.

Obtienen tanto conocimiento sobre nosotros que pueden usarlo para intervenir en nuestro comportamiento de maneras específicas y dirigirlo en las direcciones que cumplan con sus objetivos financieros. Los científicos de datos explican que Google, Amazon y Facebook ya tienen tantos datos que pueden manipular subliminalmente nuestro comportamiento en el mundo virtual y tener un efecto en el real sin que lo sepamos, pasando por alto nuestra conciencia. Y cuando hacen eso nos roban nuestra forma de competir, nuestros derechos de decisión, nuestra autonomía, nuestra soberanía individual.

Saben cómo controlarnos. Somos lo contrario a la democratización, esto es un ataque al libre albedrío"

Estamos en una inesperada posición: se suponía que el siglo XXI sería la edad de oro de la democratización del conocimiento pero nos encontramos en un lugar con enormes asimetrías de conocimiento y de poder. Ese poder no nos amenaza con el asesinato y el terror, viene de puntillas ofreciéndonos comodidad, diciéndonos “¿quieres un capuchino?” o “¿compras esta chaqueta?” para buscar maneras de moldear nuestra vida. Sabe cómo controlarnos. Somos lo contrario a la democratización, esto es un ataque al libre albedrío.

Se ha hablado mucho de que este modelo de extracción de datos sirve para que los anunciantes nos vendan mejor sus productos, pero la participación de Cambridge Analytica en las campañas de Donald Trump y a favor del Brexit muestran que también sirve para condicionar elecciones.

La gente tiene un cliché en la cabeza de que se trata de publicidad online dirigida, así que piensan que no es tan malo. Tenemos que entender que esto ha ido más allá de los anuncios. La publicidad fue el primer mercado en comercializar con el futuro humano, pues compraban predilecciones de nuestro comportamiento.

Ahora sabemos que el capitalismo de vigilancia no es solamente la lógica del sector tecnológico sino que también ha afectado a la economía global, desde los seguros de venta al por menor a la educación o la sanidad. Todos los productos y servicios que empiezan con la palabra “inteligente” o "personalizado", todos los asistentes digitales y las aplicaciones que se ponen en el teléfono funcionan con esta lógica económica. Las aplicaciones son las mulas del capitalismo de la vigilancia. Recogen toda la información que pones en tu teléfono y todo lo que va a sus fábricas de computación. Estamos viviendo en un mundo sin salida.

Teniendo en cuenta esa colonización de la economía global, ¿cómo se combaten esas plataformas? Además de una mayor regulación se está exigiendo romper a las grandes tecnológicas.

Desde el principio, los capitalistas de la vigilancia nos dijeron que lo que estamos experimentando en sus manos es la consecuencia inevitable de las tecnologías digitales, que así es como funciona lo digital. Es fácil imaginar las tecnologías digitales sin el capitalismo de vigilancia, pero es imposible imaginar el capitalismo de vigilancia sin la tecnología. Podemos recuperar lo digital y averiguar cómo empezar a imaginar un futuro digital que realmente funcione para la gente, satisfaciendo nuestras necesidades, no las de una pequeña élite rica. El capitalismo de vigilancia es una lógica económica que ha secuestrado lo digital, transformándolo en su caballo de Troya.

Si hubiéramos estado promulgando leyes y normas durante los últimos 20 años y hubiéramos fracasado, entonces habría algún motivo para el pesimismo y la resignación, pero los hechos son todo lo contrario, ni siquiera hemos intentado todavía interrumpir y prohibir estas operaciones. Sólo hemos empezado a entenderlas en los últimos años y no hemos hecho casi nada para impedirlas.

¿A qué se debe esa inacción política?

El año en que Google descubrió y elaboró el capitalismo de vigilancia fue el 2001, el mismo en el que hubo el atentado a las torres gemelas. Algo muy importante sucedió en Washington ese año. En el Congreso de EEUU había una intensa conversación para impulsar una legislación federal de privacidad, per se detuvo tras la tragedia.

Empresas emergentes de Silicon Valley como Google ya habían sido sentenciadas por rastrear a sus clientes a través de cookies y otros mecanismos que se consideraban una violación a la privacidad. Había interés en una regulación, pero con el 9/11 el Gobierno de EEUU y muchos europeos dejaron que esas empresas desarrollaran sus capacidades de vigilancia para centrarse en la guerra contra el terrorismo. Las empresas públicas no podían hacerlo porque estaban restringidas por las leyes democráticas, pero las privadas tenían vía libre. Se las ayudó con contratos gubernamentales y financiación y no se prohibió lo que hacían.

Esa es la doctrina oculta que dio al capitalismo de vigilancia 20 años para florecer. Pasaron de ser pequeñas empresas con chicos jóvenes y guays a enormes imperios de vigilancia dirigidos por emperadores envejecidos con incontables poderes sobre cada aspecto de nuestras sociedades. Aún no hemos diseñado e impuesto los derechos que se requerirán para rediseñar una visión de un futuro digital que sea compatible con la democracia. Ese es el trabajo que tenemos que hacer ahora.

La mayoría de datos los sacan de nuestras vidas sin que lo sepamos, como cuando vas a un bar y rastrean tu cara para analizar tus expresiones y emociones"

Eso es a nivel legislativo, pero las grandes tecnológicas también tratan de responsabilizar al usuario de los datos que cede.

Las empresas son expertas en gaslighting (manipulación psicológica para hacer que la gente dude de lo que piensa), que es muy paralizante y debilitante, congela la resistencia. Exponen la peligrosa idea de que la privacidad es privada. Quieren que pienses que tienes el control de lo que les das, pero eso es solo una pequeña fracción del trillón de datos que ingieren sus máquinas de IA. La mayoría de datos los sacan de nuestras vidas sin que lo sepamos, como cuando vas a un bar y rastrean tu cara para analizar tus expresiones y emociones para predecir a partir de eso tu comportamiento. No tenemos el control, están robando mucho más de lo que sabemos que les damos.

¿Tienen nuestros datos un impacto más allá del personal?

Están alimentando sus sistemas. Microsoft tiene una base de datos para entrenar a sus sistemas de reconocimiento facial que ha creado con todas las caras que aparecen en Facebook, como las fotos que puedes estar mandando a tus abuelos. Microsoft dijo que no nos preocupásemos, que era para una investigación académica. Pero se descubrió que esos datos se venden a divisiones militares en todo el mundo. También al ejército chino, que mantiene a la minoría musulmana uigur en campos de concentración donde son vigilados por sistemas de reconocimiento facial entrenadas con nuestras fotos de Facebook. Microsoft y Amazon son dos de los principales exportadores mundiales de tecnología de vigilancia.

Pensamos que estamos haciendo un cálculo privado, pero estamos alimentando sistemas globales de vigilancia y control que tienen consecuencias en lo más profundo de nuestras vidas pero que también afectan a las personas en todas las sociedades. Tenemos una responsabilidad pública colectiva de no alimentar estos sistemas.

Tengo amigos que al hablar de privacidad se preguntan: “¿Por qué me espiarán a mi, si no tengo nada que esconder? No soy tan importante”.

Si no tienes nada que esconder, entonces no eres nada. La única manera en que podemos construir una identidad, una fuente interna de juicio moral, nuestros propios valores para ser pensadores críticos es interiormente, en momentos de soledad y reflexión, no vivir con transparencia. Así es como desarrollamos nuestra capacidad interior para ser seres humanos plenamente realizados. Cuando dicen que no tienes nada que ocultar, lo que intentan es convertirnos en personas unidimensionales. Si no tenemos nada que esconder, pensaremos y hablaremos como piensan y hablan los demás.