LA ÉTICA DEL ALGORITMO

Rebeldes de Silicon Valley

Cada vez más informáticos ya no se sienten a gusto trabajando para los gigantes tecnológicos. Quieren programar sin dañar la privacidad y la democracia

Proyección de código informático alrededor de la sombra de un programador.

Proyección de código informático alrededor de la sombra de un programador. / KACPER PEMPEL

10
Se lee en minutos
Michele Catanzaro
Michele Catanzaro

Periodista

ver +

Con 33 años, el programador barcelonés Elies Campo había alcanzado lo que otros sueñan toda una vida con lograr. En 2013, lo fichó una de las grandes empresas de Silicon Valley: Whatsapp. Pero un año después la empresa fue adquirida por Facebook. "Me encanta la mensajería, pero para mí es importante trabajar en una empresa que respeta a los usuarios. Cuando vi cómo funcionaba [Facebook], me di cuenta de lo que pasaría con Whatsapp", afirma Campo, en referencia a que actualmente la red social aprovecha parte de los datos del servicio de mensajería.

En 2014, dejó Whatsapp (cobrando solo una parte del importe de cancelación del contrato debido a la venta, afirma) y el año siguiente empezó a trabajar en Telegram, que presume de no hacer negocio con los datos de sus usuarios. "Seguramente no podré volver a trabajar en Facebook, pero tenemos que dar estos pasos", afirma.

Dilema creciente tras el asalto al Capitolio

El dilema moral que expone Campo no es una excepción. "Trabajando en 'marketing', te topas con temas cuestionables cuando usas datos. Te preguntas si estás haciendo las cosas correctas", afirma P., un programador de una empresa de Barcelona, que pide anonimato.

"Son asuntos de los que hablamos entre nosotros", admite M., un informático que trabaja en Barcelona para una empresa de Silicon Valley y que tampoco quiere hacer público su nombre. "¿[Las compañías] se están portando bien? ¿Vulneran la privacidad? ¿Tienen un impacto en la democracia?", se pregunta, a los pocos días del asalto al Capitolio, instigado en parte a través de las redes sociales.

El directivo de Telegram Elies Campo.

/ El Periódico

"Se puede desarrollar una carrera satisfactoria en empresas con valores con los que te sientes alineado", dice Elies Campo, directivo de Telegram

"Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar", afirma J., un desarrollador de videojuegos catalán, que también prefiere no desvelar su nombre.  

"Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar", admite un desarrollador de videojuegos catalán

"Dentro de las empresas hay muchos desarrolladores que empujan para cambiar las cosas. Los directivos ya no responden solo a los accionistas y los trabajadores tienen sus opiniones", reflexiona E., una joven informática catalana empleada por uno de los gigantes de Silicon Valley, que se suma a la petición de anonimato.

La mayoría de las fuentes consultadas trabajan en empresas privadas que no les permiten expresarse libremente, o sienten incomodidad al cuestionar abiertamente el trabajo de otros programadores.

Un movimiento global 

Sin embargo, basta con darse una vuelta por los foros de programadores y redes sociales para encontrar decenas que explican por qué han dejado o rechazado trabajos en las mejores compañías de computación.

Algunos casos son sonados. En 2020, el exdirectivo de Amazon Tim Bray abandonó la empresa en protesta por el despido de un trabajador que había reclamado más compromiso con el cambio climático. En 2019, la investigadora en inteligencia artificial Meredith Whittaker abandonó Google, criticando su enorme poder.

En muchas compañías ya hay movimientos y empleados que reivindican algoritmos justos

Muchos 'trabajadores del código' están preocupados por la captación de información privada, la difusión de noticias falsas y la manipulación del comportamiento de algunas personas. Pero también por el monopolio de unas pocas compañías, la discriminación algorítmica (el diseño de programas a la medida de hombres blancos y ricos), la huella de carbono de la computación, y el modelo de negocio de la economía de plataforma. 

En el sector aumenta la mercantilización de la privacidad, la difusión de 'fake news', la manipulación del comportamiento, el monopolio y el sesgo de los algoritmos

"La ética de los algoritmos está tomando cada vez más importancia", afirma Ricardo Baeza-Yates, investigador del Roux Institute for Experiental AI de la Northeastern University (en Silicon Valley) y profesor de la Universitat Pompeu Fabra. Por ejemplo, se han multiplicado los congresos académicos y el activismo. La "humanización" de las tecnologías de la información también forma parte de la iniciativa Mobile World Capital de Barcelona.

Los físicos en la guerra fría

Sin embargo, en la práctica no es fácil dar la espalda a una oferta de trabajo de Facebook o Amazon, por ejemplo. "Además de buenos sueldos, puedes trabajar en tecnologías punteras, y después tu currículum sube de categoría", afirma R., informático que trabaja para una empresa española, que también quiere permanecer en el anonimato.

Diversos expertos ven cierta analogía con la situación de los físicos nucleares durante la guerra fría. La ciencia de las partículas también era impulsada, en parte, por una finalidad aterradora: la carrera nuclear. A la vez, los físicos investigaban temas fascinantes y gozaban de prestigio y buenos sueldos, igual que los expertos en informática hoy.

"Del ‘proyecto Manhattan’ solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva", según Carlos Castillo, investigador en ética de los algoritmos de la UPF

"Los físicos tenían claro que sus experimentos eran conocimiento puro. Si les surgía algún escrúpulo, era fácil desacoplar su trabajo de cualquier aplicación", explica Xavier Roqué, profesor de Historia de la Ciencia de la Universitat Autònoma de Barcelona. "Con la mirada fría del historiador, se ve que no era así. A menudo la base teórica y el desarrollo práctico van juntos: en el 'proyecto Manhattan' [para la construcción de la bomba atómica] se hizo mucha física", añade. De hecho, el proyecto Manhattan tuvo solo un objetor de conciencia, Joseph Rotblat, que luego recibió el premio Nobel de la Paz.

Un programador trabaja en código informático.

/ KACPER PEMPEL

También los informáticos tienen la opción de lavarse las manos. "Como trabajador, programas una parte y no sabes cómo se usará. Puedes sospechar que la empresa hará cosas poco éticas con tu código, pero no depende de ti, sino de los jefes. Puedes decirte: ‘Yo cobro y se acabó’", afirma Josep Domingo-Ferrer, profesor de Ciencia de la Computación en la Universitat Rovira i Virgili, para ejemplificar esa manera de pensar.

Desacuerdos éticos han provocado sonadas salidas de cargos de empresas de Silicon Valley

Sin embargo, ese autoengaño funciona peor con la inteligencia artificial. "En la física no había tanta motivación económica. Al contrario, Google y Facebook tienen el objetivo claro de hacer dinero. Eso debería poner más en alerta", observa Roqué. "Del 'proyecto Manhattan' solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva", coincide Carlos Castillo, investigador en ética de los algoritmos en la Universitat Pompeu Fabra. 

"Los físicos necesitaron la bomba atómica para abrir los ojos. Esperemos que a los ingenieros no les haga falta algo equivalente", afirma Gemma Galdón, directora de la consultora Éticas Research and Consulting e investigadora de la Universitat de Barcelona.

La industria se mueve

De hecho, algo se mueve dentro de la industria. "En Estados Unidos, el poder de negociación de los informáticos es mayor. Hay movimientos que piden códigos éticos y objeción de conciencia", explica Galdón. En Google se acaba de formar un sindicato, y sus empleados y los de Microsoft han conseguido boicotear contratos militares. 

En diciembre, Google despidió a la codirectora de su equipo de ética tras redactar un informe sobre sesgos en algoritmos lingüísticos

"Algunas empresas están en un momento de reflexión, a raíz de escándalos que han protagonizado. Han creado equipos para hacer algoritmos más equitativos. Eso era impensable hace cinco años", comenta Castillo. Varios expertos alaban los esfuerzos de Google.

Sin embargo, hay señales contradictorias. En diciembre de 2020, esa empresa despidió a la codirectora de su equipo de ética, Timnit Gebru, después de que redactara un informe sobre sesgos en algoritmos lingüísticos. "Esto nos ha dejado confundidos. Ella es una persona extremadamente mesurada y nada estridente. Si le echan a ella, te hace pensar que entonces no puedes hablar", comenta Castillo.

La disidencia es viable

Para algunos programadores, la ética ya es un criterio imprescindible. "Yo no contrataría a nadie que haya trabajado en Facebook después de los escándalos de 2015-16. Tu carrera explica tus valores", afirma Elies Campo

"En el sector de la informática hay más demanda que oferta de perfiles cualificados. Puedes escoger en qué empresa quieres trabajar", considera Jordi Mas, una de las almas de la asociación Softcatalà. Un ejemplo de ello es Diego Sáez Trumper, informático chileno afincado en Barcelona e investigador en la Wikimedia Foundation, la entidad que garantiza el funcionamiento de la Wikipedia.

Diego Sáez Trumper, de la Fundacion Wikimedia y activista de la privacidad en internet.

/ El Periódico

Después de investigar en la universidad, Sáez optó por una informática basada en el 'software' libre y sin lucro. "Es una aventura, más que un negocio exitoso. No compites en igualdad de condiciones con los que no tienen requisitos éticos", lamenta.

La suya es una opción vital, además de profesional. "En mi vida diaria puedo prescindir de cualquier 'software' propietario. Tengo un móvil donde he instalado una versión libre de Android. No uso Whatsapp y he convencido a mi familia y mis amigos para que utilicen Signal. Tengo Linux en mi ordenador y borro las cookies cada vez que me conecto", explica. 

El sector ético, minoritario

Sáez compara su elección personal con reciclar la basura: no es suficiente para solucionar un problema global, pero es necesario. "No me gusta que usen mis datos para hacer negocio, y además, consigo salir de la burbuja del filtro", asegura, en referencia al contenido de internet personalizado por algoritmos para que encaje con nuestras preferencias.

Noticias relacionadas

"El sector de la informática ética es minoritario y lo va a ser durante mucho tiempo. Pero, ¿tener éxito quiere decir ser famoso o bien hacer cosas interesantes?", pregunta Baeza-Yates. Campo no tiene dudas: "Se puede desarrollar una carrera satisfactoria y de alto nivel en empresas con valores con los cuales te sientes alineado", concluye.

Europa planta cara a los gigantes de la computación

Las aplicaciones de rastreo del covid-19 han sido una palestra de computación ética en Europa. Desde un principio, se diseñaron con la ambición de respetar la privacidad. 

También la plataforma de participación ciudadana y el buzón ético del Ayuntamiento de Barcelona están pensados para no recoger información de los usuarios. Estos son ejemplos de cómo Europa (prácticamente el único mercado grande que está plantando cara a los gigantes de Silicon Valley) podría desarrollar su propio negocio informático con estándares éticos. 

"Nos hemos pasado 20 años dejando que americanos y chinos se dieran una fiesta con nuestros datos personales. A la vez, las grandes empresas informáticas europeas, como Olivetti, Siemens o Nokia, se quedaban atrás. Ahora somos cautivos de las plataformas [de Silicon Valley]", afirma Josep Domingo-Ferrer, de la Universitat Rovira i Virgili. 

"La única defensa que tenemos es la Comisión Europea. En 2016, Europa se despertó con la ley de protección de datos [RGPD]. La talla de nuestro mercado puede imponer estándares éticos y legales a esas empresas", prosigue el investigador. 

Muchos de los programadores consultados se sienten amparados por la RGPD. Perciben que sin ella, sus empresas les pedirían tareas más cuestionables.

Cierto «proteccionismo ético» podría favorecer a empresas europeas orientadas al bien común, a la privacidad o a la auditoría de algoritmos, según Domingo-Ferrer.

Andreu Veà, pionero de internet en España, duda de que aparezca un Google europeo y cita la historia de Google News en España: cuando el país quiso regularlo, la multinacional sencillamente retiró la oferta del territorio. 

"Después de casi 30 años de internet, no sé decir si hay una solución perfecta a nivel ético", afirma. El ingeniero cree que fórmulas de pago o tarifas planas podrían romper la lógica de muchas empresas de internet, que se cobran sus servicios «gratuitos» a base de vender datos de los usuarios. 

Ricardo Baeza-Yates, de la Northeastern University, cree que la computación ética seguirá los pasos de la comida orgánica. Cada vez más usuarios y empresas querrán apuntarse a ella. Como ejemplo, Telegram ha presumido de un enorme incremento de usuarios a partir de que Whatsapp anunció que compartiría datos con Facebook.

Pero también hay ejemplos de lo contrario. La mayoría de las escuelas catalanas se han entregado a Google Classroom para la educación a distancia. El gobierno del tripartito impulsó el programa Linkat en las escuelas, que sin embargo fue abandonado por sus sucesores, recuerda Domingo-Ferrer.

El compromiso del sector público es imprescindible, según los expertos. "Hay empresas que almacenan datos de todo el mundo. Es cuestión de que los estados tengan una política de soberanía de datos", concluye Diego Sáez, de la Wikimedia Foundation