Rebeldes de Silicon Valley

Con 33 años, el programador barcelonés Elies Campo había alcanzado lo que otros sueñan toda una vida con lograr. En 2013, lo fichó una de las grandes empresas de Silicon Valley: Whatsapp. Pero un año después la empresa fue adquirida por Facebook. "Me encanta la mensajería, pero para mí es importante trabajar en una empresa que respeta a los usuarios. Cuando vi cómo funcionaba [Facebook], me di cuenta de lo que pasaría con Whatsapp", afirma Campo, en referencia a que actualmente la red social aprovecha parte de los datos del servicio de mensajería.

En 2014, dejó Whatsapp (cobrando solo una parte del importe de cancelación del contrato debido a la venta, afirma) y el año siguiente empezó a trabajar en Telegram, que presume de no hacer negocio con los datos de sus usuarios. "Seguramente no podré volver a trabajar en Facebook, pero tenemos que dar estos pasos", afirma.

Dilema creciente tras el asalto al Capitolio

El dilema moral que expone Campo no es una excepción. "Trabajando en 'marketing', te topas con temas cuestionables cuando usas datos. Te preguntas si estás haciendo las cosas correctas", afirma P., un programador de una empresa de Barcelona, que pide anonimato.

"Son asuntos de los que hablamos entre nosotros", admite M., un informático que trabaja en Barcelona para una empresa de Silicon Valley y que tampoco quiere hacer público su nombre. "¿[Las compañías] se están portando bien? ¿Vulneran la privacidad? ¿Tienen un impacto en la democracia?", se pregunta, a los pocos días del asalto al Capitolio, instigado en parte a través de las redes sociales.

"Se puede desarrollar una carrera satisfactoria en empresas con valores con los que te sientes alineado", dice Elies Campo, directivo de Telegram

"Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar", afirma J., un desarrollador de videojuegos catalán, que también prefiere no desvelar su nombre.  

"Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar", admite un desarrollador de videojuegos catalán

"Dentro de las empresas hay muchos desarrolladores que empujan para cambiar las cosas. Los directivos ya no responden solo a los accionistas y los trabajadores tienen sus opiniones", reflexiona E., una joven informática catalana empleada por uno de los gigantes de Silicon Valley, que se suma a la petición de anonimato.

La mayoría de las fuentes consultadas trabajan en empresas privadas que no les permiten expresarse libremente, o sienten incomodidad al cuestionar abiertamente el trabajo de otros programadores.

Un movimiento global

Sin embargo, basta con darse una vuelta por los foros de programadores y redes sociales para encontrar decenas que explican por qué han dejado o rechazado trabajos en las mejores compañías de computación.

Algunos casos son sonados. En 2020, el exdirectivo de Amazon Tim Bray abandonó la empresa en protesta por el despido de un trabajador que había reclamado más compromiso con el cambio climático. En 2019, la investigadora en inteligencia artificial Meredith Whittaker abandonó Google, criticando su enorme poder.

En muchas compañías ya hay movimientos y empleados que reivindican algoritmos justos

Muchos 'trabajadores del código' están preocupados por la captación de información privada, la difusión de noticias falsas y la manipulación del comportamiento de algunas personas. Pero también por el monopolio de unas pocas compañías, la discriminación algorítmica (el diseño de programas a la medida de hombres blancos y ricos), la huella de carbono de la computación, y el modelo de negocio de la economía de plataforma. 

En el sector aumenta la mercantilización de la privacidad, la difusión de 'fake news', la manipulación del comportamiento, el monopolio y el sesgo de los algoritmos

"La ética de los algoritmos está tomando cada vez más importancia", afirma Ricardo Baeza-Yates, investigador del Roux Institute for Experiental AI de la Northeastern University (en Silicon Valley) y profesor de la Universitat Pompeu Fabra. Por ejemplo, se han multiplicado los congresos académicos y el activismo. La "humanización" de las tecnologías de la información también forma parte de la iniciativa Mobile World Capital de Barcelona.

Los físicos en la guerra fría

Sin embargo, en la práctica no es fácil dar la espalda a una oferta de trabajo de Facebook o Amazon, por ejemplo. "Además de buenos sueldos, puedes trabajar en tecnologías punteras, y después tu currículum sube de categoría", afirma R., informático que trabaja para una empresa española, que también quiere permanecer en el anonimato.

Diversos expertos ven cierta analogía con la situación de los físicos nucleares durante la guerra fría. La ciencia de las partículas también era impulsada, en parte, por una finalidad aterradora: la carrera nuclear. A la vez, los físicos investigaban temas fascinantes y gozaban de prestigio y buenos sueldos, igual que los expertos en informática hoy.

"Del ‘proyecto Manhattan’ solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva", según Carlos Castillo, investigador en ética de los algoritmos de la UPF

"Los físicos tenían claro que sus experimentos eran conocimiento puro. Si les surgía algún escrúpulo, era fácil desacoplar su trabajo de cualquier aplicación", explica Xavier Roqué, profesor de Historia de la Ciencia de la Universitat Autònoma de Barcelona. "Con la mirada fría del historiador, se ve que no era así. A menudo la base teórica y el desarrollo práctico van juntos: en el 'proyecto Manhattan' [para la construcción de la bomba atómica] se hizo mucha física", añade. De hecho, el proyecto Manhattan tuvo solo un objetor de conciencia, Joseph Rotblat, que luego recibió el premio Nobel de la Paz.

También los informáticos tienen la opción de lavarse las manos. "Como trabajador, programas una parte y no sabes cómo se usará. Puedes sospechar que la empresa hará cosas poco éticas con tu código, pero no depende de ti, sino de los jefes. Puedes decirte: ‘Yo cobro y se acabó’", afirma Josep Domingo-Ferrer, profesor de Ciencia de la Computación en la Universitat Rovira i Virgili, para ejemplificar esa manera de pensar.

Desacuerdos éticos han provocado sonadas salidas de cargos de empresas de Silicon Valley

Sin embargo, ese autoengaño funciona peor con la inteligencia artificial. "En la física no había tanta motivación económica. Al contrario, Google y Facebook tienen el objetivo claro de hacer dinero. Eso debería poner más en alerta", observa Roqué. "Del 'proyecto Manhattan' solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva", coincide Carlos Castillo, investigador en ética de los algoritmos en la Universitat Pompeu Fabra. 

"Los físicos necesitaron la bomba atómica para abrir los ojos. Esperemos que a los ingenieros no les haga falta algo equivalente", afirma Gemma Galdón, directora de la consultora Éticas Research and Consulting e investigadora de la Universitat de Barcelona.

La industria se mueve

De hecho, algo se mueve dentro de la industria. "En Estados Unidos, el poder de negociación de los informáticos es mayor. Hay movimientos que piden códigos éticos y objeción de conciencia", explica Galdón. En Google se acaba de formar un sindicato, y sus empleados y los de Microsoft han conseguido boicotear contratos militares. 

En diciembre, Google despidió a la codirectora de su equipo de ética tras redactar un informe sobre sesgos en algoritmos lingüísticos

"Algunas empresas están en un momento de reflexión, a raíz de escándalos que han protagonizado. Han creado equipos para hacer algoritmos más equitativos. Eso era impensable hace cinco años", comenta Castillo. Varios expertos alaban los esfuerzos de Google.

Sin embargo, hay señales contradictorias. En diciembre de 2020, esa empresa despidió a la codirectora de su equipo de ética, Timnit Gebru, después de que redactara un informe sobre sesgos en algoritmos lingüísticos. "Esto nos ha dejado confundidos. Ella es una persona extremadamente mesurada y nada estridente. Si le echan a ella, te hace pensar que entonces no puedes hablar", comenta Castillo.

La disidencia es viable

Para algunos programadores, la ética ya es un criterio imprescindible. "Yo no contrataría a nadie que haya trabajado en Facebook después de los escándalos de 2015-16. Tu carrera explica tus valores", afirma Elies Campo. 

"En el sector de la informática hay más demanda que oferta de perfiles cualificados. Puedes escoger en qué empresa quieres trabajar", considera Jordi Mas, una de las almas de la asociación Softcatalà. Un ejemplo de ello es Diego Sáez Trumper, informático chileno afincado en Barcelona e investigador en la Wikimedia Foundation, la entidad que garantiza el funcionamiento de la Wikipedia.

Después de investigar en la universidad, Sáez optó por una informática basada en el 'software' libre y sin lucro. "Es una aventura, más que un negocio exitoso. No compites en igualdad de condiciones con los que no tienen requisitos éticos", lamenta.

La suya es una opción vital, además de profesional. "En mi vida diaria puedo prescindir de cualquier 'software' propietario. Tengo un móvil donde he instalado una versión libre de Android. No uso Whatsapp y he convencido a mi familia y mis amigos para que utilicen Signal. Tengo Linux en mi ordenador y borro las cookies cada vez que me conecto", explica. 

El sector ético, minoritario

Sáez compara su elección personal con reciclar la basura: no es suficiente para solucionar un problema global, pero es necesario. "No me gusta que usen mis datos para hacer negocio, y además, consigo salir de la burbuja del filtro", asegura, en referencia al contenido de internet personalizado por algoritmos para que encaje con nuestras preferencias.

"El sector de la informática ética es minoritario y lo va a ser durante mucho tiempo. Pero, ¿tener éxito quiere decir ser famoso o bien hacer cosas interesantes?", pregunta Baeza-Yates. Campo no tiene dudas: "Se puede desarrollar una carrera satisfactoria y de alto nivel en empresas con valores con los cuales te sientes alineado", concluye.

Suscríbete para seguir leyendo