No es un despido, es censura y discriminación

Hace tiempo vi una charla TED donde un directivo de Google ensalzaba la cultura del error. Con una puesta en escena muy anglosajona, contaba cómo la empresa tenía equipos enteros cuyo objetivo era cazar cualquier gazapo en los productos o servicios que tenían que lanzarse próximamente al mercado. Aplaudí la idea de que la revisión y la autocrítica formaran parte de los objetivos de la casa, hasta que entendí que eso solo aplica a tecnología, dispositivos o programas. La crítica a la integridad y los valores de la compañía no se celebran, sino que se silencian -especialmente cuando llegan desde los márgenes del privilegio-. Y así fue para Timnit Gebru, quien lideraba el equipo de ética en inteligencia artificial de Google hasta la pasada semana.

Me llamó la atención su salida, que inicialmente se cubrió como un despido motivado por un artículo académico – todavía en redacción--, que recoge evidencias de los impactos éticos y ambientales de determinados modelos algorítmicos. Estos procedimientos están en la base que Google utiliza en su buscador, y por tanto forman parte de su modelo de negocio. La investigación la ha llevado a cabo junto a otros miembros del equipo y un par de colegas de la academia. Esta es una práctica común, en la que universidades y empresas colaboran: las primeras ponen el rigor y las segundas, los casos de uso con sus datos. De hecho, Gebru obtuvo su doctorado en Stanford, es una investigadora muy reconocida y por eso la contrataron, por su recorrido en la ética de la inteligencia artificial.

No es el primer artículo crítico que escribe, pero sí es la primera vez que la empresa le sugiere que no consten los nombres de sus cuatro empleados en la autoría. La doctora Gebru pidió explicaciones de vuelta y compartió su indignación en un chat interno. El escrito respira impotencia e invita a dejar de esforzarse por mejorar las cosas en una compañía que no quiere cambiar. El código de conducta incluye la famosa frase "Don’t be Evil” (no hagas el mal), y sigue con una invitación a levantar la voz en caso de detectar algo inadecuado. Está claro que tocar el silbato y pedir explicaciones es mucho más difícil cuando en las reuniones eres la única mujer afrodescendiente, porque solo sois el 2% de la plantilla global. Las primeras líneas de mando usaron el mensaje como pretexto para aceptar su (supuesta) renuncia. Y para más inri, rescinden su contrato mientras está de vacaciones. Legalidad y moralidad aparte, con el statu quo hemos chocado.

Mientras la ética sea una piedra en el zapato que aparece en la retórica de los grandes gurús, hay que ofrecer garantías al talento disidente

Gebru llegó a Estados Unidos como solicitante de asilo con 15 años, tras huir del conflicto armado entre Eritrea y Etiopía. Veinte años después y tras mucho esfuerzo, es una de las referentes africanas en el campo de la Inteligencia Artificial. Siendo minoría dentro de la minoría femenina, además de investigadora es activista. Decidió cofundar la iniciativa Black in AI y volver regularmente a su país natal para despertar jóvenes vocaciones en el ámbito de la computación. Ahora ha perdido su trabajo por defender la ética y la diversidad en una empresa que supuestamente la contrató para eso.

El apoyo a Gebru cuenta con miles de firmas de dentro y de fuera de la compañía, sumándose a una carta que exige transparencia sobre los motivos para limitar la difusión de la investigación. Esta censura sutil alimenta la opacidad. Va más allá de incluir o no los nombres en un artículo, es entrometerse en el proceso académico de validación. En ese punto deja de ser un asunto contractual entre la empleada y la empresa, es de interés público.

Además de insistir en el racismo corporativo transversal en la industria tecnológica, deberíamos añadir dos preocupaciones. Por un lado, Google no es solo un monopolio que interfiere en nuestras vidas a través de la publicidad que nos brinda, sino que además limita hasta qué punto puede la academia escrutar sus prácticas. Del otro, y mientras la ética sea una piedra en el zapato que aparece en la retórica de los grandes gurús, hay que ofrecer garantías al talento disidente. El despido de Gebru deja claro que todavía estamos lejos de poder señalar la falta de inclusión y diversidad sin miedo a represalias.

Suscríbete para seguir leyendo