Ir a contenido

UNA TECNOLOGÍA CON LIMITACIONES

Los gorilas aún despistan a Google Photos

Dos años después de que el sistema confundiese a un hombre afroamericano con un simio, la compañía bloquea etiquetas para evitar que se reproduzca el error

Ernest Alós

Un hembra de gorila con su cría, en Ruanda.

Un hembra de gorila con su cría, en Ruanda. / Xavier Jubierre.

Hace ya dos años, Google tuvo que reconocer que su servicio Google Photos, que organiza a partir de un algoritmo teóricamente inteligente las imágenes que sus usuarios confían a la nube en carpetas temáticas, o permite hacer búsquedas entre ellas, tenía algún fallo que le hacía actuar como el más obtuso de los ‘hooligans’ racistas. Un desarrollador de software afroamericano mostró en las redes que el servicio identificaba sus ‘selfies’ y los de sus amigos de tez oscura como ‘gorilas’. Entonces la compañía prometió solucionar el problema, pero según una extensa comprobación por parte de la revista ‘Wired’, al cabo de dos años aún no ha conseguido refinar el sistema: de momento, la única forma de evitar el error es impedirle que busque, identifique y agrupe fotos con etiquetas como ‘gorila’, ‘simio’ y ‘mono’.

La revista ha testeado el funcionamiento de Google Photos usando una colección de 40.000 imágenes de animales. Con los términos anteriores no aparece ningún resultado, pero en cambio sí se han mantenido utilizables las búsquedas de otros parientes más lejanos del hombre que la máquina es capaz de diferenciar, como orangután, gibón o tití. Una fotografía de un gorila en un paisaje selvático aparece si se busca por 'selva', por ejemplo, pero no con el nombre del animal. Un portavoz de Google ha admitido a la revista que “la tecnología de etiquetado de imágenes está aún en sus inicios y desafortunadamente no se acerca a la perfección”. Así que mejor pecar de precavidos.

La exclusión de las etiquetas polémicas funciona tanto en inglés como en otras lenguas. Y también filtra los resultados del término ‘negro’ para evitar embarazosos desastres: una búsqueda con este término puede ofrecer como resultados desde capturas de pantallas en negro a fotos en blanco y negro o tarántulas, pero pasa por alto tanto a simios como personas.

El filtro, cuando se equivoca, no solo lo hace por un posible sesgo racial de sus programadores: hemos podido comprobar cómo, mientras conseguía identificar con notable precisión las imágenes en que aparecían bicicletas, ruinas o fotos de aniversario con pastel sobre la mesa, decidía en cambio que un pato que chapoteaba en el agua era un perro. Y un escritor fotografiado en medio de una enredadera, una flor.     

0 Comentarios
cargando