Carme Torras: "Evolucionamos (tanto y) tan rápido que no hay ningún control"

El despacho número 10 del Institut de Robòtica i Informàtica Industrial de Barcelona lo ocupa una optimista. Carme Torras ha dedicado su vida a estudiar la relación entre las máquinas y el cerebro humano y su objetivo es que los programadores de robots también aprendan ética. Además, es una de las pocas mujeres que escribe novela de ciencia ficción. En resumen, una eminencia que tiene la discreción como carta de presentación.

{"zeta-legacy-despiece-vertical":{"title":"Los libros","text":null}}¿Sobrevaloramos la inteligencia? ¿Qué es la inteligencia? Normalmente se asocia al coeficiente intelectual, los famosos test I.Q.

¿Y no lo es? Este tipo de inteligencia abstracta es importante, pero hay otras: emocional, afectiva, relacional...

¿Le han hecho alguna vez un test de inteligencia clásico? En la escuela los hacían, pero no me gusta nada que se hagan diferencias por inteligencia. Cuando en la escuela te ponen la etiqueta de que eres muy inteligente te separan del grupo, te alejan de los demás. A mí me gusta hacer las cosas muy bien hechas, pero nunca me ha gustado destacar. La gente me valora por mi inteligencia pero pienso que no es mi capacidad más importante.

¿Y cuál es? Creo que es la capacidad emocional, de entusiasmarse por las cosas, de motivar. Cuando selecciono gente para trabajar conmigo es importante que sean académicamente buenos pero sobre todo busco que tengan motivación, entusiasmo,  iniciativa y habilidad emocional.

Cuando usted entró en la facultad de Matemáticas de la Universitat de Barcelona Franco aún estaba vivo. Era el curso 1973-74 y empezamos las clases en enero. Como tuvimos seis meses de vacaciones, los aproveché para hacer un curso de informática, y también me matriculé en Filosofía y Letras. Siempre me ha gustado aprender y me interesaba mucho cómo se forja el pensamiento, la inteligencia, las emociones… el cerebro, en definitiva.

En 1979 se fue a Estados Unidos. Había acabado Matemáticas y leí 'Cerebros, máquinas y matemáticas', de Michel A. Arbib. Le escribí para decirle que me encantaría estudiar lo que explicaba en su libro sobre cómo modelar el cerebro con computadoras y para mi sorpresa me contestó y me invitó a estudiar el máster de Brain Theory en la universidad de Massachusetts. Pedí una beca Fulbright y salí pitando, literalmente. Entonces veraneaba en Vic y no teníamos teléfono; me llegó un telegrama diciéndome que me esperaban en Massachusetts en tres días.

¿En su casa había una predisposición al estudio? Hay tres personas que me han marcado: mi padre, que tenía ideas avanzadas a su tiempo y creía mucho en la mujer; un tío con el que me pasaba las tardes del sábado resolviendo divertimentos matemáticos, y mi profesora de Filosofía de bachillerato. Yo quería entender el mundo y la filosofía me abrió líneas de pensamiento que yo desconocía.

Usted plantea que tecnología y ética deberían ir de la mano. Me interesa no tanto qué ética programamos en los robots, sino cómo formamos a las personas que programan los robots para que tomen las decisiones adecuadas. MIT Press [la editorial universitaria afiliada al Instituto Tecnológico de Massachusetts] va a traducir al inglés mi novela 'La mutació sentimental' y me han pedido que lo acompañe con unos materiales pedagógicos para utilizar en la asignatura de ética de la robótica.

"La especie más evolucionada del planeta morirá de un exceso de evolución", escribe en 'La mutació sentimental'. ¿Lo cree posible? No lo veo imposible. Es un riesgo, en el sentido de que evolucionamos tanto y tan rápido que no hay ningún control de hacia dónde van las cosas. No podemos prever el futuro de la tecnología, pero al menos la ciencia ficción delinea escenarios posibles que nos permiten debatir hacia dónde queremos ir. A mí me marcaron libros como 'Un mundo feliz', '1984', 'Fahrenheit 451', clásicos de la ciencia ficción que dibujan un posible mundo futuro.

Si no podemos controlar el avance tecnológico, ¿por qué no parar al menos el más dañino? La curiosidad humana es imparable, si algo puede inventarse se acabará haciendo. Lo que intento en mi entorno es orientar la tecnología hacia donde éticamente parece un buen camino, en lugar de dejarla en manos de intereses comerciales. Actualmente en el Institut de Robòtica estamos trabajando en el proyecto europeo I-Dress para programar robots que ayuden a vestirse a personas mayores o discapacitadas.

¿Sustituiremos al cuidador por robots? ¿Y el contacto humano? La idea es liberar al cuidador o al terapeuta de las tareas más rutinarias precisamente para que pueda dedicarse más a la parte afectiva. A mí no me gustan los sustitutos afectivos. Uno de los principios básicos en ética es no engañar a las personas. Un robot humanoide puede engañar a la persona que cuida y esta puede llegar a creer que el robot realmente se preocupa por su bienestar (cuando es mentira) y delegar en él todas las decisiones. Los robots son herramientas y no hay que hacerlas más humanas de lo necesario. Esta es una de las primeras cosas que habría que enseñar a los programadores.

En su novela la relación con los robots acaba limitando las capacidades humanas. Si las máquinas lo hacen todo, puede ser que los humanos involucionemos y nuestras capacidades intelectuales, afectivas y relacionales decrezcan. Pero yo creo en la sabiduría y el sentido común del ser humano como globalidad y tengo la esperanza de que tomaremos decisiones sensatas. Soy optimista. De hecho, la novela muestra el doble filo de la tecnología, también su potencial para ampliar nuestras capacidades.

En teoría las nuevas tecnologías amplían nuestras capacidades, pero al hacer una búsqueda en Google nos devuelve resultados limitados a un patrón de búsqueda previo. Google nos tiene modelados y a la larga solo nos llegarán las noticias que se supone que nos interesan, con lo que nuestro universo se irá reduciendo. Algunos privilegiados buscarán nuevas fuentes de información, pero una mayoría se quedará con este mundo hecho a su medida, pequeño, que no les hará crecer sino involucionar. Creo que esta fractura digital aumentará. Precisamente estoy trabajando en una novela sobre la capacidad de influencia de las personas en las redes sociales.

{"zeta-legacy-destacado":{"strong":"nos llegar\u00e1n\u00a0","text":"interesan y nuestro universo ser ir\u00e1 reduciendo\""}}Si pudiéramos establecer un paralelismo entre las edades de la civilización humana y la de los robots, ¿en qué edad estarían ahora? Creo que los robots ni siquiera han llegado al nivel de nuestra Edad de Piedra, porque aún no han descubierto la funcionalidad de los objetos, no saben que un hueso se puede usar como martillo o como arma.

Vaya, no parecen tan inteligentes. Por ahora las máquinas no son nada inteligentes. En el juego del go o del ajedrez, la máquina es mejor; en todos los entornos donde haya unas reglas muy claras, nos gana por goleada. ¿Pero eso es inteligencia? Para mí es cálculo. Son grandes procesadores de datos que pueden hacer modelos estadísticos. Los robots funcionan por asociación, es decir, como han visto muchas puertas saben identificar una puerta, pero aún no saben cómo abrirla, no hay conocimiento. Creo que ese será el próximo gran paso de la inteligencia artificial. Luego hay capacidades, como la autoconciencia, que no veo que puedan desarrollar ni en el 2050.

Estamos rodeados de algoritmos, una palabra que hasta hace poco solo se usaba en el ámbito académico. Incluso la victoria de Trump la previó un algoritmo. ¿La vida podría expresarse como un algoritmo? [ríe] Menuda pregunta... Un algoritmo es como una receta de cocina. Tiene unas entradas bien definidas (los ingredientes), un proceso (batir, amasar, hornear) y unos resultados (el pastel). Pero la vida no es un pastel, es una cosa muy compleja. ¿Cómo vamos a ponerla en un algoritmo si ni siquiera sabemos lo que es?

Es curioso que la única persona que investiga en robótica y ética en este país sea una mujer. Bueno... no soy la única. Pero es cierto que, en este ámbito de la robótica 'humanista' o de los robots sociales, las mujeres somos mayoría, lo cual contrasta con la escasa presencia de investigadoras en la comunidad robótica general.