Carissa Véliz, filósofa: "La IA predictiva es una vía rápida hacia el totalitarismo"

"Las predicciones sociales son órdenes encubiertas. Cuando un directivo tecnológico dice que en el futuro utilizaremos inteligencia artificial para todo, está intentando que actúes de forma que cumplas su visión de futuro: la que le llena los bolsillos".

La filósofa hispanomexicana Carissa Véliz siempre ha tenido claro que la tecnología no es neutral, sino un instrumento de poder. En su último y lúcido ensayo, Profecía (Debate), la experta en ética y profesora de filosofía en la Universidad de Oxford analiza cómo la adivinación está ganando cada vez más protagonismo en nuestras sociedades, desde la estadística de la IA hasta mercados de predicción como Kalshi o Polymarket. Quienes la usan buscan moldear el mundo a su antojo, advierte en una entrevista con EL PERIÓDICO.

Silicon Valley se basa en las promesas de futuro, desde la colonización de Marte hasta la creación de una IA parecida a Dios. ¿Esconden esas predicciones una proyección de poder?

Sí, lo que venden no tiene nada que ver con los hechos, ni con la realidad, sino con el futuro que ellos quieren, que les conviene económicamente. Lo preocupante es cuando la prensa, los ciudadanos, y todavía peor, los gobiernos, interpretan esas predicciones como si fueran hechos. Y las predicciones negativas que van en contra de la democracia, no están ahí para obedecerlas, están ahí para desafiarlas.

La industria tecnológica explota la necesidad de clics de muchos medios para que amplifiquen sus predicciones y contribuyan a moldear la realidad. Al mismo tiempo, ese alud de predicciones cataclísmicas abruma a la sociedad, acentúa el estrés sobre el futuro y la paraliza. ¿Es el capitalismo de la atención el mejor aliado de esa estrategia?

Totalmente. Es un círculo vicioso: queremos saber qué pasará en el futuro por temor a no estar preparados y, mientras más capturan nuestra atención y nos asustan, más nos empujan a pedirles protección. Básicamente, cuando preguntas a uno de esos ejecutivos tecnológicos sobre el futuro le estás pidiendo que te diga qué hacer porque tienes miedo. Están cultivando la ansiedad, un estado emocional perfecto para que seamos vulnerables a su conquista de poder.

Aseguras que la incertidumbre es una buena noticia. ¿Por qué?

Yo también experimento ansiedad cuando hay tanta incertidumbre. Pero si supieras exactamente lo que vas a hacer mañana estarías viviendo en un estado policial. La manera más fiable de predecir el futuro es determinarlo. Te pongo un ejemplo extremo: la manera más fácil de saber dónde estará alguien mañana es encarcelarlo. Si supieras exactamente lo que pasará en el futuro es que ya está escrito y, por ende, no tendría libertad para cambiarlo. Cuando asumes esa perspectiva te das cuenta de que la incertidumbre es un grandísimo regalo: significa que el futuro no está escrito y que tienes la habilidad para interceder, para cambiar, para influir. Y de eso se trata un poco la vida, de construirla, de escribir tu propia historia.

La incertidumbre es un grandísimo regalo: significa que el futuro no está escrito y que tienes la habilidad para intercedir

Carissa Véliz

¿Qué pasa entonces con los modelos de IA predictivos que, por ejemplo, sirven para determinar si los migrantes entran por la frontera o a quién se conceden ayudas públicas? ¿Se están utilizando como oráculos a expensas de los más vulnerables?

Y a expensas de la justicia, porque toman decisiones que van a cambiar fundamentalmente la vida de las personas y sin dar razones. El algoritmo puede rechazarte y ni siquiera sabemos por qué. Y eso va en contra de todos los valores más importantes de las democracias liberales. El ejercicio de la democracia es poder razonar con la persona que hace las reglas y desafiarla si son incorrectas.

Un sistema en el que no se dan ni reciben razones, en el que no hay con quién argumentar, es una vía rápida hacia el totalitarismo. Hannah Arendt ya nos advirtió sobre la amenaza de una burocracia que funciona arbitrariamente. La IA puede hacer que ese sistema sea mucho más efectivo y opaco.

Por eso aseguras que debemos dejar de ver la IA como una máquina aséptica y neutral.

Totalmente. La IA puede utilizarse científicamente, pero no es ciencia. Puede servir para encontrar nuevas moléculas, pero para decidir cuestiones fundamentalmente políticas, sociales y morales sobre los seres humanos, eso no es un uso científico. Entre otras razones porque la molécula no cambiará por tu predicción. Pero cuando la haces sobre un humano y cambias las expectativas que hay a su alrededor, eso tiene un efecto sobre esa persona.

La IA puede utilizarse científicamente, pero no es ciencia

Carissa Véliz

Detrás de la IA hay personas. En el libro hablas del Altruismo Eficaz, la corriente filosófica que abrazan muchos magnates tecnológicos para actuar basándose en el hipotético beneficio de un futuro lejano. ¿De qué se trata?

El altruismo eficaz es la nueva iteración de los utilitaristas de toda la vida, que han tenido mucha influencia cultural en cómo pensamos en las políticas públicas, centrándonos solo en las consecuencias. El fundamento de esta ideología se basa en asumir que podemos predecir las consecuencias y si lo cuestionas se derrumba su castillo de naipes.

Al principio estaban interesados en la pobreza. Pero es un grupo de chicos ambiciosos que quieren subir en los escalones del poder y se dan cuenta que la pobreza no vende bien. En cambio, si hablan de IA y del futuro del mundo, eso vende mucho mejor. Uno de los argumentos más perniciosos y más cuestionables es que en el futuro va a haber trillones de seres humanos, en este momento solamente somos billones, y, por lo tanto, como trillones es más que billones, deberíamos de poner su bienestar antes que el nuestro. Asumen todo tipo de cosas sobre cómo será el mundo dentro de mil años, pero históricamente sus predicciones a corto plazo han sido desastrosamente incorrectas.

¿Sirve de excusa moral para que los gigantes tecnológicos justifiquen acciones como, por ejemplo, impulsar sus centros de datos con gas en aras de que eso sirva para alcanzar una IA todopoderosa que resuelva el cambio climático?

Sí, es una ideología peligrosa porque es muy efectiva dando un barniz de aceptabilidad o de moralidad a acciones que realmente son juegos de poder.

El Altruismo Eficaz es una ideología peligrosa porque es muy efectiva dando un barniz de aceptabilidad o de moralidad a acciones que realmente son juegos de poder

Carissa Véliz

Esa mentalidad les lleva a vender la IA como un Dios que nos condenará o como uno que nos salvará. Una parte usa ese argumento como herramienta de marketing para seducir, captar la atención y atraer inversiones. Sin embargo, la periodista Karen Hao también ha descrito esa creencia como un culto casi religioso en el que creen ciegamente. ¿Es compaginable ese oportunismo con un dogma de fe?

Sí, es una combinación muy efectiva porque mezcla la pasión de la ideología, el tribalismo de una secta que se protege unos a los otros y un grupo muy reducido de personas que tiene muchísimo poder, muchísimo dinero y muchísima influencia. Hay personajes que claramente no son sinceros, que lo único que quieren es poder y dinero y que venden una narrativa más ética y mística como estrategia de marketing puro y duro. Hay quién cree en esa historia, pero hay mecanismos psicológicos que explican que es más fácil creerte una historia que te conviene que una que no te conviene.

Esa mentalidad es ampliamente compartida en el sector.

Preocupa ver muchos ingenieros muy jóvenes creciendo en esta burbuja que distorsiona la realidad completamente. Cuando interactúas mucho con un chatbot que te valida todo el tiempo y dejas de interactuar con la gente, puedes terminar creyendo lo que te dice y caer en espirales de psicosis. También hay un poco de ese efecto en Silicon Valley.

¿Fue el juicio entre Elon Musk y Sam Altman un juicio a esa corriente de pensamiento?

Sí, y recuerda un poco a las luchas de poder entre los titanes en los mitos de la antigua Grecia.

Los llamados mercados de predicción como Kalshi o Polymarket permiten apostar sobre todo, desde la guerra a la hipotética resurrección de Jesucristo. ¿Son la última expresión turbocapitalista del problema que describes en Profecía?

Sí, son parte de la cultura de la adivinación. Silicon Valley tiene muy claro que está moldeando el futuro. Mira que hemos tenido malas ideas últimamente, pero esta es de las peores.

Los mercados de predicción (como Kalshi o Polymarket) son de las peores ideas que hemos tenido

Sus impulsores dicen que apostar sobre todo permite a los no expertos tener más conocimientos...

No es una fuente de conocimiento porque solo lo sería si asumes que una predicción pertenece a una esfera del conocimiento, cuando pertenece a la del poder. Cuando dos personas hacen una misma apuesta puede parecer que están haciendo lo mismo, pero una puede estar intentando saber cuál es el futuro y la otra puede estar tratando de modificarlo, sobre todo si tiene mucho dinero. Lo que estamos viendo, gente enriqueciéndose apostando sobre los ataques de EEUU a Irán, es totalmente comprensible si entiendes que las predicciones son juegos de poder.

Hemos visto como uno de los personajes más controvertidos de Silicon Valley, Peter Thiel, ha abrazado ahora una filosofía del apocalipsis particular que asegura que frenar el desarrollo tecnológico acabará con la humanidad y que todos aquellos que lo cuestionan son el Anticristo. ¿Estamos, como asegura el filósofo Eudald Espluga, ante un intento por controlar el relato sobre el fin del mundo?

Peter Thiel es un personaje que incluso su biógrafo —que se ha pasado años estudiándolo y estando realmente cerca dice que— no sabe qué pensar sobre él. No sabe hasta qué punto lo que dice es algo que se cree o lo que dice es una herramienta. Pero estas narrativas del anticristo son particularmente preocupantes en EEUU, un país donde hablar del cristianismo, del anticristo, de Dios son palabras mayores y donde se confunde el que alguien tenga mucho dinero con que sea una autoridad en cualquier cosa.

En el Vaticano eso no pasa.

Que hable de que regular la tecnología traerá el anticristo es increíble, es quizás el ejemplo más extremo de que vivimos en un momento de aterrorizar a la población.

Siendo impulsor de Trump y J.D. Vance, también apela a un público potencialmente fundamentalista.

Sí, y es una ironía impresionante que la persona más libertaria de todo Silicon Valley sea uno de los contratistas más importantes del gobierno.

Suscríbete para seguir leyendo