Karen Hao, autora del libro que Sam Altman no quiere que leas: "Hay movimientos casi religiosos que creen estar construyendo un dios o un demonio de IA"

El 30 de noviembre de 2022, hoy hace tres años, el mundo cambió de golpe. OpenAI, una start-up hasta entonces desconocida fuera de Silicon Valley, lanzaba ChatGPT, un generador de texto capaz de simular una conversación humana. El chatbot se convirtió en un fenómeno que sorprendió a propios y a extraños y prendió la mecha de una carrera comercial y geopolítica por hacerse con el control de una tecnología llamada a marcar una época: la inteligencia artificial.

Casi tres años antes, Karen Hao se convirtió en la primera periodista en adentrarse en OpenAI. Su crítico y riguroso reportaje escoció tanto que se le retiró de immediato el acceso a las oficinas. En lugar de rendirse, la periodista estadounidense de origen chino investigó. Esta semana ha publicado El Imperio de la IA (Ediciones Península), un exhaustivo ensayo con más de 200 entrevistas que disecciona con precisión quirúrgica el impacto global de la industria de la IA. A Sam Altman, director ejecutivo de la firma, le ha disgustado tanto que tuiteó que nadie debería leerlo.

EL PERIÓDICO ha podido hablar con Hao. Esta es la segunda parte de nuestra extensa entrevista con ella.

Trabajaste brevemente en Silicon Valley. ¿Por qué pasarse al periodismo?

Porque quería trabajar por el interés público y me di cuenta de que Silicon Valley no te permite hacerlo. Cuando estaba en el instituto creía que la tecnología sería la herramienta más poderosa para beneficiar a la sociedad, pero después de entrar en el ecosistema del sector tecnológico en EEUU vi que sus incentivos son profundamente perversos. Su innovación no produce tecnologías para el bien público, sino productos rentables que lo socavan. Así que no veía un futuro para mí ahí.

La innovación de Silicon Valley no produce tecnologías para el bien público, sino productos rentables que lo socavan

Tendemos a mistificar las figuras de Sam Altman, Mark Zuckerberg o Elon Musk como si fuesen dioses, pero tu has estudiado con muchos directivos de Silicon Valley. ¿Cómo cambia eso tu perspectiva?

Recuerdo pasear por las habitaciones de la residencia con estas personas y todos llevábamos pijama. Son personas normales, falibles. El problema no es ese, todos lo somos, sino que sus defectos se amplifican y llegan a miles de millones de personas en todo el mundo porque no hay procesos institucionalizados para contar con otras opiniones ni para que rindan cuentas ante los afectados por sus malas decisiones. Esa no es la forma en que debería funcionar la sociedad. Pasamos de la era del imperio a la de la democracia porque la mayoría cree que todos deberíamos tener voz y voto en cómo se configura nuestra vida a largo plazo. Estas empresas tecnológicas básicamente nos han engañado para que aceptemos una premisa de la que nos alejamos hace décadas.

Paul Graham, mentor de Altman, dijo de él: "Podrías lanzarlo en paracaídas a una isla llena de caníbales y volver cinco años después, y él sería el rey". ¿Su mayor don es engañar a la gente para conseguir lo que quiere?

Su mayor don es la capacidad de contar historias, sean ciertas o no, para motivar a la gente e impulsara a hacer lo que él quiere. Quienes están de acuerdo con su visión las ven como ciertas, por eso creen que es el Steve Jobs de nuestra generación y que siempre es honesto y transparente. En cambio, las personas que no conciden con el rumbo que toma porque sus historias no se convierten en realidad son las que se sienten manipuladas.

Tan adulador como ChatGPT...

Las tecnologías encarnan los valores de sus creadores. Y no creo que sea una coincidencia que ChatGPT se manifieste así.

El mayor don de Sam Altman es su capacidad de contar historias, sean ciertas o no, para motivar a la gente a hacer lo que él quiere

¿Es por eso por lo que intentaron echarlo de OpenAI?

Sí. Hubo dos factores en juego. Uno fue ese rasgo de su personalidad tan controvertido. Los empleados que se sentían engañados tenían más canales de comunicación con la junta directiva. El segundo fue que esa junta tenía una ideología catastrofista y, por ende, veían las malas decisiones de Altman como una amenaza existencial que podría significar la desaparición de la raza humana. Ambos llevaron a su despido.

Silicon Valley funciona gracias a las promesas de futuro. Ahora, esa promesa es la llamada inteligencia artificial general (AGI). ¿Qué es?

Se supone que la AGI es ese punto teórico en el que la IA alcanza un nivel de inteligencia humano. El problema es que no existe un consenso científico sobre qué es la inteligencia humana y cómo medirla. Por eso, a lo largo de las décadas se han realizado tantas pruebas diferentes para intentar determinar cuándo la IA cruza ese umbral. Y en cada etapa, una vez que se supera ese punto de referencia, la gente dice: «Un momento, no parece que realmente hayamos alcanzado el objetivo».

¿Por eso cada empresa la define en base a sus intereses económicos?

Las empresas aprovechan la ambigüedad de los objetivos para seguir cambiándolos en función de sus necesidades. Altman lo hace constantemente. Cuando habla con los consumidores, dice que será asistente digital increíble que te liberará de todas las tareas tediosas y te proporcionará mucha alegría, como en la película Her. Cuando habla con el Gobierno de EEUU, dice que va a neutralizar el cambio climático y resolver la pobreza. Cuando habla con Microsoft, dice que será un sistema que genera 100.000 millones de dólares de ingresos. Es una visión completamente incoherente. Altman dice lo que necesita para conseguir la próxima ronda de financiación. Y nadie puede rebatirle, porque nadie sabe lo que la AGI es.

He hablado con personas cuyas voces temblaban por el estrés y la ansiedad de pensar que, si tomaban una decisión equivocada, morirían a manos de la IA

¿Creen realmente en esa superinteligencia o es solo marketing?

Lo que más me sorprendió durante mi investigación es que hay movimientos casi religiosos donde la gente cree que está construyendo algo parecido a un dios o un demonio de IA, y que va a ser el precursor de la próxima era de la civilización. Esta será utópica o distópica, dependiendo de las decisiones que tomen hoy sus creadores. He hablado con personas cuyas voces temblaban por el estrés y la ansiedad de pensar que, si tomaban una decisión equivocada, ellas y todos sus seres queridos morirían a manos de esa IA.

Creyentes de una falsa profecía.

La analogía que mejor describe esa realidad en Dune. En la novela, las Bene Gesserit crean una serie de mitologías para protegerse cada vez que llegan a un planeta determinado. La gente de ese planeta nunca se da cuenta de que son artificios, simplemente creen. Cuando Paul Atreides llega a Arrakis empieza a encarnar ese mito y a aprovecharlo para conseguir lo que quiere. Por un lado hay los verdaderos creyentes. Por el otro, actores políticos que maniobran y explotan a los creyentes para advertir al público y a los responsables políticos sobre el gran poder de estas tecnologías y el hecho de que deben ser controladas por un pequeño grupo de personas, que son ellos mismos.

Apocalípticos y utópicos, ¿no son dos caras de una misma moneda, el hype?

Exacto. Ambos bandos alimentan una mitología que no es realidad. Así que siguen perpetuando el mito del ser supremo todopoderoso, ya sea benevolente o malvado, cuando el verdadero daño, por ejemplo el cambio climático, está ocurriendo justo delante de nosotros. Para ellos el fin siempre justifica los medios.

Suscríbete para seguir leyendo