Éric Sadin, filósofo crítico de la IA: "Deberíamos haberla prohibido desde el principio"

Éric Sadin (París, 1973) es una de las voces críticas más relevantes sobre los riesgos sociopolíticos de la digitalización y la inteligencia artificial. Cuatro años antes de que en 2022 el lanzamiento de ChatGPT asomase el mundo a la "catástrofe", el prolífico autor y filósofo francés ya había advertido en una de sus obras que la IA "genera una progresiva marginación del ser humano".

Ahora, Sadin vuelve a la carga contra el cambio tecnológico en El desierto de nosotros mismos (Caja Negra, 2026), ensayo en el que expone la deformación intelectual y creativa que, a su juicio, traerá la creciente externalización de nuestras capacidades cognitivas a sistemas regurgitadores de IA generativa.

Sadin atiende a EL PERIÓDICO en el marco de un diálogo organizado por CaixaForum Barcelona sobre el rol de lo humano en la era de la IA.

Sostiene que la IA debería prohibirse. ¿Por qué?

Ya vamos con retraso, deberíamos haber prohibido la IA desde el principio y haber puesto fin a esta plaga que nos ha azotado, que nos ha hecho renunciar a nosotros mismos y a nuestras propias facultades.

La principal razón es que no supimos ver las consecuencias. Y podríamos haberlo hecho porque todo estaba en germen. Por ejemplo, ya empezamos a ver primeras desapariciones masivas de empleo en las empresas debido a la introducción de la IA o a profesores de escuela o de universidad que se preguntan: "¿Cuál es mi papel?". También se han documentado las graves consecuencias que conlleva, a nivel energético, la multiplicación de la construcción de servidores de IA en todo el mundo o cómo hay adolescentes y adultos que han desarrollado una dependencia emocional de estos sistemas. Deberíamos dejar de hablar en futuro, como hace el mundo económico, y escuchar las consecuencias de la IA.

Las imágenes falsas generadas con IA nos adentran a una indistinción generalizada que aumentará la violencia

Guerras como las de Ucrania, Gaza o Irán han confirmado que la IA también amenaza con sepultar la verdad bajo un alud de desinformación sintética.

Hace 2 o 3 años, todavía se podía distinguir con facilidad las imágenes reales de las generadas, pero resulta cada vez más arduo y en un par de años será imposible. Entramos, pues, en lo que llamo "la era de la indistinción generalizada", y es de alta gravedad porque una sociedad se rige no solamente por leyes comunes, sino también por referentes comunes. Cuando estas referencias desaparecen, se abre un espacio en el cual aumentan los fenómenos violentos.

¿Qué sucederá? ¿Cada persona podrá generar y disponer de sus propias imágenes fantaseadas, reflejando sus deseos, sus locuras, y todas las locuras se convertirán en algo posible? ¿Las imágenes serán vectores de paranoia general y provocarán un aumento de fenómenos de violencia?

Crece la conciencia social sobre esos problemas, pero casi un 10% de la población mundial ya usa ChatGPT.

Si las multitudes se lanzaron sin pensarlo dos veces a disfrutar sin límites de todos esos sistemas, si hemos dado muestras de tal irresponsabilidad, es debido, ante todo, a que no nos hemos planteado, como deberíamos haber hecho, la madre de todas las preguntas. Son nuestros hijos, nuestros nietos, quienes ya empiezan a hacérnosla, quienes nos la van a hacer cada vez más. "Pero ¿por qué, papá, mamá, tengo que ir yo al colegio, aprender gramática, ortografía, si los sistemas, con una simple instrucción por mi parte, van a escribir por mí, a organizar las cosas, a pensar por mí". Y, al hacer eso, hemos renunciado, nosotros, pero también las generaciones futuras, a desarrollar las facultades que permiten formar seres libres y capaces de hablar en primera persona.

Hemos renunciado, pero también las generaciones futuras, a desarrollar las facultades que permiten formar seres libres

Varios estudios advierten de las consecuencias de la renuncia cognitiva que supone depender de la IA para todo. ¿Atrofiará nuestra capacidad de pensar?

Lo que va a atrofiar nuestra capacidad de pensar, porque pensamos con el lenguaje, es no intentar comprender qué es esa cosa producida por esos sistemas, esa especie de pseudolenguaje necrosado que apesta a muerte. Y lo digo porque estos sistemas funcionan mediante análisis estadístico, mediante correlaciones de todo lo que ya existe. En ese sentido, todo lo que generan ya ha tenido lugar. La IA es un régimen reproductivo y no generativo. Por lo tanto, se trata de un lenguaje desprovisto de toda vitalidad, impregnado de muerte, que va a ocupar cada vez más nuestro entorno informativo, en Internet, quizá en la prensa.

Y si empezamos a hablar como ChatGPT, acabaremos pensando en sus términos. Todos igual.

Leí que, en las elecciones municipales francesas, algunos alcaldes o candidatos utilizaban IA generativas para estructurar sus discursos e incluso redactarlos de forma mecánica. Este pseudolenguaje va a estandarizar y homogeneizar nuestro entorno informativo y eso es lo contrario del ímpetu vital que supone nuestro uso del lenguaje. Los humanos no funcionamos según el principio de la correlación, sino de la asociación. Nuestra relación con el lenguaje es un indicador de singularidad, pero además, no mantenemos esa relación de forma probabilística, sino indeterminista, en la medida en que nadie sabe lo que va a decir en los próximos segundos, lo que demuestra que hablar y escribir es un acto de creatividad, de inventiva permanente.

La IA crea lenguaje desprovisto de toda vitalidad, impregnado de muerte, que ocupará cada vez más nuestro entorno informativo

Así que, por un lado, habrá ese lenguaje necrosado, estandarizado, homogeneizado que reproduce cosas ya existentes y, por otro lado, el lenguaje tal y como jugamos con las palabras y la gramática desde tiempos inmemoriales, que da testimonio de nuestro aliento vital, de nuestra singularidad y de nuestra pluralidad.

Si se secuestra el lenguaje, ¿estamos en manos de quienes diseñan esos sistemas de IA?

En este extraño momento de la historia de la tecnología, interactuamos con sistemas que se supone que poseen una omnisciencia en constante crecimiento, por lo que nos dirán la verdad y darán lugar a juegos de influencia extremadamente tortuosos para sugerirnos tal producto en lugar de tal otro. Se olvida que todo esto es producto del capitalismo lingüístico, que se burla de las consecuencias para la civilización y que solo piensa en generar beneficios, lo que acarrea todas estas consecuencias, especialmente sobre el lenguaje, que es la materia prima de la inventiva, de la libertad y de la pluralidad humana.

¿Vamos hacia una sociedad en la que la IA será consumida principalmente por las clases desfavorecidas, como la comida basura, acentuando así la desigualdad?

En 1972, el informe Meadows de 1972 ya expuso cómo se producía el calentamiento global y qué consecuencias acarrearía en la biosfera. Pero, durante 40 años, seguimos con los mismos patrones de consumo y, a principios de la década de los 2000, empezamos a notar esas consecuencias. No quisimos ver que los recursos estaban limitados y que el consumo excesivo conduciría inevitablemente a una catástrofe. Hoy, sucede lo mismo: no queremos ver las consecuencias, por eso siempre llegamos tarde.

No queremos ver las consecuencias, por eso siempre llegamos tarde

¿Mejor tarde que nunca?

Macron dijo el año pasado que iba a prohibir las redes sociales a los jóvenes menores de 15 años, pero no tiene sentido, son medidas cosméticas que no miden las responsabilidades que realmente tenemos en el presente. No sé si realmente tiene cabida una lectura de clase social, no creo que sea fundada, porque la IA impacta a toda la sociedad, a todos sus sectores y es por sector como deberíamos analizar sus consecuencias.

La IA utiliza datos del pasado para inferir el futuro. ¿Anula eso nuestra libertad para evolucionar o imaginar un mundo distinto? Sin imaginación, ¿dónde queda la cultura?

El daño de la IA en la cultura muestra la gran irresponsabilidad y el cinismo de nuestra época. Necesitamos entender que nuestros actos nos comprometen, nos hacen responsables. ¿Seremos capaces de ver más allá de la utilidad inmediata? La IA nos lleva a una evidente desencarnación, una desaparición de todos los oficios (músico, decoradores, creadores de vestimenta, autores, traductores...), lo cual comporta un gran peligro. La automatización de la cultura va totalmente en sentido inverso a lo que es en esencia: singular y creativa.

La automatización de la cultura va totalmente en sentido inverso a lo que es en esencia: singular y creativa

Vamos hacia un mundo del self, un mundillo autocentrado en que cada uno consume su propia música o su propia serie. Eso se asemeja a un auténtico infierno. Un mundo sin Balzac, sin Cervantes o sin Dostoyevski equivale a un desierto.

¿Qué podemos hacer? Renunciar a la individualización a la que nos abocan las pantallas parece casi inimaginable.

Podemos crear mecanismos de verificación y, en caso de no respeto, de prohibición. Todo dependerá de la presión ciudadana. Por ejemplo, las editoriales podrían exigir en sus contratos que no se use la IA.

El desprecio que se denuncia por todo lo vivo –y que llevó a la catástrofe climática actual– deberíamos aplicarlo primero a la parte irreductiblemente humana que llevamos dentro. Debemos preocuparnos ante todo por nuestro genio interno, porque bajo esta condición de preservación de lo que nos hace humanos, podremos defender la vida en todas sus expresiones. Si seguimos sin entender los riesgos y retos que se vislumbran, no solamente entraremos en una era de calentamiento global, sino también en una glaciación de todas nuestras facultades, y estaremos condenados a errar en un desierto de infinita tristeza.

Suscríbete para seguir leyendo