¿Quién enseña modales a una inteligencia sin brújula moral? Las profesiones de Letras reivindican su papel por dotar de humanidad a la IA

ChatGPT, Gemini y Claude han irrumpido en las vidas de miles de millones de personas de forma estridente, caótica y transformadora. Estos modelos conversacionales basados en inteligencia artificial (IA) se han convertido en protagonistas indispensables en la 'daily routine' de cualquier ciudadano del mundo independientemente de su bagaje profesional, cultural y social. Estos 'chatbots' de aprendizaje automático han cambiado la forma en la que se realizan gestos tan simples como comprobar un dato, buscar argumentos para afrontar conversaciones difíciles e, incluso, indagar en consejos para tener un estilo de vida más saludable.

Pero su inconmensurable potencial no puede seguir eclipsando una realidad cada vez más patente: estos asistentes de IA han modificado, como nunca antes lo había hecho una tecnología, la humanidad en sí misma, con cambios a nivel cognitivo, relacional y, en última instancia, en la convivencia en el planeta. El reto, por tanto, es conseguir que esa imparable tecnología tenga una brújula moral que le permita hacer más bien que mal.

A día de hoy, más de 900 millones de usuarios utilizan cada semana ChatGPT (de OpenAI), otros 750 millones utiliza Gemini (de Google) cada mes y 33 millones se han decantado por usar Copilot (de Microsoft). Sin conocer los datos exactos de otras plataformas, como Grok (de X) o NotebookLM (también de Google), no es precipitado concluir que la inteligencia artificial ha irrumpido en todos los aspectos de la vida. Y esta percepción se refuerza con una realidad casi incontestable: cada vez más personas delegan en la IA sus tareas cotidianas.

Hacia la Sociedad del Algoritmo

La IA está removiendo los cimientos que sustentan la sociedad y redirigiendo a la humanidad desde la Sociedad del Conocimiento hacia la Sociedad del Algoritmo. «Los algoritmos se sofistican cada día; ya no solo refuerzan discursos o fomentan las cámaras de eco; están tomando decisiones por nosotros», afirma Juan Sebastián Fernández, sociólogo experto en IA de la Universidad de Almería.

De hecho, ya son estos refinados cálculos los que deciden si conceden el préstamo de una hipoteca, qué diagnóstico médico es más correcto, dictan sentencia y deciden los candidatos ideales para optar a un puesto de trabajo. El problema es que la tecnología que está tomando decisiones más o menos trascendentales sin ningún control. De hecho, «a estas alturas, la IA se está autoprogramando sin apenas supervisión y, en la mayoría de los casos, está reproduciendo sesgos y aspectos discriminatorios», revela Fernández.

Este boom de la inteligencia artificial ha polarizado la discusión científica. Algunos priman una visión postapocalíptica y otros pecan de un entusiasmo tecnoutópico que arrasa con cualquier concepción negativa de la tecnología. Entre ambas visiones, las ciencias sociales alzan la voz para demostrar que no solo pueden jugar un papel de utilidad en este desarrollo, sino que son indispensables para fomentar una inteligencia artificial que comulgue con el bienestar de la humanidad. «Las ciencias sociales han estado apartadas de los avances tecnológicos, y debería ser exactamente lo contrario», recalca José Serrano, sociólogo de la Universidad Europea de Canarias (UEC).

Intervencionismo del Humanismo

Uno de los papeles que las Humanidades pueden jugar en la revolución algorítmica es intervenir sobre su desarrollo. En este debate ético entran en juego las otras ciencias, las que durante años han estado relegadas bajo la etiqueta de Letras. Sociólogos, filósofos, lingüistas, comunicadores, juristas, diseñadores y otras muchas profesiones son ahora primordiales para dotar de humanidad a un elemento tecnológico que tiene más en común con una lavadora que con un cerebro. Dicho debate, como insisten los investigadores, debe centrarse en tres aspectos: la humanización de la agenda tecnológica, la alfabetización algorítmica de la población y la consolidación de marcos regulatorios más sólidos y garantistas.

La automatización, los sesgos algorítmicos, la privacidad y las desigualdades de género con las que operan estas máquinas inteligentes requieren de «auditorías» filosóficas, la sociología, la comunicación, la educación e, incluso, el ámbito jurídico.

Un análisis exhaustivo que permita no solo detectar estos desajustes comportamentales, sino también entrenarla para que adquieran una cierta moralidad con la que tomar decisiones más ajustadas al beneficio de la humanidad. «Las ciencias sociales pueden aportar mucho», sentencia Fernández. Por su parte, Serrano recuerda que «el peso de la IA va a ser cada vez mayor en todas las áreas de la vida», lo que obliga a abordar este reto social desde una perspectiva que hasta ahora se había pasado por alto en otras revoluciones tecnológicas: «ya no basta con desarrollar herramientas e implementarlas, tenemos que gobernarlas».

Y es que por mucho que ChatGPT, Gemini o Grok consigan asemejar sus respuestas a las que proporcionaría un ser humano, la realidad es que no es más que un espejismo. Bajo su coraza de humanoide lo que se encuentra es un largo código de ceros y unos que en poco se asemeja al funcionamiento de un cerebro humano, en el que también median sentimientos, esperanzas, ética y raciocinio.

Necesidades sociales

En primer lugar, se debe lograr que el diseño prime las necesidades sociales, asegurando la participación de equipos multidisciplinares durante todas las etapas del desarrollo.

Otro de los aspectos en los investigadores hacen hincapié es en tratar de formar a la población para que puedan acercarse a los algoritmos de manera crítica. «Comprender, aunque sea de forma básica, cómo operan y se generan sesgos en estos sistemas es tan crucial para nuestra época como lo fue aprender a leer tras la invención de la imprenta», afirma Fernández.

En este punto tiene un papel muy relevante en el ámbito de la formación. «La irrupción de la IA en el aula ha puesto de manifiesto que necesitamos reformular la educación», destaca Serrano. El profesorado ha dejado de ser la única fuente de información, por lo que con la IA obliga a cambiar su papel y a centrarlo más en enseñar a «contrastarla y cuestionarla». «La herramienta per sé no merma la capacidad crítica, pero utilizarla sin criterio sí puede conllevar a un problema», insiste el sociólogo de la UEC. Y es que cuando los alumnos ven un texto bien redactado y aparentemente correcto, a menudo «lo aceptan sin cuestionarlo». Esta situación tiene efectos a largo plazo en un fenómeno que la ciencia ha bautizado como «deuda cognitiva».

Un estudio experimental realizado el año pasado en Estados Unidos demostró que la utilización de modelos de lenguaje (GPT-4o) en una tarea de redacción de distintos ensayos en condiciones controladas de laboratorio, afecta a las conexiones neuronales. Este mismo estudio concluía que «aunque los modelos de lenguaje facilitan la generación de textos y respuestas, el uso de estas tecnologías produce una delegación cognitiva que reduce la activación neural e interfiere con el aprendizaje, el recuerdo de la información, el desarrollo creativo y análisis crítico». «Lo digital ya estaba cambiado el modo de educar, pero esa delegación de competencias cognitivas genera un problema total y absoluto», sentencia Fernández.

La Ley de Inteligencia Artificial europea

La última de las piezas de este puzle es la jurisprudencia. Aunque Europa ha sido pionera en crear una Ley de Inteligencia Artificial (AI Act), para los investigadores aún hay mucho que mejorar. «Debe complementarse con auditorías independientes y mecanismos claros de apelación para quienes sufran decisiones automatizadas», insiste Fernández.

Las lógicas comerciales que envuelven la IA suponenademás un problema en sí mismo. En un mundo donde las grandes empresas –lideradas por las tecnológicas– aspiran a lograr cada vez más rentabilidad, la productividad que permite alcanzar la IA es un caramelo. «El problema está en que la riqueza se concentra cada vez más en unos pocos, aumentando las desigualdades sociales», destaca Fernández. No en vano, esta tecnología, que está en manos de unos pocos, engulle gran parte de los recursos monetarios, energéticos y humanos del mundo. «Si no se le pone límites, será esa diferencia será cada vez mayor», insiste Fernández.

Suscríbete para seguir leyendo