¿Sabe usted que Chat GPT no sabe contar?

La inteligencia artificial generativa ha entrado repentinamente en nuestras vidas demostrando una sorprendente capacidad para responder preguntas escritas en lenguaje natural y generar textos coherentes. Algoritmos como Chat GPT, a disposición del público general, que plantean nuevas preguntas conceptuales y éticas. Hoy quiero detenerme en una: ¿la inteligencia artificial generativa es inteligente?

Gary Marcus, psicólogo y científico cognitivo, propone el siguiente ejercicio. Pregunte a Chat GPT: "Escribe 10 frases sobre fútbol, ordénalas por número de palabras y escribe el número de palabras después de cada una de ellas". Yo lo he hecho y estas son las tres primeras frases que he obtenido: 1/ "Golazo de chilena, el estadio enloquece" (6 palabras). 2/ "El balón rueda en el campo verde" (6 palabras). 3/ "El arquero detiene el potente disparo" (6 palabras).

Como puede verse, la segunda frase tiene siete palabras. Es evidente que Chat GPT se ha equivocado, lo cual nos lleva a pensar que Chat GPT no sabe contar. Pero el significado es mucho más profundo: no es solo que Chat GPT no sepa contar, sino que no entiende el concepto de contar. 

Y eso es así porque no está diseñado para contar, ni para efectuar operaciones matemáticas en general. Chat GPT está diseñado para elegir las palabras que tienen la probabilidad máxima de completar una frase, y su algoritmo le dice que si después de la frase "el balón rueda en el campo verde" tiene que aparecer un número de palabras, lo más probable es que ese número sea el seis. 

Lo más contradictorio es que si le preguntamos a Chat GPT "¿qué es contar?", nos responde: "Contar es una acción que implica determinar o calcular el número de elementos en un conjunto". Como se puede observar, Chat GPT puede describir correctamente la acción de contar, pero eso no le sirve para llevarla a cabo. Describe correctamente cosas que no comprende. Sorprende, pero así es cómo funcionan los algoritmos de inteligencia artificial generativa.

El concepto de inteligencia

Y eso lleva a preguntarnos sobre el concepto de inteligencia. La inteligencia es un concepto abstracto que no se puede medir directamente. No disponemos de ningún aparato ni método que nos permita medir la inteligencia de un ente, sea una persona, un animal o un algoritmo de inteligencia artificial generativa. Probablemente todos conocemos al propietario de un perro que nos dice "mi perro es muy inteligente", y lo hace a partir de las habilidades que muestra su perro. Pero esa inteligencia es claramente diferente de la de una persona. Para estimar la inteligencia de una persona disponemos fundamentalmente de un método: el lenguaje.

Decimos que una persona es inteligente cuando su discurso es coherente y responde a un razonamiento sobre el mundo exterior, o sobre su propio mundo interior. De hecho, el conocido test de Turing se basa en la capacidad de distinguir una persona de una máquina a través del lenguaje. Y es aquí donde la inteligencia artificial generativa nos induce a error. 

Mientras que una persona genera un discurso inteligente a partir de un razonamiento lógico, una inteligencia artificial generativa elabora un discurso aparentemente inteligente por puro cálculo de probabilidades. La inteligencia artificial generativa nos obliga a separar razonamiento de lenguaje, y aceptar que un discurso coherente puede no ser resultado del razonamiento lógico. Por eso, Chat GPT no sabe contar.

Nadie puede decir qué pasará en el futuro, si la inteligencia artificial generativa evolucionará hasta un punto en que la sofisticación de sus algoritmos le permitirá imitar el razonamiento lógico. Pero si usted, amable lector, utiliza o piensa utilizar una inteligencia artificial generativa como Chat GPT en 2023, conviene que tenga presente que, por muy elegante que sea el texto que obtenga, la inteligencia la tiene que poner usted.