Fenómeno digital

Qué es ChatGPT, luces y sombras de la Inteligencia Artificial que está fascinando al sector tecnológico

El bot conversacional de OpenAI, fundada por Elon Musk, sorprende por su capacidad creativa para responder a multitud de preguntas complejas pero los expertos advierten de que también reproduce falsedades

Inteligencia artificial

Inteligencia artificial

Carles Planas Bou

Por qué confiar en El PeriódicoPor qué confiar en El Periódico Por qué confiar en El Periódico

La nueva sensación del mundo tecnológico se llama ChatGPT, un chatbot que se sirve de la Inteligencia Artificial (IA) para poder conversar con los usuarios, dar respuesta a multitud de sus preguntas e incluso redactar todo tipo de textos de forma creativa, desde poemas a ensayos, código informático o recomendaciones para un viaje. Su alta capacidad ha hecho que académicos, tecnólogos y periodistas especializados se hayan mostrado fascinados con lo que han descrito como una revolución o la novedad tecnológica del año, pero también hay escepticismo. ¿De qué se trata?

Este ambicioso proyecto fue lanzado el pasado 30 de noviembre. Detrás, está OpenAI, una organización sin ánimo de lucro fundada por los multimillonarios Elon Musk y Sam Altman que está liderando la investigación en ese campo. El ChatGPT está entrenado con una ingente base de datos de texto extraídos de Internet con el 2021como fecha límite. En base a esos datos, el sistema crea estadísticas y las usa para predecir qué palabras debe juntar para crear una frase determinada. Eso le permite responderte de forma natural y precisa.

Este chatbot es la evolución de GPT3, un modelo de lenguaje capaz de producir textos simulando la redacción humana. Para ello, se sirve de aprendizaje profundo (‘Deep Learning’, en inglés), como se conoce a un conjunto de algoritmos programados para aprender de forma automática, mejorando constantemente para ser más creíble. "Aunque a nivel técnico no es muy novedoso, aporta una gran cantidad de textos y simula cada vez mejor la falsa impresión de razonamiento, es impresionante", explica a EL PERIÓDICO David Casacuberta, profesor de lógica y filosofía de la ciencia en la UAB.

La posibilidad de elaborar cualquier texto que le pidas, desde resumirte un libro a componer la letra de una canción, ha impresionado a muchos. En menos de una semana, ChatGPT se ha convertido en un fenómeno más allá de los sectores tecnológicos. El domingo, cuatro días después de su lanzamiento, ya acumulaba más de un millón de usuarios. Aún así, el sistema está programado para no hablar dar su opinión ni entrar en cuestiones políticas.

Promesas y limitaciones

Durante los últimos días, los usuarios han podido testear el potencial de ChatGPT tanto desde la página web de OpenAI —a la que se puede acceder para participar sin problema alguno— como desde un bot que se ha habilitado en Twitter para usar sin tener que registrarte. Muchos de ellos han compartido maravillados las respuestas ofrecidas por el chatbot, señalando que su capacidad creando textos es tal que amenaza con reemplazar profesiones enteras como juristas o periodistas e incluso el buscador de Google.

Sin embargo, tras las primeras reacciones eufóricas, han surgido las dudas y los matices. "La gente ha sobredimensionado el potencial de este herramienta de una manera reduccionista", lamenta Ariel Guersenzvaig, profesor de filosofía de la tecnología y ética de IA en Elisava. Aunque apunta que ChatGPT "puede ser un antes y un después en entornos limitados", descarta los titulares apocalípticos que se han escrito estos días. "El ajedrez no se ha extinguido porque hay ordenadores que juegan de forma excelente", añade.

Ambos expertos recalcan que la máquina no razona por sí misma, sino que ha sido programada específicamente por humanos para simular una capacidad de creación en base a una serie de datos.

Posibles riesgos

Uno de los principales problemas de ChatGPT es que incurre en errores, algunos de ellos tan burdos como considerar que un quilo de ternera pesa más que un quilo de aire comprimido. Varios usuarios han detectado que el chatbot presenta como cierta información histórica errónea y que no detecta datos equivocados si estos ya están presentes en la petición del usuario. Justo al entrar en su web, OpenAI advierte que el sistema "puede generar ocasionalmente información incorrecta o engañosa y producir contenidos ofensivos o tendenciosos". Aún así, tras informarlo, puede corregir sus errores y aprender para mejorar sus resultados.

El ChatGPT no solamente puede cometer errores, sino que generar respuestas verosímiles pero falsas, una combinación peligrosa. Aún así, la apariencia a razonamiento perfecto e infalible puede llevar a algunos usuarios a "entregarse al oráculo de forma acrítica", advierte Casacuberta, quien apunta que, a diferencia de Google, este chatbot no detalla la fuente de la que ha sacado la información. "No hay manera de saber cómo ha llegado a esa conclusión, así que solo te queda fiarte (...) y sigue inventándose cosas", añade Guersenzvaig. Todo ello hace que ChatGPT puede ser usado para blanquear la desinformación. Ese mismo problema llevó a que, este lunes, el portal de preguntas y respuestas para programadores informáticos Stack Overflow optase por prohibir temporalmente a sus usuarios compartir las respuestas generadas por el nuevo chatbot de OpenAI.

Suscríbete para seguir leyendo