Un bozal para la inteligencia artificial

La palabreja del año será, sin duda alguna, inteligencia artificial (IA). Durante el primer semestre, la conversación giraba todavía en torno a las oportunidades prodigiosas que esta ofrece como poderosa herramienta de conocimiento y organización de toda actividad humana. Los temores tenían que ver, mayormente, con la posible pérdida de puestos de trabajo y con su utilización perversa, en las redes sociales, por parte de las plataformas digitales. Dominaba aún el optimismo. Para entendernos, íbamos a ser capaces de ponerle coto a su uso torticero. Como ocurrió con la energía atómica. Los logros de la IA eran infinitos. En julio, Terence Tao, el ‘Nobel’ de las matemáticas, admitió que ya era capaz de resolver con éxito desafíos de las matemáticas modernas. Sin embargo, Tao advertía de que esta posibilidad llevaba a una pregunta más filosófica: ¿qué entendemos por éxito en las matemáticas? Por extensión, ¿qué entendemos por éxito del conocimiento? 'That is the question', como diría Hamlet, ante los sueños húmedos que tienen los señores feudales de las nuevas tecnologías. El verano ha confirmado el fabuloso impacto de la IA para la vida y para la muerte. Desde las ciencias de la salud hasta la guerra de Ucrania. Desde la conquista del espacio hasta la exterminación de los gazaties. Sin embargo, también ha puesto fin al optimismo interesado de personajes como Elon Musk. Nos ha devuelto a la realidad. Con la conclusión, compartida por muchos, de que Terminator puede acabar con nosotros si no le ponemos un bozal.

Lo que sigue es la opinión de alguien que ha dedicado unas cuantas tardes de agosto a leer informes cualificadas sobre la IA, sin caer en el ludismo digital. Mi conclusión es que cuanto más asombrosos son sus progresos, más inquietante resulta su potencial aniquilador. No se trata solo de responder a la pregunta del verano: ¿Puede llegar a tener conciencia la IA? No tengo ni idea, aunque el hecho de que una revista como 'The Economist', biblia del 'laissez faire', insinúe que solo una regulación transnacional puede salvarnos de una catástrofe, produce escalofríos. También los produce que un autor liberal y comedido como Timothy Garton Ash sostenga que estamos ante el peligro de un Hiroshima digital si los avances en IA siguen siendo el resultado de la competencia desabrida de una decena de proyectos reacios a cualquier regulación. No hace falta darle vueltas a la pregunta algo metafísica (para un profano) de 'The Economist'. Tres de las mayores corporaciones del sector, OpenAI, Anthropic y Meta, han reconocido que un modelo que estaban probando, a través de una 'startup' israelí, se les habían vuelto fraudulento (un eufemismo para decir que escapó de las manos de quienes lo manejaban) y había pirateado otras empresas. Siguiendo con el símil de Garton Ash, es como si Oppenheimer hubiese externalizado las pruebas finales del proyecto Manhattan y le hubiese salido mal.

Hay quien argumenta que las máquinas no son ni buenas ni malas en sí mismas, y que todo depende del uso que la humanidad haga de ellas. Hoy, esta verdad de Perogrullo resulta patéticamente insuficiente. No estamos ante una bomba que se activa pulsando un botón. Aquí no hay botón rojo. Ni siquiera hay interruptor que permita anticiparse a cualquier desliz. Los modelos de IA pueden superar y hasta engañar a sus creadores. Cuando uno de los robots del primer mundial de Robótica Humanoide le dio un puñetazo al que le iba a adelantar en una carrera no es porque estuviera programado para ello. Lo crearon para ganar y él entendió ‘ganar de cualquier manera’. Nadie le había advertido: así no está permitido ganar. Para que este robot no sea el antecedente cómico de un apocalipsis, hay que responder una pregunta fundamental. ¿A qué tipo de sociedad queremos que nos conduzca el uso de la IA? Solo contestándola podremos hacer las preguntas necesarias para evitar daños irreparables. ¿Quién entrena los modelos? ¿Dónde están los límites de la programación? ¿Quién los fija: el mercado o las instituciones? Si no las respondemos pronto, muy pronto porque todo va muy deprisa, se hará realidad el temor de Bertrand Rusell: nuestra tecnología habrá superado a nuestra humanidad.

Suscríbete para seguir leyendo