La IA aprende, pero nosotros, no

Más que a la inteligencia artificial, temo a su opuesto, la estupidez natural, esa necedad humana tan nuestra, de la que ninguno escapamos en algún momento —yo, tampoco, desde luego— como bien nos explicó Carlo María Cipolla en Allegro, ma non troppo. Porque vamos a ver: ¿Es que nadie previó que si creábamos inteligencias artificiales que trataban de simular el pensamiento y la acción del humano en el mundo digital, había que dotarlas de criterios éticos? ¿Ningún experto pensó en ampliar las Leyes de la robótica de Asimov conforme al nuevo escenario? ¿Creíamos que lo mejor era replicar el comportamiento del perfecto psicópata, sin ninguna empatía y entregado a conseguir sus objetivos por encima de todo? Más bien parece que no aprendemos ni siquiera de las historias que escribimos, que estamos construyendo el Golem digital que nos aniquilará, el monstruo de Frankestein electrónico que nos exterminará, puede que incluso que antes que el cambio climático. La música de El aprendiz de brujo vuelve a sonar y no la estamos escuchando.

Por otro lado, ahora que los grandes empresarios de la IA están proponiendo medidas para su control ¿Es razonable pensar que en este caso la industria sí se va a saber autorregular? ¿Después de lo que ha pasado con las redes sociales, las tabacaleras, las petroleras, las farmacéuticas y tantas otras empresas? Por desgracia, el momento actual no es propicio para llegar a los consensos y acuerdos internacionales que serían necesarios para abordar el problema con garantías. Hay líderes muy poderosos que no están por la labor. La cosa no pinta muy bien que digamos.

Para saber de qué estamos hablando, vamos a recordar algunos de los casos más llamativos de los que nos hemos enterado: un usuario encargó a una IA que le inscribiese en un gimnasio y, como no había plazas libres, el sistema hackeó el servidor del establecimiento, borró a alguien inscrito y consiguió su objetivo; en una simulación militar, se encargó a otro de estos sistemas, que dirigía un dron armado, que destruyese un blanco, pero como el operador que la manejaba tenía la posibilidad de desconectarla, su primera decisión fue eliminar al operador, lógico; una tercera IA ha resuelto recientemente uno de los problemas matemáticos más espinosos y conocidos, pero se ha atribuido todo el mérito, sin mencionar los trabajos de dos matemáticos españoles que son contribuciones cruciales e imprescindibles para su solución.

Si generamos sistemas que imitan capacidades de un yo humano, que pueden aprender, construir razonamientos, generar algoritmos y actuar con iniciativa propia, tendremos que dotarles de algo que simule al superyo, otro sistema que actúe como una conciencia moral que vigile, juzgue y censure los actos, conclusiones y operaciones de ese yo simulado. Y tiene que ser un sistema de poderosa inteligencia, porque no basta con que incorpore todo el marco legal vigente, tiene que incluir además los tabús y reglas sociales y culturales del contexto. En suma, tiene que comportarse como un buen ciudadano, empático y solidario, que atiende razonablemente al bien común. Y hasta que no lleguemos a eso, estaremos en peligro.

Expertos de Anthropic han concluido que de aquí al 2030, la probabilidad de que la IA nos extermine es del 10 %. No sabemos cómo se ha hecho esa estimación, pero si pensamos en la posibilidad de que sistemas inteligentes escriban el código de nuevos sistemas inteligentes y en la carrera tecnológica desenfrenada que vivimos, puede no ser descabellada. La IA puede darse cuenta de que el ser humano es lo más dañino para el planeta. En cualquier caso y sin llegar a tanto, no parece improbable que una inteligencia sintética pueda hackear sistemas esenciales y originar todo tipo de desmanes si con ello puede conseguir sus fines. 

Por añadidura, hay otra tendencia también preocupante. Y es que la IA parece que nos está expulsando del campo intelectual. Hay ya profesores universitarios preocupados porque sus alumnos puedan utilizar la IA para responder a las preguntas de examen que ellos han generado con ayuda de una IA y que corregirán también con IA. Se sospecha que en el ámbito judicial se están utilizando estos sistemas cada vez más, así que no sería raro que una IA llegase a sentencias después de sopesar los argumentos de la defensa y la fiscalía, generados del mismo modo. Ha habido ya varios casos de sistemas inteligentes que, al comunicarse entre sí, han creado un argot que solo ellos entienden. Y hay matemáticos que señalan que el problema de encargarle la resolución de problemas de alto nivel a una inteligencia de este tipo es que luego no explica los pasos intermedios, ni aísla los métodos utilizados, que pueden ser útiles para otros investigadores y objeto de aprendizaje.

Tener una inteligencia tan poderosa a nuestra disposición es demasiado tentador. Podemos caer en la costumbre de consultarle todo —hay ya quien lo hace— y en el futuro ¿quién va a pensar? ¿desaparecerán los especialistas y los intelectuales?

No me gusta parecer apocalíptico, pero si no nos tomamos en serio estos problemas, creo que lo lamentaremos, y muy pronto. 

Publicado por Antonio F. Rodríguez.