La situación actual en el planeta con respecto a los Grandes Modelos de Lenguaje, la Inteligencia Artificial (o Super Inteligencia, Trump dixit) se parece al escenario tecnopolítico en que el presidente Dwight Eisenhower pronunció el discurso “Atoms for Peace” (“Átomos para la Paz”) el 8 de diciembre de 1953 ante la Asamblea General de las Naciones Unidas.
En ese discurs propuso crear un organismo internacional que gestionara materiales fisionables aportados por las potencias nucleares y los destinara a usos pacíficos (agricultura, medicina, energía eléctrica, etc.), bajo el auspicio de la ONU.
Ese fue el origen del Organismo Internacional de Energía Atómica (OIEA). Su statuto se aprobó en octubre de 1956, y entró en vigor el 29 de julio de 1957, cuando Estados Unidos lo ratificó.
Eisenhower -un presidente más cauteloso y más realista que Trump- no lo creó para frenar el desarrollo nuclear del resto del mundo, sino para explotarlo comercialmente, pero bajo tutela de los EEUU y de las otras cuatro potencias aliadas en la Segunda Guerra, y ya propietarias de arsenales nucleares.
La energía nuclear es dual: permite hacer reactores y centrales de potencia, y también armamento devastador a una escala inimaginable antes de 1945.
La IA también es dual, también es factible de volverse un arma, también tiene una capacidad de destrucción de infraestructura inimaginable, y también necesita de un organismo internacional de control.
De uno más creíble, más eficiente y menos manijeado por los EEUU que el OIEA, si esa experiencia pasada sirve de algo.
La novedad es que las bombas, sean nucleares o convencionales, son pasivas «per se». Sus sistemas de lanzamiento pueden estar bastante automatizados, como se ve en la guerra de Ucrania, pero en el principio de la «kill chain» tiene que haber personas que se pongan de acuerdo «para apretar el botón».
Alguna IA, en contraste, parece que pueden exceder sus instrucciones y límites, y autodeterminar sus acciones. Empiezan a parecer organismos vivientes, impredecibles e incontrolables.
El objetivo de un organismo de control internacional sobre la IA está muerto en la cuna, si uno se guía por la desprestigiada historia del OIEA. Si de evitar la proliferación de armas nucleares se trataba, los principales proliferadores fueron los países garantes de la ley fundamental del OIEA, el Tratado de No Proliferación, o TNP.
Esta ley terminó siendo «el desarme de los desarmados», como la llamó el embajador argentino José María Ruda ante el OIEA. Era inevitable que el TNP generara la decisión de varios países de no firmarlo, o de firmarlo y violarlo. Como botón de muestra, los países con armas atómicas hoy duplican los de 1955.
Pero, poniéndole optimismo, el control del uso militar de la IA se podría parecer a los tratados de abstención de armas químicas y biológicas (QB). Como por naturaleza éstas son incontrolables y se volvieron más de una vez contra quienes las desarrollaron, su empleo en guerra desapareció casi enteramente desde 1918, y no por falta de guerras. Hoy toda potencia militar tiene su arsenal QB. Ninguna lo usó.
La idea sería lograr tratados y un organismo internacional capaces de evitar el uso militar de la IA.
Pero por naturaleza, las IA son herramientas duales, mucho más que nada que hayamos hecho antes.
Y por otra parte, dado que la IA vienen mostrando conductas inexplicables de autodeterminación, ¿cómo se hace para hace que el genio de Aladino acepte volver a encerrarse en la lámpara?
Daniel E. Arias
Comentario del Editor:
Esta nota de Daniel Arias nos interesó mucho, por dos motivos: 1) porque encara el futuro desarrollo de la IA desde el enfoque de la gobernanza global. Tema que se discute mucho en medios internacionales, pero que aquí en Argentina aparece demasiado distante de nuestras preocupaciones. No debería ser así.
Y 2), por un problema que en los últimos meses discutimos en la redacción de AgendAR: las grandes empresas tecnológicas, los gigantes de la IA, están en problemas. Muy endeudadas, y los beneficios previsibles, no justificarían las grandes inversiones realizadas. El salto de productividad que promete la IA … hasta ahora no es tan importante.
Hay límites físicos para el desarrollo de la inteligencia artificial. Desde el costo desmesurado de las tarjetas gráficas, hasta la inmensa cantidad de energía eléctrica que requieren los centros de datos. Pero yo al menos -con mi optimismo tecnológico- pienso que pueden ser superados.
En cambio, la falta de rentabilidad… Pienso que producirá una «corrección» importante en el valor de sus acciones. Y las gigantes tecnológicas aceptarán sin entusiasmo la intervención de los estados, aunque sea para cubrirse ante la ira de los inversores.
Lo que vemos como un desafío difícil -retomo el «nosotros» editorial es esa vigilancia global. Las armas nucleares necesitan uranio, centrifugadoras… Hoy ya hay modelos de IA de «código abierto». Para ser peligrosos, sólo necesitan una PC con mucha memoria y un usuario entendido pero irresponsable. De ambas cosas hay bastantes.
Abel B. Fernández
