Murio Douglas Lenat, un precursor que quiso hacer más humana la inteligencia artificial

6 septiembre 2023, 05:50

Douglas Lenat propuso desde los ’80 un modelo de inteligencia artificial drásticamente distinto de las redes como ChatBot, criticadas por su falta de sentido común y sus conclusiones irreales.

La idea de Lenat fue dotar a una red de computadoras de sentido común pero desde abajo hacia arriba, almacenando en sus memorias miles de millones de datos obvios minúsculos, probados e incontestables, como que los zapatos se venden por pares o que un clavo no entra en vertical a una pared normal, y que Julio César fue emperador y no presidente de Roma.

La idea de Lenat fue generar un sentido común artificial emergente a partir de la suma abrumadora de cosas aparentemente triviales que todo el mundo sabe, pero los sistemas del tipo ChatBot, no. Esas cosas son las que Lenat llamaba una cultura humana común, y no nos permiten desvariar demasiado a los humanos con un cerebro sano.

Ese cerebro sano sirve para entender que la energía es igual a la masa por el cuadrado de la velocidad de la luz, pero también para no pegarse un palo saltando un charco, por saber en qué dirección se ejerce la fuerza de gravedad.

El propio Lenat reconocía que eso era como llenar una pileta olímpica con un gotero, un método que insumiría siglos/persona de trabajo calificado, una tarea únicamente posible para grandes organizaciones capaces de suministrar fondos duraderos. Nada que a partir de los ’90 calentara demasiado a Silicon Valley, con su culto del éxito instantáneo.

Sin embargo, Lenat fue al menos un par de veces en la vida un tipo académicamente poderoso, apalancado por el aparato militar y de inteligencia del gobierno estadounidense. Éste se deslumbró más de una vez con sus resultados en juegos de estrategia bélica, como Traveller y era lo suficientemente conocido «en la calle» para publicar en revistas de alta divulgación, como Scientific American.

Escribía con gracia y sencillez.

Otro hondo y sencillo, nuestro Jorge Luis Borges, tal vez nunca lo leyó. De haberlo hecho, se habría acordado del sacerdote de uno de sus mejores cuentos, «Las ruinas circulares». Recluido en un templo quemado en medio de alguna selva remota, ese sacerdote trata de soñar un hombre entero noche a noche, seleccionándolo de un aula donde da clase a muchos. Tras varios fracasos de procedimiento que lo sumen mucho tiempo en la desesperación y el insomnio, invierte el método y va soñado a su futuro discípulo desde las partes hacia el todo.

Empieza por el corazón, y va añadiendo cosas, noche tras paciente noche, año tras fugaz año, hasta darse cuenta, un día, de que finalmente su sueño se ha vuelto una persona completa y real, pero inmune al fuego: es que fue concebido en un templo de un olvidado dios del fuego. Esa nueva persona, tras dar pruebas de vida en el mundo real ejecutando algunas órdenes impartidas en el sueño de su mentor y creador, (como poner una bandera en una montaña lejana), debe partir. Como todo hijo, tiene que vivir su propia vida.

Ése no es en absoluto el final del cuento. No lo estoy «spoileando».

Supongo que Lenat habría entendido bien a ese sacerdote, porque él mismo también estaba tratando de crear un hijo suyo y también del género humano todo, pero de algún modo informático, un inmortal.

Abel Fernández, tecnófilo y dueño de AgendAR, acota que la forma de IA que hizo eclosión a partir de febrero de este año está basado en algo muy parecido al sentido común humano, pero adquirido por prueba y error, que es como adquieren conocimiento las redes neuronales.

Dice Fernández que hay una base de datos gigante y propia para nutrir un sistema ChatBotGPT, pero que algunos de ellos pueden navegar en Internet para sumar información por su cuenta, y que van discerniendo sus errores y aciertos de criterio a partir de sus interacciones con los usuarios.

No es un enfoque tan diferente del de Lenat, sólo que la pileta se carga sola de sentido común humano, contradictorio como es, y no hace falta completarla con un gotero. Pero también se llena de basura.

Lenat fue un divergente respecto de sus colegas. Suscitaba escepticismo, envidia e irritación. Lo ignoraban deliberadamente. Su obra es provocativa y llena de resultados espectaculares, pero dentro de ámbitos limitados, como el militar. Su idea es imposible de terminar en el período de una sola vida humana, incluso con un equipo académico grande de respaldo. Y tuvo más de uno.

Como intento de construir un verdadero humano hecho de software, tal vez su proyecto vaya más lejos y más profundo que los ChatBots. Tal vez demande mucha más memoria, fuerza bruta de cálculo y mejor heurística que la que existe hoy. Y presiento que, por unos años, su obra tendrá poca continuación.

Nacer antes de tiempo condenó a Lenat a ser una rareza en su campo, un casi ermitaño académico. En tecnología, eso le pasa a más de un profeta. Sólo que como disciplina aplicada, la IA a lo Douglas Lenat es también ciencia básica y también casi una práctica metafísica, como la del sacerdote de Borges.

Inevitablemente Lenat fue un «outsider» en la comunidad actual de la inteligencia artificial, que hoy apunta hacia direcciones aparentemente distintas.

Daniel E. Arias

ooooo

Reproducimos el extenso y merecido obituario que le dedicó ayer el New York Times:

«Douglas Lenat, investigador de inteligencia artificial que pasó casi 40 años tratando de incorporar el sentido común a las computadoras, recreando el juicio humano regla a regla, falleció el jueves en Austin (Texas). Tenía 72 años.

Su esposa, Mary Shepherd, dijo que la causa era un cáncer de vías biliares.

A finales de los años 70, como profesor de informática en la Universidad de Stanford, Lenat desarrolló un sistema de inteligencia artificial al que llamó Eurisko, palabra griega que significa «yo descubro». Estaba diseñado para automatizar el descubrimiento de nuevos conceptos, métodos y leyes científicas mediante el análisis de datos.

En 1981, utilizó este sistema para analizar las reglas de un juego de rol extremadamente complejo llamado Traveller Trillion Credit Squadron, en el que los jugadores utilizaban un presupuesto de un mil millones de dólares para diseñar y desplegar una flota de buques de guerra. Al igual que el ajedrez, el Go y Jeopardy en años posteriores, el juego era un campo de pruebas ideal para la última tecnología de inteligencia artificial.

Cada noche, después de revisar los numerosos volúmenes del libro de reglas de Traveller, Eurisko identificaba nuevas formas de ganar la partida. Algunas eran ridículas -en un momento dado, sugirió que la mejor forma de ganar era cambiar las reglas-, pero otras eran prometedoras.

Cada mañana, el Dr. Lenat ajustaba el sistema, alejándolo de lo ridículo y acercándolo a lo práctico. Guiado por su sentido común, Eurisko acabó encontrando una estrategia poco ortodoxa pero poderosa. En lugar de gastar su majestuoso presupuesto en naves de guerra grandes, móviles y bien protegidas -como hacían otros jugadores-, ganó partidas sugiriéndole a Lenat construir cientos de naves diminutas que apenas se movían y no estaban bien protegidas, pero tenían una enorme potencia de fuego.

En otra ocasión, derrotó al Almirantazgo de la Marina de los EEUU hundiendo algunos de los barcos de su propio bando, porque interpretaba las reglas sumamente retorcidas del Traveller al pie de la letra, como una persona no podría.

Durante el fin de semana del 4 de julio, el Dr. Lenat participó en un torneo de Traveller en la cercana San Mateo, California, compitiendo con varios cientos de jugadores. Utilizando la estrategia de Eurisko, ganó el torneo. Al año siguiente, los organizadores del evento cambiaron las reglas para que la estrategia dejara de funcionar. Pero tras trabajar con Eurisko para descubrir un nuevo enfoque, el Dr. Lenat volvió a ganar el torneo.

La experiencia inspiró un nuevo proyecto que le consumiría durante las cuatro décadas siguientes.

Ejecutándose en docenas de ordenadores, Eurisko podía descubrir posibilidades que el Dr. Lenat -y otros humanos- no habían descubierto. Pero necesitaba la ayuda del juicio humano. Las máquinas no podían ser verdaderamente inteligentes, se dio cuenta, a menos que también tuvieran sentido común.

El proyecto se llamaba Cyc. Se propuso definir las leyes fundamentales, pero en gran medida tácitas, que definen cómo funciona el mundo, desde «no se puede estar en dos sitios a la vez» hasta «al beber una taza de café, hay que mantener el extremo abierto hacia arriba». Sabía que tardaría décadas, quizá siglos, en completar el proyecto. Pero estaba decidido a intentarlo.

En los últimos años, el proyecto Cyc -y el enfoque de la investigación de la inteligencia artificial basado en reglas que representaba- ha caído en desgracia entre los principales investigadores de la inteligencia artificial. En lugar de definir la inteligencia regla por regla, línea de código por línea de código, los gigantes de la industria tecnológica se centran ahora en sistemas que aprenden habilidades analizando cantidades masivas de datos digitales. Así es como construyen chatbots tan populares como ChatGPT.

Muchos investigadores creen ahora que este tipo de análisis masivo de datos acabará reproduciendo el sentido común y el razonamiento. Pero como los ordenadores de hoy en día tienen dificultades incluso con tareas sencillas y trampean la verdad, otros creen que la industria puede aprender del Dr. Lenat y de su interminable lucha por construir el sentido común a mano.

«Estos chatbots creen que cuando clavás un clavo en la pared, debe quedar vertical», afirma Ken Forbus, profesor de la Universidad Northwestern e investigador de Inteligencia Artificial. «Pueden ser muy útiles. Pero no entienden el mundo».

Douglas Bruce Lenat nació el 13 de septiembre de 1950 en Filadelfia, hijo de Nathan y Gertrude (Cohen) Lenat. Cuando tenía 5 años, se trasladó con su familia a Wilmington (Delaware), donde su padre, químico de formación, era propietario de una empresa embotelladora llamada London Dry.

Tras la muerte de su padre en 1963, regresó al área metropolitana de Filadelfia junto a su madre y su hermano mayor, Ronald. Cuando iba al instituto en Wyncote (Pensilvania), su trabajo extraescolar consistía en limpiar los corrales de los gansos y las jaulas de las ratas de laboratorio. Para encontrar una vida mejor, aprendió a programar computadoras.

En la Universidad de Pennsilvania obtuvo tres títulos en cuatro años -licenciatura en matemáticas y física y máster en matemáticas aplicadas- antes de trasladarse a la costa oeste para hacer el doctorado. Se matriculó en Stanford para estudiar inteligencia artificial. Su comité de tesis incluía a tres de los investigadores que habían fundado este campo a finales de la década de 1950.

Fue un período de barbecho para la investigación en inteligencia artificial, lo que más tarde se llamó «el invierno de la inteligencia artificial». Pero el Dr. Lenat formaba parte de una nueva generación de investigadores que reavivaron el interés por lo que se había convertido en una lucha de décadas por crear máquinas que pudieran imitar al cerebro.

A principios de los años ochenta, varias de las principales empresas tecnológicas del país ayudaron a crear una corporación destinada a mantener a Estados Unidos en la vanguardia de la investigación tecnológica: la Microelectronics and Computer Technology Corporation, o M.C.C. Dirigida por el almirante Bobby Ray Inman -ex director de inteligencia naval, ex director de la N.S.A. y ex subdirector de la C.I.A.-, la corporación contrató al Dr. Lenat como científico jefe en 1984. Desde la nueva sede de la empresa en Austin (Texas), empezó a trabajar en su motor del sentido común.

Dos años más tarde, declaró a la revista Time que el proyecto requeriría 350 años humanos de trabajo para acercarse siquiera al éxito. Era una gran subestimación.

En 1994, con la llegada de un nuevo invierno de la inteligencia artificial, el Dr. Lenat transformó el proyecto en una nueva empresa llamada Cycorp. Financiado por varias organizaciones gubernamentales y empresas privadas, siguió construyendo su motor de sentido común hasta su muerte. Él y sus colaboradores acabaron dedicando más de 2.000 años humanos al proyecto, escribiendo más de 25 millones de reglas.

Además de su esposa y su hermano, al Dr. Lenat le sobreviven una hija, Nicole Danielle Hermanson, de su primer matrimonio, que acabó en divorcio, y dos nietas.

Viajero empedernido, visitó más de 100 países y los siete continentes. Después de la incineración, dice la Sra. Shepherd, el plan es esparcir sus cenizas en la luna.

En otoño, mientras ChatGPT captaba la imaginación del público, el Dr. Lenat y el científico cognitivo Gary Marcus iniciaron un nuevo trabajo destinado a mostrar a la nueva generación de investigadores lo que podían aprender de los casi 40 años de trabajo de Lenat en Cyc. En medio del proyecto le reapareció ese cáncer que había brotado por primera vez en 2021.

En julio, el Dr. Lenat instó al Dr. Marcus a que le ayudara a terminar el trabajo. Un mes antes de morir se publicó una versión abreviada de los resultados. «Lenat asumió el proyecto que nadie más había tenido las agallas de asumir», dijo el Dr. Marcus. «Nunca lo consiguió del todo. Pero nos mostró al menos parte del camino».