La amenaza de los robots estúpidos

(Nora Bär, periodista científica, editora de Ciencia y Salud de La Nación, publicó el viernes esta reflexión. Queremos reproducirla aquí, porque es una advertencia necesaria que no surge de las temores que provoca el avance científico, corporizados en el mito literario de Frankestein y tanta mala (y buena) ciencia ficción. Porque a los algoritmos no incorporamos, parece, las Leyes de la Robótica de Asimov, sino nuestros prejuicios inconscientes).

“En otro momento, no hubiera alcanzado a dilucidar si el mensaje (que estaba en la casilla del correo electrónico) era triunfalista o apocalíptico. “Las computadoras se están haciendo exponencialmente más eficientes para entender el mundo” afirmaba el texto.

Este año, una superó al mejor jugador de go del planeta 10 años antes de lo que se pensaba. En los Estados Unidos, los jóvenes abogados no consiguen trabajo porque Watson, de IBM, puede dar consejo legal en segundos, con un 90% de precisión y mejor que los humanos. En los próximos dos años, toda la industria sufrirá el impacto de los autos autónomos. Ya no querrás comprar un vehículo, porque podrás llamarlos con tu teléfono, te pasarán a buscar y te llevarán hasta tu destino sin necesidad de estacionar y mientras aprovechás el trayecto para trabajar. Esto transformará nuestras ciudades, porque podremos convertir los estacionamientos en parques y habrá menos accidentes. Se salvarán un millón de vidas por año”.

Pero después de la charla que esta semana dio en uno de los salones de la Casa Rosada, invitada por el programa Argentina 2030, la cofundadora del IA Now Institute, Kate Crawford, no queda duda de que semejante optimismo tecnológico cuenta solo una parte de la verdad. Crawford, que alguna vez fue algo así como una rock star australiana y actualmente es investigadora de la Universidad de Nueva York (NYU) y de Microsoft, y profesora visitante del Media Lab del MIT, estudia las implicancias sociales de la inteligencia artificial y los sistemas expertos. Junto con su equipo, produjo un documento en el que advierte que la inteligencia artificial tal como la conocemos no solo tiene fallas peligrosas, sino que está cargada de connotaciones y sesgos ideológicos, culturales y políticos inquietantes. Y lo que es peor: a diferencia de otras actividades cruciales, carece casi completamente de regulación.
.
Para demostrarlo, le bastó con mencionar algunos de los problemas que en los últimos tiempos desconcertaron a la opinión pública. Como, por ejemplo, el hecho de que el sistema de reconocimiento facial de Amazon confundió a 28 miembros del Congreso de los Estados Unidos con posibles delincuentes, que una “debilidad” en el código de Facebook dejó al descubierto datos de 50 millones de usuarios, que algunos sistemas expertos consistentemente asignan menos puntaje a los currículums de mujeres y otros “etiquetan” a personas de color como “gorilas”.
.
Para la especialista, que condujo el simposio Obama sobre Inteligencia Artificial y también es asesora de Macron, “el impacto de estas tecnologías en las democracias y en los derechos básicos de las personas puede ser dramático. Hoy se pueden ‘fundir’ las expresiones de un actor con la cara de una persona pública sin que haya manera de detectarlo. En China ya hay 12 millones de individuos a los que se les impidió viajar por el veredicto de un sistema de ‘crédito social’ que los recompensa o los castiga de acuerdo con su comportamiento (evaluado, en parte, a partir de sus publicaciones online, como difundir noticias falsas)”.
.
Mientras estos sistemas están siendo introducidos en la educación, la salud, la vigilancia y otros dominios que afectan profundamente nuestras vidas, sus creadores soslayan la privacidad, el consentimiento del usuario y la transparencia en pos de la funcionalidad y los beneficios económicos. “Hace cinco años se creía que los datos eran neutrales, pero sabemos que no lo son” explicó. Los datos siempre llevarán la marca de su historia.
“Estamos preocupados por lo que podría suceder si llegamos a desarrollar una inteligencia superior que podría dominar el mundo dentro de muchos años; sin embargo, los actuales sistemas de inteligencia artificial son bastante estúpidos…, ¡y ya están dominando el mundo!” Habrá que pensar en estas cosas… antes de que sea tarde.