La Fundación Sadosky elaboró un documento que intenta responder a lo que consideran son preguntas urgentes sobre la inteligencia artificial. El informe aborda interrogantes sobre el origen y el uso de estas tecnologías, su impacto en la sociedad y sus implicancias éticas.
La guía “10 preguntas frecuentes y urgentes sobre Inteligencia Artificial”, elaborada por la iniciativa ProgramAR, de la Fundación Sadosky, en conjunto con especialistas de diversas áreas, coincide con un momento en el cual tanto en la Argentina como en el resto del mundo se masifica el uso de este tipo de tecnologías y, a medida que eso sucede, también aparecen los interrogantes no solo sobre cómo aprovecharlas, sino también sobre los problemas que surgen por su profundo impacto en la sociedad, desde el mundo laboral o la escuela, hasta lo ético y ambiental, entre muchos otros aspectos.
“Nosotros notamos que, en distintos ámbitos, sobre todo desde el surgimiento de Chat GPT, empezó a haber mucha inquietud sobre cómo usar este tipo de herramientas, y nos parecía que faltaban algunas preguntas clave que son anteriores al uso, como el hecho de si realmente entendemos cómo funcionan. Queríamos dar cuenta de varios aspectos que nos parecen críticos para luego poder posicionarnos de otra manera en el uso de estos sistemas”, dijo la coordinadora de la iniciativa ProgramAR, Mara Borchardt.
Algunas de las preguntas que plantea e intenta responder el documento son cómo se construyen las aplicaciones de IA, cuál es el costo (de producción y de uso) de estas tecnologías, si se puede considerar que estos sistemas “razonan”, si podemos esperar que sus resultados sean éticos o considerados justos, y si el contenido digital que generan puede afectar la diversidad cultural, entre otras.
“Una de las cosas que más nos llamaba la atención era que el solo nombre ‘inteligencia artificial’ le atribuye a los sistemas un carácter humanoide, cognitivo, de certeza o con la capacidad para esgrimir un juicio, una cantidad de desempeños cognitivos que no hacen a las características de estos sistemas”, explica Borchardt, cuando se refiere a que, en realidad, la mayor parte de estos sistemas se basan en técnicas de aprendizaje automático, modelos predictivos entrenados con grandes masas de datos.
Precisamente, uno de los grandes problemas es que tanto esos datos como el diseño de los sistemas llevan consigo los sesgos de quienes los han generado, los seres humanos. “La tecnología no tiene capacidad de resolver lo que nosotros no podemos atender. Es más bien al revés: mucha tecnología es entrenada con bases de datos fuertemente sesgadas. Si uno mira los conjuntos poblacionales que tienen acceso a Internet, ya que sobre ese conjunto de datos se entrenan los sistemas, entonces vamos a a ver que se repiten esos sesgos de gente blanca, muy de clase media y en general masculinizada”, explica la coordinadora de ProgramAR. Y agrega: “Si vamos a usar sistemas creados por otros, tenemos que analizar qué impacto va a tener ese uso en los resultados que nos van a dar, y qué tan adaptados van a estar a nuestra realidad si los datos con los que fueron entrenados esos modelos no se corresponden con nuestra población”.
Otra de las preguntas que busca responder el documento es qué debe hacer la escuela ante el auge de la IA. El informe propone incorporar esta temática en las escuelas y hacerlo desde una perspectiva crítica y ética (tanto para usarla como para crearla). “Esto no es posible sin comprender cómo funcionan y han sido desarrolladas las aplicaciones y los dispositivos basados en IA”, se señala en el texto de la Fundación Sadosky. Borchardt considera que hay avances en este sentido en el sistema educativo local. “Si bien la educación en la Argentina es potestad de las provincias, también hay lineamientos nacionales e internacionales con recomendaciones para incorporar contenidos en computación e inteligencia artificial, y muchas provincias tienen líneas de trabajo para modificar la currícula de tecnología en las escuelas, de manera que permitan abordar estos temas”.
Bruno Massare