Hace unos meses leíamos entre las noticias internacionales títulos como «Cámaras, sensores, controles… Un paseo por la nueva China orwelliana«, que advertían: «Los sistemas de reconocimiento facial se convierten en algo habitual en el gigante asiático«.
Este viernes la noticia era «Siete delincuentes que se encontraban prófugos de la Justicia fueron detenidos hoy a pocas horas de la puesta en marcha del Sistema de Reconocimiento Facial que fue incorporado a las cámaras de seguridad de la ciudad de Buenos Aires, anunció el jefe de Gobierno porteño, Horacio Rodríguez Larreta«.
Las «ciudades inteligentes» ya están entre nosotros. Por eso nos parece importante reproducir estos conceptos de una de las charlas del evento Smart City Expo Buenos Aires 2019, que se está realizando en el Centro de Convenciones de Buenos Aires. Las dan quienes vienen a vender estos sistemas:
«Así como las empresas y organizaciones evolucionan y hacen una transición hacia la economía digital -por ejemplo en forma de Uber, Rappi o PedidosYa-, las ciudades también siguen este proceso. “Una urbe es un sistema complejo, compuesto por muchos subsistemas y también se están transformando en ciudades inteligentes sumando tecnologías”, explicó Pedro Uribe, Director de Microsoft para América Latina del negocio de “Gobierno”. En este camino, además de ventajas en eficiencia, también hay que evitar nuevos problemas generados por una instalación errónea o descuidada de las nuevas opciones digitales.
Según Uribe “hoy hay tres áreas tecnológicas en las que las autoridades de las ciudades de América Latina se están enfocando: Big Data, Internet de las Cosas y Energías Renovables. Estas tres, en diferentes combinaciones, nos permiten evolucionar hacia ciudades más saludables, más vivibles, y sustentables y, en general, mejores para el ciudadano”.
Mariela Bravo, directora del área “Sector Público” en Microsoft Argentina, dijo que “estas soluciones le permiten a las autoridades de cada área entender mejor el comportamiento de los ciudadanos y de temas claves como el tránsito. Y, con esos datos de base, pueden tomar las decisiones apropiadas para mejorar la vida cotidiana de los habitantes”.
Uribe detalló que, “en ese sentido, ahora las ciudades son verdaderas fábricas de datos que hay que analizar en detalle para poder elegir las políticas adecuadas para cada tema”. Y esos datos son tan numerosos que hay que analizarlos recurriendo a técnicas analíticas y de Inteligencia Artificial (IA).
Tras enumerar algunas tendencias que perciben en todas las ciudades, grandes y pequeñas -tales como que hoy los ciudadanos quieren interactuar con las oficinas de gobierno por medio de su celular- el experto también destacó dos costados poco “tocados” a la hora de contemplar estas soluciones.
“En toda implementación de tecnología se necesita tener en cuenta
el factor de la inclusión para que todos los habitantes accedan a
los dispositivos necesarios. Y también se debe analizar la
responsabilidad digital”.
-¿Qué es la responsabilidad digital?
-Tiene que ver con dos aspectos. Por un lado la ciberseguridad, para
que no haya pérdidas o robos de datos personales y con el manejo de
la privacidad de las personas. Y también hay que tener en cuenta la
ética relacionada con temas de Inteligencia Artificial.
-¿Como son esos problemas éticos?
-Ya se han dado casos problemáticos que debemos evitar. Están vinculados con generar alguna discriminación o usar sesgos erróneos para tomar decisiones. Algo típico en este sentido puede ocurrir con el reconocimiento facial (un tema que se está discutiendo en estos días en la ciudad de Buenos Aires). Por ejemplo, “entrenar” a un sistema de Inteligencia Artificial para que aprenda a reconocer actitudes de las personas al cometer un delito. Para eso se le dan grandes sets de datos, como fotos y videos, para que analice. Pero si esos datos iniciales no están equilibrados o están equivocados u orientados en algún sentido, o -incluso- son pocos datos la IA puede “sacar” conclusiones equivocadas y aprender “mal”. Entonces sus resultados -por ejemplo al observar las cámaras de seguridad- podrán ser resultados erróneos o con algún sesgo discriminador”.
Para evitar esos problemas Microsoft tiene varias reglamentaciones y normas internas. Y en su sede central funciona un Comité de Etica que específicamente analiza esta temática en proyectos controvertidos y puede sugerir medidas para prevenir”, dijo Uribe.
Bravo agregó que “además respetamos estrictamente las leyes locales. En Argentina, por ejemplo seguimos al pie de la letra la Ley de Protección de Datos Personales. Y también cumplimos con normas y recomendaciones internacionales, como el reciente estándar GDPR que rige en Europa desde hace unos meses”.
Este tema está especialmente vigente en Buenos Aires ya que se puso en funcionamiento el Sistema de Reconocimiento Facial, de la Policía de la Ciudad que ya identificó a 11 prófugos de la Justicia y ayudó a detener a siete de ellos.
Varias ONGs pidieron explicaciones y aclaraciones sobre el alcance de este tema ya que es muy fácil que haya violaciones a los derechos humanos por errores en este tipo de sistemas automáticos».
