La Unión Internacional de Telecomunicaciones, agencia de la ONU para las tecnologías digitales anunció una nueva iniciativa para mejorar la confianza en los agentes de inteligencia artificial, ya que los sistemas de IA cada vez más autónomos generan preocupaciones sobre la responsabilidad y la supervisión humana.
Los agentes de IA son una nueva generación de sistemas de inteligencia artificial diseñados para actuar de manera independiente en nombre de los usuarios, llevando a cabo tareas que van desde la programación y las compras hasta procesos empresariales complejos.
Si bien pueden mejorar la productividad, también corren el riesgo de que los agentes de IA se hagan pasar por personas y tomen decisiones no autorizadas, según la Unión Internacional de Telecomunicaciones (UIT).
Para abordar los riesgos, la UIT dijo en la Cumbre de IA para el Bien en Ginebra que establecería un Grupo de Enfoque.
Este grupo desarrollará marcos destinados a garantizar que los agentes de IA sigan siendo identificables, confiables y estén sujetos a un control humano significativo, particularmente en áreas sensibles como las transacciones financieras y la infraestructura crítica.
«Los agentes de IA pronto negociarán, realizarán transacciones y tomarán decisiones en nuestro nombre,» dijo la Co-Presidenta del Grupo de Enfoque, Debora Comparin, añadiendo que se necesitaban bases internacionales comunes para establecer quiénes son los agentes y cómo y cuándo se les puede confiar.
El grupo estará compuesto por expertos técnicos, de políticas y legales y celebrará su primera reunión en París en noviembre y su segunda en Ginebra en enero.
Olivia Le Poidevin