Estándar de Transparencia Algorítmica (Eurocities)
Título original: Estándar de Transparencia Algorítmica
QUÉ VENÍA PASANDO
La mayoría de las ciudades emplean algoritmos simples pero deben prepararse para adaptarse a cambios legislativos, avances tecnológicos y expectativas de ciudadanos. No hay estándares comunes sobre qué información debe publicarse sobre los algoritmos que usan.
QUÉ SE HIZO
Barcelona, junto con otras ocho ciudades europeas, adoptó el Estándar de Transparencia Algorítmica desarrollado por Eurocities. El estándar define categorías comunes de información que deben registrarse sobre algoritmos: tipo, propósito, departamento responsable, riesgos identificados, sesgos y medidas de mitigación. Barcelona implementó un protocolo interno de salvaguardas para cada etapa del desarrollo algorítmico y planificó lanzar un registro público priorizado por impacto.
QUÉ CAMBIÓ
Barcelona implementó un protocolo interno de salvaguardas para sistemas algorítmicos. La ciudad utilizó una herramienta de procesamiento de lenguaje natural en servicios sociales para asistir sin automatizar las decisiones de trabajadores sociales.
Lo declaró quien presentó el caso. Nadie lo auditó.
QUÉ DEJA
Establecer estándares de datos comunes entre múltiples gobiernos facilita la comparación y comprensión de cómo se usan algoritmos en diferentes ciudades, y crea una base para gobernanza efectiva de algoritmos, incluyendo priorización, actualización de información y mejores contratos con proveedores.
Tomi te acompaña a diseñarlo paso a paso, con la normativa de tu lugar.
Empezar con Tomi