ALGOCITIES

Home  »  Proyectos   »   ALGOCITIES

 

Fase 1   ·  Fase 2


ALGOCITIES: Presentación del proyecto

 

En las ciudades globales, los servicios basados en datos son cada vez más omnipresentes. Los algoritmos y los datos que procesan juegan un papel cada vez más importante en la toma de decisiones, con consecuencias significativas para el bienestar y los derechos de la ciudadanía. Gracias a los algoritmos, alguien puede obtener recomendaciones de libros, una ruta eficiente a un destino o una estrategia ganadora para un juego de mesa. No obstante, esos mismos algoritmos determinarán si alguien será admitido (o no) a una universidad, si se le concederá (o no) una hipoteca y si se le contratará (o no) para un trabajo.

A menudo se piensa que las máquinas son árbitros neutrales: entidades frías y calculadoras que pueden ver patrones que nuestras mentes humanas no pueden (o no quieren) ver y tomar una decisión óptima. Pero, ¿realmente es así? ¿O son las decisiones algorítmicas una forma de amplificar, extender y hacer inescrutables los prejuicios y la discriminación que preexisten en la sociedad? (Venkatasubramanian, 2016). Los avances en el aprendizaje automático han llevado a las empresas a confiar en Big Data y en los algoritmos, partiendo de la presunción de que sus decisiones son más eficientes e imparciales que las humanas.  los algoritmos se están convirtiendo en un factor clave en numerosas actividades cotidianas, y lo están haciendo a una velocidad que supera nuestra capacidad para entender su impacto sobre los derechos de la ciudadanía

 

Pero, a medida que se extiende el uso de los algoritmos, también han surgido numerosas reivindicaciones ciudadanas que exigen una mayor responsabilidad en el uso, diseño e implementación de los mismos, sobre todo por su capacidad para normalizar y amplificar las desigualdades sociales a través de la discriminación algorítmica. Urge, en consecuencia, un intento riguroso de comprender el papel desempeñado por los algoritmos en la ciudad global, situar el tema en la agenda pública y analizar las políticas que se deben adoptar para garantizar los derechos y la equidad en los contextos urbanos.

Este es precisamente el objetivo de este proyecto. A partir de una revisión sistemática de la literatura y el análisis profundo de los marcos y casos existentes se busca comprender los problemas planteados por el uso creciente de algoritmos en las ciudades globales y proponer alternativas de regulación, como la reciente iniciativa del Ayuntamiento de Nueva York de crear un gabinete específico para evaluar la equidad en los algoritmos, las propuestas de la Autoridad Francesa de Protección de Datos o del Grupo de Trabajo 29 de la Comisión Europea sobre cómo abordar estas cuestiones desde una óptica protectora de los derechos de la privacidad.

Con el objetivo de comprender las consecuencias sociales de los algoritmos en la ciudad de Barcelona y recomendar medidas para garantizar los derechos de los ciudadanos, el proyecto propone:

  1. Realizar una revisión sistemática de la literatura científica y ‘gris’ sobre las implicaciones del uso de algoritmos en las ciudades. Además de las publicaciones en revistas científicas, se analizarán artículos en medios generalistas y especializados, material industrial de empresas tecnológicas y “data brokers”, informes y documentos político.
  2. Organizar, realizar, documentar y volcar entrevistas estructuradas con expertos, informantes clave, cargos y técnicos de la administración pública, académicos, profesionales y representantes de la sociedad civil, que se combinarán con el análisis documental para identificar y comparar los vacíos, puntos comunes, conflictos y contradicciones que existen en los diferentes contextos sociales, políticos y legales.
  3. Elaborar una cartografía general de los conflictos suscitados por el uso de algoritmos en los contextos urbanos. Una vez definidos los ejes de conflicto, se identificarán los principales colectivos afectados y vulnerables, los procesos de conflicto, la descripción de los elementos técnicos y sus impactos, y los valores, expectativas, comportamientos relacionados con los casos seleccionados.
  4. Analizar los marcos políticos y legales que se producen a través los conflictos entre las instituciones públicas, el sector privado, las entidades sociales y la sociedad civil en torno al uso de algoritmos en las ciudades globales.
  5. Proponer un marco de regulación algorítmica innovador para la ciudad de Barcelona partiendo del análisis de los casos existente, centrado en los servicios o ámbitos que más lo requieren. Eticas aprovechará su relación ya establecida con Data & Society, el Comisionado de Tecnología (oficina CTO) y el Comisionado de Derechos Humanos de la ciudad de Nueva York para aprender de la experiencia de regulación algorítmica ya en marcha en esa ciudad.

 

Seguimos trabajando en el análisis de casos de ciudades que actualmente cuentan con una fuerte presencia de sistemas algorítmicos. Pronto disponible en la Fase 2 del proyecto!

 

Posted on
Categories : Categories Proyectos