Presentamos la Guía de Auditoría Algorítmica para desarrollar algoritmos justos y eficaces

Guía para auditar algoritmos

Dirigido a empresas, entidades públicas y a la ciudadanía, esta guía para auditar algoritmos ofrece una metodología general y replicable.

El procesamiento de datos (big data), sobre todo basado en técnicas de Inteligencia Artificial (IA) que utilizan información personal, tiene enormes efectos en nuestra vida a nivel social, económico y jurídico. Pero el desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas hace que no siempre sigan criterios éticos. En estos casos, pueden no estar aplicando tecnología ética y resultar en sesgos, malas prácticas o discriminación, sobre todo, de personas y colectivos especialmente vulnerables. En parte, debido a que algunos sistemas de IA ajustados al Reglamento General de Protección de Datos (GDPR en inglés), también discriminan. Por eso es tan importante evaluar el impacto de una correcta protección de datos personales a través del control externo.

Así Eticas Consulting, especializada en la auditoría de algoritmos y la equidad y justicia algorítmica, ha elaborado la Guía de Auditoría Algorítmica para hacer esta tecnología más explicable, transparente y controlable. Para ello, la Guía ofrece una metodología general y replicable a modo de “manual de instrucciones” para que la ciudadanía, las instituciones públicas y las empresas tengan más control sobre los algoritmos que ya están decidiendo sobre su vida. Para leer los 5 pasos clave de una auditoría puedes leer nuestro último post.

La Guía de Auditoría Algorítmica tiene tres objetivos principales:

  1. Proteger los derechos fundamentales relativos a la privacidad y la protección de datos personales;
  2. Aportar claridad a las leyes aplicables a los sistemas algorítmicos;
  3. Ofrecer una metodología para controlar que estas tecnologías son diseñadas, desarrolladas y utilizadas no solo de acuerdo a la Ley, sino de forma socialmente justa y responsable.

 

El contenido de la Guía de Auditoría Algorítmica

La Guía de Auditoría Algorítmica está dirigida a las personas responsables del uso de algoritmos, de tratamiento de datos y de la realización de estas auditorías. Aunque también busca llegar al público general, cada vez más interesado en los efectos de la aplicación de algoritmos en su vida cotidiana. Por eso, recoge desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.

Si quieres descargar la Guía de Auditoría Algorítmica, puedes hacerlo aquí.

Recent Blog Posts

If you want to know if your algorithms work or not, let's talk!

  1. Select a date and time. 
  2. Enter your name and email.
  3. Invite your colleagues.
  1. Selecciona una fecha y hora.
  2. Ingresa tu nombre y correo electronico.
  3. Invita a tus colegas.