Europa presenta una nueva regulación para la Inteligencia Artificial

regulación europea de Inteligencia Artificial

La Comisión Europea publica la que será la primera legislación sobre Inteligencia Artificial. Una normativa sobre IA que busca “garantizar la seguridad” y que crea varios niveles de riesgo asociados a la aplicación de este tipo de tecnologías. El reglamento, que forma parte de una batería de medidas, viene a complementar otras regulaciones ya existentes, […]

Decálogo para una buena auditoría de algoritmos

Eticas Consulting realiza, desde 2017, auditorías algorítmicas para empresas y administraciones públicas de todo el mundo. Y lo hace para garantizar que los principios éticos y jurídicos se reflejan en los sistemas de Inteligencia Artificial (IA). Sistemas que toman decisiones sobre todos nosotros. Gracias a ellas se hace la IA más transparente, explicable y eficaz, […]

Inteligencia Artificial y mujeres, una historia de discriminación

Auditoría de Algoritmos

Los algoritmos y sistemas de Inteligencia Artificial han sido discriminatorios hacia las mujeres y aún lo siguen siendo, como muestran algunos casos que recogemos en este post. La buena noticia es que podemos evitarlo si implementamos una auditoría externa de algoritmos. Los siguientes ejemplos son problemas reales, muchos de los cuales persisten. Por la mala […]

Tipos de auditorías de algoritmos

Tipos de Auditorías de algoritmos

Realizamos una comparativa de los tipos de auditoría de algoritmos para poder seleccionar la que más se ajusta a los objetivos al analizar un sistema de Inteligencia Artificial. Si atendemos a las metas y objetivos que persigue la auditoría algorítmica, encontramos: Auditorías de sesgos; Auditorías de inspecciones regulatorias.   Sin embargo, si observamos el momento […]

Presentamos la Guía de Auditoría Algorítmica para desarrollar algoritmos justos y eficaces

Guía para auditar algoritmos

Dirigido a empresas, entidades públicas y a la ciudadanía, esta guía para auditar algoritmos ofrece una metodología general y replicable. El procesamiento de datos (big data), sobre todo basado en técnicas de Inteligencia Artificial (IA) que utilizan información personal, tiene enormes efectos en nuestra vida a nivel social, económico y jurídico. Pero el desconocimiento de […]

¿Cómo se audita un algoritmo? Los cinco pasos de una auditoría algorítmica

auditor algoritmos

Con motivo de la publicación de nuestra Guía de Auditoría Algorítmica, resumimos los cinco pasos sobre cómo auditar un algoritmo, con esta metodología general y replicable. 1. Model card, el primer paso de la auditoría algorítmica El primero de los cinco pasos de una auditoria de algoritmos, según Eticas Consulting, es la Model card. La […]