La Comisión Europea publica la que será la primera legislación sobre Inteligencia Artificial. Una normativa sobre IA que busca “garantizar la seguridad” y que crea varios niveles de riesgo asociados a la aplicación de este tipo de tecnologías.
El reglamento, que forma parte de una batería de medidas, viene a complementar otras regulaciones ya existentes, como el Reglamento General de Protección de Datos (RGPD), la Directiva sobre la privacidad y las comunicaciones electrónicas o la Ley de servicios digitales. Así, la nueva legislación no puede valorarse como una pieza independiente sino que forma parte de un esfuerzo regulador en el ámbito de la inteligencia artificial y de algoritmos.
Las auditorías de Eticas Consulting cumplen desde hace años con la metodología que ahora propone la Comisión Europea, por lo que destacamos cuatro cosas que hay que saber sobre la nueva regulación europea de Inteligencia Artificial:
- Hay Inteligencia Artificial que está prohibida y no hay que desarrollar. En este sentido, la Unión Europea apunta a dos grandes categorías: La IA diseñada para manipular comportamientos (entraría aquí lo que hacía Cambridge Analítica y su manipulación política) y los sistemas de crédito social (Social Score): sistemas que dan una valoración social, una nota en base al comportamiento digital de sus ciudadanos.
- Se establecen las categorías de Inteligencia Artificial de alto riesgo. Categorías que deben someterse a garantías adicionales. Es la IA aplicada en sectores como la justicia, la policía, las migraciones, los servicios sociales, el empleo, etc. La propuesta de regulación europea de Inteligencia Artificial establece los mecanismos de auditoría y control necesarios para garantizar una IA ética y responsable, algo muy positivo ya que arroja luz en este sentido
- Aporta otras dos categorías relevantes. Una de Inteligencia Artificial de riesgo limitado (en la que se incluyen las tecnologías que no suponen un riesgo de impacto en derechos fundamentales pero sí deben cumplir ciertas obligaciones de transparencia, como por ejemplo: informar de cuando se está hablando con una máquina o con un humano). Y otra última categoría de Inteligencia Artificial de riesgo mínimo. Interesante en este sentido destacar que la UE no denomina a esta categoría de “riesgo inexistente” sino “mínimo”. Esta sería la IA de logística o la que trabaja en el background de muchos sistemas. Se trata de una tecnología que muchas veces no incorpora datos personales y no tiene un impacto directo (porque es una IA que lo que hace es permitir otros servicios).
- Apunta a la creación de un Consejo Europeo de la Inteligencia Artificial para asegurar que esta regulación se implementa y cumple.
La propuesta de regulación europea de la Inteligencia Artificial llega en un momento clave, y supone un espaldarazo para la metodología Eticas de auditoría algorítmica, ya que insiste en la necesidad de controlar aspectos técnicos pero también de discriminación, impacto social, eficiencia o interacción humano-máquina.
Este primer marco normativo aplicable al territorio del mercado único deja claro que los desarrolladores e implementadores de algoritmos deben incorporar en su proceso de producción una valoración de riesgos de amplio espectro en la que está especializada Eticas.
Si te interesa la auditoría algorítmica, aquí puedes ver algunos de nuestros clientes. Y aquí puedes ver qué dice la prensa de nosotros.