A partir de 2022, se ha visto un aumento en la adopción de la IA por parte de organizaciones globales, ya que un 56 % de las empresas cuenta con IA integrada en diversas funciones. Si bien la IA ofrece oportunidades incomparables, todavía existe incertidumbre pública con respecto a la desinformación, la confiabilidad y la equidad.
En respuesta a estos desafíos, los reguladores están actuando, como lo demuestra la introducción de la Ley de Inteligencia Artificial (IA) de la UE.
En este blog, analizamos la importancia de la Ley y exploramos cómo la adopción de medidas legislativas contribuye a fomentar la confianza digital en la IA.
¿Qué es la Ley de Inteligencia Artificial (IA) UE?
La Ley de Inteligencia Artificial (IA) de la UE está destinada a convertirse en la ley pionera en la regulación de la IA. Subraya la dedicación de la UE a establecer la confianza digital y priorizar el bienestar social.
La Ley establece un marco integral que aborda los requisitos éticos, de rendimiento y de transparencia para colocar un sistema de IA en el mercado, al tiempo que detalla disposiciones para salvaguardar los derechos fundamentales.
Su enfoque en IA ética y centrada en el ser humano tiene como objetivo garantizar una implementación responsable de la IA en toda Europa. La Ley enfatiza el uso de sistemas de gestión de riesgos y promueve la evaluación proactiva y la mitigación de riesgos potenciales; promoviendo la evaluación proactiva y la mitigación de riesgos potenciales.
La Ley define cuatro categorías de riesgo para los sistemas de IA. Cada categoría tiene un conjunto de niveles de escrutinio y obligaciones. Son los siguientes:
- Sistemas de IA inaceptables o prohibidos.
- Sistemas de IA de alto riesgo.
- Sistemas de IA que presentan riesgos limitados.
- Sistemas de IA que se consideran que no presentan riesgo.
Objetivo Ley de Inteligencia Artificial (IA) de la UE
La Ley de Inteligencia Artificial (IA) de la UE está diseñada para promover tanto la innovación como la regulación. Al seguir un marco regulatorio sistemático y predecible, la Ley tiene como objetivo fomentar el desarrollo y la implementación responsable de la inteligencia artificial, desbloqueando así su potencial económico y social.
Al mismo tiempo, enfatiza la protección de los derechos fundamentales a través de reglas integrales que previenen la invasión del bienestar y la tranquilidad de los usuarios. En esencia, la Ley de Inteligencia Artificial (IA) de la UE subraya los roles paralelos del avance tecnológico y la gestión de riesgos, con el objetivo de mitigar los riesgos potenciales y al mismo tiempo apoyar la innovación.
Sistemas de IA de alto riesgo
Los sistemas de IA de alto riesgo deben cumplir estipulaciones específicas de la Ley de Inteligencia Artificial (IA) y un mayor escrutinio. Para identificar dicho sistema existen una serie de referencias dentro de la Ley sobre lo que puede considerarse de alto riesgo. Por ejemplo, los sistemas de IA que están incorporados en dispositivos médicos se consideran de alto riesgo según el Anexo II.
Implementación de la Ley de Inteligencia Artificial (IA)
El 14 de junio de 2023, el Parlamento Europeo adoptó su posición de negociación sobre la Ley de Inteligencia Artificial (IA). Esta posición, junto con la posición del Consejo, será objeto de un diálogo tripartito entre el Parlamento Europeo, el Consejo Europeo y la Comisión Europea.
La Ley de Inteligencia Artificial (IA) introduce los “sandboxes” u entornos de prueba alojados por diferentes entidades nacionales para el desarrollo, la prueba y la validación de sistemas de IA. En 2022, El gobierno español puso en marcha un proyecto piloto de entorno de prueba. Además, la Ley establece una serie de disposiciones para las pequeñas y medianas empresas con el objetivo de aliviar la carga de los requisitos reglamentarios específicos.
Por qué la regulación es importante para la IA
La IA ya está profundamente integrada en nuestras interacciones digitales y tiene el poder de dar forma a la información que encontramos y a la que accedemos en línea. Este impacto puede abarcar de algoritmos en las redes sociales a anuncios personalizados y experiencias de banca en línea.
Este texto legislativo sobre la IA desempeñará un papel fundamental a la hora de orientar su evolución y garantizar la protección de los usuarios. Al igual que el Reglamento General de Protección de Datos (GDPR), que se convirtió en un estándar mundial en 2018, la Ley de Inteligencia Artificial (IA) de la UE tiene el potencial de servir como referencia global.
A medida que la inteligencia artificial se vuelve más presente en nuestras vidas, BSI observa con atención los efectos que traerá la próxima entrada en vigor de la Ley de Inteligencia Artificial (IA) de la UE como Reglamento. Este texto legislativo no solo influirá en la regulación de estos sistemas, sino que también apoyará el desarrollo y la adopción de normas de buenas prácticas, estableciendo así la base esencial de la confianza digital.
Esta confianza es fundamental para lograr una aceptación generalizada y un uso positivo y responsable de los sistemas de IA en la sociedad.