A partir de 2022, a adoção da IA por organizações globais aumentou, com 56% das empresas integrando a IA em várias funções. Embora a IA ofereça oportunidades inigualáveis, ainda há incerteza pública com relação à desinformação, confiabilidade e justiça.
Em resposta a esses desafios, os órgãos reguladores estão agindo, exemplificados pela introdução da Lei de IA da UE.
Neste blog, analisamos a importância da lei e exploramos como a adoção de proteções legislativas contribui para promover o digital trust na IA.
O que é a Lei de IA da UE?
A Lei de IA da UE está pronta para se tornar a lei pioneira na regulamentação de IA. Isso ressalta a dedicação da UE em estabelecer o digital trust e priorizar o bem-estar da sociedade.
A lei descreve uma estrutura abrangente que aborda requisitos éticos, de desempenho e de transparência para colocar um sistema de IA no mercado, ao mesmo tempo em que detalha as disposições para proteger os direitos fundamentais.
Seu foco na IA ética e centrada no ser humano visa garantir a implantação responsável da IA em toda a Europa. A lei enfatiza o uso de sistemas de gerenciamento de riscos, promovendo a avaliação proativa e a mitigação de riscos potenciais.
Há quatro categorias de risco definidas para sistemas de IA dentro da lei. Cada categoria tem um conjunto de níveis de controle e obrigações. Eles são os seguintes:
- Sistemas de IA inaceitáveis ou proibidos.
- Sistemas de IA de alto risco.
- Sistemas de IA que apresentam riscos limitados.
- Sistemas de IA que são considerados sem risco.
Objetivo da Lei de IA da UE
A Lei de IA da UE foi projetada para promover tanto a inovação quanto a regulamentação. Ao obedecer a uma estrutura regulatória sistemática e previsível, a lei tem como objetivo promover o desenvolvimento e a implantação responsáveis da IA, liberando, assim, possíveis benefícios econômicos e sociais.
Ao mesmo tempo, a lei enfatiza a proteção dos direitos fundamentais por meio de regras abrangentes que impedem a invasão do bem-estar dos usuários. Em essência, a Lei de IA da UE ressalta as funções paralelas do avanço tecnológico e do gerenciamento de riscos, com o objetivo de atenuar os riscos potenciais e, ao mesmo tempo, apoiar a inovação.
Sistemas de IA de alto risco
Os sistemas de IA de alto risco são obrigados a cumprir as estipulações específicas da Lei de IA e a aumentar o escrutínio. Para identificar esse sistema, há várias referências na lei sobre o que pode ser considerado de alto risco. Por exemplo, os sistemas de IA incorporados em dispositivos médicos são considerados de alto risco de acordo com o Anexo II da Lei.
Implementação da Lei de IA
Em 14 de junho de 2023, o Parlamento Europeu adotou sua posição de negociação sobre a Lei de IA. Essa posição, juntamente com a posição do Conselho, será objeto de um trílogo entre o Parlamento da UE, o Conselho da UE e a Comissão Europeia.
A Lei de IA introduz a disponibilidade de "sandboxes" hospedadas por diferentes entidades nacionais para o desenvolvimento, teste e validação de sistemas de IA. Em 2022, um sandbox piloto foi iniciado pelo governo espanhol. Além disso, a lei oferece várias provisões para pequenas e médias empresas para aliviar o ônus das exigências regulatórias específicas.
Por que a regulamentação é importante para a IA
A IA já está profundamente integrada às nossas interações digitais e tem o poder de moldar as informações que encontramos e acessamos on-line. Esse impacto pode variar de algoritmos nas mídias sociais a anúncios personalizados e experiências bancárias on-line.
Esse texto legislativo para IA desempenhará um papel fundamental na orientação de sua evolução e, ao mesmo tempo, garantirá a proteção dos usuários. Semelhante à Lei Geral de Proteção de Dados (LGPD), que se tornou uma norma mundial em 2018, a Lei de IA da UE tem o potencial de servir como referência global.
À medida que a IA se torna mais predominante em nossas vidas, o BSI está observando atentamente os efeitos do desdobramento da próxima oficialização da Lei de IA da UE para se tornar um regulamento. Esse texto legislativo não apenas influenciará a regulamentação de tais sistemas, mas também apoiará o desenvolvimento e a adoção de normas de melhores práticas para estabelecer a base essencial do digital trust.
Essa confiança é fundamental para a ampla aceitação e o uso positivo dos sistemas de IA na sociedade.
