O Parlamento Europeu adotou a sua posição de negociação sobre o Regulamento Inteligência Artificial (IA), esta quarta-feira, dia 14 de junho, por 499 votos a favor, 28 contra e 93 abstenções, em antecipação às conversações com os Estados-Membros da UE sobre a forma final da lei. As regras assegurarão que a IA desenvolvida e utilizada na Europa respeita plenamente os direitos e valores da UE, incluindo a supervisão humana, a segurança, a privacidade, a transparência, a não discriminação e o bem-estar social e ambiental.
Práticas de IA proibidas
As regras seguem uma abordagem baseada no risco e estabelecem obrigações tanto para os fornecedores e como para aqueles que utilizam sistemas de IA, em função do nível de risco que esta pode colocar. Por consequência, os sistemas de IA com um nível de risco inaceitável para a segurança das pessoas serão proibidos, como os utilizados para classificação das pessoas com base no seu comportamento social ou nas suas características pessoais.
Os eurodeputados alargaram a lista de modo a incluir proibições de utilizações intrusivas e discriminatórias da IA, tais como:
- sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público;
- sistemas de identificação biométrica à distância em diferido, com a única exceção para a repressão de crimes graves por autoridades responsáveis pela aplicação da lei e apenas após autorização judicial;
- sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);
- sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);
- sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino; e
- remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).
IA de risco elevado
Os eurodeputados garantiram que a classificação das aplicações de risco elevado passará a incluir sistemas de IA que prejudicam significativamente a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente. Os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de utilizadores) foram adicionados à lista de risco elevado.
Obrigações para a IA de uso geral
Os fornecedores de modelos de base (um desenvolvimento novo e em rápida evolução no domínio da IA) terão de avaliar e atenuar eventuais riscos (para a saúde, ambiente, segurança. direitos fundamentais, democracia e Estado de direito) e registar os seus modelos na base de dados da União antes da sua introdução no mercado da UE. Os sistemas de IA generativa que têm por base tais modelos, como o ChatGPT, terão de cumprir os requisitos de transparência (revelando que os conteúdos foram gerados por IA, o que ajudará a distinguir as técnicas de manipulação de imagens – também conhecidas como deepfake – das imagens reais) e assegurar salvaguardas contra a produção de conteúdos ilegais. Terão igualmente de ser disponibilizados ao público resumos pormenorizados dos dados protegidos por direitos de autor utilizados para a sua aprendizagem.
Apoiar a inovação e proteger os direitos dos cidadãos
Para impulsionar a inovação no domínio da inteligência artificial e apoiar as PME, os eurodeputados acrescentaram isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta. A nova lei promove os chamados ambientes de testagem de regulamentação, ou ambientes reais, criados pelas autoridades públicas para testar a inteligência artificial antes da sua utilização.
Por último, os eurodeputados pretendem reforçar o direito dos cidadãos de apresentarem queixas sobre sistemas de IA e receberem explicações sobre decisões baseadas em sistemas de IA de risco elevado que tenham um impacto significativo nos seus direitos fundamentais. Os deputados também reformaram o papel do Serviço Europeu para a Inteligência Artificial, que será incumbido de acompanhar a aplicação do conjunto de regras em matéria de inteligência artificial.
Saiba mais aqui.
Fontes: Comunicado da Comissão Europeia de 14.11.2024, disponível aqui.
Português 
English