A legislação prevê determinadas proibições no uso da IA, como por exemplo, manipulação cognitivo-comportamental de pessoas ou grupos vulneráveis; classificação de pessoas com base no comportamento, características pessoais, condições socioeconômicas. Essas normas proibitivas serão aplicáveis seis meses após a vigência da lei.

Além disso, outro aspecto importante trazido pela nova legislação europeia é a priorização da transparência, trazendo mais segurança para a sociedade, uma vez que todos os sistemas de IA deverão respeitar as normas já vigentes quanto aos direitos autorais, divulgar quando o conteúdo é gerado ou modificado com recursos de inteligência artificial e criar sistemas que evitem a possibilidade de gerar conteúdos ilegais.

É prevista também uma redução de riscos para sistemas considerados de risco elevado, capazes de afetar negativamente a segurança ou direitos fundamentais, como por exemplo os sistemas utilizados para gestão de trabalhadores e recrutamento de empregados. Todos esses sistemas serão avaliados antes de entrarem em vigor no mercado, bem como durante todo o período pelo qual se mantiverem ativos, podendo os cidadãos, a qualquer tempo, apresentarem queixas contra os sistemas junto às autoridades competentes.

Segundo Thierry Breton, comissário do Mercado Interno da União Europeia, ao ser pioneira na regulamentação da IA, a Europa está estabelecendo um padrão global para uma IA confiável.

No Brasil, a regulamentação do uso da Inteligência Artificial está em fase de desenvolvimento através do Projeto de Lei 2.338/2023, o qual aguarda tramitação no Senado Federal.

O PL, assim como a legislação europeia, também estabelece normas gerais para o desenvolvimento e uso responsável dos sistemas de IA, bem como busca estabelecer graus de risco para cada tipo de sistema.

Ainda prevê a criação de um mecanismo para que as empresas realizem testes antes de oferecer os sistemas ao mercado, visando promover a criação responsável de novas tecnologias.

A previsão dos especialistas é de que a aprovação da legislação europeia impulsione a votação do projeto no Brasil. Entretanto, alertam sobre a necessidade da construção de uma legislação capaz de funcionar para a realidade brasileira.

Bianca Assumpção Wosch – advogada do escritório Alceu Machado, Sperb & Bonat Cordeiro Advocacia na área do Direito Civil e Empresarial.