PL da IA: entenda o projeto para regular inteligência artificial

dezembro 11, 2024

O Projeto de Lei 2.338/2023, chamado de PL da IA, é um projeto de lei que tem como objetivo estabelecer o Marco Legal da Inteligência Artificial (IA) e regulamentar seu uso no Brasil, a fim de proteger os direitos fundamentais dos cidadãos e promover a inovação. O texto foi aprovado nesta terça-feira (10) pelo plenário do Senado e agora vai para a análise da Câmara dos Deputados.

Clique e siga o Canaltech no WhatsApp Afinal, o que é inteligência artificial? Uso da IA é importante, mas traz riscos, diz diretor-presidente da ANPD

De autoria do presidente do Senado, Rodrigo Pacheco, o projeto integra outras propostas relacionadas à IA que estão em tramitação no Senado, incluindo o PL 21/2020, já aprovado pela Câmara, que define princípios, direitos e obrigações para o emprego da IA no país.

O Canaltech conversou com especialistas do setor para explicar tudo sobre o tema que pode virar lei.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

O que o PL propõe?

O Projeto de Lei (PL) propõe um conjunto de diretrizes destinadas a equilibrar as inovações trazidas pela IA com a garantia de direitos fundamentais, tais como a proteção ao trabalho, direito autoral e acessibilidade.

Na nova versão do relatório, foram introduzidos outros pontos importantes. A advogada especialista em direito digital do escritório Lemos Advocacia, Adriana Garibe, destaca que a atualização promoveu avanços significativos, como a clareza nas definições do conceito de inteligência artificial e a redução de obrigações para sistemas de IA considerados de baixo risco.

A distinção entre sistemas de risco alto e excessivo é um aspecto crucial do PL.

Conforme a regulamentação em análise, sistemas de alto risco são aqueles que podem causar algum dano a um indivíduo ou sociedade e exigem supervisão humana no processo de tomada de decisão, como, por exemplo, na seleção de trabalhadores. Os excessivos serão proíbidos por conta do poder de induzir e prejudicar comportamentos dos usuários.

Outro ponto importante é a desclassificação dos algorítimos de redes sociais como sistemas de alto risco. A decisão foi tomada após falta de consenso e atendimento aos pedidos da oposição.

Outras medidas destacadas são:

Regulamentação e fiscalização de sistemas de IA; Centralizar a pessoa humana para a tomada de decisões no uso da IA; Estabelecimento de autoridades reguladoras; Regulamentação para garantir direitos fundamentais; Garantia da privacidade e proteção de dados; Proteção do meio ambiente e sustentabilidade; Garantia da igualdade e não discriminação; Respeito aos direitos trabalhistas; Direito autoral.

Para o especialista em cibersegurança e membro do Comitê Gestor da Internet no Brasil (CGI), Rodrigo Fragola, o novo texto esclarece de forma mais precisa como o sistema de desenvolvimento e aplicação da IA deve operar.

“O texto anterior carecia de clareza sobre a natureza de um sistema de IA e seu funcionamento adequado para preservar direitos, ao mesmo tempo em que precisava assegurar a oportunidade para inovação e criação de novas ferramentas”, enfatiza Fragola.

Ele também ressalta a revisão do texto que trata dos mecanismos de proteção ao trabalho e aos direitos autorais e explica que os avanços da IA podem ter consequências, inclusive substituindo funções de trabalhadores, e que o PL propõe medidas para esses casos, como realocação, transferência ou treinamento.

Já em relação ao direito autoral, o PL visa estabelecer regras para a remuneração de produtores de conteúdo que treinam sistemas de IA, como publicações de jornais e portais.

Além disso, a regulação do desenvolvimento e aplicação da IA tende a ser descentralizada, e ficará a cargo do Sistema Nacional de Regulação e Governança de IA (SIA), sob a coordenação da Autoridade Nacional de Proteção de Dados (ANPD).

O que são os sistemas de risco alto e excessivo?

O Projeto de Lei divide os sistemas de IA em risco alto e excessivo para promover um regulamentação distinta entre eles.

Alto risco

Um sistema de alto risco é aquele que poderá causar algum dano às pessoas ou à sociedade, como o controle do trânsito, por exemplo. O texto determina que as regras mais rígidas serão aplicadas à ferramentas de IA de alto risco utilizados em algumas atividades, como:

Veículos autônomos; Controle de trânsito; Gestão de abastecimento de água; Diagnósticos médicos; Seleção de estudantes; Recrutamento, avaliação e demissão de trabalhadores.

Risco excessivo

Os sistemas de risco excessivo são aqueles que podem induzir comportamentos nocivos aos usuários, apresentando uma conduta prejudicial ou perigosa à saude ou segurança. De acordo com o projeto, o desenvolvimento e o uso de ferramentas nessa classificação está proibido.

Dentre os sistemas de risco excessivo, o texto elencou os sistemas de armas autônomas (SAA) que não possuem controle humano, assim como o uso de ferramentas que avaliem traços de personalidade e características de comportamento para conceder acesso a bens, serviços e políticas públicas, por exemplo.

Como será a avaliação

De acordo com o texto, a SIA deverá fazer a avaliação preliminar obrigatória para os sistemas de IA generativos e de propósito geral. Em relação aos sistemas de alto risco, ela será facultativa para a organização, e ficará a par dos agentes (desenvolvedores) da ferramenta a avaliação de impacto antes de ir ao mercado.

As avaliação preliminares serão públicas e documentadas em bancos de dados mantidos pela autoridade competente.

Quais são os desafios e benefícios do PL da IA?

A pressão do setor de tecnologia representa um dos principais desafios do PL, especialmente devido ao posicionamento crítico da Confederação Nacional da Indústria (CNI) em relação à regulamentação dos sistemas de Inteligência Artificial (IA).

Conforme expresso pela organização em um artigo publicado no Portal da Indústria, a regulamentação pode criar barreiras ao desenvolvimento e à inovação tecnológica no Brasil.

Rodrigo Fragola observa que os trechos do PL relacionados ao direito autoral provavelmente gerarão mais debates na comissão. Para o especialista do CGI, embora a determinação modifique as regras para atribuir créditos aos conteúdos gerados pela IA a partir de várias fontes, o assunto permanece controverso.

“Lançamentos anteriores de IA não incorreram em nenhum tributo pelo uso desses conteúdos. Isso torna o estabelecimento de normas para sistemas novos e antigos ainda mais complexo”, explica.

Patricia Peck, advogada especialista em direito digital na Peck Advogados, destaca outro ponto de atenção: evitar que a lei se torne rapidamente obsoleta. Dado que a IA ainda está em processo de amadurecimento, a legislação precisará ser atualizada futuramente.

PL da IA, é um projeto de lei que tem como objetivo estabelecer o Marco Legal da Inteligência Artificial (IA) e regulamentar seu uso no Brasi( Imagem: Reprodução/Freepik)

Peck adiciona que um modelo descentralizado, em formato híbrido (que conta com alguns agentes reguladores centralizados), pode ser o ideal no caso. Ela ressalta que tomar proveito do conhecimento técnico já existente de órgãos reguladores como a ANPD irá ajudar na avaliação dos impactos e no equilíbrio das obrigações deliberadas pelo PL.

Já a advogada do Lemos Advocacia Adriana Garibe aponta a fragmentação regulatória do PL como um desafio. Segundo ela, a descentralização entre diferentes autoridades, como a SIA e a ANPD, pode levar a ineficiências no sistema de fiscalização.

A especialista complementa que um dos benefícios do PL é levar o Brasil a ter um bom posicionamento como um polo tecnológico ao alinhar-se às normas globais, como o “AI Act”, marco regulatório europeu de inteligência artificial.

Rodrigo Fragola também destaca a classificação de risco dos sistemas de IA como um avanço na regulamentação. “A determinação esclarece o que impactará regularmente a vida das pessoas. Assim, sistemas de alto risco poderão sugerir decisões, mas somente humanos terão a autoridade para tomá-las”, acrescenta.

O que acontece agora?

O plenário do Senado aprovou o texto nesta terça-feira (11) e agora o PL irá para a apreciação da Câmara dos Deputados.

VÍDEO: 3 USOS DA INTELIGÊNCIA ARTIFICIAL NO DIA A DIA #Shorts

Leia a matéria no Canaltech.

Facebook Comments Box