Aprovado na Câmara, o projeto segue para votação no Senado, em meio a debates éticos sobre uso da tecnologia no Brasil e no mundo
Por Ludmyla Rocha Lavinsky,
Consultora de Privacidade e Proteção de Dados na MKR Consultoria
O Projeto de Lei nº 21/2020 foi aprovado na Câmara na última quarta-feira (29), estabelecendo princípios, direitos e deveres para o uso de inteligência artificial (IA) no Brasil.
O texto traz a definição sobre o que será considerado um “sistema de inteligência artificial”, entendido como “processo computacional que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões e recomendações ou tomar decisões que influenciam ambientes reais ou virtuais”.
Em recente levantamento feito pelo IBM[1], as empresas brasileiras lideram a adoção de IA na América Latina, com declaração de 49% dos profissionais de TI afirmando que suas organizações planejam investir em aplicativos de IA prontos para uso nos próximos 12 meses, entre bancos, seguros, varejo, educação e saúde. Este número expressivo reflete o aumento exponencial da produtividade com o uso desta tecnologia nas empresas e, consequentemente, o aumento da lucratividade.
Com a crescente utilização da inteligência artificial no Brasil e no mundo, houve também o aumento das discussões sobre seus aspectos éticos, especialmente com o uso de dados pessoais da população sem a devida garantia da transparência necessária (já mandatória na Lei Geral de Proteção de Dados – LGPD) com relação à coleta , armazenamento e compartilhamento destes dados, bem como sobre os critérios e algoritmos envolvidos na tomadas de decisão automatizada utilizando dados pessoais, que pode se revelar discriminatório em muitas situações.
Como exemplo deste contexto de preocupação ética, em maio de 2021, a ViaQuatro (concessionária da linha 4 do metrô de São Paulo), foi condenada ao pagamento de R$ 100.000,00 por captar através de sistemas de câmeras com a tecnologia de IA dados pessoais como gênero, idade e emoções de passageiros quando olhavam anúncios publicitários, tudo sem qualquer transparência, sem que as pessoas sequer soubessem que seus dados estavam sendo coletados naquele momento, o que violou o direito à imagem dos passageiros (direito fundamental previsto na Constituição) e as regras sobre tratamento de dados pessoais da LGPD.
Para mitigar riscos relativos ao uso inadequado da inteligência artificial para tratamento de dados pessoais, é necessário que as empresas (também o setor público) possuam um Programa de Privacidade que avalie constantemente os riscos às liberdades civis e direitos fundamentais dos cidadãos, bem como a adoção de salvaguardas para a proteção dos dados.
Esta avaliação pode ser feita através de um Relatório de Impacto, expressamente trazido no PL 21/2020, mas que já conta com previsão legal (no que se refere ao tratamento de dados pessoais) na LGPD.
Assim, com a aprovação do projeto de lei, o Brasil avança nas discussões com o texto que traz aspectos gerais sobre o uso desta tecnologia, trazendo importantes menções às regras já definidas na LGPD, como necessidade transparência e adoção de medidas técnicas de Segurança da Informação, a fim de assegurar a proteção aos direitos fundamentais dos cidadãos.
Por fim, importante mencionar que o texto carece do estabelecimento de regras mais precisas sobre o uso de IA, abarcando todo o ciclo de vida dos sistemas (importante para a segurança jurídica), e o estabelecimento de medidas de fiscalização.
Estamos acompanhando as discussões e ficamos no aguardo dos próximos passos do legislativo sobre o tema!
Dentre os principais pontos do PL, podemos destacar os seguintes:
- Definição sobre quem são os agentes de IA e partes interessadas:
- Podem ser pessoas físicas, jurídicas, públicas ou privadas, e entes sem personalidade jurídica;
- Agentes de desenvolvimento: todos aqueles que participam das fases de planejamento e design, coleta e processamento de dados e construção de modelo; de verificação e validação; ou de implantação do sistema de IA; e
- Agente de operação: todos aqueles que participam da fase de monitoramento e operação do sistema de IA;
- Partes interessadas: todos aqueles envolvidos ou afetados, direta ou indiretamente, por sistemas de IA.
- Princípios que norteiam o uso responsável da IA no Brasil:
- O PL determina que a finalidade do sistema de IA deverá ser benéfica para as pessoas e o planeta, aumentando as capacidades humanas, reduzindo a desigualdade social e promovendo o desenvolvimento sustentável;
- Que o uso da IA deve ser centralizada no ser humano (com respeito à dignidade, privacidade, proteção de dados e direitos trabalhistas);
- Que não poderá ser usado de forma discriminatória;
- Deve ser transparente e explicável quanto ao uso e funcionamento (ressalvados os segredos comercial e industrial);
- Deve haver adoção de padrões de segurança internacionais, permitindo a funcionalidade e gerenciamento dos riscos do sistema, garantindo rastreabilidade dos processos e decisões tomadas durante o ciclo de vida do sistema; e
- A responsabilidade e dever de prestação de contas pelos agentes de IA e da adoção de medidas eficazes para o bom funcionamento dos sistemas.
- Direitos das partes interessadas (públicas ou privadas) nos sistemas de IA:
- Ciência da instituição responsável pelo sistema de inteligência artificial;
- Acesso a informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados pelo sistema de IA que lhes afetem adversamente, observados os segredos comercial e industrial; e
- Acesso a informações claras e completas sobre o uso, pelos sistemas, de seus dados sensíveis, conforme disposto no art. 5º, II, da Lei 13.709, de 2018 – Lei Geral de Proteção de Dados (dados que possam ser discriminatórios, como raça, vida sexual, saúde, opinião política etc.).
- Deveres dos agentes de IA:
- Divulgar a instituição responsável pelo sistema de AI;
- Fornecer informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados pelo sistema de IA, observados os segredos comercial e industrial;
- Assegurar que os dados utilizados pelo sistema de IA estejam de acordo com a LGPD;
- Implantar um sistema de IA somente após avaliação adequada de seus objetivos, benefícios e riscos relacionados a cada fase do sistema e encerrá-lo se o controle humano não for mais possível;
- Responder, na forma da lei, pelas decisões tomadas por um sistema de IA; e
- Proteger continuamente os sistemas de IA contra ameaças de segurança cibernética.
- Diretrizes para o Poder Público:
- Promover e incentivar investimentos públicos e privados em pesquisa e desenvolvimento de IA;
- Promover ambiente favorável à implantação dos sistemas de IA, com a revisão e a adaptação das estruturas políticas e legislativas necessárias para a adoção de novas tecnologias;
- Promover da interação tecnológica dos sistemas de IA utilizados pelo Poder Público, entre os diferentes Poderes e âmbitos da Federação, permitindo o intercâmbio de informações e a celeridade de procedimentos;
- Adotar preferencial de tecnologias, padrões e formatos abertos e livres, no setor público e no privado;
- Capacitação humana e sua preparação para a reestruturação do mercado de trabalho, à medida que a inteligência artificial é implantada; e
- Estabelecer mecanismos de governança multiparticipativa, transparente, colaborativa e democrática, com a participação do governo, do setor empresarial, da sociedade civil e da comunidade acadêmica.
Data da publicação: 01 de Outubro de 2021
[1] Disponível em: <https://www.ibm.com/blogs/ibm-comunica/ia-na-america-latina/> Acesso em: 30 de setembro de 2021.
