Jorge Santana (*)

Um projeto de lei que tramita no Congresso Nacional tem provocado intenso debate entre apoiadores e detratores, quase sempre subordinados ao viés ideológico maniqueísta que, infelizmente, tem pautado o debate público brasileiro nos últimos anos, produzindo muito calor e pouca luz.

Trata-se do PL 2.630/2020, conhecido como PL das Fake News, na verdade um projeto para criar a denominada Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet, estabelecendo normas, diretrizes e mecanismos de transparência para provedores de redes sociais e de serviços de mensageria privada a fim de garantir segurança e ampla liberdade de expressão, comunicação e manifestação do pensamento.

A propósito, não estamos diante de mais uma jabuticaba brasileira. União Europeia, Alemanha e Austrália já dispõem de instrumentos similares, com o objetivo precípuo de impedir que plataformas sejam usadas para propagar informações falsas e outros conteúdos ilegais, como difamação, divulgação de cenas de violência e incitação pública ao ódio e ao crime.

O debate sobre eventuais pontos de melhoria do PL é bem-vindo e necessário. Ser contrário por considerá-lo um mecanismo de censura não me parece razoável.

Nesse mesmo diapasão, surge a necessidade de regular uma tecnologia cujo uso explodiu nos últimos meses, revelando enormes oportunidades e gigantescos riscos envolvidos na sua utilização: a inteligência artificial (IA).

Mundo afora, o alerta está sendo soado. Nos Estados Unidos, a Casa Branca reuniu recentemente executivos da Microsoft, Alphabet, OpenAI e Anthropic para pressioná-los a limitar os riscos da IA, sinalizando para possíveis novas regulamentações e legislações.

A União Europeia foi a pioneira na regulação da IA, ao formular um projeto de lei em 2021 e que acaba de ser aprovado em primeira votação no Parlamento Europeu: o AI Act propõe que sistemas de IA sejam supervisionados por pessoas, seguros, transparentes, rastreáveis, não discriminatórios e não produzam danos ao meio-ambiente. Enquanto isso, o Reino Unido opta por recorrer a seu órgão regulador, e na China as autoridades já impuseram que os sistemas de IA sigam regras rígidas.

No Brasil, três projetos de lei de regulação da IA foram apresentados desde 2019. Depois foram unificados e passaram a tramitar em conjunto no Senado Federal em 2022. Em sequência, foi instituída uma Comissão de Juristas destinada a subsidiar a elaboração de minuta de substitutivo. A Comissão realizou uma série de audiências públicas, promoveu um seminário internacional e analisou uma centena de manifestações recebidas, além de examinar a regulamentação da IA em mais de trinta países integrantes da OCDE.

No encerramento dos seus trabalhos, a Comissão de Juristas apresentou anteprojeto de lei para regulamentação da IA, que deu origem ao PL 2.338/2023, subscrito pelo presidente do Senado, Rodrigo Pacheco. A iniciativa busca conciliar a proteção de direitos e liberdades fundamentais, a valorização do trabalho e da dignidade da pessoa humana e a inovação tecnológica representada pela inteligência artificial.

Destaco, a seguir, os principais aspectos do PL, extraídos da sua justificação e do seu texto:

O projeto tem um duplo objetivo. De um lado, estabelece direitos para proteção do elo mais vulnerável em questão, a pessoa natural que já é diariamente impactada por sistemas de inteligência artificial, desde a recomendação de conteúdo e direcionamento de publicidade na Internet até a sua análise de elegibilidade para tomada de crédito e para determinadas políticas públicas. De outro lado, ao dispor de ferramentas de governança e de um arranjo institucional de fiscalização e supervisão, cria condições de previsibilidade acerca da sua interpretação e, em última análise, segurança jurídica para inovação e o desenvolvimento tecnológico. 

A proposição estabelece uma regulação baseada em riscos e uma modelagem regulatória fundada em direitos, com instrumentos de governança para uma adequada prestação de contas dos agentes econômicos desenvolvedores e utilizadores da inteligência artificial, incentivando uma atuação de boa-fé e um eficaz gerenciamento de riscos.

Um capítulo específico é dedicado à proteção dos direitos das pessoas afetadas por sistemas de inteligência artificial, garantindo acesso apropriado à informação e adequada compreensão das decisões tomadas por esses sistemas; estabelecendo e regulando o direito de contestar decisões automatizadas e de solicitar intervenção humana; e disciplinando o direito à não-discriminação e à correção de vieses discriminatórios.

Foram estabelecidas medidas gerais e específicas de governança para sistemas de IA com qualquer grau de risco e para os categorizados como de alto risco. Ao abordar a categorização dos riscos, a proposição estabelece a exigência de avaliação preliminar; aponta as aplicações vedadas, por risco excessivo; e define as aplicações de alto risco, sujeitas a normas de controle mais estritas.

Conforme a gradação de normas de acordo com o risco imposto pelo sistema faz-se uma diferenciação importante no capítulo da responsabilidade civil: quando se tratar de sistema de IA de alto risco ou de risco excessivo, o fornecedor ou operador respondem objetivamente pelos danos causados, na medida da participação de cada um no dano. E quando se tratar de IA que não seja de alto risco, a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima.

Ao dispor sobre a fiscalização dos sistemas de IA, o projeto determina que o Poder Executivo designe autoridade para zelar pelo cumprimento das normas estabelecidas, especifica suas competências e fixa sanções administrativas, com multas que podem chegar a 50 milhões de reais por infração. 

Estamos diante, portanto, de um importante e indispensável marco regulatório para a IA, construído a partir de ampla discussão, ainda sujeito a aperfeiçoamentos no seu trâmite. 

A resposta ao título deste artigo, naturalmente, é sim. Tal qual a regulação das redes sociais, a IA também precisa ser regulada. Que ambas não tardem a se tornar realidade, afinal de contas não desejamos que o ciberespaço se torne um faroeste digital.

(*) Founder&Chairman da Infox Tecnologia da Informação.