A IA Precisa ser Regulamentada?

"Se não for controlada, a inteligência artificial (IA) pode desestabilizar os sistemas democráticos ao espalhar desinformação, alimentar discursos de ódio e distorcer a opinião pública por meio de deepfakes. Esse alerta foi dado pelo secretário-geral da Organização das Nações Unidas (ONU), António Guterres, no fim do ano passado, pouco antes das eleições americanas e em alguns outros países do mundo. Na mesma época, um relatório, desta vez assinado por um grupo de especialistas também da ONU, dizia ser “inevitável” o regulamento global da crescente IA, ressaltando ainda que o desenvolvimento e o uso de tal tecnologia não podem ser deixados apenas aos caprichos dos mercados, ou seja, demandava uma abordagem global.

Com isso, Guterres também reiterou a importância da defesa da liberdade de expressão, das liberdades civis e do estado de direito, bem como garantir instituições responsáveis e proteger os direitos humanos. “No entanto, esses direitos e valores estão sob ataque em todo o mundo. As liberdades estão sendo corroídas. O espaço cívico está diminuindo. A polarização está se intensificando. E a desconfiança está crescendo”, completou o secretário-geral da ONU.

“A meu ver, pela intensidade e ritmo das discussões, a tecnologia da IA se constitui em um assunto que ainda vai tender muito. Eu mesmo, no ano passado, abordei questões relativas ao uso dessa tecnologia no mínimo uma meia dúzia de vezes em artigos aqui nesta coluna.

De fato, a realidade atual mostra que a inteligência artificial está transformando nosso mundo, desde a abertura de novas áreas de investigação científica e otimização de redes de energia até a melhoria da saúde pública e da agricultura, bem como na promoção da sustentabilidade.

Porém, voltando a falar do relatório da ONU, uma parte do documento evidencia uma preocupação sobre as maneiras pelas quais a IA pode ser usada para infringir os direitos humanos.

As próprias matérias-primas necessárias para as tecnologias de IA - incluindo minerais essenciais - são obtidas globalmente, o que leva a uma batalha por poder e riqueza sobre essas commodities raras em escala global.

“Além disso, sistemas de armas autônomos poderiam tomar decisões sem intervenção humana, levantando questões éticas e legais sobre responsabilidade e proteção de civis durante conflitos. O potencial crescente para uma corrida armamentista impulsionada por avanços na tecnologia de IA também poderia colocar em risco a segurança humana.

O preconceito e a vigilância da IA são outra área de preocupação, com a criação e disseminação de desinformação potencialmente prejudicando pessoas. “Assim sendo, embora haja um tremendo potencial para o bem, se não houver controle, os benefícios da IA podem ser limitados a apenas alguns Estados, empresas e indivíduos pioneiros, ampliando a exclusão digital e a desigualdade.

Diante disso, em um esforço para mitigar esses riscos, é que o relatório da ONU propõe diversas recomendações para estabelecer uma estrutura para a governança global da IA.

Nesse contexto, as disparidades já estão começando a aparecer. Em termos de representação, partes inteiras do mundo foram deixadas de fora das conversas internacionais sobre governança de IA. Assim, apenas sete países (Canadá, França, Alemanha, Itália, Japão, Reino Unido e EUA) integram sete importantes iniciativas de IA não relacionadas à ONU, enquanto 118 países, principalmente no Sul Global, não são partes de nenhuma.

Só que, a meu ver, a equidade exige que mais vozes desempenhem papéis significativos nas decisões sobre como governar a tecnologia que ora nos afeta. Não é certo essa concentração da tomada de decisões no setor de tecnologia de IA, uma vez que ela impacta o mundo que vivemos como um todo.

Essa constatação, penso eu, vem ao encontro das recomendações contidas no relatório da ONU, que inclui um painel científico internacional independente sobre IA, um diálogo político intergovernamental e multissetorial semestral sobre governança de IA para compartilhar melhores práticas e um fundo global para IA visando reduzir a “exclusão digital”. Seriam um apelo aos estados-membros da ONU para que estabeleçam as bases para a primeira arquitetura globalmente inclusiva para a governança da IA com base na cooperação e transparência internacionais.

O Brasil também entrou nessa luta em busca de representatividade nessa tal governança global da IA.

Prova disso aconteceu em março do ano passado, quando o senador brasileiro Marcos Pontes viajou para Washington, nos EUA, acompanhado pelo também senador Laércio Oliveira. Ambos integram a comissão responsável por elaborar o projeto de lei sobre IA no Brasil. Na viagem, faziam parte de uma delegação organizada por uma iniciativa do Congresso que tem interação com o setor privado. O objetivo foi realizar uma série de reuniões sobre a minuta do projeto de lei com representantes do governo dos EUA e de empresas do Vale do Silício. “Além do domínio da tecnologia, mas pensando em danos, Marcos Pontes, ex-astronauta e ex-ministro da Ciência, Tecnologia e Inovação, se tornou uma figura central nas iniciativas de regulação da inteligência artificial no Brasil, onde um projeto de lei propunha importantes restrições à tecnologia em desenvolvimento. Além de se considerar o mais qualificado entre seus pares para entender as questões complexas em torno da IA, o senador é o menos cético entre muitos outros senadores em relação às grandes empresas dos EUA que dominam a corrida pela IA. Para ele, o Brasil não pode restringir a IA - ele disse isso durante as primeiras audiências do projeto de lei de IA, manifestando cautela com a possibilidade de legislar sobre ferramentas que ainda estão em desenvolvimento.

De maneira mais abrangente, o projeto brasileiro seria um dos mais completos até hoje no Sul Global, propondo a criação de um novo órgão regulador para supervisionar a IA, proteção aos direitos autorais pelo conteúdo usado para treinar a IA, e proteções aos direitos individuais, com controles antidiscriminação nos sistemas biométricos e o direito de contestar decisões de IA com significativo impacto humano.

Depois disso, finalmente, em dezembro, o Senado brasileiro aprovou o Projeto de Lei (PL) 2.338/2023, que regulamenta a inteligência artificial no país.

“A matéria segue agora para a análise da Câmara dos Deputados, onde o cenário é mais hostil à pauta digital. O texto se apresenta como um marco regulatório com regras para o desenvolvimento e o uso de sistemas de IA. Entre os dispositivos está um que prevê a proteção dos direitos dos criadores de conteúdo e obras artísticas. Curiosamente, a votação pela Câmara do projeto que regula a inteligência artificial ocorrerá concomitantemente num momento em que o Supremo Tribunal Federal deve concluir o julgamento sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, que pode terminar por responsabilizar plataformas pelo conteúdo publicado por usuários. Isso pode acontecer agora em fevereiro, com o fim do recesso do Judiciário e a eleição das novas Mesas Diretoras na Câmara e no Senado.

Diante de tudo e voltando ao assunto da IA, assim como as plataformas digitais, fica a pergunta: essa tecnologia precisa ou não ser regulamentada? Passo a palavra.

Finalizando, a despeito de qualquer opinião, é preciso considerar, antes de qualquer tomada de decisão, o lado bom e o lado ruim da IA. Resumidamente, o bom é que ela aumenta a eficiência, melhora os cuidados de saúde, automatiza tarefas repetitivas e resolve problemas complexos, tornando a vida mais fácil e produtiva. Já o lado negativo inclui preocupações com a privacidade, segurança, preconceitos e o potencial de exploração de pessoas."

Fonte: Jornal Correio de Uberlândia

Gostou desse conteúdo e quer saber mais? Acompanhe o portal ou as nossas redes sociais.