Regulação da IA: transparência e combate ao viés com o Sandbox Regulatório – Noticias do mato Grosso

Especialista defende criação de um índice de transparência e explica como o ambiente experimental pode equilibrar inovação e proteção de direitos

O Brasil ainda tem um longo caminho na regulação da Inteligência Artificial (IA). O debate sobre o Projeto de Lei nº 2338/2023, que define diretrizes para o uso e o desenvolvimento da tecnologia, e a criação do sandbox regulatório, ambiente que testa inovações sob supervisão, representam avanços. Ainda assim, persistem desafios como a falta de transparência dos algoritmos, a possibilidade de vieses e discriminação nas decisões automatizadas e a ausência de padrões claros para avaliar responsabilidades e segurança.

Segundo Cristina Godoy, coordenadora do MBA em Direito e Tecnologia do CIAAM+ (USP), o cenário evidência a urgência da construção de um índice de transparência que permita avaliar o uso da IA e combater o viés e a discriminação que podem surgir dessas tecnologias.

“O sandbox regulatório é extremamente importante quando falamos em fomento à inovação e como o regulador pode aprender com o regulado, ou seja, com as empresas, para que ambos consigam chegar a um denominador comum, em que se protejam os direitos e ao mesmo tempo se fomente a inovação, para que a regulação não seja um entrave”, comenta.

Cristina destaca que ainda há um longo caminho pela frente, com a necessidade de construção de um marco regulatório global que leve em consideração as especificidades da IA, que não conhece fronteiras.

“Estamos debatendo a regulação da IA, com destaque para o Projeto de Lei 2338 e, agora, no processo de seleção para o sandbox regulatório. Mas o que vemos é que precisamos de um índice de transparência que seja aplicável a diversos setores”, afirma. Esse índice deve ser compartilhado entre o setor público e privado.

Para a professora, a transparência é um requisito essencial para que o Brasil consiga controlar e mitigar riscos como o viés e a discriminação. “Isso é urgente para obter maior clareza nos processos de decisão automatizados”, alerta.

Esse tema, central para a transformação digital e para a proteção dos direitos civis, é um dos pilares do MBA em Direito e Tecnologia da USP, por meio do CIAAM+. O curso oferece uma abordagem aprofundada sobre como o Direito pode lidar com os avanços tecnológicos, com foco em áreas como a regulação da IA, LegalTechs, e a Proteção de Dados Pessoais.

De acordo com a professora, “é fundamental que profissionais da área jurídica entendam os desafios atuais e futuros da regulação da IA.” No MBA, os alunos têm a oportunidade de aprofundar seus conhecimentos, com a orientação de especialistas de renome nacional e internacional.

“Questões como os limites para o uso da IA e como coletar corretamente os dados exigem também uma compreensão sobre o funcionamento e do design das ferramentas”, diz Cristina. Esse raciocínio ilustra a importância de uma formação que aborde o aspecto legal e o conhecimento técnico necessário para que os profissionais possam atuar com confiança.

“Temos essa natureza interdisciplinar para que os profissionais tenham a segurança de atuar nessa área”, explica. O MBA em Direito e Tecnologia do CIAAM+ visa, portanto, fornecer uma formação robusta e crítica, capacitar alunos para tomar decisões informadas sobre o uso de IA e promover um ambiente mais seguro e ético no contexto digital.

Por: Cristina Godoy, coordenadora do MBA em Direito e Tecnologia do CIAAM+ (USP)