MPF defende que projeto de lei sobre Inteligência Artificial inclua avaliação contínua da tecnologia

O Ministério Público Federal (MPF) defendeu, nesta terça-feira (30), a necessidade de que o Projeto de Lei 2338/23, que regulamenta o uso da inteligência artificial (IA) no Brasil, inclua mecanismos de avaliação contínua do impacto algorítmico. A medida de governança deve ser adotada por quem desenvolve ou opera sistemas de IA para analisar, registrar e demonstrar os efeitos de determinadas aplicações que possam representar violar direitos fundamentais. Também chamou atenção para a necessidade de maior transparência no desenvolvimento dessas tecnologias.

O posicionamento foi apresentado pelo procurador da República Carlos Bruno Ferreira da Silva durante audiência pública promovida pela comissão especial da Câmara dos Deputados que analisa a proposta. O debate, solicitado por parlamentares de diferentes partidos, discutiu a aplicação da IA no serviço público.

Carlos Bruno, que coordena a Comissão de Tecnologia da informação e Comunicação da Câmara do Consumidor e da Ordem Econômica do MPF (3CCR), destacou que o texto legislativo em análise já incorporou algumas sugestões apresentadas pelo órgão em nota técnica de 2024. No entanto, segundo o procurador, permanecem pontos de preocupação. Entre eles, a ausência de previsão de avaliação constante dos riscos relacionados ao uso de algoritmos, especialmente quanto a potenciais efeitos discriminatórios sobre minorias raciais e sexuais.

Outro ponto destacado foi a importância de que a legislação permita flexibilidade na identificação de práticas proibidas. “É muito importante que haja possibilidade de inclusão em atividades vedadas, pois não temos como prever tudo o que a inteligência artificial será capaz de fazer”, disse Carlos Bruno. Ele elogiou, por outro lado, a ampliação das competências dos órgãos de segurança pública para o monitoramento em tempo real, considerada fundamental para prevenir ações criminosas e terroristas.

Melhorias - O procurador defendeu, ainda, a necessidade de exigir volume mínimo de dados para validar a robustez de sistemas de alto risco. Segundo ele, essa medida é essencial para evitar falhas ou vieses discriminatórios, já que um sistema de inteligência artificial treinado com poucos dados pode gerar resultados inconsistentes e prejudicar grupos vulneráveis. Também falou sobre a necessidade de etiquetar conteúdos produzidos por IA generativa — gera ou modifica significativamente texto imagens, áudios e vídeos — para evitar manipulações eleitorais ou danos à reputação de pessoas e empresas.

Ainda durante a audiência, o procurador falou sobre a ausência de referência explícita ao Código de Defesa do Consumidor e à Lei de Ação Civil Pública, considerados instrumentos essenciais para a reparação de danos coletivos causados por sistemas de IA. “Grande parte dos impactos será direcionada a consumidores, e os prejuízos individuais podem ser pequenos demais para ações isoladas, exigindo defesa coletiva”, afirmou Carlos Bruno.

O procurador ressaltou, ainda, a necessidade de avaliações externas independentes de conformidade, a exemplo do que já ocorre em setores como mineração, e falou sobre o regime de responsabilidade. “Seria muito adequado deixar claro que, nos casos de IA de alto risco, a responsabilidade deve ser objetiva e que o juiz deverá inverter o ônus da prova”, frisou Carlos Bruno.

Por fim, o representante do MPF elogiou os avanços do Congresso em relação à proteção de direitos autorais frente ao uso de inteligência artificial e reforçou o compromisso do MPF em participar dos debates legislativos sobre o tema.

“Saibam que o Ministério Público estará sempre presente quando for convidado para discutir inteligência artificial no país”, concluiu.