Comissão Especial destinada a proferir parecer ao Projeto de Lei nº 2338, de 2023, do Senado Federal, que "dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana"
(Audiência Pública e Deliberação Extraordinária (semipresencial))
Em 30 de Setembro de 2025 (Terça-Feira)
às 13 horas e 30 minutos
| Horário | (Texto com redação final.) |
|---|---|
|
13:59
RF
|
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Declaro aberta a 14ª Reunião Extraordinária da Comissão Especial destinada a proferir parecer ao Projeto de Lei nº 2.338, de 2023, do Senado Federal, que dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial, com base na centralidade da pessoa humana.
Informamos que a sinopse do expediente recebido encontra-se à disposição na página da Comissão na Internet.
Aproveitamos também para comunicar e deixar registrado em ata que o Seminário Regional da Região Norte, aprovado por esta Comissão, será realizado na capital da cidade de Macapá, em substituição à capital inicialmente sugerida no Requerimento nº 133, de 2025.
No mesmo sentido, o evento aprovado no Requerimento nº 141, de 2025, será realizado na cidade de Piracicaba, no campus da Esalq — Escola Superior de Agricultura Luiz de Queiroz, na USP, e não mais na Alesp — Assembleia Legislativa do Estado de São Paulo, local proposto no requerimento.
A nossa Ordem do Dia será dividida em duas partes: primeiro, faremos a nossa audiência pública; depois, faremos a deliberação de requerimentos.
Lembro que esta é a nossa última audiência pública. Este é um dia muito especial, porque nós encerramos este ciclo de audiências públicas na nossa Comissão Especial. As audiências foram incríveis, foram maravilhosas, com debates de altíssimo nível, foram representativas, foram democráticas.
Confesso que saio com o coração cheio de gratidão por este primeiro período que nós tivemos. É claro que os debates vão continuar com os nossos seminários regionais, seminários internacionais, com reuniões que também faremos com os membros da Comissão. Mas esta é a nossa última audiência pública prevista no plano de trabalho do nosso competente Relator, o Deputado Aguinaldo Ribeiro, que hoje nos acompanha virtualmente.
Aproveito para deixar o meu reconhecimento pela liderança do Deputado Aguinaldo. Nós temos tido uma parceria incrível.
Deputado Aguinaldo, eu sei que V.Exa. está nos acompanhando on-line. Tem sido uma grata satisfação aprender, sobretudo, com V.Exa. e com a sua equipe.
Esclarecemos que a nossa audiência pública foi convocada em razão da aprovação dos Requerimentos nºs 23, 35, 45, 79, 83, 101, 103, 114, 116, 149 e 150, de autoria dos Deputados Fernanda Melchionna, Reginaldo Lopes, Soraya Santos, Luizianne Lins, Camila Jara, Jandira Feghali, Aureo Ribeiro, David Soares e Adriana Ventura, e tem como tema: Sistemas de inteligência artificial, inteligência artificial no serviço público e em infraestruturas críticas.
Para melhor andamento dos trabalhos, adotaremos o procedimento em que as exposições acontecerão pelo prazo de até 10 minutos. Os Deputados e Deputadas que queiram se inscrever poderão fazer a inscrição pelo aplicativo Infoleg. Durante o debate, cada Deputado inscrito terá até 3 minutos para interpelações.
Convidamos para compor a Mesa: o Sr. Rodrigo Henrique Luiz Corrêa, Secretário Municipal de Integridade e Transparência da Prefeitura do Rio de Janeiro e é associado ao Fórum de Proteção de Dados Pessoais dos Municípios; o Sr. Hugo Melo Giallanza, Presidente da Brasil Startups, com startups também presentes aqui na nossa audiência; o Sr. Raúl Echeberría, Diretor Executivo da Associação Latino-Americana de Internet — Alai;
e a Sra. Jacqueline Alves Torres, Gerente de Padronização, Interoperabilidade, Análise de Informações e Desenvolvimento Setorial, da Diretoria de Desenvolvimento Setorial da Agência Nacional de Saúde Suplementar — ANS. Muito obrigada.
|
|
14:03
RF
|
Estão conosco também, por videoconferência, os senhores: Carlos Bruno Ferreira, Procurador da República e Coordenador da Comissão de Tecnologia, Informação e Comunicação da 3ª Câmara de Coordenação e Revisão do Ministério Público Federal; Pablo Nunes, pesquisador em segurança pública, tecnologia e dados abertos; e Sandra Avila, professora e cientista da computação.
Quero agradecer a todas as autoridades presentes, na pessoa da Sra. Presidente. Confesso que faço minhas também suas palavras de entusiasmo ao ver este debate na sede do Congresso Nacional.
Todas as vezes que tive de comparecer a uma audiência pública ou a uma reunião de Comissão, confesso que fiquei muito feliz e positivamente impactado pela qualidade dos debates que vemos no Congresso Nacional.
A Comissão de Tecnologia da Informação da Procuradoria-Geral da República é ligada à 3ª Câmara — Consumidor e Ordem Econômica. Então, o nosso enfoque, a nossa preocupação, termina por ficar ligada a esses temas.
No ano passado, em 2024, nós já emitimos uma nota técnica quanto ao projeto de lei. E, muito embora já tenha havido avanços — e eu os citarei durante minha curta fala —, gostaria de começar repassando o que consta nessa nota técnica. Ao final, vou acrescentar alguns pontos que foram observados pelo Ministério Público Federal ao longo do tempo, entre a nota técnica e a atual audiência.
Queria, é claro, agradecer fortemente à Comissão o convite que nos foi feito. O Ministério Público Federal, sempre que possível, estará presente nesses debates.
Queria também fazer um elogio público à aprovação, pelo Parlamento, do ECA Digital. Parece-nos um grande avanço neste tema de tecnologia da informação, neste tema da área digital em nosso País, e será um instrumento importantíssimo para a atuação do MPF nos próximos anos. Haverá um encontro nacional dos procuradores ligados à tecnologia da informação, no final do ano, e o tema principal, junto com criptomoedas, será a discussão do ECA Digital.
Então, agora, para não perder muito tempo na nossa avaliação, eu queria fazer alguns comentários sobre o projeto de lei.
Continua a parecer ao MPF que falta, no projeto de lei, a necessidade de uma avaliação contínua do impacto do algoritmo. O § 1º do art. 23 fala em avaliação prévia, mas não menciona — e já constava isso em nossa nota técnica — a necessidade de uma avaliação constante, em especial quanto ao possível caráter discriminatório da inteligência artificial.
|
|
14:07
RF
|
O projeto de lei se preocupa muito com esse caráter discriminatório. É fato que a ausência de uma boa estruturação da inteligência artificial pode causar prejuízos discriminatórios enormes às minorias — minorias raciais, minorias sexuais —, e é por isso muito importante que a avaliação do impacto do algoritmo seja feita de forma constante, e não somente de modo prévio à utilização, no caso específico do § 1º do art. 23, de sistemas biométricos.
Parece-nos também negativo que o art. 13 não inclua no rol de atividades vedadas a possibilidade de inclusão de atividades pela autoridade administrativa. A autoridade administrativa tem grandes poderes — por exemplo, em sistemas de alto risco, ela tem inúmeras possibilidades de atuação —, mas, especificamente na qualificação de atividades vedadas, não há essa previsão, e poderia haver, como é previsto no projeto de lei, por exemplo, a possibilidade de inclusão de atividades vedadas, com participação popular e com procedimento administrativo transparente. Como o projeto de lei ressalta muito bem, a gente não tem capacidade de prever tudo o que a inteligência artificial será capaz de fazer. Então, é muito importante que haja essa possibilidade de flexibilidade dentro do projeto de lei.
Eu queria também fazer um elogio. Parece-me que o inciso IV do art. 3º sofreu uma mudança significativa no último ano, e agora, por exemplo, os nossos entes de segurança pública — e isso estava na nota técnica do MPF — vão ter a possibilidade de monitoramento em tempo real, o que tornará possível, por exemplo, impedir ataques de organizações criminosas ou de terroristas em território nacional. Então nos parece que houve uma melhora significativa no projeto de lei nesse sentido, com a inclusão das alíneas no inciso IV do art. 13.
Nas obrigações do desenvolvedor, especialmente em relação aos sistemas de alto risco, previstos no art. 18, inciso II, a alínea “b” fala em robustez, mas continua não havendo referência a uma necessidade de que haja um volume de dados mínimo para a introdução desse sistema de inteligência artificial em território nacional. A questão do volume de dados é essencial para que o sistema seja efetivamente robusto. Então isso daria uma consistência legislativa e metodológica ao conceito de robustez. E exatamente esse volume de dados é que impede a existência de inteligência artificial discriminatória.
Continua nos parecendo — e isso, por exemplo, está previsto no § 3º do art. 18 —, que permanece a referência a uma cooperação entre os agentes da cadeia de valor, mas não há diretamente uma referência a uma cooperação com as autoridades de controle, em especial o Ministério Público, o que nos leva à preocupação, que já vem ocorrendo hoje em dia na prática, de que empresas tecnológicas que operem com inteligência artificial se escorem no sigilo industrial e comercial para não fornecer as informações necessárias à atuação dos órgãos de controle em geral, polícia e Ministério Público, em especial.
|
|
14:11
RF
|
Em relação aos sistemas generativos, parece-nos que o art. 29 continua não se referindo à necessidade de etiquetamento, à obrigação de quem manipula a inteligência artificial para gerar imagens e áudios de deixar claro que aquilo é uma imagem gerada por inteligência artificial. Isso é muito preocupante. Isso, por exemplo, já foi objeto de legislação eleitoral no Estado da Flórida, nos Estados Unidos, e nos preocupa muito porque há a possibilidade de manipulação do sistema eleitoral, há a possibilidade de se afetar a moral de pessoas e empresas. Então, é muito importante que haja uma referência expressa à responsabilidade dos desenvolvedores de sistemas de IA generativa de etiquetar os conteúdos produzidos, dizendo expressamente que aqueles são conteúdos feitos por inteligência artificial.
Continua nos parecendo também que o art. 11, especialmente o seu inciso II, deveria fazer uma referência a todo o sistema brasileiro de direitos coletivos, em especial à Lei de Ação Civil Pública e ao Código de Defesa do Consumidor. Como se sabe, boa parte da inteligência artificial será destinada a consumidores, e a forma de se defender de danos causados por inteligência artificial será eminentemente pelo sistema de direitos coletivos. Normalmente, o dano que cada consumidor sofre é muito pequeno para ser defendido individualmente. Então, é muito importante que haja essa referência ao CDC e à Lei de Ação Civil Pública.
Parece-nos que houve uma melhora significativa no art. 65 quanto a direitos autorais. Então, eu queria fazer esse aplauso público ao trabalho do Congresso, que nesse último ano melhorou enormemente a regulação de direitos autorais, quando utilizados por inteligência artificial, porque, sem dúvida, nossos artistas, especialmente, têm sido muito afetados pelo uso dos seus conteúdos sem qualquer tipo de remuneração.
Acrescentando ao que consta da nota técnica, parece-nos que o art. 16, especialmente seu § 4º, fala de avaliação de conformidade, mas pouco fala da obrigação de entes externos realizarem a avaliação de conformidade.
O MPF também trabalha com a questão do meio ambiente. Por exemplo, no caso de mineração — eu sou titular de um ofício ambiental aqui em Minas Gerais —, foi muito útil ao setor de mineração haver uma obrigatoriedade de avaliação externa de sistemas de mineração, de estruturas de mineração, e nos parece que a obrigatoriedade de que haja uma avaliação externa independente seria muito positiva para a inteligência artificial.
Parece-nos também — e eu já estou terminando — que o sistema de responsabilidade, que está disposto no capítulo 5º, a partir do art. 35, seria muito favorecido, se se incluísse responsabilidade objetiva e inversão do ônus da prova, obrigatoriamente, no caso da IA de alto risco. O projeto de lei fala bastante da IA de alto risco. E, como em relação a esse tema já há uma maturidade do Congresso Nacional quanto à gravidade desses sistemas, parece-nos que seria muito adequado já deixar claro, já deixar previamente previsto que o juiz deverá
inverter o ônus da prova e que a responsabilidade nesses casos deverá ser de natureza objetiva.
|
|
14:15
RF
|
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Dr. Carlos, pela participação e pelas contribuições, inclusive, precisas em relação ao projeto.
O SR. AGUINALDO RIBEIRO (Bloco/PP - PB) - Primeiro, quero dizer que a querida Presidente Deputada Luisa Canziani tem conduzido com muita maestria esta Comissão, de forma amplamente democrática, ouvindo, em Mesas equilibradas, todas as vertentes, numa discussão que eu diria tão desafiadora como é esta, para se fazer um marco regulatório sobre inteligência artificial. Então, quero parabenizar a Presidente pela condução dos trabalhos.
Como V.Exa. mencionou no início de sua fala, Presidente, hoje é um dia muito especial, já que é a nossa última audiência, de acordo com o nosso calendário. Então, estamos cumprindo também um marco importante na avaliação, na análise deste marco regulatório.
Eu queria saudar todos os que estão contribuindo com este processo, para que tenhamos uma legislação, de fato, que possa representar aquilo que nós desejamos para o nosso País.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito bem, Relator. Obrigada.
Quero aproveitar e saudar também a nossa 1ª Vice-Presidente e nossa parceira — não é, Deputado Aguinaldo? —, a Deputada Adriana Ventura, sempre presente, entusiasta deste tema também. Obrigada pela presença.
Registro a presença do Deputado Estadual Jairo Tamura, pé-vermelho, assim como eu, da cidade de Londrina.
Venha para cá, Deputado. Fique aqui mais perto. Participe conosco. Obrigada pela presença, Jairo. Fiquei muito feliz em vê-lo aqui na Capital Federal. Seja sempre bem-vindo à Câmara! Obrigada.
Secretário, quero deixar também a nossa admiração ao Prefeito Eduardo Paes e a todo esse movimento que o Prefeito tem feito ao lado dos seus Secretários para garantir esse ambiente de transformação digital e também de qualificação profissional. Estávamos falando agora da queridinha do Prefeito Eduardo Paes, a Faculdade de Matemática. São tantas iniciativas! O ecossistema de inovação da cidade do Rio de Janeiro tem sido um case nacional. Então, muito obrigada por estar conosco.
|
|
14:19
RF
|
(Segue-se exibição de imagens.)
O Fórum de Proteção de Dados Pessoais dos Municípios congrega Municípios com representação em capitais de todas as regiões do País. Atualmente estamos nas cinco regiões. O objetivo do fórum é a troca de experiências entre as capitais e os Municípios para a adequação à Lei Geral de Proteção de Dados — LGPD e para observância das disposições da Autoridade Nacional de Proteção de Dados — ANPD.
Nesse eslaide, mostro basicamente a estrutura do fórum, e eu não vou adentrar nela, sob pena de exceder o meu tempo.
O fórum começou em 2022, e já realizamos ao todo seis encontros nacionais. Tive o prazer de receber o fórum pela Secretaria do Rio de Janeiro, no Museu de Arte do Rio. Neste ano de 2025, a Prefeitura de São Paulo, que preside o fórum atualmente, realizou o encontro lá, através da Controladoria-Geral do Município.
Sra. Presidente, eu ressalto que alguns Estados e a cidade do Rio de Janeiro já estão implementando legislações sobre inteligência artificial nos respectivos entes. E o que isso significa? Isso significa dizer que esse tema é premente para os entes subnacionais. Mais do que isso, Presidente, o fato de o Município do Rio de Janeiro e o Fórum de Proteção de Dados Pessoais dos Municípios estarem aqui mostra a importância que a inteligência artificial e a sua governança têm para os entes subnacionais, na medida em que os Municípios são os entes que mais têm interfaces com o cidadão. Onde houver muito pouco de poder público, certamente esse muito pouco será o poder municipal. E a inteligência artificial já tem ajudado os Municípios a avançarem sobremaneira no aperfeiçoamento da sua prestação de serviços.
Aqui eu faço uma breve digressão sobre as competências legislativas da União para dizer que aos entes subnacionais resta alguma competência concorrente. E, basicamente, o projeto de lei, no art. 23, traz para nós um dever de publicização, em veículos de fácil acesso, das avaliações preliminares dos sistemas de IA de alto risco. Essa obrigação é salutar e é destinada aos Municípios.
A primeira observação que eu queria trazer, Presidente, é sobre o § 1º do art. 23. Quando ele trata da utilização de dados biométricos, ele veda o tratamento de dados de raça, cor ou etnia, salvo previsão expressa em lei.
Eu entendo o objetivo do legislador ao fazer essa previsão, na medida em que há toda uma preocupação do PL 2.338/2023 com a proteção aos direitos fundamentais. Mas, ao vedar o tratamento desses dados sensíveis e exigir reserva legal, a gente pode engessar bastante os entes subnacionais.
O poder público municipal, assim como o poder público como um todo, trata de dados pessoais todos os dias. E, para se fazer política pública baseada em evidências, é necessário tratar de dados pessoais. Exigir que haja previsão legal para esse tratamento de dados pode dificultar a implementação da tecnologia nos entes subnacionais. A nossa sugestão seria substituir a expressão "previsão expressa em lei" por "justificativa expressamente fundamentada". Eu acho que simplificaria o processo e deixaria mais fluido o tratamento desses dados.
|
|
14:23
RF
|
No tocante a outra competência, o art. 70 prevê uma série de atribuições dadas a todos os entes da administração pública, de todas as esferas, inclusive a municipal, que é a parte que nos toca: educação e formação; letramento digital; apoio a trabalhadores; conscientização no campo das tecnologias; incentivo às instituições de ensino. É muito salutar que essas competências e obrigações sejam dadas aos entes, mas a nossa observação, Presidente, é que todas essas atribuições são dadas aos Municípios, aos Estados, aos entes subnacionais, sem que haja uma indicação de fonte de custeio. A nossa sugestão, nesse caso, é que haja, no projeto de lei, a previsão da criação de um fundo pela União ou o estabelecimento de que as multas aplicadas com base nesse mesmo Projeto de Lei nº 2.338 sejam revertidas a um fundo. Digo isso porque hoje os entes subnacionais já estão estrangulados financeiramente. Estados e Municípios hoje, para cumprir suas obrigações constitucionais, já estão no seu limite, e uma série de obrigações que são salutares e necessárias, sem a fonte de custeio, pode dificultar na prática o desempenho dessas atribuições.
Há a necessidade de estabelecermos no projeto de lei competências específicas para os Estados e Municípios, para contribuírem com o esforço nacional de desenvolvimento tecnológico.
Aqui eu mostro só um exemplo, Presidente, do uso da tecnologia de inteligência artificial já pelo Super Centro Carioca de Saúde, da Prefeitura do Rio de Janeiro. A leitura dos exames de imagem de câncer de mama hoje já é feita com auxílio da inteligência artificial, claro, com supervisão humana, com a supervisão do médico habilitado. Isso facilita e acelera sobremaneira esses diagnósticos. Esse é um entre muitos exemplos que eu estou passando aqui rapidamente. Há usos em situações de emergências climáticas, previsão de quedas de árvores, ações em que a inteligência artificial pode ajudar os entes municipais, desde que a legislação os contemple adequadamente.
Eu noticio que o Fórum de Proteção de Dados Pessoais dos Municípios é vinculado à Frente Nacional dos Prefeitos, tem o apoio da área institucional. Na Frente Nacional dos Prefeitos, também existe um grupo de trabalho que busca trazer, sob variados fóruns — e o Fórum de Proteção de Dados Pessoais dos Municípios participa disso —, a visão dos Municípios na legislação de IA em análise no Congresso, para que a gente participe efetivamente dessa governança e tenha voz ativa nessa discussão.
O art. 45, Presidente, prevê que integram o Sistema Nacional de Regulação e Governança de Inteligência Artificial — SIA, e não poderia ser diferente: a ANPD, as autoridades setoriais, o Conselho Permanente de Cooperação Regulatória de Inteligência Artificial — Cria, o Comitê de Especialistas e Cientistas de Inteligência Artificial — Cecia. E aqui damos a nossa sugestão, Presidente. Quando se cria uma legislação de caráter nacional — e aqui eu falo em nome do pacto federativo, porque os Municípios, desde 1988, foram erigidos à condição de ente federativo —, é muito natural que os entes subnacionais também participem, através de entidades representativas, desse sistema nacional de governança. Embora seja uma regulamentação nacional, a oitiva dessas entidades nacionais representativas, tanto dos Estados da Federação quanto dos Municípios, faria essa governança ser mais democrática, porque os entes subnacionais sofrerão os efeitos da legislação e das regulamentações de inteligência artificial e terão pouca voz na definição dessas diretrizes de governança. Então, aqui fica a nossa sugestão para o art. 45, § 1º.
Art. 45....................................................................................................
................................................................................................................
|
|
14:27
RF
|
Mais à frente está escrito que a ANPD editará atos e normas específicas relacionadas a temas de interesse regional e local. Sugerimos a criação do § 2º, para prever que a ANPD, como autoridade competente do SIA, consulte as entidades representativas de Estados e Municípios para a elaboração de normas. Também sugerimos que Estados e Municípios possam, de forma consorciada ou individual, propor regulações adaptadas às suas realidades para submissão e validação da autoridade nacional.
O art. 53 estabelece o Conselho Permanente de Cooperação Regulatória de Inteligência Artificial — Cria. Nós propomos que a composição do Cria inclua a participação de entidades representativas de Estados e Municípios. Presidente, a gente não está advogando em causa própria. Eu acho realmente necessário que os entes subnacionais, incluindo os Estados, estejam ativos e participantes, com direito à voz na sua governança.
Propomos um novo texto para o art. 56, que trata do sandbox regulatório. O art. 56 prevê um sistema mais simplificado para pequenas e microempresas — as startups já estão contempladas. Sugerimos que sejam contemplados os Municípios, e isto tem uma razão. Dentre os mais de 5.500 Municípios existentes, muitos têm estruturas inferiores à estrutura de pequenas e microempresas. Se eles não tiverem uma regulamentação para a experimentação de sandbox regulatório simplificado, dificilmente conseguirão implementar programas e aplicações de inteligência artificial.
A minha preocupação com o art. 73 é a seguinte. O art. 73 prevê regime simplificado para promover o desenvolvimento tecnológico nacional, e um dos casos é o fomento nacional. Eu temo que o vocábulo "fomento nacional" seja interpretado como a permissão do regime simplificado apenas quando esse fomento alcançar todo o território nacional, embora não esteja previsto ali fomento federal. A nossa sugestão é que a expressão seja substituída por "fomento de caráter nacional, regional e local". Eu trago a experiência da Prefeitura do Rio, cuja gestão atual está criando o Rio AI City, que pretende atrair para o Rio de Janeiro grandes data centers, com provimento de energia e de empresas de tecnologia. Esse fomento por parte da cidade do Rio de Janeiro seria muito mais facilitado se a legislação nacional trouxesse essa possibilidade do regime simplificado. Eu sugiro a introdução do inciso III, para prever regime simplificado para projetos de inteligência artificial desenvolvidos por Municípios com vista à aplicação nos seus serviços e políticas públicas.
Caminhando para o fim, tratarei do art. 24. Na previsão do Sistema Nacional de Regulação e Governança de Inteligência Artificial, sugiro que sejam ouvidas entidades representativas de Estados e Municípios em todos os níveis da Federação para que essa legislação seja feita da forma mais federativa e participativa possível.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Perfeito, Secretário. Muito obrigada. Leve nosso reconhecimento pela sua exposição, que foi muito boa, assim como a do Procurador, que trouxe sugestões concretas para o texto.
Isso é muito importante para que o Relator possa analisar as sugestões ao lado dos nossos consultores.
|
|
14:31
RF
|
De fato, são os Municípios que implementam a inovação na ponta, que fazem a diferença, que fazem acontecer. Então, a participação de vocês é muito representativa e demonstra o compromisso desta Comissão e da Câmara dos Deputados com a pauta municipalista. A inovação não deixará ninguém para trás, graças ao trabalho e à liderança dos Municípios brasileiros.
O SR. PABLO NUNES - Boa tarde a todas e a todos. Boa tarde a todos os Deputados, representados pela Deputada Luisa Canziani. É um prazer participar desta rodada de discussões.
Meu nome é Pablo Nunes, eu sou Coordenador do Centro de Estudos de Segurança e Cidadania — Cesec, que é uma organização que atua há 25 anos nos temas de segurança pública, política de drogas e questões relacionadas a racismo. No centro, eu coordeno um projeto chamado O Panóptico, que tem monitorado desde 2019 a adoção de novas tecnologias na segurança pública, com foco especial em uso de reconhecimento facial. É exatamente esse tema que eu queria discutir, trazendo alguns elementos.
O monitoramento que a gente realiza identificou 442 projetos usando reconhecimento facial espalhados pelo País, com potencial de vigiar 87 milhões de pessoas. Essa expansão ocorreu sem nenhum debate público, sem regulação e sem avaliação de impacto. Esse avanço não é natural nem é inevitável, ele resulta de escolhas políticas. Estados e Municípios têm feito contratos milionários com empresas privadas, sem debate público, muitas vezes com editais pouco transparentes. A pressão pelo uso dessas tecnologias não tem vindo da sociedade, mas de fornecedores que veem no Brasil um campo fértil para expandir os seus negócios. O problema não é apenas o tamanho desse avanço, mas os riscos concretos que ele traz, e eu vou destacar alguns.
Em primeiro lugar estão os vieses discriminatórios. Estudos não só nacionais, mas também internacionais demonstram que os erros de reconhecimento facial recaem principalmente sobre pessoas negras e periféricas. Houve avanços técnicos nos últimos anos, mas um estudo realizado em agosto deste ano demonstrou que esses vieses continuam ocorrendo no uso dessas tecnologias.
Em segundo lugar está o tema da invasão de privacidade. A gente está falando de tecnologias que têm a capacidade de fazer monitoramento biométrico de milhões de pessoas sem nenhum tipo de transparência. Esses dados são armazenados, muitas vezes, em bancos de dados sem controle social nem transparência. Esses riscos têm alvo certo, dados os vieses raciais: as pessoas que normalmente menos têm privacidade garantida pelas instituições públicas. Portanto, essa tecnologia vai reforçar práticas seletivas que já dominam o sistema de segurança pública.
O terceiro elemento é o impacto negativo no policiamento, que é pouco falado. O número de matches falsos — de comparações falsas — aumenta muito a carga de trabalho dos policiais e não contribui para a prevenção de crimes. O modelo atual amplia a vigilância, mas não melhora necessariamente a segurança da população.
|
|
14:35
RF
|
O quarto ponto que eu queria trazer é relacionado aos direitos democráticos. O reconhecimento facial pode ser usado para identificar pessoas, intimidar manifestantes, inclusive opositores políticos. Esse é um risco claro para a liberdade de reunião e para o direito à manifestação também. Além disso, existe uma possibilidade de restrição de circulação. Quando o reconhecimento facial é usado em transportes e espaços públicos, algumas pessoas têm o seu direito de circulação impedido por uso da tecnologia.
Por fim, há o risco de vazamentos de dados sensíveis, como tem acontecido e já tem sido registrado em noticiários brasileiros. Esses grandes bancos de dados são, de certa maneira, vazados. Os dados biométricos dos cidadãos brasileiros ficam circulando pela deep web ou por outras áreas.
Os riscos não são teóricos, eles já se materializaram no Brasil. A gente tem alguns exemplos em Goiás e na Bahia, que são Estados em que a gente realizou estudos de caso. A gente já encontrou Municípios que receberam verbas para instalar câmaras de reconhecimento facial, mas que, necessariamente, não tinham serviços básicos adequados sendo servidos para a população. No caso de Goiás, a gente encontrou de 20% a 50% dos alunos do sistema público que não tinham acesso à Internet. No caso da Bahia, cidades ganharam câmara de reconhecimento facial, mas nem 5% dos domicílios tinham saneamento básico adequado. Os casos evidenciam o dilema de prioridades. Os mesmos recursos que financiam as câmaras poderiam estar financiando o acesso à Internet, melhoria de escolas e saneamento básico, mas a opção foi reforçar esse aparato de vigilância.
Outro caso que eu queria trazer para discutir é o programa do Smart Sampa, na cidade de São Paulo. A gente realizou uma avaliação de impacto, utilizando um método reconhecido pelo Banco Mundial, e o resultado foi claro. No reconhecimento facial, as câmeras não reduziram os índices de criminalidade e também não aumentaram a produtividade policial. Com um custo de 10 milhões de reais por mês, essas câmeras não conseguiram dar respostas para a população em termos de melhoria da segurança pública e de questões relacionadas exatamente ao que mais afeta a população como um todo.
O fato de os algoritmos de reconhecimento facial poderem ser enganados é algo que também deveria ser pensado. A gente já tem casos de manipulação e de fraudes em relação ao reconhecimento facial. Esses casos de vazamento vão impactar essas infraestruturas críticas, que não comprometem apenas a segurança pública, mas também a segurança nacional, quando muitas vezes essas empresas são estrangeiras e mantêm os dados da população brasileira em data centers fora do País. Esse cenário precisa ser analisado também. Algumas contribuições ao PL 2.338 estão relacionadas exatamente a essa questão do reconhecimento facial.
O texto vai bem ao classificar o uso dessas tecnologias como de risco excessivo, mas ele abre tantas exceções que realmente a gente fica num vácuo regulatório. Alguns termos muito vagos, como "estritamente necessário" ou "crime grave", sem definição clara, fazem com que a gente tenha esse vácuo regulatório e abrem margem para uso abusivo e massivo sobre argumentos de segurança. Esse limbo regulatório acaba legitimando o uso dessa tecnologia perigosa, sem garantias mínimas de proteção aos direitos do cidadão.
|
|
14:39
RF
|
A gente entende que, muitas vezes, esse debate fica, de certa forma, impossibilitado porque há a demanda pelo uso de reconhecimento facial.
Em segundo lugar, se não for possível retirar as exceções, que possamos ao menos submeter as exceções dispostas no art. 13 às mesmas exigências dos sistemas de alto risco: avaliação de impacto, auditoria independente, supervisão humana e mecanismos de contestação.
Também é fundamental condicionar qualquer uso excepcional de reconhecimento facial a uma legislação específica, com salvaguardas robustas aos direitos humanos. Além disso, é preciso garantir um controle multissetorial, envolvendo a ANPD, o CNJ, as ouvidorias e os conselhos de direitos humanos.
E, obviamente — concordando com o colega que falou antes de mim —, deve-se incluir cláusulas de revisão periódica, obrigando a publicação de métricas e relatórios técnicos relativos ao uso da tecnologia de reconhecimento facial.
Hoje, na prática, o texto do PL 2.338 acaba transferindo para as exceções aquilo que deveria ser tratado como proibição. Há termos vagos já citados aqui, que poderão ser usados para justificar medidas autoritárias. O risco é repetir esse padrão, agora com uma tecnologia ainda mais invasiva, no contexto da segurança pública.
Em resumo, se queremos proteger direitos e fortalecer a democracia, precisamos enfrentar esse debate com coragem. O reconhecimento facial deve ser entendido como uma tecnologia que traz muitos riscos e nenhum efeito positivo que justifique o investimento.
O Congresso tem, neste momento, a oportunidade de colocar o Brasil no caminho da proteção dos direitos digitais e de construir uma regulação que não seja capturada por interesses privados. É preciso deixar claro que a segurança da população não será alcançada com mais vigilância, mas com mais direitos, mais políticas públicas e mais democracia.
O reconhecimento facial é uma tecnologia de vigilância que amplia desigualdades, compromete a soberania e fragiliza a democracia.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito bem. Muito obrigada, Pablo, que está sendo aplaudido e reconhecido aqui. Obrigada pela exposição, pelas preocupações trazidas. Este foi um debate extremamente importante que você nos trouxe. E, sem dúvida alguma, haverá muita reflexão por esta Presidência e pelo Relator.
Quero agradecer a Deus, em primeiro lugar, por esta oportunidade. Eu enxergo, com muita honra, esta nossa posição aqui, participando desta Comissão. Entendo também o papel e a importância disso para o nosso País. Por isso, estamos aqui de forma muito responsável e honrosa. Obrigado.
Cumprimento todos na figura da nossa Presidente, a Deputada Luisa Canziani, estendendo esse cumprimento a todas as mulheres e empreendedores aqui presentes.
A definição de startup é: uma organização em busca de um modelo de negócio que seja repetitivo e escalável. Isso significa dizer que essas empresas não têm, naturalmente, um modelo de negócio.
Então, se estão em busca de um modelo de negócio, muitas vezes elas nem faturam ainda, porque estão desenvolvendo seus modelos de negócio.
|
|
14:43
RF
|
Depois que essas empresas superam o Product Market Fit, ou seja, o encaixe do produto no mercado, elas precisam de funding, de recurso financeiro, para que esses modelos de negócios cresçam e se desenvolvam.
Por falar em recurso financeiro, a gente precisa olhar para o investimento no nosso País. Quando comparamos o Brasil com outras praças, como Estados Unidos e China, vemos que o Brasil tem cerca de 6 milhões de investidores na Bolsa de Valores. Já a China tem 80 milhões e os Estados Unidos, aproximadamente 150 milhões de investidores. Ou seja, a nossa cultura de investimento ainda é muito baixa.
Além disso, o Brasil tende a ter uma cultura mais conservadora de investimento, somada a uma taxa de juros muito alta. E aí vem a pergunta: como vamos ser competitivos em um tema como inteligência artificial se não tivermos estímulos adequados para que esses modelos de negócio se consolidem aqui? Essa é uma das principais preocupações.
Estamos vivenciando, na prática, uma espécie de competição mundial em torno desse tema. Quem é da geração dos anos 80 ou 90 talvez tenha jogado War e sabe do que estou falando. A vida real é bem comparável a esse jogo de dominação mundial. E nós aqui no Brasil precisamos entrar nesse game, precisamos nos posicionar nesse jogo.
Pensando nisso, eu trouxe aqui uma “carta trunfo”. Se a gente olha para os players do mercado, temos os Estados Unidos com cerca de 67 bilhões de dólares em investimentos em inteligência artificial, o que representa 3,5% do PIB aplicado em P&D, com mais de 5 mil empresas criadas nesse setor. Além disso, os Estados Unidos contam com cerca de 60% do capital humano mais reconhecido e renomado nessa área, concentrado lá. A política governamental é flexível, voltada para a inovação, e posiciona o País como líder global nesse tema.
Na China, vemos cerca de 38 bilhões de dólares investidos, aproximadamente 2,4% do PIB em P&D, com mais de 3 mil empresas de inteligência artificial e 20% dos empreendedores reconhecidos mundialmente nessa área de inteligência artificial concentrados no País.
Na Europa, o investimento chega a 10 bilhões de dólares, com cerca de 2,1% do PIB destinado a P&D, mais de 1.500 empresas no setor e uma política governamental bem mais rígida do que a de outros países.
E o Brasil? Hoje temos 1,8 bilhão de dólares investidos, cerca de 1,2% do PIB aplicado em P&D, com algo em torno de 140 a 150 empresas de inteligência artificial estabelecidas. Nosso capital humano ainda é baixo nessa área, e a nossa política governamental está apenas começando a ser estruturada, com o Plano Nacional de IA sendo estabelecido agora. Mas isso pode, sim, fazer uma grande diferença para o desenvolvimento dessas empresas — certamente.
(Segue-se exibição de imagens.)
|
|
14:47
RF
|
Esta é uma investigação da nossa base de dados que fizemos a partir de conversas com empreendedores do ecossistema de inovação e de inteligência artificial. O campeão dos obstáculos identificados é a insegurança jurídica. Insegurança jurídica é o tema que mais pesa para esses empreendedores. Falta de incentivos fica em segundo lugar; restrições ao uso de dados, em terceiro lugar; burocracia e lentidão, em quarto lugar; e altos custos tributários — que fica empatado com o obstáculo anterior —, em quinto lugar.
A análise desses dados sugere que a insegurança jurídica é a barreira mais citada, indicando a necessidade urgente de um arcabouço legal que ofereça previsibilidade e confiança para investidores e desenvolvedores dessas novas tecnologias.
Impactos críticos na competitividade e desenvolvimento. Aparece a questão da insegurança jurídica novamente e da falta de clareza regulatória. Empreendedores que já constituíram algum negócio sobre regulamentação que sofra instabilidade sabem bem o peso que é a mudança de uma legislação, a mudança de um regulamento para um modelo de negócio.
Na Brasil Startups, a gente se preocupa muito com isso porque uma instabilidade no regulamento, uma legislação muito pesada pode asfixiar negócios. E, nesse jogo mundial, nós temos a chance de criar essa regra. A gente não pode criar uma regra que vá gerar dificuldade para o desenvolvimento dessas empresas no nosso País. Nós precisamos de equilíbrio na regulamentação dessa lei.
Outros impactos são: alto custo tributário e as taxas, que reduzem a competitividade internacional das empresas brasileiras; restrição excessiva ao uso de dados, que limita o desenvolvimento de modelos de IA mais precisos e eficientes; burocracia e lentidão na aprovação de projetos, o que atrasa a inovação e o time-to-market de soluções; e falta de incentivos e apoio governamental, que reduzem o potencial do crescimento do setor.
A gente vê a regulamentação com muito cuidado, para não submetermos o peso sobre os negócios que irão surgir no nosso País.
Trouxemos também um mapa mental com a presença das palavras que mais geram preocupação para a área regulatória. A principal delas é a burocracia. A última coisa que o empreendedor que está no processo de validação de um modelo de negócio quer é alguém o segurando no momento em que ele precisa validar ainda o modelo de negócio. Ele precisa de um suporte para que possa tracionar.
Quando a gente pensa em startups, muitas vezes, as pessoas pensam em um foguete. E o foguete, antes de chegar ao espaço, ao vácuo, tem uma força, que é o arrasto. O arrasto é a força gerada sobre esse foguete para que ele alcance a altitude em que ele vai encontrar o vácuo e vai ficar numa inércia. Ele vai fluir no espaço.
Nas startups, também existe um arrasto, mas a gente não pode gerar um peso maior ou criar um arrasto superior à atmosfera presente. Nós somos responsáveis por dosar esse arrasto, que vai gerar mais resistência ou menos resistência para que esses modelos de negócios sejam lançados para o espaço e alcancem muitas vezes um moonshot à Lua.
|
|
14:51
RF
|
Comparativo internacional da regulação europeia. Trouxemos aqui a comparação da regulamentação europeia com a abordagem dos Estados Unidos. De um lado, nós temos, no caso dos Estados Unidos, um foco na liderança e na inovação, uma política que visa remover barreiras de inovação em IA.
Revogação de políticas restritivas. Ordem executiva de janeiro de 2025 revoga diretrizes que atuam com obstáculos à inovação em IA.
Plano de ação. Criação de um plano para promover prosperidade humana, competitividade, economia e segurança nacional através da IA.
Já no caso da regulamentação europeia, a gente tem uma regulação baseada em risco, transparência e governança, autoridade e conformidade.
Nesse comparativo internacional, os principais temas que a gente enxerga são o registro e a autoria de modelos. Este aqui é o que recebeu mais peso sobre as abordagens dessas duas regulamentações: alta exigência de qualidade de dados, proibição de prática e risco inaceitável, rotulagem de conteúdos sintéticos. Implicações para o Brasil: o Brasil tem oportunidade de adotar uma abordagem equilibrada, combinando elementos de inovação dos Estados Unidos com a proteção proporcional da União Europeia. Seria um meio do caminho, uma proposta ideal.
Por fim, sugestões para adaptação. Com a adaptação do registro europeu, temos transparência na construção de bases de dados, promovendo a transparência sobre como a IA constrói suas bases de dados como alternativa para garantir a transparência sem infringir direitos autorais, desburocratização e baixo custo regulatório, evitar a burocratização do processo e manter baixo ou nulo o custo das regulações para não onerar as empresas e deslocar a inovação, cláusulas essenciais para manter e fortalecer.
Fomento à inovação: criar um ambiente de segurança jurídica para incentivar o desenvolvimento de novas tecnologias no Brasil, o sandbox regulatório, propor criação de ambiente de teste para que empresas, especialmente startups, possam experimentar novas soluções de IA com supervisão, reduzir barreiras para inovar, evitar limitações excessivas, não gerar limitações para que tecnologias desenvolvidas no Brasil sejam demasiadamente restritas, impedindo seu desenvolvimento e seu crescimento.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Hugo. Obrigada pela participação e pelas ponderações trazidas.
|
|
14:55
RF
|
O SR. RAÚL ECHEBERRÍA - Boa tarde, Sra. Presidenta, Sr. Relator, Sras. Deputadas, Srs. Deputados, colegas. É uma grande honra participar desta audiência pública em nome da Associação Latino-Americana de Internet — Alai.
A Alai é uma organização regional representativa do setor privado digital da América Latina. Nossos associados são as empresas mais conhecidas da região, tanto empresas globais, como empresas originárias da região e do Brasil especificamente.
Peço desculpas pelo meu português, que é muito ruim. Eu sou uruguaio e vim para Brasília para participar desta audiência.
Quero agradecer também ao Deputado David Soares, que foi quem apresentou a indicação para a minha participação nesta audiência.
O Brasil vive um momento decisivo. A inteligência artificial pode ser um pilar para transformar o Estado e todas as atividades produtivas, fortalecer políticas públicas e ampliar os direitos da cidadania digital. Liderar essa transformação requer mais que vontade, requer um ambiente jurídico, político e institucional que permita uma inovação responsável, especialmente dentro do próprio setor público.
Eu gostaria de destacar que toda esta minha fala se ancora nas posições que nossa associação já apresentou em fóruns regionais e em discussões em diversos parlamentos latino-americanos. Estamos tendo essas mesmas discussões em todos os países da região.
(Segue-se exibição de imagens.)
A construção de um marco legal sobre inteligência artificial é uma tarefa complexa. Atualmente, há cerca de 500 projetos de lei em discussão nos parlamentos nacionais de países latino-americanos, sem contar os parlamentos estaduais, propondo regulamentações gerais para a inteligência artificial.
Nos últimos 5 anos, Parlamentares e outras partes interessadas, como nós que estamos aqui apresentando hoje, temos investido centenas de milhares de horas de trabalho nesses projetos, dos quais muitos poucos serão aprovados. Até agora temos só dois projetos aprovados — um, em El Salvador, e outro, no Peru. Esses dados mostram a complexidade grande, a complexidade das potenciais regulamentações de inteligência artificial. Todos têm potenciais benefícios, mas também potenciais riscos, como foi sinalizado pelo orador que falou antes de mim.
O Brasil tem a chance de ser protagonista, de conseguir unir proteção de direitos, promoção de inovação e governança institucional eficiente. É para isso que estamos aqui tentando contribuir.
Governos de todo o mundo estão aplicando inteligência artificial para melhorar serviços públicos e gerar mais valor para a sociedade.
Temos muitos exemplos concretos em países da região — na Colômbia, no Chile, no Uruguai, na Argentina. Temos também experiências concretas muito interessantes aqui no Brasil, como projetos educacionais para escolas públicas, sistemas de análise preditiva para recuperação de áreas ambientais degradadas, uso de inteligência artificial em agências reguladoras e iniciativas estaduais aplicadas à administração pública e a projetos educacionais. Ouvimos antes uma fala sobre a importância dela, por exemplo, para o trabalho dos Municípios, para a Justiça e para a segurança pública. Esses são avanços importantes, mas que ainda precisam de escala, interoperabilidade e segurança jurídica.
|
|
14:59
RF
|
As posições que apresentamos em inúmeras discussões de políticas públicas nesta área reforçam que a inovação aberta pode tornar as tecnologias de IA mais acessíveis, seguras e efetivas. Também enfatizam que governos devem priorizar o uso da inteligência artificial para fins de interesse público, adotando ambientes como sandboxes ou protótipos regulatórios, para experimentar novas regras sem sufocar a inovação.
Permitam-me destacar algumas preocupações centrais sobre o projeto atual. O texto aprovado no Senado tem boas intenções, mas, como está, pode criar obstáculos reais para o uso da inteligência artificial em benefício da população e do País.
1) Conceitos excessivamente amplos de risco. O texto prevê categorias como "risco elevado" ou "risco excessivo" sem critérios objetivos e auditáveis. Isso pode levar ao enquadramento indevido de sistemas simples, inclusive usados pelo próprio Estado, como triagens, assistentes virtuais ou modelos preditivos em saúde. Temos que a classificação de risco deve estar baseada sempre nas aplicações, e não nas tecnologias. Vou utilizar um exemplo, que já foi mencionado: não é a mesma coisa o sistema de reconhecimento facial para autorizar ou não a entrada no gym e o sistema de reconhecimento facial para vigilância dos cidadãos — os riscos são absolutamente diferentes.
2) Responsabilização genérica de toda a cadeia. A figura do agente de IA inclui, sem distinção, desenvolvedor, fornecedor, usuário e contratante. Isso gera insegurança jurídica, afasta fornecedores do setor público e dificulta parcerias legítimas. Como já foi mencionado, na lei também vemos uma preocupação crescente entre startups de desenvolvimento de inteligência artificial da região com as potenciais responsabilidades que seu desenvolvimento acarreta em ambientes regulatórios restritivos. O custo de crescer está ficando muito alto, pelos riscos que afrontam, que vêm da área regulatória.
3) Barreiras ao uso legítimo de dados públicos. A restrição ao uso de dados, inclusive públicos, para treinamento de IA pode limitar severamente o desenvolvimento de soluções adaptadas à realidade brasileira.
4) Burocratização da inovação com obrigações desproporcionais. Relatórios prévios, explicabilidade ampla e transparência exigidas indistintamente podem ser adequadas em certos casos, mas não em outros.
5) Poder regulatório amplo e sem salvaguardas adequadas. A ANPD passa a deter competências normativas amplas, mas o PL não exige que suas decisões regulatórias sobre inteligência artificial sejam precedidas de estudos técnicos ou análises de impacto regulatório. Isso pode resultar em insegurança jurídica e risco de decisões desproporcionais.
|
|
15:03
RF
|
6) Problemas específicos em direitos autorais. Aqui está talvez o ponto mais crítico. O capítulo de direitos autorais é inviável como está: obriga licenciamento obra a obra para treinamento, algo impossível tecnicamente e economicamente; desestimula a pesquisa aberta a startups criando custos proibitivos; afasta investimentos em data centers e corta bilhões do PBI. Não há precedentes internacionais que adotem esse modelo. Países como Estados Unidos, Japão e Reino Unido focam o output e não o input. O resultado provável seria judicialização em massa, isolamento regulatório e perda de competitividade do Brasil em IA generativa.
Com base nas melhores práticas internacionais, a Alai propõe: 1) regulação tecnicamente apropriada: regras proporcionais ao risco, ajustadas às realidades de cada setor, e responsabilidade distribuída entre desenvolvedores, usuários e implementadores; 2) readequação de categorias de risco e critérios objetivos para risco elevado; 3) uso legítimo de dados públicos: permitir o treinamento com dados públicos, com salvaguardas, harmonizar com a LGPD e a Política de Dados Abertos; 4) exceções para modelos abertos e não comerciais: fortalecer o ecossistema acadêmico de pesquisa e viabilizar projetos públicos de código aberto; 5) salvaguardas na atuação da ANPD: exigir motivação técnica, consulta pública e análise de impacto em decisões restritivas; e 6) revisão do capítulo de direitos autorais: adotar modelo focado no output, prever exceções amplas para pesquisa, startups e usos não comerciais, garantir que a regulação não isole o Brasil do ecossistema global.
Na região existem iniciativas para criar modelos de linguagem de inteligência artificial em âmbito nacional ou regional, como o Latam-GPT, por exemplo. Para que existam modelos de linguagem na América Latina que reflitam nossa realidade linguística e cultural, muitos pensam que temos que trabalhar na criação desses modelos de linguagem. Essas iniciativas só terão sucesso com políticas públicas adequadas, com regras de propriedade intelectual que protejam direitos, mas que sejam flexíveis o suficiente para permitir que esses modelos sejam treinados com informações da região.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Raúl, pela participação, pela fala.
Quero agradecer pela presença à nossa brilhante Deputada Soraya Santos, que faz parte desta Comissão e é grande entusiasta deste tema.
Está presente também o Secretário Municipal de Integridade, Transparência e Proteção de Dados do Rio de Janeiro.
A Deputada Soraya representa com maestria o Estado do Rio de Janeiro e todo o Brasil. Estou muito feliz com a presença dela aqui. Ela foi a coordenadora da bancada feminina. Ela é a grande liderança das mulheres Deputadas. Então, estou muito feliz que ela esteja aqui para escutar a nossa representante feminina na ANS, a Jacqueline Alves Torres.
|
|
15:07
RF
|
(Segue-se exibição de imagens.)
A inteligência artificial deixou de ser promessa para se tornar uma realidade concreta. Hoje ela influencia diagnósticos, terapias, cirurgias, rotinas administrativas e até orientações de saúde do cotidiano. Se a IA já faz parte do modo como recebemos cuidados, cabe ao arcabouço legal assegurar que o faça de modo ético, seguro e justo.
Como reguladores, precisamos assegurar que o princípio central deste projeto de lei, Presidente, seja a dignidade da pessoa humana. A tecnologia deve fortalecer a autonomia do paciente, apoiar os profissionais de saúde e garantir acesso e qualidade à assistência, nunca fragilizá-los.
É preciso lembrar que a Constituição de 1988 define saúde como serviço de relevância pública. Isso significa que, ainda quando prestada por entes privados, ela permanece sob a titularidade do Estado, sujeita a regulamentação, fiscalização e controle social. Em outras palavras, a saúde não pode ser tratada como mera mercadoria e reduzida à lógica exclusiva do mercado. O Estado precisa garantir a proteção para esse serviço de relevância pública.
Esse reconhecimento constitucional sugere que este projeto de lei inclua uma seção específica dedicada à saúde. O projeto já traz artigos, uma seção muito dedicada à questão da segurança pública, à questão do direito autoral, mas eu sinto falta de uma seção específica dedicada à saúde, que estabeleça disciplina normativa especial, limites precisos e a centralidade do interesse público no uso da inteligência artificial.
É com esse espírito que proponho três fundamentos essenciais para orientar a aplicação da inteligência artificial na saúde em geral e na saúde suplementar em específico: qualidade, segurança e eficácia. Assim como medicamentos precisam de validação clínica, sistemas de IA só devem ser utilizados para diagnósticos e tratamentos em saúde após comprovada a sua eficácia, a sua sensibilidade e a sua confiabilidade, com monitoramento contínuo de falhas e distorções algorítmicas.
Nós já vivemos um cenário em que sistemas de IA fazem leituras de exames, fazem diagnósticos e, se fizermos um paralelo com a indústria farmacêutica, veremos que, para um medicamento entrar no mercado, ele passa por uma série de testes, de validações muito rigorosas. Então, essa substituição humana, de quem vai fazer esse diagnóstico, precisa também, em alguma medida, passar por esse mesmo nível de validação.
Segundo ponto: governança de dados e mitigação de vieses. A IA só é tão boa por conta dos dados que a alimentam. Esses dados precisam ter qualidade comprovada e representar a diversidade brasileira. O Pablo já trouxe isso em sua fala, o Carlos também, e isso é ainda mais sensível na saúde. Um sistema treinado, por exemplo, para fazer diagnóstico de câncer de pele somente na população branca, europeia ou de algum outro país, que venha a ser adotado no Brasil, pode deixar de identificar uma doença grave num paciente cujos dados não foram inseridos nesse treinamento da IA.
Terceiro ponto: revisão ética. O Brasil tem experiência consolidada com o sistema de Comitês de Ética em Pesquisa, o Sistema CEP/Conep. Esse modelo pode inspirar a constituição de Comitês de Bioética Digital e garantir a análise independente dos riscos e benefícios das aplicações de IA em saúde.
Não temos como prever tudo o que vai acontecer. O desenvolvimento da IA é surpreendente, maravilhoso.
Observamos que há uma evolução constante. Esse PL, por mais cuidadosa que esteja sendo a sua elaboração, não vai dar conta de prever tudo. Então, a possibilidade de revisão contínua, de existência de um comitê de ética que traga pessoas que têm expertise em saúde, com ampla participação da sociedade, pode garantir uso ético e adequado no caso da saúde e preservação da dignidade da pessoa humana.
|
|
15:11
RF
|
Eu falo agora sobre transparência e explicabilidade. Pacientes e profissionais devem ser informados sempre que decisões clínicas ou administrativas forem influenciadas por IA, com garantia do direito à revisão humana, e compreender como o modelo tomou aquela decisão. Existem preocupações também de que, devido a substituição de diagnósticos, ocorrência de decisões terapêuticas com uso de IA, aconteça uma perda da capacidade de atuação dos profissionais médicos, dos profissionais de saúde. Então, é muito importante a explicabilidade. Isso já ocorre hoje em IA de uso pessoal. Pode-se observar como o sistema chegou àquela decisão, a cadeia que foi usada para a tomada de decisão.
Quero destacar que os riscos não se limitam à assistência clínica. Na saúde suplementar, o uso de inteligência artificial em glosas, pagamentos e outras rotinas administrativas é igualmente de alto risco. Essas práticas podem comprometer o acesso e a continuidade do cuidado. É imperativo que a lei e suas normas infralegais previnam distorções que priorizem interesses comerciais em detrimento da dignidade da pessoa humana.
Com base nesses fundamentos, apresento agora algumas sugestões que podem ser consideradas na redação legislativa. Vou encaminhar essas sugestões depois de forma completa. Aqui, vou fazer só um breve comentário.
Em relação ao art. 2º, a proposta é incluir de maneira explícita a promoção da saúde, da segurança e da integridade física e mental como princípio central da lei. Esse fundamento reforça a centralidade da pessoa humana e a necessidade de proteção especial à saúde.
Quanto ao art. 6º, que trata dos direitos das pessoas afetadas por sistemas de inteligência artificial, sugerimos três garantias específicas. Primeira: a de que o paciente seja informado de forma prévia e destacada quando uma decisão clínica for influenciada por inteligência artificial. Segunda: a de que tenha sempre o direito de solicitar revisão dessa decisão por um profissional humano qualificado. Terceira: a de que o uso dos seus dados de saúde para treinar ou operar sistemas de IA dependa de um consentimento informado claro, com a possibilidade de recusa ou retirada, sem prejuízo do cuidado.
O art. 7º, sobre explicabilidade, já prevê o direito à explicação. Propomos um parágrafo adicional relacionado ao campo da saúde. A ideia é diferenciar os níveis de explicação em linguagem acessível para pacientes e em maior profundidade técnica para profissionais de saúde, com documentação adequada para as autoridades reguladoras.
O art. 8º, que trata da supervisão humana, deve reforçar essa supervisão, incluindo a criação de comitês de bioética para aplicações de alto risco. Esses comitês vão ter a função de avaliar previamente, auditar e acompanhar de forma contínua os sistemas, assegurando análise independente e participação de diferentes setores e grupos afetados.
Quanto ao art. 14, a sugestão é classificar expressamente como de alto risco as aplicações de IA em diagnósticos, prognósticos, recomendações terapêuticas e também decisões administrativas e financeiras que impactem o acesso e a continuidade do cuidado. Essa classificação é ainda mais crítica quando se trata de populações vulneráveis.
|
|
15:15
RF
|
Além disso, propomos a criação de um artigo específico sobre qualidade, segurança e eficácia clínica. O objetivo é que sistemas de IA em saúde só possam ser utilizados após comprovação formal de sua eficácia, seguindo protocolos reconhecidos e monitoramento contínuo, com regulamentação técnica a ser detalhada pela autoridade setorial.
Por fim, eu me refiro ao novo artigo sobre governança de dados, exigindo que os dados usados no desenvolvimento e operação de IA em saúde obedeçam a padrões de qualidade, integridade, representatividade e governança. A norma infralegal deverá detalhar critérios de seleção, anonimização, representatividade populacional, além de mecanismos de auditoria e mitigação de vieses.
O Brasil, Sra. Presidente, tem a oportunidade de ser referência mundial não só em legislação como também no desenvolvimento ético e seguro de inteligência artificial. Entendo que essas proposições não limitam o desenvolvimento da tecnologia, elas possibilitam um desenvolvimento ético e adequado dentro da área da saúde, alinhando inovação com ética, evidência científica e governança responsável. Com isso, a inteligência artificial poderá, de fato, ampliar o acesso, melhorar a qualidade do cuidado e fortalecer o sistema de saúde, sempre com a pessoa humana nos centros das decisões.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada pela participação, Jacqueline. É uma honra tê-la conosco. Agradeço as contribuições trazidas.
A SRA. SANDRA ELIZA FONTES DE AVILA - Queria começar cumprimentando todas as pessoas e agradecendo à Deputada Luisa Canziani, a Presidenta da Comissão Especial, ao Deputado Aguinaldo Ribeiro, o Relator da Comissão Especial, e à Deputada Fernanda Melchionna, pela indicação para que eu pudesse colaborar nesta discussão tão importante para o Brasil.
(Segue-se exibição de imagens.)
|
|
15:19
RF
|
Quando uma máquina "aprende" — é bem importante que o "aprende" esteja entre aspas, porque o que chamamos de aprendizado em inteligência artificial, do ponto de vista da linguística, são correlações matemáticas, e isso pontua bastantes coisas do que temos visto —, o significado é o de que ela se tornou mais precisa ao realizar uma tarefa específica de acordo com métrica específica que uma pessoa definiu. Então, a pessoa é muito importante nesse processo. São pessoas que estão definindo quais são as tarefas que estão sendo feitas, são pessoas que estão definindo como essas métricas serão utilizadas e se o desempenho está bom, se o desempenho está ruim, além de todo o restante.
O "quem" é muito importante nesse processo. É no "quem" que eu quero focar toda a minha fala. Esse "quem" é mencionado no art. 2º, que diz que o desenvolvimento, a implementação e o uso de sistemas de IA são centrados na pessoa humana. Quanto à centralidade da pessoa humana, algumas perguntas bem interessantes devem ser feitas durante todo o processo, desde a concepção até a implantação de fato e o monitoramento desse sistema.
Essa inteligência artificial é feita por quem? Quem está fazendo esse trabalho? E, principalmente, quem está sendo excluído desse processo? Quem está decidindo as métricas, quem está decidindo quais são os dados está definindo também como vai ser esse sistema.
A inteligência artificial está sendo feita para quem? Quem está se beneficiando desse processo? E, sobretudo, quem está sendo negligenciado, quem está sendo prejudicado nesse processo?
Por fim, a inteligência artificial serve aos objetivos e interesses de quem? Quais são as prioridades, de fato, que estão sendo transformadas em serviços e quais estão sendo ignoradas?
Então, esse "quem" é realmente muito importante. Ele precisa ser definido e verificado durante todo o processo.
Quanto ao Capítulo III do PL, eu queria destacar o art. 12, que diz que, "antes de sua introdução e circulação no mercado, emprego ou utilização, o agente de IA" — definições já foram feitas, "agente" pode significar outras coisas —, "poderá realizar avaliação preliminar (...)". A sugestão é que se substitua "poderá" por "deverá".
Como assim? Pode ou não pode realizar avaliação preliminar, em relação a algo que já vai ter sido introduzido e já vai ter circulado no mercado? A própria Jacqueline acabou de dizer algo sobre isso. Num processo de decisão relativo, por exemplo, a um remédio, considera-se que ele vai impactar pessoas — estamos o tempo todo falando de pessoas no caso da inteligência artificial. Não se vai autorizar o uso de medicamento sem que se faça antes realmente uma avaliação. Portanto, não deve ser opcional a avaliação.
Para se determinar o grau de risco, de acordo com o estado da arte do desenvolvimento tecnológico, deve ser considerado o contexto. Pablo já falou sobre a questão do reconhecimento facial. O contexto é superimportante. O contexto de reconhecimento facial, por exemplo, para vigilância deveria ser banido. Então, que contexto está sendo aplicado? Não se deve considerar somente o grau de risco. Como é que se vai medir, de fato, esse grau sem que esteja atrelado ao contexto? E já é atrelado, por exemplo, ao estado da arte.
Faz muita diferença como isso vai ser interpretado.
|
|
15:23
RF
|
Temos outras palavras que aparecem em diferentes artigos. Eu não trouxe os artigos. Eu trouxe só os trechos em relação a isso. A sugestão é qualificar esse "significativamente" ou retirá-lo de fato. Para a inteligência artificial generativa, temos o modelo de inteligência artificial especificamente destinado a gerar ou modificar significativamente, com diferentes graus de autonomia. Mas o que significa "significativamente"? Isso pode realmente ter várias interpretações, além do ponto de vista de modificar. Quer dizer que eu preciso modificar muito para poder prestar atenção nisso, para poder tomar alguma decisão? Em alguns momentos, as modificações são imperceptíveis. Aquilo é realmente algo que já foi gerado. São exigidas ferramentas para isso, são exigidas técnicas para isso, inclusive para poder gerar algo que não seja perceptível. Então, "significativamente" já pode ser uma furada nesse processo.
A mesma coisa temos nos conteúdos sintéticos que foram "significativamente" modificados. Está muito amplo o que está sendo colocado aqui.
Do mesmo jeito, quando se fala de risco sistêmico, a gente está falando de potenciais efeitos adversos e negativos decorrentes do sistema de IA de propósito geral e generativo, com impacto significativo sobre direitos fundamentais. O que é pouco impacto, e o que é muito impacto? Novamente, estamos falando sobre vidas de pessoas. Está tudo bem? A gente não deveria colocar dessa forma.
Temos vários outros. O sistema vai afetar significativamente pessoas do grupo vulnerável? Também não faz muito sentido a gente deixar dessa forma. A gente está dizendo que, se a gente for quantificar isso, afetar poucas pessoas, tudo bem, mas afetar muitas pessoas é um problema. A gente está falando de vida de pessoas. A mesma coisa é o grau de transparência, explicabilidade e auditabilidade, que dificulta significativamente o controle de IA.
Eu queria trazer mais um ponto. Quem está fazendo? Para quem está fazendo? Com os interesses de quem? Estou falando sobre dados, e os dados estão representando pessoas. Temos um ponto no art. 30, que é publicar um resumo do conjunto de dados. O que significa esse resumo? Isso precisa ser realmente qualificado, porque o resumo pode vir com uma informação muito breve, mas existem ferramentas. Eu queria trazer, como professora, um exemplo. Existem inúmeras ferramentas para a gente poder fazer resumos de conjuntos de dados. Uma dessas ferramentas é fazer várias perguntas: de quem? Por quem? E para quem aquilo tem sido feito? Entender o conjunto de dados faz a gente entender o que significa esse determinado sistema de inteligência artificial. Então, é importante a gente qualificar o que significa esse resumo de conjunto de dados.
Por último, eu queria destacar outro ponto em relação ao PL, que é a questão do incentivo à ampliação de disponibilidade de data centers sustentáveis. O incentivo em relação a isso é necessário, precisaremos de data centers, mas atualmente as palavras "data centers" e "sustentáveis" juntas são conflitantes. A gente não tem data centers de fato sustentáveis. Precisa ser mais bem estudado como isso vai ser colocado. Eu estou voltando para o "quem". Quem esses data centers estão impactando? Em benefício de quem?
|
|
15:27
RF
|
Então, é importante ter data centers, é importante a gente armazenar os nossos dados, pensando no território, no Brasil, por uma questão de soberania. Mas quanto aos data centers sustentáveis, isso ainda não está, de fato, bem qualificado, não é o que tem sido feito em todos os casos, pelo menos.
Bom, voltando aqui ao ponto, eu queria, na verdade, encerrar dizendo que o PL traz isso. Desde o seu art. 2º, está dito que o sistema de inteligência artificial do Brasil tem como fundamento a centralidade da pessoa humana. Mas muitas das coisas que estão sendo discutidas ainda precisam ser melhor qualificadas, para que a gente, de fato, volte isso para as pessoas, para os seres humanos, para que possamos beneficiar todas as pessoas, sem excluir ninguém.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Profa. Sandra, que representa aqui a Unicamp, a academia.
A SRA. SORAYA SANTOS (Bloco/PL - RJ) - Primeiro, acho que eu caí na Mesa certa, viu? Porque a gente está falando de vários recortes aqui. Estamos falando de recorte institucional como suporte.
E eu já queria, Presidente, antes mesmo de tecer alguns comentários, pedir que a gente faça uma audiência pública junto com a Comissão de Educação. De tudo, o que me preocupa, e eu tenho batido muito neste ponto, é: quem é a mão de obra que vai ter o analfabetismo funcional? A gente sabe que o Brasil tem 29% da população com analfabetismo digital. Então, quando eu escuto, seja o setor público, seja o privado, eu fico muito preocupada: qual é o impacto? Quem eu estou perdendo? E de quem eu preciso?
Essa é uma primeira pergunta que eu acho que todos os setores, públicos ou privados, precisam nos ajudar a responder, precisam nos dar um norte. Por isso é tão importante que a gente promova essa audiência junto com a Comissão de Educação, que também está revendo seu Plano Nacional de Educação para os próximos 10 anos.
Eu concordo com você: a tecnologia está mudando muito rápido. Não tenho dúvida de que os pontos que você abordou são essenciais. É lógico que o ser humano tem que estar em primeiro lugar. Por quê? Porque assim diz a nossa Constituição. Não é à toa que ela é chamada de Constituição Cidadã, onde o cidadão é o cerne.
É lógico que, quando a gente fala de pesquisa, temos que entender que, no Brasil de hoje, temos apenas 14% de aproveitamento das pesquisas. Mas o País precisa direcionar urgentemente essas pesquisas. Esse é outro tema que a gente precisa tratar. Ninguém vai se meter na pesquisa em si, mas uma parcela significativa dos recursos tem que ir para onde o Brasil está caminhando, para onde o Brasil está precisando.
E, é lógico, quando a gente se compara com outros países, Deputada Luisa Canziani, ficamos preocupados com a chamada geração Google. Essa é uma preocupação que eu tenho. Porque a geração Google aprendeu a buscar informação correta, mas não a interioriza. Ela perdeu a capacidade de análise de médio e longo prazo. Mas há países que estruturam suas universidades justamente para garantir a economia do País, ou seja, capacitando e correndo atrás do arranjo produtivo setorial, Deputada Luisa Canziani.
|
|
15:31
RF
|
As pessoas precisam compreender que a inteligência artificial não é fonte de informação correta. Começa daí. Digo isso porque ela tem como foco justamente fazer suas próprias correções. De vez em quando, eu faço até uma pegadinha no Chat, justamente para testar a veracidade disso. E é por isso que a gente tem que se preocupar com a geração Google, com o suporte dentro da área pública, principalmente na saúde, porque a saúde já não é uma ciência exata, com IA ou sem IA. Cada corpo reage de uma forma. Mas a IA, com certeza, vai poder ajudar quem está em uma posição mais remota, em termos de qualificação. E eu tenho certeza de que o Ministério e a ANS estão atentos a isso.
E precisamos entender por que certos princípios ativos não entram de forma normal no País e por que temos tanta dificuldade em relação a esses princípios. Eu acho que a IA vai poder nos ajudar a dar um salto, porque isso não se justifica. Qualquer medicação deve ter tanto tempo de teste, mas existem medicações que já estão testadas no mercado internacional. Assim, temos uma dificuldade enorme aqui.
Quando se falou do Ozempic, eu até lembrei do "Dr. Mounja", como o apelidamos, o Mounjaro, que agora entrou no Brasil. E está toda a população brasileira se consultando com o "Dr. Mounja". Então, essas discussões não estão desassociadas do nosso dia a dia. A gente precisa entender o que estamos perdendo em termos de mão de obra e o que precisamos fazer para correr atrás do prejuízo.
O que estamos pesquisando, Deputada Luisa Canziani? E para onde precisamos urgentemente direcionar esses esforços? Eu acho que esse é um grande papel. Por isso, reitero o pedido a V.Exa. para chamar esse segmento produtivo e até inserir um ou dois setores a mais nesse debate.
Quero também ratificar uma posição que você trouxe, Jacqueline, com a qual eu comungo 100%: deve haver um capítulo sobre a saúde. Isso é fundamental, porque foi justamente na saúde que a IA começou a ser usada de forma mais veloz e compreendida em vários países. E saúde envolve vida — e o que temos de mais importante é a vida. Sem a vida, nada faz o menor sentido. A questão ética é um desafio do tempo, e não tem como fugir disso em nenhum setor.
Mais uma vez, quero cumprimentar V.Exa., Deputada Luisa Canziani. Para quem ainda não sabe, eu sempre digo isto: quando a conheci, fiquei encantada com essa jovem, que ainda era menor de idade, pela capacidade de articulação, de envolver a faculdade de Direito com o pessoal da Justiça. E eu dizia a ela: “Quero te ver do meu lado lá em Brasília, porque o Brasil precisa de jovens como você”. E quis Deus que você me escutasse. Aconteceu uma mudança na sua vida, e você veio a ser a Deputada mais jovem deste Parlamento. Eu tive o prazer de compartilhar este momento e fico cada vez mais encantada.
Presidir uma Comissão como esta não é pouca coisa. Mas V.Exa. traz uma simbologia de esperança e nos mostra que o Brasil tem jeito. Digo isso porque, quando vivemos numa sociedade que nunca teve tanto acesso e, ao mesmo tempo, nunca foi tão solitária, é olhando para V.Exa. e para outros jovens que este Parlamento tem que a gente enxerga responsabilidade, esperança e essa capacidade de traduzir a linguagem tecnológica para outras gerações, mas num caminho de muita construção. Toda essa tecnologia tem que servir para nos aproximar, para melhorar nossa qualidade de vida.
|
|
15:35
RF
|
Esta audiência deveria ser feita lá na Comissão de Educação. Vou pedir ao Presidente Maurício para a gente debater esse ponto. É impossível discutir a educação brasileira pelos próximos 10 anos e não incluir um capítulo sobre inteligência artificial em todos esses níveis. Esse seria meu pedido e meu comentário.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Deputada Soraya Santos.
De fato, a Deputada Soraya Santos é minha grande inspiração. Foi ela quem me lançou pela primeira vez como candidata. Então, graças a ela eu estou aqui. Ela foi muito presente em toda a minha primeira campanha. Eu sou muito grata a Deus pela nossa conexão, pelo nosso encontro. Tê-la aqui ao meu lado me deixa muito, muito feliz. Sua ponderação é de extrema importância.
Eu tenho dito, nas minhas participações em eventos, em seminários e aqui na Comissão, que o tema da regulação da inteligência artificial precisa caminhar lado a lado com a discussão de educação e de mudanças no mercado de trabalho.
Nós faremos no Estado do Paraná um seminário regional — agora vamos entrar na fase dos seminários regionais — sobre educação.
É completamente válida a sua sugestão para inserir a Comissão de Educação nessa discussão, e podemos inserir também a Frente Parlamentar Mista em Defesa da Educação. Podemos fazer conexão do Plano Nacional de Educação com o debate da IA. Acho que isso é completamente pertinente e válido. Vamos organizar isso.
A SRA. SORAYA SANTOS (Bloco/PL - RJ) - Eu queria dizer que a gente tem que acordar para o segmento da população que já está sendo chamado de analfabeto funcional. Há 2 meses, saiu uma nova pesquisa falando das mulheres. Hoje, 51% das famílias brasileiras são comandadas por mulheres.
Deputada Luisa, as mulheres ainda ocupam as posições mais rasas, que vão ser impactadas diretamente pela inteligência artificial. Então, o aspecto social é importante. Eu gostaria que a gente tivesse uma projeção nesse recorte social.
No último encontro que nós tivemos com as mulheres nos Brics, eu fiz questão de provocar a discussão sobre a inteligência artificial na ponta.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Obrigada, Deputada Soraya.
O SR. AGUINALDO RIBEIRO (Bloco/PP - PB) - Minha Presidente, mais uma vez quero parabenizá-la por esta primeira etapa, pela finalização do ciclo de discussão das audiências públicas.
|
|
15:39
RF
|
Cumprimento a Deputada Soraya Santos, que tem um trabalho muito importante no País e que presta um serviço inestimável relacionado à participação das mulheres em todo esse processo de cada vez ocupar mais espaço no País, seja na política, seja em funções de grande relevância, seja em funções que aparentam ser menores, mas que têm muita relevância.
Quero cumprimentar todos que falaram durante essa tarde. Eu estava aqui acompanhando, ouvindo em alguns momentos, participando em outros. A gente recebeu contribuições muito importantes, muitas sugestões.
O companheiro do Ministério Público de Minas Gerais sugeriu o controle da sociedade no processo de governança. O Secretário Rodrigo tratou da participação dos demais entes federados. Foi um debate muito proveitoso, como sempre tem sido, com muitas contribuições.
Nosso desafio, a partir de agora, após os seminários regionais, é desenhar esse texto e aperfeiçoá-lo, levando em consideração tudo aquilo que foi discutido durante todo esse processo. Tenho convicção de que é preciso centralizar toda a discussão na pessoa humana. Para mim, isso é uma questão que está muito clara desde o início.
Outro desafio é o avanço tecnológico, que perpassa tudo isso, queiramos ou não. Há quem ache que isso pode ser uma ameaça no futuro, que pode criar muita incerteza no futuro, com as máquinas chegando a disputar o controle da humanidade. Quem tem essa opinião, quem é contrário e refratário também está produzindo inteligência artificial. A IA generativa é um desafio pelo seu impacto nos empregos, na educação, como disse a Deputada Soraya há pouco, e na saúde.
Cumprimento o ex-Deputado Wadih Damous e a nossa querida Vice-Presidente Adriana Ventura, que está sempre participando.
Estamos muito atentos e temos aprendido bastante durante todo esse processo. Agora, passamos ao processo de construção. De fato, é um desafio grande construir uma regulação que traga leveza ao ambiente, para que essa ferramenta tenha grande utilidade à sociedade humana e brasileira e também traga a dureza necessária para proteger o cidadão nos seus aspectos mais relevantes e mais importantes, nos seus direitos fundamentais. Sem dúvida nenhuma, isso é de extrema importância.
|
|
15:43
RF
|
A ideia é discutirmos este texto na Comissão, em nosso ambiente. Acho que a questão da soberania nacional é fundamental. A questão dos dados foi mencionada agora pela professora da Unicamp que nos antecedeu. Enfim, acho que em tudo isso temos de buscar o equilíbrio.
E o nosso desafio — aí não é só meu, como Relator, mas acho que é de todos nós — é refinar, aperfeiçoar esses oitenta artigos que temos hoje, para fazer um texto mais de vanguarda do ponto de vista de uma regulação que tenha essas características.
Então, agradeço a todos, e continuamos à disposição. Ainda estou com tempo e acompanhando daqui. Fico à disposição dos senhores e agradeço demais a participação. Anotei aqui muita coisa. Gostei muito porque muita gente pontuou artigo por artigo, o que sempre foi uma visão que tivemos desde o início dos trabalhos. Isso nos ajuda muito a construir este texto.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - É isso mesmo, Deputado Aguinaldo, nosso Relator. Estamos ainda mais entusiasmados para começar a nossa segunda etapa da Comissão, viajar pelo Brasil. Contaremos, inclusive, com a participação dos Estados, dos ecossistemas de inovação regionais.
Estou muito feliz, muito animada. Nós já temos uma programação preestabelecida e será muito, muito bom. Estaremos sempre, obviamente, sob a sua coordenação, sob a sua liderança, nesse espírito de escutar a todos, de ter cautela, de ter serenidade, de enxergar atrás da montanha. Inclusive, tenho aprendido muito com V.Exa., Deputado Aguinaldo. Muito obrigada.
A SRA. ADRIANA VENTURA (NOVO - SP) - Eu queria sim, Deputada Luisa.
Saúdo nosso querido Relator Aguinaldo, a Deputada Luisa e a Deputa Soraya, que vejo a seu lado — duas grandes Deputadas que o Brasil tem.
Vi aqui, nesta audiência com foco em segurança — é uma das grandes tristezas do nosso País esse sentimento de insegurança, impunidade, o crime organizado tomando conta —, uma preocupação que gostaria de dirigir aos nossos convidados, àqueles que se sentirem confortáveis. Eu a dirijo, principalmente, ao Ministério Público, já que temos aqui o procurador, e também ao Pablo, que é pesquisador em segurança pública.
Na minha visão, é muito restritivo este projeto de lei que trata do uso da inteligência artificial pelas forças policiais em investigações de segurança pública. Vi aqui a apresentação de eslaides sobre o Smart Sampa — e, até por ser de São Paulo, acho que posso falar —, que diz que "vigia, mas não protege".
Então, gostaria de entender, neste ecossistema, como a inteligência artificial pode ajudar na segurança e no combate à impunidade. Acho que ela não resolve por ene fatores que vêm antes e depois, mas, com certeza, ajuda. Inclusive, há várias startups que estão trabalhando com isso, em soluções para dar continuidade.
|
|
15:47
RF
|
Na minha visão, deveria acontecer a mesma coisa com a inteligência artificial, porque restringir demais vai enfraquecer ainda mais a resposta do Estado neste cenário de crise de segurança, enquanto organizações criminosas, como o PCC, continuam usando tecnologia avançada, como todo mundo sabe.
Então, é aquela brincadeira: os nossos policiais, a nossa segurança vai para a guerra com estilingue, enquanto os outros vão com fuzil de última geração. Faço apenas uma analogia para mostrar que precisamos estar atentos a isso também.
Na minha visão, a Comissão deveria pensar em flexibilizar essas restrições ou, pelo menos, deixar a regulação para uma legislação específica, como aconteceu com a Lei Geral de Proteção de Dados Penal.
Antes de lhe devolver a palavra, Deputada Luisa, nossa Presidente, eu queria fazer umas perguntas aos convidados, especialmente ao Sr. Carlos Bruno e ao Sr. Pablo, que sei que pesquisam, que conhecem e que já mostraram ter conhecimento do assunto: como lidamos com isso? Porque sabemos que tudo tem ônus e bônus; fazemos escolhas. A sensação de segurança vale a pena em detrimento de um pouco de liberdade? Ao flexibilizar isso, o que ganhamos?
Na minha visão, é muito claro que temos um lugar onde pessoas estão sendo mortas por causa de celular, onde não há solução para os crimes, onde a polícia muitas vezes não tem equipamento, não tem investimento em tecnologia. Temos muitos problemas para resolver, mas acho que a última coisa em que podemos pensar agora é em restringir o uso de inteligência artificial, para que a população se beneficie dela. É claro que com todas as outras lacunas preenchidas, para que possamos fazer esse investimento, tanto no uso da lei, de uma boa regulamentação, como também em boas escolhas, para que tenhamos soluções em tecnologia e segurança.
Conheci, inclusive, algumas startups que estão trabalhando em soluções e aplicações com usos já maravilhosos, que vão solucionar questões que hoje não têm solução.
Então, gostaria de ouvir os nossos convidados. Talvez alguns não se sintam confortáveis para falar sobre este assunto, mas eu gostaria que os senhores, em suas considerações finais, pontuassem de maneira clara um pedido para o nosso Legislativo. Acho que é uma oportunidade de dar voz à sociedade civil e aos representantes de outras áreas do serviço público, de dar um recado para os legisladores: "Olhe, um ponto muito importante que eu gostaria de destacar é este".
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito bem, Deputada Adriana. V.Exa. fez considerações pertinentes relacionadas ao tema de segurança pública e a outros temas importantes também.
O SR. ORLANDO SILVA (Bloco/PCdoB - SP) - Obrigado, Sra. Presidente. Quero cumprimentar V.Exa., a Deputada Soraya, o Relator Aguinaldo e todos os nossos convidados e convidadas. Agradeço, antecipadamente, a gentileza da oferta de informações, opiniões e contribuições ao trabalho desta Comissão.
Presidente, acompanhei, ainda que a distância, o desenvolvimento da Comissão e queria fazer dois registros.
O primeiro dialoga com a fala da Deputada Adriana Ventura. De fato, quando nós votamos a LGPD aqui na Câmara, decidimos torná-la inaplicável para a persecução penal e para os temas de defesa, por considerar que existiam muitas particularidades envolvendo esses aspectos no que diz respeito à privacidade e à proteção dos dados pessoais.
|
|
15:51
RF
|
Nós temos um anteprojeto de lei, que foi originalmente subscrito por diversos Líderes, salvo engano, por volta de 2020 ou 2021, que ficou conhecido como LGPD Penal. É um anteprojeto elaborado por um grupo de juristas, e, a qualquer momento, a Câmara dos Deputados deve ser chamada a examinar essa proposta.
Não será, necessariamente, essa a proposta a ser apreciada pelo Plenário da Casa, mas vale a pena observarmos a necessidade de elaborarmos uma legislação que trate da produção de dados e ofereça as condições para que a persecução penal ocorra no Brasil. Do contrário, ficaremos submetidos às decisões e à jurisprudência do Poder Judiciário. E, para variar, este será mais um tema em que a omissão legislativa poderá impor uma conduta por parte do Judiciário.
Eu quero dialogar com a Deputada Adriana Ventura, porque essa foi uma opção consciente, por sabermos que era um tema muito sensível. E, quando pensamos na segurança pública, eu sou daqueles que creem que deveríamos aplicar inteligência artificial em toda sorte de políticas públicas, para que possamos dar mais eficiência a elas. Esse é o meu ponto de partida.
Isso posto, é sempre importante observarmos se os direitos fundamentais estão garantidos. Quando falamos, por exemplo, de dados sensíveis, como os de saúde, precisamos perceber o seguinte: apliquemos a IA, desde que os direitos fundamentais estejam resguardados. Esse é um requisito para que possamos aplicar plenamente a IA no conjunto de políticas públicas.
O mesmo pode ser dito sobre os mecanismos de reconhecimento facial. Recordo-me de que aqui, Presidente, na primeira ou na segunda audiência pública — agora tenho dúvidas se foi na primeira ou na segunda —, foi levantada uma questão que me intrigou, voltando ao tema da privacidade. Salvo engano, um representante de uma empresa que desenvolve inteligência artificial argumentou que parte da explicação para os falsos positivos de pessoas negras na aplicação de reconhecimento facial tinha a ver com deficiências no treinamento de máquina. Por se tratar de dado sensível, esse não era captado, digamos assim, em uma escala que desse maior eficiência ao reconhecimento facial de pessoas negras.
E ele sugeria, então, que nós tivéssemos algum tratamento diferente, porque o tratamento de dados de etnia e de raça é coberto por uma proteção adicional, por ser um dado sensível. Ele sugeria uma alteração na LGPD.
Eu sei que o Prof. Pablo Nunes visitou os limites do reconhecimento facial e gostaria de ouvi-lo sobre isso, inclusive sobre de que modo caberia algum tipo de diálogo com a proteção de dados pessoais, com a caracterização de dados étnico-raciais como dados sensíveis, e de que modo isso — se é que restringe — restringe algum tipo de treinamento de máquina com esses objetivos. Eu temo, pelos vieses algorítmicos que já estão demonstrados no que diz respeito à identificação da população negra, que nós tenhamos danos.
|
|
15:55
RF
|
Devo dizer que me incomoda perceber a quantidade de dados públicos que são coletados e tratados, sabe-se lá Deus com que segurança, porque a nossa infraestrutura crítica de dados públicos ainda está sob o domínio de poucas empresas multinacionais. O Brasil é um país que fala de soberania digital, mas é impossível ter soberania digital sem autonomia tecnológica. É impossível falar de soberania digital sem ter uma capacidade instalada para coleta, guarda e tratamento de dados.
A nossa infraestrutura mais crítica, no debate de inteligência artificial, é a nossa infraestrutura de dados, sobre a qual não temos qualquer autonomia no Brasil. Esse é um desafio.
Eu vi que o Ministro Haddad e o Presidente Lula encaminharam a esta Casa a Medida Provisória que cria o Redata, que estabelece um regime especial para a infraestrutura de dados. Eu lamento, porque a medida provisória vem para cá propondo a instalação de infraestrutura para data centers, a fim de que exportemos serviços. Nós devemos nos preocupar também em ter data centers com capacidade nacional instalada para dar suporte às demandas do Brasil, com tratamento fiscal, inclusive, que priorize as empresas que vão oferecer serviços para o Brasil. Esse é um desafio.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito bem, Deputado Orlando! Muito obrigada por sua fala, com ponderações sempre importantes e pertinentes. Deixo, portanto, não só a sua reflexão, mas também a da Deputada Adriana Ventura, para que nossos expositores possam responder aos questionamentos e fazer comentários.
Respondendo ao Deputado Orlando, acho importante colocarmos que se faz realmente necessário o avanço da regulamentação da Lei Geral de Proteção de Dados na área penal. Digo isso em razão do fórum. Acho que o PL 2.338 dialoga muito bem com isso quando estabelece algumas salvaguardas no art. 23, § 1º:
Art. 23........................................................................................................................
§ 1º A utilização de sistemas biométricos deve ser precedida de um ato normativo que estabeleça garantias para o exercício de direitos da pessoa afetada.
É claro que o ponto colocado pelo expositor Pablo e as preocupações com os erros cometidos pelo reconhecimento facial fazem muito sentido. Acho que temos de ver o grau de precisão, de acurácia desses sistemas, ao mesmo tempo que, a esta altura, as cidades e os Municípios, com seus sistemas de câmeras, são cada vez mais demandados a participar, de alguma forma, do esforço que temos nas grandes metrópoles de segurança pública.
|
|
15:59
RF
|
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Secretário Rodrigo.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Fique à vontade.
O SR. PABLO NUNES - Inicialmente, eu queria agradecer à Deputada Adriana Ventura e ao Deputado Orlando Silva pelos comentários e pelo diálogo relacionado aos pontos que eu trouxe de preocupação em relação ao reconhecimento facial, tal como está exposto no PL 2.338.
Também queria dizer algumas coisas. Em relação, talvez, a um suposto excesso de regulações, o que, na verdade, acontece na minuta do PL 2.338 atual é que ele tem tantas exceções que, basicamente, abarca todos os usos de algoritmos de reconhecimento facial tal como a gente consegue monitorar hoje no Brasil.
De fato, o que acontece com a lei da forma como ela está é que ela é muito permissiva em relação aos seus usos. Aliás, ela é mais permissiva, a partir do elenco de exceções, do que o AI Act, que foi uma das inspirações para a construção do PL 2.338.
É muito importante reforçar a necessidade de se garantir algum tipo de salvaguarda ou governança para essas exceções, entendendo essas tecnologias como o PL as classifica: como de risco excessivo.
Eu gostaria de lembrar que esses sistemas também podem ser mal utilizados. Por exemplo, a Deputada Adriana trouxe o tema do PCC. Na semana passada, ficamos sabendo, através de matéria da imprensa, que o PCC conseguiu acessar dados do Córtex, que é um sistema de inteligência artificial do Ministério da Justiça e Segurança Pública. Com esse acesso, conseguiu monitorar autoridades, promotores, políticos e outras personalidades.
Portanto, estamos falando de sistemas muito invasivos, que podem impactar de muitas maneiras inclusive a segurança pública.
Também queria, de certa maneira, concordar com o Deputado Orlando, na medida em que seria fundamental voltamos à discussão da LGPD penal. Foi importante a exceção colocada no art. 4º para avançar nos debates sobre a LGPD, mas, de fato, a gente ainda carece de uma regulação que estabeleça normas e padrões para uso e tratamento de dados pessoais na segurança pública.
Por fim, temos muitas áreas fundamentais para o uso de tecnologias. Na segurança pública, carecemos mais de investigação de qualidade. Muitas vezes, não sabemos identificar quais são as armas utilizadas na prática de homicídios. Por isso, temos indicadores baixíssimos de resolução desse crime.
Por que não investir dinheiro e tecnologia para construção de bancos de dados capazes de possibilitar a identificação das armas que são usadas para cometerem crimes todos os dias e menos nesses usos que produzem efeitos deletérios que já conhecemos?
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Pablo.
|
|
16:03
RF
|
O risco não está associado à tecnologia, mas está associado às aplicações. Eu repito o exemplo. Não há o mesmo risco em uma aplicação de reconhecimento facial para permitir o ingresso ao sistema de vigilância de cidadãos ou de procura de criminosos. Os riscos são muito diferentes. O mesmo algoritmo pode recomendar o melhor combo de burger para uma pessoa ou o lugar apropriado para ficar numa fila para receber um órgão que se precisa para um procedimento médico. A lei tem que recolher isso, porque os riscos têm que ser associados às aplicações, e não às tecnologias.
Voltando para o assunto de serviços públicos e também de desenvolvimento, o Brasil precisa de uma política de IA transversal, coordenada com diretrizes claras. Eu até coloquei algum ponto novo, ouvindo os colegas. Essa política deve desenvolver capacidades, talentos; apoiar startups; orientar todos os órgãos públicos a adotarem IA para melhorar serviços e políticas públicas; exigir que ação regulatória promova, e não iniba, a inovação; estabelecer metas afirmativas para a digitalização do Estado com IA, incluindo suas escolas e infraestrutura crítica.
O Governo brasileiro já tem apresentado propostas muito ambiciosas em relação ao desenvolvimento de IA e também planos para atrair investimentos em áreas estratégicas, como foi mencionado agora pelo Deputado Orlando, como a construção de data centers. Para que essas estratégias sejam bem-sucedidas, é essencial alinhar os objetivos dessas estratégias com os marcos regulatórios adequados.
Sras. e Srs. Deputados, a inteligência artificial é um ativo estratégico, não é apenas uma tecnologia. É um elemento de desenvolvimento, de justiça social, de eficiência pública. O marco legal que o Brasil decidir adotar será decisivo. Pode posicionar o País como líder regional ou como espectador passivo. Se o texto não for ajustado, como já foi sinalizado, teremos um marco legal que cria insegurança, afasta investimentos e desperdiça a janela histórica que temos.
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito obrigada, Raúl.
O SR. AGUINALDO RIBEIRO (Bloco/PP - PB) - Presidente...
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Pois não, Relator.
O SR. AGUINALDO RIBEIRO (Bloco/PP - PB) - Eu só queria aproveitar para dar conhecimento ao Deputado Orlando de que, na edição da medida provisória que trata do Redata, há o compromisso do Governo, desde o início, de tratarmos desse tema no texto do PL 2.338/2023, exatamente para garantir tudo aquilo que está sendo desenhado nesta legislação e cuidar também dessa infraestrutura dentro de um design adequado, que é o que todos nós queremos e desejamos.
|
|
16:07
RF
|
A SRA. PRESIDENTE (Luisa Canziani. Bloco/PSD - PR) - Muito bem! Essa foi uma importante ponderação porque, de fato, este é um tema completamente conectado à discussão da relação de inteligência artificial, à discussão de infraestrutura, de fomento. Foi muito importante essa articulação que, aliás, foi feita pelo nosso Relator, que dialogou não só com o Governo, mas também com o Senado Federal, para que a gente pudesse discutir este tema dentro da nossa Comissão Especial.
Eu gostaria também, mais uma vez, de agradecer a presença da imprensa, que acompanhou as nossas audiências. Tivemos uma participação maciça da imprensa.
Quero agradecer aos nossos consultores, o Leandro e o outro Leandro, e agradecer também à equipe do Deputado Aguinaldo Ribeiro, o Alexandre e o Felipe.
Quero agradecer ainda à nossa equipe, em nome do Artur, e agradecer à Ana, que está coordenando todos os trabalhos conosco.
Por fim, agradeço aos nossos colegas Parlamentares que participaram das audiências e aos expositores.
|