COMISSÃO DE LEGISLAÇÃO PARTICIPATIVA

Senhoras e senhores, muito bom dia. Declaro aberta a audiência pública até a comissão de legislação participativa destinada a debater o tema, o uso dos dados pessoais para o treinamento e aperfeiçoamento dos sistemas de inteligência artificial e as mudanças necessárias à lei geral de de, eu estou com esse processamento na cabeça, proteção de dados pessoais, LGPD. Ressalto que a presente audiência decorre da aprovação do requerimento 123 de 2024, de autoria do deputado João Daniel aprovado por essa comissão de legislação participativa. Gostaria também de agradecer a presença dos membros desse colegiado, dos convidados e de todos e todas que nos assistem. Informe que este evento está sendo transmitido via internet e que o vídeo poderá ser acessado pela página da CLP, site da Câmara dos Deputados e pelo canal da Câmara dos Deputados no YouTube. É importante ressaltar que a partir da página da comissão todos os cidadãos podem participar de debates interativos online em todos os eventos da CLP, enviando perguntas que ao final serão submetidas à mesa para manifestação dos convidados. Pessoal eu vou, antes de de iniciar, passando as normas pro debate, e chamando os convidados, eu quero só fazer pequeno comentário de que a gente às vezes vê essa, eu acho que o objetivo de todos nós, tanto de quem está aqui participando desse debate, mas principalmente de nós enquanto parlamentares, é transformar termos que às vezes parecem tão complexos, tão distante da população, em algo fácil de ser compreendido. Eu acho que que a classe política brasileira, não sei se propositalmente ou não, mas o fato é que nos últimos anos ela tem cada vez se afastado mais dos anseios da população, isso se dá a minha opinião talvez por excesso de, desculpa a expressão, mas eu costumo dizer que é 1 certa arrogância intelectual né? Eu sou advogado de formação, e o meu vocabulário no exercício da minha profissão é absolutamente diferente do vocabulário que eu utilizo nas minhas redes sociais, que eu utilizo no dia a dia com as pessoas, por quê? Porque enquanto parlamentar eu quero que cada vez mais pessoas compreendam aquilo que eu estou falando para que assim elas possam participar e se engajar. Fiz todo toda essa introdução aqui para dizer que quando a gente ouve né, a palavra inteligência artificial, lei geral de proteção de dados, ou então quando se usa sigla então, LGPD, IA, é difícil você ter as pessoas engajadas com termos tão técnicos. Elas acham que esses termos estão muito distantes da realidade delas, mas a gente está aqui pra mostrar que não está. Então eu fui escalar de última hora aqui pra presidir essa comissão, mas eu espero poder contribuir de maneira a transformar esse tema, mostrar pras pessoas que estão em casa, porque não adianta a gente reunir aqui deputados, autoridades, né tem 1 frase que eu gosto muito que diz o seguinte, a única coisa que mete medo em político é o povo nas ruas, pro povo estar nas ruas, eu estou vendo ali os companheiros como adesivo de Glauber fica, se a gente não fizer mobilização nada acontece, então é só com o povo nas ruas que a gente consegue aquilo que a gente almeja né, as mudanças necessárias. O povo não vai para as ruas se eles não entenderem sequer do que a gente está falando. Então desculpa que a a petulância, ousadia de alguém que se quer especialista nessa área pedir isso para os senhores, mas que a gente possa usar linguajar que as pessoas possam entender, né, as pessoas mais simples, as pessoas que são vitimadas por por exemplo pela não proteção dos dados delas diariamente, eu me comprometo a usar o alcance que eu tenho nas redes aqui, não só pra incentivar, mas pra que a gente possa popularizar o que for discutido aqui. Eu até anotei aqui 1 analogia que eu queria trazer né, falando agora mais pra quem está em casa do que pra quem está aqui. Imagine que você é dono de pomar e tem várias frutas ali, dia alguém chega, pega as suas frutas sem pedir e vende por aí pra ganhar dinheiro. Como que você se sentiria? Pois é, é isso que acontece com os dados de hoje. Empresas, aplicativos e até governo estão usando as suas informações que são suas pra lucrar e isso sem sequer te avisar. Então estão pegando 1 coisa sua usando pra ganhar dinheiro e você não está nem sabendo disso. Né? Anotei aqui exemplo real pra mostrar pra quem está em casa, quem está nos assistindo, o perigo da gente não regular isso. Muitos devem ter ouvido falar do caso do reconhecimento facial usado em shoppings aqui no Brasil. Câmeras estavam gravando o rosto das pessoas, sem autorização pra criar perfis e vender produto. Então você está indo lá no shopping, dando 1 volta, nem sabe o que está acontecendo, mas 1 empresa foi lá captou o seu rosto, está usando os seus dados, os seus perfis pra vender produtos e ganhar em cima de você. Agora imagina o que que pode acontecer quando isso cai em mãos erradas. Pode ser usado pra vigiar, discriminar e até excluir pessoas, por isso que a gente tem que discutir isso antes que seja tarde demais. E para aqueles que vão fazer uso da palavra, o que a gente quer ouvir de vocês aqui hoje é, né, de forma bem resumida, como proteger o cidadão comum? Aqueles que não têm advogado nem dinheiro pra processar grandes empresas. Como garantir que a inteligência artificial sirva pra melhorar a vida das pessoas, e não pra tirar ainda mais os nossos direitos? Então vamos começar? Vou passar a leitura agora das normas pro debate. Antes de passarmos aos debates, peço a atenção das senhoras e dos senhores presentes para as normas internas da casa. Senhores e as senhoras parlamentares interessadas em se manifestar deverão escrever previamente junto à mesa. Cada convidado terá o tempo de 5 minutos pra sua exposição. Após o encerramento das exposições, cada deputado inscrito terá o prazo de 2 minutos pra fazer as suas considerações. Contaremos com a participação das senhoras e dos senhores convidados na audiência de hoje. Pedro Daer Simão, comunicador digital e membro do instituto Indica, vai participar por vídeo conferência. Francisco Figueiredo, jornalista e comunicador digital, participação também através de vídeo conferência. Caio Barroso, advogado e comunicador digital. Ana Maria Pereira, ilustradora e diretora de comunicação do Instituto Unidade. Idara de Almeida, advogada atuante na área de direitos autorais, também participando de videoconferência. O Arthur não vai conseguir vim. André Fernandes, que não é o de Fortaleza, cofundador e direito do instituto de pesquisa em direito e tecnologia do Recife. Lucas Borges de Carvalho, gerente de projetos na autoridade nacional de proteção de dados, ANPD. Natália Fragoso, diretora do programa da secretaria de direitos digitais do Ministério da Justiça e Segurança Pública. Lígia Moraes, coordenadora geral de educação em direitos humanos e mídias digitais do Ministério dos Direitos Humanos e da Cidadania. Lilian Santos, chefe do departamento de estudos econômicos do conselho administrativo de defesa econômica, o CAD. A Lilian vai participar também por vídeo conferência. Edna Dias Canedo do departamento de ciência de computação da UNB. E por fim o Ricardo Queiroz que é do departamento de ciência de computação também da UNB. Dando início então as exposições, passo a palavra por 5 minutos ao senhor Pedro Dayer Simão, que é comunicador digital e membro do Instituto Indica e que vai participar através de vídeo conferência. Bom, boa tarde a todos.

Na verdade né, espero que todos estejam me ouvindo bem. Bom, pra começar, a gente tem que falar 1 coisa sobre inteligência artificial, que ela chegou num nível muito avançado muito acelerado ela vem se expandindo com muita velocidade e a gente tem que ser realista numa coisa sobre inteligência artificial que ela veio para ficar né a inteligência ela chegou não há maneiras da gente proibir de fazer com que a inteligência artificial deixe de existir a nossa sociedade ela veio para ficar e por conta disso por conta dessa aceleração gigantesca que a inteligência artificial entendo é preciso né não é possível é preciso a regulamentação seu controle porque quando a gente fala da possibilidade de inteligência artificial é a gente tem que entender que inteligência artificial ela tem os seus benefícios para o trabalhador em vários aspectos na questão de retirar o seu esforço mental seu esforço físico em cima de trabalho então por exemplo o programador ele vai lá e escreve código, tem algum erro que ele não consegue identificar, joga na inteligência artificial, ela ajuda, ela salva o tempo, ela salva o esforço desse trabalhador. A gente já vê inteligência artificial no campo da produção de alimentos, então existe a inteligência artificial pra remover pestes em plantações e. É interessante ver que a inteligência artificial ela não é a nossa inimiga. Ela tem de fato vantagens pra nós. Só que para além dessas vantagens, ela vem mostrando certos prejuízos para a nossa sociedade justamente por não haver controle, então. Por exemplo hoje. Nós temos muitos tipos de inteligência artificial, a mais famosa de todas elas é a inteligência artificial generativa, que a inteligência que gera, faz a geração de textos e principalmente de imagens e vídeos. E aí por essa aceleração quase que sem controle, a gente vem tendo 1 consequência muito drástica para imagem de muitas das nossas pessoas a nossa sociedade por conta dessa gerativa de imagens e para dar exemplo prático aqui né eu vou dar 3 exemplos práticos No colégio de Santo Agostinho, lá no Rio de Janeiro, a gente teve caso de 29 estudantes, com a idade de de 13 a 16 anos de idade, que tiveram as suas imagens alteradas por inteligência artificial para criarem imagens próprias nuas. Né totalmente explícitas e isso foi feito por alunos da própria escola. E aí a gente vai para Porto Alegre lá no Rio Grande do Sul, 9 menores de idade também estavam envolvidos usando da inteligência artificial para criar conteúdo explícito de outras 16 adolescentes. E aí a gente vai para Recife, colégio, marissa São Luís, 40 alunas, de 13 e 14 anos mesma coisa, usando da inteligência artificial para contar quando criar conteúdo explícito com suas imagens. E os praticantes desses atos são pessoas da sociedade civil são alunos. Então 1 coisa que qualquer pessoa está na capacidade de fazer, ou seja, se 1 aluna, pelo simples fato dela existir, pelo simples fato dela estar na escola, ela já está com essa imagem potencialmente comprometida, porque não há nenhum controle sobre a inteligência artificial nesse quesito de gerar imagens, de proteger os seus dados. E aí esse negócio ela se expande não apenas para pessoas da sociedade civil, mas agora grandes empresas principalmente vidas de fora. A gente teve caso aí. Junho desse ano que a rumas rice watch ela denunciou o uso de pelo menos 170 imagens e usos pessoais de menores de idade para 1 empresa alemã chamada Lyon LAI0N tudo isso para treinar 1 inteligência artificial generativa. Essa empresa para vocês terem noção, ela usou dados imagens entre 23 até a década de 90 ou seja, quando as pessoas sequer nem sabiam que poderia ter existência de 1 inteligência artificial e que elas teriam te dar a permissão para essa inteligência artificial algum dia. E todas essas 170 imagens que eu falei para vocês, eram de menores de idade do Brasil. Então, o que a gente está falando aqui é a nossa sociedade, a população nossa que está sendo alvo disso. E agora como se não bastasse, a gente vem tendo a AI Training vindo por parte das redes sociais. Então redes sociais por exemplo da Meta, que todo mundo aqui vem usando como Instagram por exemplo, vem pegando imagens que você tira com a sua família, com seus amigos, o seu cachorro tudo isso para poder tirar treinamento de 1 inteligência artificial que eles vão usar da maneira como eles bem quiserem a aí a gente vai ter algumas pessoas dizendo pô mas eu fulano não me importo com isso Ah não mas o ciclano ali ele se importa de ter os seus dados pegos pelas e pelas Big Tex. Como que a gente resolve? Fazendo com que essas Big Tex peçam permissão para os seus usuários para uso da sua imagem. E aí a gente tem que ir além disso não é colocar esconder essa permissão no meio das diretrizes da comunidade. É pegar essa empresa e falar, tem que deixar escancarado e de fácil acesso para que o usuário possa permitir ou proibir o uso dessa ferramenta sobre a sua imagem. Então com crescimento rápido que a inteligência artificial vem antena, é preciso que a gente chegue seja tão rápido quanto para regulação da mesma, porque o que está em dados são os nossos dados, são os nossos, a nossa imagem e a nossa. Sociedade está sendo pauta disso justamente pelo seu roubo de dados e com isso agradeço ao espaço em certo minha fala.

Muito obrigado Pedro, pela participação. Eu quero antes de convidar o Francisco Figueiredo pra iniciar sua fala, eu gostaria de convidar pra compor a mesa junto comigo, o senhor Caio Barroso, Ana Maria Pereira, Arthur Miranda Sampaio, André Fernandes e Lucas Borges de Carvalho. O Lucas fica pra depois Lucas, porque eu sou meio errada aqui, não tenho cadeira suficiente, conforme o pessoal for falando, a gente vai seguir, pode vim até o Arthur não, ah é verdade, então pode vim Lucas, que vai dar as 4 cadeiras aqui. Fica melhor pra falar daqui. Qualquer lugar fica à vontade. Tudo bem? Tudo bem? Vou dar 1 dica para vocês, coloca esse negocinho de visita por dentro porque fica horrível nas imagens. Estraga o vídeo. Eu sempre tiro, tirava antes de estar com o deputado. Vamos lá então passar a palavra para o Francisco Figueiredo, ele que é jornalista e comunicador digital, e a participação dele também vai ser através de videoconferência.

Bom dia, imagino que vocês consigam me ouvir. Eu queria tratar aqui brevemente, num num disseram em quanto tempo eu tenho então não sei se são 5 ou são 10 minutos. Mas São 5 minutos Francisco, mas passar pouquinho e tem 1 tolerância. Perfeito, muito obrigado. Então. Os sistemas de treinamento de inteligência artificial, eles são a base de tudo o que é a inteligência artificial. Ela não é nada mais que 1 grande base de dados, onde fica fazendo relações entre esses dados, e assim, gerando novos dados respostas e etcétera. Então o treinamento dela é o cerne pra que ela possa funcionar como 1 inteligência artificial. E, por conta disso, isso gerou mercado de treinamento de inteligência artificial, é trabalho realizado por muitas pessoas, que enfim a gente não sabe desde quando que isso tem sido feito mas pra todas as inteligências artificiais que a gente conhece passarem a funcionar, a gente precisou que houvesse grande trabalho de treinamento delas, antes disso. E hoje em dia a gente vê algumas manifestações desse trabalho de treinamento, como serviços extremamente precarizados. Eu vou trazer aqui 2 exemplos, deles inclusive muito recente, a Uber, está lançando agora em alguns países, 1 plataforma de treinamento de inteligência artificial. E o sistema é exatamente o mesmo sistema que a Uber utiliza em suas outras plataformas, ou seja, você se cadastra, você faz os trabalhos de treinamento de inteligência artificial que a plataforma está pedindo e recebe proporcional a esses trabalhos. Como você é apenas associado, não existe nenhum tipo de, contrato trabalhista etcétera, automaticamente você também não tem direitos e enfim, é exatamente o mesmo modelo de negócio da Uber em todos os seus negócios. Mas, enfim, querendo ou não existe trabalho ali as pessoas as pessoas estão ganhando dinheiro pra fazer isso né? Não é não não é trabalho gratuito, então, ao menos existe algum tipo de remuneração. E, outro exemplo que a gente tem mais antigo, é o que a Meta tem feito, nos seus sistemas de treinamento. Eles têm, se eu não me engano isso tem cerca de 2 anos, treinado 1 inteligência artificial, pra fazer checagem de fatos nas suas redes sociais. Essa checagem de fato, como é que o sistema funciona? Pessoas também terceirizadas, não existe nenhum tipo de contrato trabalhista com essas pessoas, checam informações, inclusive volume muito grande de informações por preço muito baixo, e essa checagem pretende treinar treinamento sistema de inteligência artificial, que fará isso automaticamente. O da Intercept Brasil com apoio do Politzer Center fez 1 matéria sobre o caso, e eles chegaram nos números de, 40 notícias checadas por hora, o que enfim pra quem já trabalhou com checagem de fatos fica claro que é número absurdo, não é possível checar 40 notícias por hora, ainda mais porque, essas notícias não necessariamente são muito ligadas às pessoas que estão checando. Eu posso checar 1 notícia de lugar que eu não conheço, de assunto que eu não conheço, isso não é prérequisito. E ela recebe 40 centavos de real, não de dólar, por notícia checada, isso significa 18 reais por hora de trabalho. Ou seja trabalho extremamente precarizado. Então, a gente vive 1 realidade onde o trabalho de treinamento de inteligência artificial, segue por caminho de precarização. E ao invés de caminharmos para a regularização desse trabalho, ou seja transformar essas pessoas em funcionários contratados, dar direitos trabalhistas, dar 1 formação melhor pra essas pessoas pra que as inteligências artificiais tenham funcionamento melhor, a gente acaba seguindo o caminho contrário. As babilityx ao invés de melhorar as condições de trabalho dessas pessoas, preferem criar sistema onde não seja necessário pagar por esse trabalho, porque querendo ou não quem está trabalhando somos nós. Eu sou criador de conteúdo digital, conforme eu posto videos nas redes sociais esses videos são utilizados para treinar 1 inteligência artificial. Eu fico numa situação meio impossível de sair porque eu dependo dessas redes sociais pra trabalhar, esse é o meu objeto de trabalho. Ao mesmo tempo o meu trabalho lá dentro exige muito esforço, Gravar vídeos exige muito esforço. E aí eles além de monetizarem cima do meu trabalho porque já fazem anúncios e etcetera, em cima dos vídeos que eu publico e eu não necessariamente recebo por isso. Agora, entrego de bandeja esse meu trabalho como sistema de treinamento para inteligência artificial deles. Que antes era feito por funcionários precarizados a gente troca funcionários precarizados por pessoas que não receberam absolutamente nada. Pelo que estão fazendo. Então fica 1 situação meio absurda se você olhar sobre essa ótica, mas como eles são os donos dos veículos, é como se eles tivessem o direito de utilizar tudo o que nós colocamos lá dentro, só que enfim, isso não é verdade, eu acredito que alguém vá fazer 1 explicação, mais jurídica do tempo que eu não tenho formação pra isso. Só que era essa elucidação que eu queria fazer aqui, o quão absurdo isso parece, quando você olha por essa lógica, estamos trocando funcionários precarizados por funcionários que não vão receber nada para fazer o trabalho que fazem. Muito obrigado.

Ao Francisco, pela fala dele, e só fazer comentário aqui rápido enquanto eu ouvi ele falando me veio 1 coisa à mente, né? Se fosse há 20 anos atrás e a gente tivesse aqui discutindo sobre direito dos trabalhadores por exemplo, e o representante de 1 empresa tivesse aqui, a argumentação aquela da do do do liberalismo econômico absoluto de quem defende, eu eu vou usar até 1 expressão pesada, mas a desumanização mesmo do trabalhador né? A exploração máxima seria o seguinte olha, está insatisfeito? Quer direito de trabalho isso? Quer, é só sair do trabalho ninguém está te obrigando a trabalhar? Vai embora que que está cheio de gente que quer ganhar isso que você está reclamando, sem direitos. Quando ele fala sobre a criação de conteúdos, que ele fica preso na rede social, atualizando esse exemplo que eu dei aqui é como, eu eu imagino se tivesse representante aqui de 1 dessas e eles iam dizer o seguinte, é só não produzir conteúdo, eu não estou obrigando ninguém a usar a a minha plataforma. Então só mostrando como os problemas são os mesmos, né? A gente muda as tecnologias, muda as terminologias, mas séculos após séculos o o problema permanece exatamente o mesmo. Bom, passar a palavra agora pra Ana Maria Pereira, ela que é ilustradora e diretora Bom dia.

Nome é Ana Maria, e eu escrevi 1 carta à comunidade artística. Eu tenho 30 anos, moro em Brasília, sou formada em artes visuais pela universidade de Brasília. Trabalho como ilustrador há quase 10 anos, e com arte para animação há 5. Recentemente comecei a atuar voluntariamente como diretora do departamento de comunicação na unidade. A união democrática dos artistas digitais. Gostaria de aproveitar o espaço provavelmente falar do tema da audiência mas também falar para os iguais a mim os trabalhadores da área artística e os que também fazem para arte para além de ter outro trabalho onde exercem 1 outra função Quando eu tinha mais ou menos entre 4 e 5 anos, minha mãe me levou pra ver Tarzan nos cinemas. Eu me lembro claramente da explosão dos sentimentos, as cores, os sons, a história, e tudo o que forma filme. Claro, dentro da perspectiva de 1 criança de 5 anos. Outro filme que quero citar também, é Príncipe no Egito, passava na Sessão da Tarde. E eu lembro calmamente da voz do do sentimento que foi ouvir o Guilherme brigues, como deus, e ver a cena da árvore em chamas EEE as cores as formas que compuseram aquela primeira cena que ele aparecia. Hoje em dia posso dizer que tenho muito orgulho de ter participado de 1 produção, de 1 produção que ele colocou sua voz. Onde eu quero chegar com tudo isso, é que antes eu tinha sonho também de trabalhar nessas grandes empresas que eu via quando era criança, e até tive oportunidade. Acho que vocês devem conhecer aquele desenho chamado Ricky More. Está na Netflix, na HBO, entre outros. E não só eu como outros trabalhadores brasileiros também estiveram nela. Só que nossos nomes não estão nos créditos. Porque trabalhamos pra 1 empresa que foi terceirizada. Podendo assim ter 1 resultado final, de boa qualidade, e com e preço mais em conta. O Brasil é celeiro de de grandes artistas, mas de mão de obra barata. O que eu quero dizer é que não é 1 novidade a nossa área ser sucateada. Nós temos que aceitar trabalhos como PJs, e sem direitos trabalhistas, porque se não for assim, não conseguimos trabalhar. Mas eu acho que é importante ressaltar que o que vem acontecendo com a inteligência artificial, não é mais degrau nessa escala que que tem sido o sucateamento da área artística, é quase 1 parede, porque, aí Melissa está feia, espera aí. Desculpa. Empresas em outros países em que os artistas têm pouco mais de direitos, esses países também têm 1 grande preocupação com a regulamentação. Então não é, não é só mais sucateamento que está acontecendo. É quase a morte da cultura brasileira. Desde julho estamos numa batalha pela sobrevivência dessa cultura, que se intensificou agora no fim do ano. Eu e mais alguns artistas estamos há mês evitando gabinete e ministérios para tentar evitar o que está para acontecer. Hoje, além da dessa comissão aqui, vai ter 1 votação da pele 2 3 3 8 23. E a gente tentou conversar com todos os lados, inclusive o governo e a oposição. Eu preciso dizer que fomos bem tratados por alguns, e por outros nem tanto, de ambos os lados. Então não é 1 questão só de governo versus oposição. Agora, é 1 luta entre resistir à cultura brasileira, e aqueles que querem a tecnologia a qualquer custo. Eu acho importante ressaltar que, a tecnologia nunca foi problema. Nessas animações que por exemplo eu citei, elas tiveram o uso de 3 d, e antigamente era debate né, a morte do da animação 2 d ou não. Hoje em dia você consegue, como nessas 2 animações, ter as 2 as 2 ferramentas juntas, não é mais 1 questão. O que a questão é a precarização do trabalho. EEA nossa privacidade que também tem sido exposta, e não temos direito de escolher por enquanto, né? Daqui a pouco teremos a votação da pl, já adianto que o cenário não é bom, mas posso dizer que fizemos de tudo que estava ao nosso alcance encerrando nossa fala aproveito para dizer que é extremamente importante cobrar os que votamos em 2022 e lembrar do que está acontecendo agora em 2026 O ser artista e fazer arte sempre foi ato de coragem no nosso país. E teríamos muito mais artistas da nossa área se não, se estivéssemos no nosso direito a trabalho digno garantido. Na hora idade, vamos continuar a nossa luta, ela não se encerra hoje, e ainda temos o caminho longo pela frente. Obrigada.

Maria obrigado pela sua fala e obrigado por trazer a voz também de 1 classe que, na minha opinião, foi a que foi mais marginalizada, criminalizada no Brasil, especialmente no período de 2019 até o final de 2022 que agora volta até vós a ter seu espaço e a ter seu reconhecimento. Bom vamos passar a palavra agora para Idara de Almeida, ela que é advogada atuante na área de direitos autorais e que vai participar por videoconferência. Bom dia a todos. Bom dia. Eu sou a Ibara advogada.

Eu trabalho atualmente com questões envolvendo direitos autorais, 1 área que recentemente tem tido 1 interseção muito grande com a questão da proteção de dados, que deve ser vista por todos nós como a base da regulamentação tecnológica. Há anos atrás o Brasil editou a RGPD em total conformidade com as tecnologias disponíveis à época. A questão é que agora nós temos outro desafio pra inteligência artificial. Essa tecnologia nova em especial é do tipo generativa necessita de quantidades massivas de dados para o seu treinamento. Esses dados vêm de nós. Só que eles não são obtidos diretamente conosco, mas sim através do que nós chamamos de ou mineração de dados que é literalmente 1 empresa desenvolvedora de sistema, saindo varrendo da internet e pegando os dados dos usuários de sites e redes sociais. Esses dados são nosso nome, CPF, dados médicos, financeiros e biométricos como nossa digital, reconhecimento especial, leitura de íris, nosso rosto, nossa voz, até nossa geolocalização. E no caso dos artistas, as imagens das obras de arte que eles fazem. Isso obviamente, nós colocamos tudo sobre nós, sobre nosso trabalho, sobre as nossas empresas a dispor de desenvolvedor de sistema de inteligência artificial. E por isso que é importante nós discutirmos consentimento que é o tema desse projeto de lei. Esse projeto diz que o consentimento deve ser prévio e expresso, invertendo a lógica atual, em que as empresas usam os nossos dados e se nós quisermos nós temos que ir lá e preencher formulário pra exercer o nosso direito de oposição que a gente chama de oxout. Essa inversão é importante porque da forma como é feito hoje, se você tem 1 conta numa rede social e perde o acesso a ela, por exemplo perdeu a senha, você não vai conseguir supor, e tudo o que está nela será utilizado nesse treinamento. As contas de pessoas parecidas que a gente chama de memorial virtual, também terão sido dados coletados, que obviamente elas não vão lá se opor. E esses são só alguns exemplos mas eu acho que vocês já conseguiram entender o que eu quero dizer aqui. Hoje, quando tem 1 atualização de dados, você tem que em qualquer plataforma concordar para continuar utilizando esse serviço do aplicativo, Isso acaba sendo 1 forma de poação, pois hoje a gente sem a presença em determinadas plataformas ou sem usar determinados softwares, nós não conseguimos desempenhar nosso trabalho, e nós não existimos virtualmente e consequentemente socialmente. Recentemente os artistas tiveram problema desse, 1 plataforma muito utilizada por eles, a mais utilizada em estúdios e agências no mundo, atualizou seus termos de uso pra ficar printando a tela dos trabalhadores enquanto eles fazem ali suas obras, e se você não concorda você não pode usar, mas como ela é usada comercialmente na indústria, as pessoas tiveram que aceitar isso. Então a gente tem aí até problema com contratos que falam de confidencialidade. Então essa regra de colocar a proibição do uso na frente da liberação inverter essa lógica, evita que o direito de oposição seja 1 letra morta, faz com que a gente de fato possa exercer o nosso direito e acaba com essa brecha de posição mercadológica que ocorre hoje em dia. O consentimento ele também deve ser informado, a relação entre o usuário e as plataformas digitais é de natureza consumeirista, Aplicaase a ela então o código de defesa do consumidor. E nessa lei, a gente tem ali o princípio da informação e da transparência. Considerando a situação justamente de vulnerabilidade do consumidor em relação ao fornecedor, 1 vulnerabilidade técnica e informacional. Por isso no instrumento de consentimento deve ter alerta sobre quais dados serão utilizados, como eles serão armazenados, quais riscos estão envolvidos nessa atividade. Tudo isso de 1 forma clara em linguagem informal, não técnica, e acessível ao brasileiro médio. E como os riscos de gestão desses dados podem sofrer alterações quando a atualização significativa no sistema de inteligência artificial, o usuário deve ser informado sobre cada 1 dessas mudanças pra poderá se a partir daquele momento ele não quer mais fazer parte, não quer mais ceder os seus dados, E aqui não se trata de colocar 1 regra pra burocratizar demasiadamente a atualização do sistema, mas apenas garantir os direitos desse consumidor, principalmente por envolver muitas vezes dados sensíveis. É sobre buscar equilíbrio entre garantia de direitos e inovação, pra que essas 2 coisas possam caminhar juntas na construção de futuro melhor e próspero para todos. 1 questão também é que, você pode, a partir de certo momento, não querer mais ceder esses dados. A gente tem problema, porque pra você chegar ali e exercer esse direito de oposição após aquele prazo de atualização do dos termos de uso é muito difícil, são caminhos tortuosos pra você chegar num formulário escondido pra pedir para pararem de usar os seus dados. E, isso acaba servindo como obstáculo para o exercício do direito de oposição. Pode parecer meio redundante falar que o direito de oposição deve ser garantido de forma intuitiva, facilitada e acessível como diz o PL, mas não, da forma como as coisas são feitas hoje em dia, o usuário médio não sabe como exercer esse direito. E se nós não disciplinarmos isso, se nós não criarmos essas regras, nós podemos ter em breve 1 pomba de demandas judiciais sobre esse tema. Pra finalizar, eu queria falar pouco sobre a questão do uso de dados de crianças e adolescentes. O Brasil sempre teve na vanguarda da proteção do direito de crianças e adolescentes. Não à toa, ano antes da convenção sobre direito das crianças que é de 1989, nós editamos a constituição federal em 1988. Ela já privilegiava os princípios da proteção integral e da prioridade absoluta, também estão cristalizadas cristalizadas e formam a base do que é o LECA o Estatuto da Criança e do Adolescente. O Brasil então reconhece a condição especial dessas pessoas ainda em fase de desenvolvimento e sem penas capacidades de autodeterminação. Nessa toada ve a vedar o uso desses dados para treinamento e aperfeiçoamento de sistemas de inteligência artificial é 1 medida de segurança e que está em total harmonia com o arcabouço legal brasileiro. Não cabe aos pais ou responsáveis a autorizarem esse uso em nome dos filhos, porque nós erramos em pensar que os pais são donos dessas crianças, eles são orientadores até a maioridade e há decisões que o próprio estado reconhece como irreversíveis e potencialmente de risco e que tiram esse poder decisório dos pais. Por exemplo, pai não pode autorizar 1 criança a fazer sexo antes de 14 anos ingerir bebida alcoólica antes dos 18 ou dirigir antes dos 18. Não importa se foi autorizado, continua sendo crime. Então há sim limites para as coisas que os pais podem autorizar o nome dos filhos, principalmente quando a danos irreversíveis em jogo. Priorizase a proteção. E a idade apontada nesse projeto de lei que é de 16 anos, ela é muito ponderada, ela está de acordo com a idade que os adolescentes já podem escolher por exemplo em quem votar, casar, já pode até viajar sozinho, ou seja, é 1 idade em que eles ainda estão sobre a tutela dos pais pra receberem as devidas orientações, mas já tomam algumas decisões sozinhos sobre a sua vida civil. Em suma, tudo o que eu quero dizer aqui é que esse pode parecer projeto de lei pequena, porque são 3 artigos basicamente, mas ele é de extrema importância. Ele com certeza vai ser primordial na construção da nossa sociedade no futuro de 1 sociedade tecnológica ética e responsável. Muito obrigada.

Obrigado Idara, só pedi desculpa aqui ao Caio, eu inverti a ordem de fala, vou passar a palavra agora portanto ao Caio Barroso, ele que é advogado e comunicador digital. Bom dia a todos.

Trabalho, sou advogado de formação, mas trabalho no Instituto Indica, organizando campanhas de mobilização digital para causas sociais, a regulamentação da inteligência artificial sendo 1 delas, e também faço vídeo pra internet. Não vou chover no molhado aqui, dizer e reiterar o que todos já falaram sobre a relevância da da inteligência artificial do debate sobre esse assunto. Digo no máximo que esse assunto ele é tão amplo, ele é tão gigante mesmo, que o que nós estamos debatendo aqui é só 1 pequeno cerne em relação ao assunto de inteligência artificial e de tecnologia por si só. Vou dar exemplo até da área desse debate que mais me agrada debater e discutir, é a área de soberania nacional em relação à tecnologia, em relação à inteligência artificial. Eu acho incrível como que nós como país utilizamos o Google Drive pra armazenar dados, Google Drive vindo de 1 empresa americana pra armazenar dados que querendo ou não são de segurança caindo em mãos erradas fariam poderiam ser realizar grande mal. Mas como disse não vou chover no molhado e a didática que eu aprendi fazendo vídeo pra internet também me me ensinou a ser conciso e, sempre trazer exemplo para tudo o que eu vou falar E o exemplo que eu vou falar dessa vez sobre esse assunto é o que aconteceu em junho, quando a Meta, a empresa Meta começou a coletar os dados de todos os seus usuários sem consentimento, dados em aspecto retroativo, ou seja, se você postou 1 foto em 2014, essa foto também estaria sendo coletada e pra quê? Pra treinar a inteligência artificial própria da da Meta. Isso não foi específico dessa empresa, foi também do X, foi também da Adobe. A Adobe aliás que voltou atrás nessa política depois de 1 semana por pelo tanto das da sanção social né e da pressão social, melhor dizendo que ela passou por conta dessa medida, mas a meta E0X como estão mais como esse essa esses dados são mais valiosos pra eles, eles mantiveram o pé firme. E o exemplo que eu quero dizer, é sobre essa situação e e trazer a partir daí 5 pontos e correlacionálos ali pouco com o do direito, mas mantendo essa linguagem acessível que as redes sociais me ensinaram a a ter. Em primeiro lugar, as essa coleta de dados ela é feita inicialmente sem o consentimento porque ela já começa a ser feito antes a ser feita antes até de você entrar no seu Instagram, por exemplo, você entra no seu Instagram e você já automaticamente recebe ali os termos e você aceitando ou não o que você já publicou já está a ser utilizado pela Meta, a não ser que você entre, faça todo passo a passo que eu já vou falar dele aqui daqui a pouco, e depois desse passo a passo você desabilite isso. Então assim, só nesse primeiro momento, sem ter nenhum aviso explícito, só numa atualização de termos corriqueira como eles mesmos como eles mesmo dizem, você já identifica algumas violações em princípios do LGPD. E só fazendo parênteses aqui é importante levar em conta que pra debater esse tema você tem muito que trabalhar com princípios da ANPD, porque há exatamente 1 lacuna quanto ao a coleta de dados para treinamento de inteligência artificial. A LGPD não trata diretamente sobre esse tema, e aí portanto né, nos recorremos a a outras fontes do direito como os princípios. E você fere nessa coleta, princípio da finalidade, da adequação, da transparência, você não sabe por que que ou melhor você não soube e não lhe foi perguntado se essa coleta poderia ser feita ou não. E em que mais esse princípio é violado? Na retroatividade também. Não há segurança se você for pensar assim imagina você publica algo numa rede social e dali 10 anos 1 tecnologia que nem o seu cérebro teria condições de imaginar vai ser usado contra você naquela publicação. Você não tinha a menor ideia que aquela tecnologia poderia existir e se fosse existir seria usado pra aquela aquela publicação sua que é sua seria usada. Então, aí também 1 outra violação, meu Deus da transparência. Pode falar mas tudo bem. Em relação também à à à à falta de clareza e à dificuldade de desativação. Essas essa essa coleta de dados, ela é feita, se você quiser desabilitar ela, e isso foi até dos motivos de eu estar aqui, foi por vídeo que eu fiz ensinando as pessoas a desabilitarem essa coleta de dados. E é 1 coleta que possui mais de 8 passos de ser feita. E não é clique aqui e siga esse passo a passo. Você, por exemplo, era texto que no meio do texto tinha hiperlink em 3 palavrinhas. Aí ali era o primeiro passo. Aí você tinha que enviar email pra eles. Só que não precisava do email porque a resposta era automática, então pra que que teve email, enfim, é só pra realmente confundir, dificultar. E eu ia falar também da da questão dos menores de idade, mas eu penso que a minha colega Idara falou com maestria sobre esse tema, então eu vou só reiterar aqui então pra finalizar minhas falas da necessidade da aprovação do PL 2 7 7 5, que eu acho que assim se a gente for colocar projeto de lei pra condensar essa essa essa essa comissão, essa audiência melhor dizendo, seria esse projeto de lei porque ele é projeto de lei curtíssimo e que basicamente diz 2 coisas. A primeira, coleta de dados para treinamento de inteligência artificial tem que ser com consentimento explícito dos usuários. Não é colocar no termo, não é fazer 8 passos pra poder desativar, não é fazendo nenhuma maracutaia pra que você e empresa consiga que você quer, que não é seu, é do outro, mas que você consiga coletar para si e usufruir daquilo pra enriquecer e ganhar mais poder ainda. Você não pode fazer isso sem o consentimento. Esse é o primeiro passo do projeto de lei. O segundo passo é a proteção de criança e e adolescente. Não vou falar aqui, mas o Pedro disse sobre como que inteligência artificial foi feito pra criar fotos de pessoas nuas, como que inteligência artificial foi feita, enfim, pra grande barbaridades em relação a esse tema, e pegar imagens de pessoas jovens para criar, para treinar inteligência artificial só vai qualificála para que ela gere essas fotos melhores, para que elas façam esse tipo de conteúdo com crianças melhor. E aí se você também voltar e pensar, qual é a finalidade, pegando o princípio da LGPD, qual é a finalidade de 1 empresa em conseguir ter 1 inteligência artificial que crie por exemplo imagens de crianças como o seu filho, como a sua namorada, como a sua mãe, mas pensando agora em menor de idade qual que é a finalidade no seu irmão pequeno? Qual que é a finalidade disso? E levando em conta então tudo que está escrito no ECA e na LGPD, enaltecer essa proteção para os jovens e o projeto de lei reitera nesse ponto dizendo que coleta para menores de 16 anos não pode ser permitida. Enfim, concluo minha fala agradeço muito pela oportunidade de estar aqui, estou também à disposição para quaisquer perguntas, tanto digitalmente quanto aqui presencialmente, e muito obrigado.

Caio, obrigado pela sua fala, pela sua contribuição nessa audiência, e eu passo a palavra agora pro Arthur Miranda Sampaio, ele que é, o Arthur não não compareceu. Eu passo então a palavra pro André Fernandes, meu xará, ele que é cofundador e diretor do Instituto de Pesquisa em Direito e Tecnologia do Recife. Obrigado.

Deputado, primeiro agradecer a diferenciação logo no início né, sou André de Recife, é muito importante isso. Eu queria falar do primeiro de onde é que eu piso né, eu faço parte de 1 organização sem fins lucrativos, chamada IPEREC, que é o Instituto de Pesquisa e Direito e Tecnologia do Recife, e é 1 organização que trabalha justamente na intersecção entre pesquisa acadêmica e atividade social, através de comunicação, capacitação e também incidência política. E aí quando eu recebi o convite pra falar nessa audiência eu fiquei muito feliz, porque de pronto eu acho que a gente tem processo aqui em avanço na discussão da da regulação da inteligência artificial, que é debate necessário, é debate urgente. Então o texto que a gente está analisando, como Caio bem colocou, é texto que fala sobre a necessidade de imposição do da base legal de consentimento pra poder fazer coleta de dados de treinamento de inteligência artificial. E eu acho que talvez a gente possa ter nesse caminho caminho interessante para poder combater contexto exploratório do desenvolvimento dessas tecnologias de inteligência artificial no Brasil e no mundo. Quando a gente pensa na inteligência artificial, a gente está falando, que é menos o problema como já foi dito da IA em si, porque ela pode ser 1 ferramenta útil pra gente, pra evoluir, pra gerar riquezas, pra atender necessidades sociais, mas muito mais sobre modelo de desenvolvimento e modelo de negócio que as empresas têm adotado com essas tecnologias. Então, eu lembro por exemplo, existe modelo muito comum na geração de imagens chamado difusão estável, né, estable Diffusion, que a gente vai ver na internet por esse nome. E esse modelo, ele é usado para gerar imagens fotorrealistas, que são incríveis, né? Que a gente fica, nossa como é que a gente tem 1 tecnologia que gera imagens, que também pode desdobrar em situações como deepfakes, né? Deep noods, que é esse uso que foi mencionado sobre construção de imagens falsas pornográficas, enfim, que ofendem a personalidade de especialmente de mulheres. Eu tenho recorde de gênero muito forte. Então o que é que esse modelo de difusão estável ele tem de de diferente? Ele é pensado para coletar muitos dados. Ele não funciona com poucos dados a tecnologia ela foi montada dentro do modelo de negócio desde sua concepção pra construir modelo que seja 1 máquina de devorar dados e por isso tem essa eficácia tão grande. Então a gente tem problema aqui na construção dessas tecnologias. A gente tem problema na ideia de apropriação desse conjunto de dados de forma desenfreada. Isso é problema do nosso tempo, né. Então o modelo de difusão estável, ele se presta aqui no meu argumento como exemplo por todos os outros, né, de que a gente poderia ter modelos diferentes pra atingir resultados tão eficazes quanto e a ciência já tem provado isso, mas as empresas têm investido nessa lógica desses modelos de coleta massiva de dados e isso é grande problema. A gente tem PL sendo discutido como foi mencionado agora, né, deve ter a votação daqui a pouco na comissão temporária de inteligência artificial lá do Senado que é o 23 3 8, que junto com o 27 7 5 me parece ser conjunto de normativas que são relevantes pra gente regular a inteligência artificial e especialmente no sentido de que lá a gente tem processo mais holístico, né, e que dá 1 oportunidade também em breve pra câmara se debruçar sobre o tema, porque vai vim de lá pra cá e né começar a construir sistema mais justo de inteligência artificial, né, de IA responsável, de inteligência artificial ética, que combata esse modelo de desenvolvimento e proponha 1 inovação diferente, né, 1 inovação que possivelmente só o Brasil dentro das experiências globais tenha criatividade suficiente pra poder colocar em campo. Tendo dito isso, eu queria citar 2 pontos que eu acho que podem ter melhorias e já foram mencionados aqui, no texto que eu acho que vale a gente contribuir e avançar nesse debate. O primeiro deles é que a gente precisa e talvez o texto possa trazer isso direito de oposição mais claro, porque quando a gente fala sobre o direito de oposição foi mencionado várias vezes, né, que eu tenho que entrar num link que depois manda pra outro link que é no meio de texto que eu tenho que gerar, rolar a barra da página pra poder chegar lá. Isso tudo é conjunto de design problemático ou design decepcionou, né? Que a gente chama, que é design feito justamente pra impedir ou dificultar que você exercite esse direito de out out. Então, esse direito de retirada, direito de saída, direito de oposição, ele precisa estar regulamentado, né, com mais força do que que a gente vê na LGPD, pra poder a gente ter 1 obrigação realmente das empresas de você poder facilmente apresentar sua oposição no tratamento desses dados e na coleta desses dados de forma exploratória. Veja que casa aqui então de novo debate sobre modelo de negócio. A gente tem a construção de sistemas que são pensados pra serem máquinas de moedas, como o modelo de difusão estável, e de outro lado a gente tem modelos de negócio que são modelos enganosos, problemáticos feitos pra dificultar o exercício de direitos. Só o aspecto regulatório pode dar conta desse processo. E parece que a gente precisa colocar isso adiante. Por fim pra terminar que meu tempo já acabou é importante a gente lembrar e aí eu vou entrar pouquinho no eu peço perdão, mas quando a gente fala de suporte fático de norma jurídica a gente está falando aí de 1 espécie de bloco de montar. Então a norma jurídica ela tem vários bloquinhos que a gente bota do lado do outro e quando eles estão todos prontos a norma incide ela se aplica, né? Então é interessante a gente notar que as bases legais da LGPD para além do consentimento elas exigem o cumprimento de obrigações acessórias muito rígidas e talvez o PL também pudesse avançar nesse sentido. O consentimento ele pode ser 1 porta de entrada como combate imediato a esse modelo de negócio né ele exige que a pessoa vá lá e diga sim eu acredito eu quero que se realize mas outras bases legais também poderiam ser usadas pra esse tratamento de dados se e somente se a regulação vier acompanhada de conjunto de obrigações acessórias como por exemplo, realização da análise de impacto da coleta, entender como é que se isso representa 1 ofensa ou não a princípio da necessidade, finalidade da LGPD, são fundamentais pra controlar o uso indevido de dados e a coleta indevida de dados, enfim, esses são campos que a gente poderia pensar em aprimorar pra poder justamente responder na pergunta proteger o cidadão comum, né poder clarificar mais sobre isso e também garantir que a gente tenha IA que seja IA pra pessoas, IA que garanta direitos. Era basicamente isso que eu queria contribuir hoje eu agradeço a oportunidade e fico à disposição. André obrigado pela.

E pela contribuição aqui na nossa audiências, na nossa audiência perdão, sem mais delongas passo a palavra para o Lucas Borges de Carvalho, que é gerente de projetos na ANPD, Autoridade Nacional de Proteção de Dados. Fique à vontade Lucas. Bom, bom dia. Quero somente agradecer.

Oportunidade de cumprimentar o deputado André Janones que está presidindo aqui essa sessão e começar dizendo que eu trabalho na ANPD, na assessoria do conselho diretor, a ANPD é Autoridade Nacional de Proteção de Dados que nada mais é do que o órgão regulador recentemente criado e que cuida e é responsável por zelar pela proteção de dados pessoais e também pela regulamentação e fiscalização da Lei Geral de Proteção de Dados Pessoais, que é a nossa conhecida também como LGPD. E o tema de inteligência artificial ele tem 1 conexão muito grande com proteção de dados pessoais pelo fato de que para o treinamento e pra pra criação propriamente dita de sistema de inteligência artificial, necessário 1 quantidade muito grande de dados, incluindo especialmente dados pessoais. E os casos, a gente pode dizer, os casos mais controversos, os casos em que envolvem maior risco no uso de inteligência artificial, são muitas vezes aqueles aqueles sistemas que se utilizam de dados pessoais. Então, por isso, a ANPD ela tem atuado de forma prioritária em relação ao tema de inteligência artificial, hoje se vocês abrirem a página MPD lá no GOV ponto b r barra MPD vocês vão ver que as 3 principais chamadas, as 3 principais notícias coincidentemente hoje se referem à inteligência artificial. Então, ontem mesmo foi divulgado estudo, que a gente chama de radar tecnológica, script técnico, sobre inteligência artificial generativa, é estudo técnico que menciona ali os riscos, explica como funciona aí a generativa e a relação disso com a lei geral de proteção de dados pessoais. A gente tem a notícia do Sandbox regulatório também que está em fase de implementação e contratação de universidades parceiras que vão atuar com a gente nesse nesse projeto, que é projeto de de inovação relacionado à aplicação da lei junto a empresas que trabalham com sistemas inovadores, no caso relacionados à inteligência artificial e proteção de dados pessoais. E a última notícia que está lá no nosso site, ela se refere a 1 tomada de subsídios, ou seja, 1 consulta pública que está aberta e foi recentemente prorrogada até o final de janeiro de 2025, justamente tratando sobre inteligência artificial e LGPD, inteligência artificial e proteção de dados pessoais. Isso tudo pra dizer então que mostrando o quão esse tema é relevante e prioritário pra atuação da ANPD, que é o órgão como eu falei responsável pela o zelar pela proteção de dados pessoais nesse contexto. E também eu acho eu eu gostaria de mencionar também que a fiscalização da ANPD também tem atuado de forma forte nesse tema, vou citar só caso aqui que é caso bem conhecido da empresa Meta, a ANPD nesse ano editou 1 medida preventiva, 1 espécie de ordem cautelar, determinou a suspensão do treinamento do uso de dados pessoais de usuários do Instagram, do Facebook para o treinamento da IA da Meta, e as questões ali envolvidas estavam relacionadas com o uso de dados de crianças e adolescentes, a questão da transparência, a questão do direito de oposição, também como já foi mencionado aqui, o uso de dados sensíveis, que são aqueles dados que se referem de 1 forma mais direta à intimidade da pessoa, como dados relacionados à convicção política, dados de saúde, dados genética, etcétera, e também a hipótese legal que é dos pontos aqui principais eu diria do PL 2 7 7 5 né, então essa medida preventiva ela era temporária, ela foi suspensa depois, após a empresa acatar as determinações da ANPD, relacionadas à transparência principalmente, e o direito de oposição, que foi simplificado. O processo de fiscalização, ele segue em curso, isso é importante dizer, então o processo não terminou, então a fiscalização da ANPD está atuando junto à empresa pra averiguar com mais detalhes essa esse uso de dados pessoais para treinamento de IA, e também é importante dizer que o uso de dados de usuário de crianças de contas né, de crianças e adolescente dessas redes sociais, ou seja, menores de 18 anos, eles continuam suspensos né, eles continuam suspensos por determinação da ANPD. Especificamente em relação ao PL, eu diria assim, a partir dessa nossa experiência, a gente também tem atuado num debate ali sobre o PL238, é importante dizer também que a NPD está colocada ali na última versão do PL como autoridade central, que vai coordenar o sistema de regulação de IA no Brasil. E aqui eu faço sempre a importância de debater aqui o fortalecimento institucional da ANPD porque tudo que a gente discute aqui, qualquer lei, sempre vai ser necessário órgão regulador pra implementar essa essas regras que estão sendo criadas. Então, em relação ao PL, eu diria que ele caminha na direção correta que é o empoderamento do usuário, né? Então o consentimento ele é dos mecanismos para o empoderamento dos usuários, mas eu diria também que ele não é o único, né? Então, é necessário a gente poder ampliar esse DEMAT porque muitas vezes existe 1 série de outros mecanismos como direitos, transparência né? Em algumas situações pode ser necessário o uso de outras hipóteses legais, a gente pode pensar por exemplo, o o uso de dados para tra mediar no no setor público por exemplo pra fins de políticas públicas, e em alguns contextos pode ser que o consentimento não seja a melhor opção. Então é por isso que eu acho que a minha mensagem aqui seria que o o PL né pra pra concluir, o PL ele caminha na direção correta né de empoderar os de empoderar os usuário, de fortalecer o controle dos titulares sobre os seus dados pessoais, mas é preciso a gente ampliar esse debate porque centrar somente no consentimento pode trazer 1 série de consequências negativas, e a discussão diálogo não se resume também apenas ao treinamento né dos sistemas, mas também ao resultado né, o que a gente fala dos outputs, ou seja, aquilo que o o sistema de IA entrega depois né, e isso necessariamente também tem a ver com com o consentimento né. Eu fico por aqui, e sempre colocando à disposição da câmara pra continuar com esse debate. Muito obrigado Lucas.

Agradeço a cada de vocês que compôs essa mesa ao meu lado, gostaria de convidar pra gente fazer essa mesa pra eu chamar os os próximos que vão participar. Muito obrigado a cada de vocês. Fiquem à vontade pra continuar acompanhando a audiência. Quero convidar pra compor a mesa nesse momento, a Natália Fragoso, a Lígia Moraes, a Edna Dias, e o Ricardo Queiroz. Olá tudo bem? Boa tarde prazer é todo meu. Sente onde preferir. Pode fica à vontade. Canta aqui fica, visualmente melhor. Dando continuidade então, eu passo a palavra a Natalie, que está correta? Natalie. A Natalie Fragoso, ela que é diretora de programa da Secretaria de Direitos Digitais do Ministério da Justiça e Segurança Pública. Fique à vontade, Natalie.

Deputado, é prazer estar aqui hoje, contribuir com esse debate. Debate que me parece que tem por morte 1 pergunta boa de responder, né? 1 pergunta interessante, que é como é que a gente garante que o desenvolvimento e aplicação de IA no Brasil, seja responsável, seja ética, respeite direitos, previna riscos, evite efetivamente danos. E aí primeiro queria começar falando da importância de falar sobre dados e depois, meus colegas já fizeram, mas queria passar por isso novamente, e depois estratégias aí pra gente conseguir estabelecer 1 proteção que seja efetiva e que alcance de fato a população brasileira como todo né, ou seja 1 proteção que funcione no atacado né, que não encontre ali as as limitações dessa proteção no varejo indivíduo a indivíduo. Então primeiro porque falar em dados é importante sempre que a gente fala sobre IA ética e responsável. Bom, é importante porque dados alimentam IA, né? Dados treinam modelos, dados refina algoritmos, dados são instrumentais, pro desenvolvimento nessas soluções inovadoras digamos assim, que a gente enfim encontra e chama, designa, como sistemas de inteligência artificial. E especificamente quando a gente fala né, sobre sistemas de IA que estão baseados no aprendizado de máquina, a gente está falando desses grandes volumes de dados que são tanto pressuposto como passam a ser também né 000 objetivo, ou seja esses sistemas de IA baseados em aprendizado de máquina pressupõe essa coleta e formação de grandes conjuntos de dados, e pra sua pro seu permanente aperfeiçoamento, essa coleta de devem encontrar e já encontram devem encontrar e já encontram no nosso ordenamento jurídico. Porque quando a gente fala em dados, a gente fala né, mais do que bytes em bits, a gente fala de aspectos informacionais da personalidade, a gente fala em pessoas, a gente fala em histórias, a gente pode falar informações que são relevantes pra negócios específicos, a gente pode falar informações que são parte por exemplo da criação de alguém, né 1 pessoa física, 1 pessoa jurídica, artista brasileiro por exemplo. Então são dados que já estão sob algum tipo de proteção, né? Como então garantir que esse aspecto informacional da personalidade ou de outros direitos seja protegido? Parte dessa resposta de fato está aí nessa disciplina da produção de dados pessoais, né a LGPD, ele tem aqui representante da ANPD né entre nós, é 1 lei que não é proibitiva, ela não veda usos a priori, mas é 1 lei que parametriza ali o uso adequado certo? Então ela diz que uso adequado tem que ser uso que é antecedido né por 1 determinação de 1 finalidade específica, por 1 obrigação de transparência, né por 1 série de de de condições que precisam estar presentes pra dizer não isso aqui é legal, Por 1 base legal específica e comunicada, ao titularidades, coisas que hoje em dia estão frequentemente ausentes. Essas proteções elas né a gente pode se perguntar são elas capazes né hoje em dia se efetivamente implementadas, De garantir que nós não experimentaremos esses riscos, que nós que nós não viveremos esses danos? Olha, difícil dizer porque ah eu acho que processo de implementação desses direitos né a essa tradução desses direitos né EEE ganhe eficácia pra essa era digital que está em andamento ainda. Mas vale dizer que há também esforço por exemplo agora né em andamento no Senado Federal de pensar 1 regulação que estabeleça padrões preventivos uniformes em vários setores e isso também ajuda. Então se a gente falar quais são os riscos de IA? São os riscos de discriminação, são os riscos de vigilância, são os riscos de desempoderamento do usuário, e parte disso a gente resolve de fato né complementação eficaz de LGPD, parte disso a gente resolve de fato com essas outras cautelas que leis ou projetos né, como que estão em andamento aqui no no congresso, endereçam. Especificamente sobre o tema do projeto né que a audiência pretende debater, me parece que é importante pensar que as bases legais enfim não há 1 hierarquia entre elas no que diz respeito à 1 capacidade de proteger, à 1 variação de adequação, e que mesmo com o sentimento, se não for acompanhado dessas de garantias importantes, pode ele próprio ser 1, enfim, 1 1, pode não ser digamos assim, veículo adequado ou eficaz, né, de exercício da autonomia, né, a gente já ouviu falar sobre fadiga do consentimento, ou seja, nós somos tão demandados, né, a expressar vontades, nós somos às vezes mal informados, né, como condição dessa expressão de vontade, que esse consentimento vai perdendo valor, vai perdendo importância. Então, consentimento é 1 das bases, né, que estão presentes ali na IGPD tanto pra tratamentos dados em geral, mas certamente já sensíveis sensíveis também. Ela tem a sua adequação pra 1 série de casas, mas eu convidaria então a pensar como que, né, sendo com o consentimento adequado nós garantimos que ele é expressão, né, de 1 vontade informada e efetivamente livre e se num num contexto, né, digital, num contexto que nós somos convidados a expressar essa vontade, né, e firmar contratos, por exemplo, o tempo todo através, né, dessas mídias, desses dispositivos, se ele de fato é capaz, né, de ser a única via dessa expressão de vontade livre. Então, essas são as minhas considerações, eu agradeço muitíssimo a oportunidade e o convite e devolvo a palavra ao deputado. Lígia, nós que agradecemos.

Pela sua contribuição, pela clareza nas palavras, muito obrigado. O time é de Lígia né? Já está ali. Ela está ali. Agora sim eu vou passar a palavra então pra Lígia Moraes, ela que é coordenadora geral de educação em direitos humanos e mídias digitais do Ministério dos Direitos Humanos e da Cidadania. Agora sim. Falar que foi quase

Spoiler né, do que vim aí a seguir. Cumprimentar a todos e todas presentes em nome do deputado que preside a mesa. A gente está falando aqui sobre privacidade, governança e soberania de dados, ou seja, sobre a proteção dos direitos fundamentais dos usuários humanos frente à máquina, e frente à indústria da tecnologia e da publicidade. É inegável hoje a existência de 1 assimetria exacerbada entre esses atores, entre o oligopólio da tecnológica concentrada no norte global, frente aos usuários do dos países do sul global. Vemos hoje que não só os escritórios e infraestruturas de plataformas e empresas de tecnologia se situam fora do Brasil, como dados de cidadãos brasileiros também são hospedados fora do território nacional, resultando em 1 relação direta de extrativismo que agora se dá no ambiente digital. As questões de soberania digital e colonialismo de dados entre outras problemáticas correlatas, tem sido cada vez mais discutidas no Brasil interse internacionalmente. Isso porque ainda existem vá com os normativos e regulatórios a serem preenchidos quando falamos sobre os ambientes digitais. Nesses espaços predominam de modo quase absoluto as normas contratuais e termos privados das empresas, em detrimento do poder público e da sociedade brasileira. Não podemos considerar que o interesse público e os direitos fundamentais sejam colocados em xeque, nome de 1 suposta inovação ou suposto desenvolvimento industrial. É preciso deixar bem claro que nenhum ator deve estar acima da soberania nacional e da sua capacidade operacional de fazer valer os direitos dos cidadãos nacionais, especialmente quando falamos da proteção dos direitos de populações em situação de vulnerabilidade, que são o público com o qual o Ministério dos Direitos Humanos, atua. A chamada inteligência artificial constitui 1 potencialidade desde o princípio da indústria até que no pósguerra, mas somente se concretizou de fato o recente da guerra, mas somente se concretizou de fato recentemente com o aumento da capacidade de processamento, e disponibilidade de grandes massas de dados produzidos de modo contínuo, com a plataformaização da internet, né? Não estamos negando as potencialidades oportunidades que são que estão sendo colocadas, mas a gente precisa entender quais são os dados que estão sendo coletados, de quem estão sendo coletados, como estão sendo armazenados, como estão sendo processados e utilizados né? Essas questões entre muitas outras já geram preocupação e acendem inúmeros alertas quando pensamos nos dados de cidadão adulto, né a gente fala aqui de vieses discriminatórios dos modelos de IA do potencial da tecnologia é impactar a integridade da informação, de infringir direitos autorais e propriedade intelectual como é que já como já foi colocado aqui, de substituir os postos de trabalho, e de violações de direitos em ambientes digitais como todo. E aí agora, pensando né a proteção de crianças e adolescentes nesse ecossistemas, as problemáticas se agravam, e muito. Precisamos lidar com as violações de direito como os fake nudes, como já também já foi citado, que compõe todo repertório mais amplo de conteúdos de abuso sexual e pedofilia, os jip fakes, o potencial que a IA tem pra esse acirrar os riscos pra saúde mental e problemas de ciberbullying, automutilação, indução ao suicídio, são muitas as problemáticas que devem ser consideradas. Ia trazer o exemplo que o o Pedro da Eye já trouxe logo no início que é, a investigação que foi conduzida pela Human Rights Watch, que descobriu que as fotos pessoais de crianças brasileiras estavam sendo usadas sem consentimento pra treinar ferramentas de inteligência artificial. E essas imagens inclusive eram muitas vezes compartilhadas em ambientes privados, inseridas em grandes bancos de dados usados para criar esses modelos de IA. Isso permite que essas ferramentas gerem deepfakes maliciosos, manipulando digitalmente imagens de crianças, pra criar conteúdos prejudiciais, como imagens sexualmente explícitas, colocando as vítimas em risco de vazamento de dados pessoais, assédio e exploração online. E aí tem ponto que eu acho que é importante citar aqui também que é 1 vez esses dados utilizados e coletados, não tem volta, né? Como é que a gente destreina 1 inteligência artificial? Então a falta de 1 regulação eficaz e a proteção insuficiente de dados pessoais de menores aumentam os riscos e possíveis danos. Precisa garantir né medidas urgentes de proteção em políticas mais rigorosas, pra garantir a segurança das crianças no ambiente digital. E as empresas de tecnologia e plataformas precisam entender que a proteção desses sujeitos, é 1 responsabilidade compartilhada com elas também, assim como preconiza o artigo 2 2 7 da Constituição Federal e o Estatuto da Criança e do Adolescente e também a resolução 2 4 5 do CONANA. As empresas portanto precisam necessariamente desenhar estratégias pra mitigação de riscos e a tomada de salvaguardas de proteção, entendendo que esse rigor dessa avaliação deve ser proporcional ao quão maior forem os possíveis impactos aos direitos e superior interesse das crianças e adolescentes, E aí aqui vale dizer que a gente precisa considerar a experiência real dos usuários, que estão cada vez mais conectadas às crianças e adolescentes à internet, acessando as redes sociais por celular próprio, a Attic Kids online Brasil aponta que 60 por 100 das crianças entre 9 e 10 anos tem pelo menos 1 conta em redes sociais, mais de 20 e 20 por 100 dos jovens entrevistados dessa pesquisa relatou o primeiro acesso à internet, se deu com até 6 anos de idade. A gente está falando aqui do acesso real dessas crianças. E não só o que consta ali nos termos de uso da da das plataformas. É claro que os pais responsáveis têm papel fundamental nesse processo, quando a gente fala sobre a proteção frente ao uso dos dados pessoais, das crianças e adolescentes, mas pra isso é preciso garantir maior transparência e também o direito à informação aos usuários, não basta só que esses responsáveis deem ok ali concordando com os termos de uso de serviço de determinadas empresas é preciso que estejam claros os riscos e as consequências dessa decisão, que eles entendam o que estão aceitando assim como o próprio direito de se opor ao tratamento de seus dados pessoais e dos seus filhos que também foi colocado aqui. A advogada Idara né, colocou a questão do do Código de Defesa do Consumidor indicando que a qualidade da informação transmitida ao consumidor está diretamente relacionada à formação de sua opinião e autonomia na tomada de decisão, sendo assim a liberdade de escolha de compartilhar ou não seus dados é direito básico do consumidor. Isso mostra que é preciso avançar na educação do público sobre a tecnologia e seus riscos sistêmicos garantindo o empoderamento do usuário frente à máquina. E esse é papel não só do poder público, mas também das empresas. E aí pra pra concluir, entendemos que já existem obrigações especiais qualificadas pro tratamento de dados de crianças como as previstas no artigo 14 da LGPD, mas novos desafios também se impõem, assim é preciso que a LGPD seja referência pra gente avançar em legislações mais vigorosas na proteção de dados que sejam complementares. Cabe aqui destacar que esperamos que projetos de lei como o 2 meia 2 8, como o 2 3 3 8 possam encontrar mais espaço apoiadores e aliados nos próximos meses, é importante salientar que a Câmara tem papel substancial nesse processo, de garantia dos direitos fundamentais, da proteção integral, e do superior interesse das nossas crianças e adolescentes frente a esse extrativismo da indústria global da tecnologia. Obrigada. Obrigado Lígia.

Sua participação, e eu vou passar a palavra agora pra Lilian Santos, ela que é chefe do departamento de estudos econômicos do CAD, Conselho Administrativo de Defesa Econômica, e vai participar por meio de videoconferência. Fica à vontade Lilian. Bom dia a.

Inicialmente gostaria de agradecer aqui a comissão de legislação participativa pelo convite, pro CAD trazer algumas considerações aqui pra esse debate tão relevante. Agradecer aí e cumprimentar a todos os membros da mesa, em nome do deputado André Janones, que está presidindo a audiência, e eu tenho 1 vou compartilhar aqui 1 apresentaçãozinha pra, ficar pouco mais didática. Bom, eu acho que, de maneira geral né quando a gente fala, o sempre entra nas discussões, a gente vai deixar de 1 maneira bem didática 2529 de 2011, que traz como grandes frentes de atuação do CAD 1 maneira que a gente chama preventiva na análise de fusões e aquisições né, antes que elas se concretizem, 1 análise repressiva que está ali na parte do controle né, e endereçamento de condutas anticompetitivas, e 1 análise aqui 1 atuação educativa né pra preservar ambiente concorrencial ali adequado nos mercados. O CAD é estruturado né como tribunal administrativo mas tem também 1 superintendência geral que faz toda análise e instrução processual né e decisão em primeira instância, além de órgãos aqui acessórios como o departamento de estudos econômicos que é a assessoria técnica especializada, procuradoria federal especializada junto ao CAD e ministério público junto ao CAD. Em relação a ao tema aqui da audiência né eu acho que já foram comentados ali em palavras anteriores tanto do do colega da NPD quanto também do Ministério da Justiça, a gente tem debate acerca de possível regulamentação né da inteligência artificial como todo né? Não especificamente só em relação a essa parte do treinamento da IA. O CAD se manifestou, já em relação a alguns projetos de lei né, por quê? Porque você tem toda 1 questão que as empresas estão cada vez mais utilizando né algoritmos de inteligência artificial, e essa utilização ela traz sim benefícios né então você tem ganho de eficiência tem criação de novos mercados, você tem o desenvolvimento de produtos que são valorizados pelos consumidores, mas também tem né a possibilidade ali de surgimento de novas estratégias que são consideradas anticompetitivas, tá você pode ter ali circunstâncias que aumentam né, transparência de mercado, compartilhamento de informações que a gente são concorrencialmente sensíveis, que podem suscitar ali surgimento de condutas anticompetivas que a principal delas né que todo mundo acaba ouvindo falar alguma vez que é o cartel né quando você tem concorrentes que estão ali alinhando por exemplo preços quantidades, mas pode ser também 1 região geográfica pra definição de serviços né, e também o que a gente chama de abuso unilateral de poder né de posição dominante que é quando a gente tem por exemplo 1 única empresa que tem 1 capacidade né, poder de mercado considerável e pode utilizar isso pra prejudicar os concorrentes e também né, a própria sociedade ali que é a que utiliza né o serviço né, final dessa empresa. Eu acho que o o principal que a gente tem visto né, é que pra lidar com essas inovações, a as próprias autoridades vão ter que desenvolver novas ferramentas e novas técnicas né, pra conseguir entender requisitar, inspecionar por exemplo algoritmos né então é muito importante que a gente tenha diálogo, entre a legislação de IA, e isso envolve também né, essa questão do compartilhamento ali de dados pra treinamento de IA, que é a política de defesa da concorrência. Então a gente teve ali né, tem projeto de lei 2 3 3 8 de 2023, também já foi comentado aqui anteriormente, em que você tem 1 proposta ali com vários outros apensos né da criação, de sistema nacional de regulação e governança de inteligência artificial, no qual ali, insere também né o CAD, justamente pra conseguir identificar via mecanismos de colaboração com outras autoridades então por exemplo ANPD na sua competência de análise de dados ali pessoais, outras autoridades do governo, ministérios né, pra que você tenha ali compartilhamento por exemplo de forma transparente, com confiança dos dados, e que cada 1 consiga endereçar as suas competências né, e no caso do CAD seria essa concorrencial. Acho que a gente tem sempre que falar que isso gera né maior segurança jurídica na atuação conjunta das entidades, até mesmo alavanca possíveis investigações conjuntas também. Acho que de maneira geral também foi comentado né a possibilidade de você criar sandbox por exemplo que é ambiente né todo mundo fala mas a ideia é que na verdade é ambiente que você tem umas regrinhas para treinamento, então quando você tem 1 inovação ou algo novo você tem ambiente ali que você consiga fazer esse desenvolvimento ainda de maneira controlada né então essa é 1 possibilidade no caso de inteligência artificial. Em relação a outro eixo né que é esse repressivo que o CAD tem de análise, identificação e até mesmo, condenação e aplicação de sanções, em caso de condutas anticompetitivas. É importante comentar que a gente tem hoje no CAD procedimento preparatório de, inquérito administrativo, que foi instaurado né, contra a a Meta né e o Facebook, a gente teve via 1 representação do Instituto Brasileiro de Defesa do Consumidor, o IDEC, especialmente em relação também a ponto que já foi citado aqui anteriormente, que é quando a Meta começou a utilizar ali dados pessoais públicos de seus usuários pra treinamento, definindo ali, tecnologia de inteligência artificial. Esse é caso que a gente ainda está em análise ali no, né? Então pode ser que se identifique que seja matéria de defesa da concorrência e que caminhe para inquérito, mas pode ser que se entenda que que não seja competência do CAD também. Estamos em análise, então acho que esses são alguns pontos em termos de de matéria de defesa da concorrência, em relação ao PL específico da audiência, não foram identificadas questões relativas à à defesa da concorrência né? Então, acho que essa seria as considerações gerais do kate. Obrigada. Muito obrigado.

A Lilian Santos, e eu passo a palavra agora pra Edna Dias Canetto. Ah ela não está. Então vamos passar pro Ricardo Queiroz, ele que é do departamento de ciências da computação da UNB. Legal. Em primeiro lugar muito obrigado pelo convite.

Eu vou num caminho pouco diferente de todos que vieram antes de mim, que eu estou tentando, primeiro tentando, eu acho que seria, útil né, explicar exatamente como é que funciona o processo, sem obviamente entrar em detalhes. Mas é basicamente o seguinte. O que o que eu acho, o que eu achei, pelo menos o que me falaram que a gente estava mais preocupado aqui é, com o uso de dados no treinamento das das ferramentas de inteligência artificial. E nós estamos falando de ferramentas de inteligência artificial, nós estamos falando dos dessas geradoras, ou generativas, que é o G do GPT basicamente né? Nós estamos falando basicamente de Steebel differion, difusão estável EEEE modelos de linguagem gigantes, que é o que está por trás do GPT. Então o problema, qual é o problema disso? É o uso de do uso de dados. Você com os dados você vai aprender a falar. A única coisa que o GPT faz na vida, eles só eles só deixando pra que o GPT só faz 1 coisa na vida, ele ele prevê a próxima palavra, só isso, só isso, mas nada, só a próxima palavra, depois a próxima palavra, próxima palavra, próxima palavra. Então mas de palavra em palavra ele tem que aprender a fazer sentido. Então isso é fácil, é feito com número gigante, 1 quantidade gigante, inimaginável de informação. Então provavelmente o GPT 5 está usando toda a internet. Então não adianta você falar, ah o que que vai usar, ele vai usar tudo, ponto, tudo, tudo já foi usado. Não não tem nada que não seja usado. Então isso, controverencialmente já foi né então, qual é o problema? O problema é quando gerar, então se você fizer tirar 1 monte de fotos pra pra aprender a gerar 1 pessoa, construir pessoas, o problema é que você não quer que gere que ele desenhe em você. O que você não quer quando, que o, o modelo de linguagem, o problema dele é, você não quer que quando ele vá gerar 1 resposta, ele exponha dados pessoais de pessoas. Então ele pode falar coisa genérica, mas ele não pode falar seu endereço, não pode falar onde você mora, e isso já aconteceu, porque ele foi treinado em tudo, em tudo, em tudo. Então, eu eu vou chegar num num num ponto na na minha recomendação basicamente. Então basicamente são 3 partes onde você tem que testar, o treinamento são 3 partes, 2 e tem a terceira que é a inferência. Número é o préttreinamento, préttreinamento é o P do GPT, tá? Então você vai jogar todos os dados brutos lá eles vão ser treinados, treinados, treinados, treinados. Aí você tem que garantir que tenha segurança de dados nessa fase. Depois eu passo pra 1 outra fase que chama de find Tune, que é que é o aprimoramento, você tem que garantir que tenha segurança de dados nessa segunda fase. E por último, você tem que garantir que tenha segurança de dados na última, quem inferência? O que que inferência? É quando você digita o que você quer lá e tem a sua resposta. Então basicamente o que eu quero dizer é que, eles estão perdendo seu tempo correndo atrás de regular AA0 prétreinamento E0EAE0E0E0 aprimoramentos então é perda de tempo assim, não tem sentido, não tem sentido. Primeiro que não está sob o seu controle. Isso não é no Brasil, isso é feito, por 25000 GPUs em algum lugar em Ashbourne, na Virgínia, onde tem data centers que você, se você pudesse mostrava aqui, mostrava aqui a figura de satélite já que você vai ver data center data center data center em Ashbourne, e e são milhares e milhares. Então não está, o que, então a pergunta, o que que faz? O que que faz? O que que faz? O que que faz? O que que faz? O que que faz? O que que faz? O que que faz? O que que faz? O que que você tem que fazer? Você tem que desenvolver protocolos, protocolos pra testar se a sua ferramenta está violando integridade de alguém. Então é esse que é o problema. Como é que você desenvolve esses protocolos, quais são os protocolos que você tem que fazer, você tem que seguir para que você cheque e verifique que determinada ferramenta não está não está não não é capaz de soltar dados específicos de pessoas, ou ou ou ou ou ferramentas que estão gerando música, não gere a música do fulano de tal. Onde ele se baseou pra fazer aquela aquela ou aquela arte de fulano de tal né? É é garantir que isso não aconteça. E isso, infelizmente vai ser feito na outra ponta, na ponta da da que chama de diferença, ou seja, do do depois que o depois que o, que a ferramenta já está feita né, que a ferramenta já está feita, você já tem o GPT, GPT 4, GPT 5, você vai testar o uso dela, o uso dela. Depois que ela está feita, você vai testar o uso intensivamente, intensivamente, e tem que passar por monte de testes. Aí depois passar por esses testes, ah não, então está homologado, né, vai ter que ser isso. E lá atrás ver o que que ele usou para testar. E tem outra coisa, você pode usar coisa pra pra pra testar, pra treinar, que não adianta nada. Alguém perguntou pro Morse qual foi o texto que ele usou pra fazer o código dele? Do código Morse? Ninguém sabe. Ele só usou, ele viu monte de texto e falou olha, a letra E é mais usada no inglês, então vamos dar ponto, a letra Q é menos usada. Mas ele testou ali quantos pontos, se você só pegar estatística, é 1 coisa então você, não sei se você estão entendendo, isso é 1 coisa que AAA as informações são todas meio perdidas dentro das redes neurais, que a gente não sabe como é que elas estão lá, tem a mínima ideia do que está acontecendo lá dentro, mas eles fazem tem todo acabouse tentando coibir que isso aconteça, coibir que essas esses dados vazem. Então você tem que garantir que eles tenham feito bom trabalho, né? Se não fizeram, sejam impedidos de usar, é basicamente isso, é é essa a minha sugestão. E só pra completar né, nós estamos criando centro de inteligência artificial agora na UnB, que 1 das coisas que nós vamos fazer é isso, né, tentar garantir segurança e dado, né, segurança e informação. Agora, agora, então, tentando não confundir com essa com esse outro lado que é usar 1 ferramenta que já está feita pra fazer deep new, deepfake, essas coisas é outra história, isso não tem nada a ver. Isso a ferramenta já está feita, já está pronto já está montada, isso aí é 1 é lei, é outro problema, é lei, assim, você é uso malicioso de 1 ferramenta como você podia usar uso malicioso de outra coisa. Estou falando é lá dentro da rede neural ter suas informações e vazar, esse que é o grande problema, porque ela usou todas as suas informações. É isso que a gente você tem que garantir que isso não aconteça. Bom, sem ter a sirene aqui pra me mandar parar eu vou parar. Professor você se incomoda se eu fizer algumas perguntas e Bom. Porque achei muito.

Assim acho que é sempre importante né ouvir quem está trabalhando com os modelos e conhece enfim como que esses dados são processados e, não parece assim ou importante olhar ainda que o treinamento dessas 2 ferramentas já esteja feito, mas olhar pro treinamento daqui pra diante, ou seja, dos dados e das formas de coleta desses dados que estão disponíveis, enfim, subtração, raspagem, enfim, olhar pra isso e pra que tipo de de problema pode gerar ou o senhor realmente acha que esse é 1 frente perdida prescrito? Não não é prescrito, é é que é é luto em glória, né? Luta em glória,

Tem outra coisa, tem outra ferramenta que é muito importante que ninguém fala, fala muito, que é o que todo mundo está usando, que chama RAG, né? RHG o que que é? Você vai quer fazer 1 GPT, apropriado aqui para a Câmara dos Deputados, só com coisas da Câmara dos Deputados. Eu quero dizer, não quero falar sobre essas coisas, falar sobre a Câmara dos Deputados. Então o que que você faz? Você pega todos os documentos da Câmara dos Deputados, coloca numa máquina que mastiga gera 1 1 coisa chama de vetores, chama vetorização, que é 1 ciência, digamos que seja 1 ciência oculta de como é que você vai fazer isso e coloca lá. Aí quando você faz 1 pergunta sobre qualquer coisa, para o chat para o chat GPT, ele vai lá nessa base de vetor, busca quais são os vetores mais apropriados dessa base da Câmara dos Deputados, e junta com sua pergunta, e isso que é jogado por o GPT. Aí quando ele volta ele já volta, você mandou monte de dados pra ele e vai voltar negócio muito mais destruído porque o contexto não é só a sua pergunta, quem é o presidente da câmara? Sabe ele vai voltar? Aí ele já vai voltar com monte de dados lá dentro então aí ele já vai responder muito certo. Aí é outro problema, você tem que saber quem é que fez esses dados, quem que vai soltar esses dados porque pode simplesmente soltar dados que você não quer. O que eu estava falando deputado é que o problema é não é treinar, o treinar é o os dados que estão lá dentro, o problema é quando você fizer 1 pergunta, você não quer que ela saia, que ela cuspe de volta a inteligência artificial o GPP, dos seus dados pessoais. Porque eles pegaram seus dados pessoais do problema que eles podem e já teve erro então eles tentam eles fazem possível pra isso não acontecer mas pode acontecer. Está lá dentro, ninguém sabe direito como é que está ninguém sabe direito como é, onde é que está como é que como é que ela aprendeu entendeu? Mas está lá dentro então pode ser que custe por negócio fora, e tem que garantir que isso não aconteça, sabe? Então, o que eu estava propondo era em vez de ir pelo outro lado a gente tem que, em vez de concentrar no no tem que ter arcabouço, tem que ter protocolos pra garantir que isso não aconteça, depois sabe? Como eu te amo, GPT por exemplo, então eu não tenho garantia de que aqui tudo que eu estou compartilhando, não vai ser utilizado pra responder à pergunta de outros usuários por exemplo? Não, esse não isso não vai acontecer. Quer dizer, pode ser até que aconteça, não sei, eles fizeram muita coisa, no começo não não tinha isso aí, o que você escreveu não não não não não vai afetar o próximo. Mas o que já foi feito no GPT 5 provavelmente já usou o mundo inteiro, já usou toda a internet ponto ponto tudo tudo acabou. Já chegaram no fim, sabe? Chegou no fim pode voltar agora. Cheguei no fim da internet, pode pode voltar. Então, é difícil chegar e falar o que que eu faço agora, agora tem que eu estava que eu estou advogando é você pegar o negócio que está pronto e fazer muitos testes homologato ali. É basicamente eles têm que garantir homologato ali, 1 série de protocolo, 1 série de testes pra garantir que aquilo ali não vai cuspir nenhuma informação protegida, de ninguém. E agora pra proibir que, como AAA Natalie perguntou, e se, dá pra você, é você pode fazer as outras leis se você não pode de de proteção de dados em geral né? Você tem que investir onde é que está o seu, sabe o o as poucas balas você tem né? Investindo investir. Ricardo obrigado. Agradeço pelas

Colaborações, os nossos expositores, e eu vou Pode encerrar? Pode encerrar? Então vamos almoçar né gente? Agradecer a todos vocês, audiência extremamente esclarecedora, inclusive pra mim, e eu espero que a gente possa, agora fazer com 1 inteligência artificial, só que com a inteligência humana, a gente possa mastigar tudo que foi discutido aqui, pra que a gente, e possamos também fazer o, emprestar a nossa voz, né, pra que os projetos passem adiante, e que a gente possa aí logo logo sair da teorização e ir pra prática quem sabe propondo 1 legislação aí que seja modelo, referência inclusive pra outros países porque a gente sabe que esses problemas são problemas de ordem global. Então eu gostaria novamente de agradecer a participação dos nossos expositores e expositoras que muito contribuíram para os debates. Nada mais havendo a tratar. Vou encerrar a presente reunião. Antes porém gostaria de convocar os deputados e deputados membros desse colegiado para a reunião deliberativa ser realizada amanhã, 4 de dezembro de 2024, às 14 horas neste mesmo plenário 13. Está encerrada a presente reunião.