Proposta da deputada Marta Costa quer proibir uso de IA para produção de imagens íntimas manipuladas sem consentimento
A Comissão de Constituição, Justiça e Redação da Assembleia Legislativa do Estado de São Paulo (Alesp) aprovou o Projeto de Lei 257/2024, de autoria da Marta Costa (PSD), que proíbe o uso de inteligência artificial para criação de “deep nudes” — imagens e vídeos manipulados digitalmente para simular nudez sem autorização da pessoa retratada.
A proposta recebeu parecer favorável do deputado Fábio Faria de Sá (Podemos) e seguirá agora para análise da Comissão de Ciência, Tecnologia, Inovação e Informação antes de ser votada em plenário.
Projeto busca combater manipulação de imagens íntimas
O texto proíbe o desenvolvimento, distribuição, comercialização, divulgação e utilização de aplicativos ou sistemas de inteligência artificial voltados à produção de conteúdos íntimos falsos.
Segundo a justificativa apresentada pela deputada Marta Costa, o avanço das ferramentas de IA aumentou os riscos de violação da privacidade e exposição não autorizada de pessoas nas plataformas digitais.
“Este projeto visa proteger a privacidade e a dignidade das pessoas”, destacou a parlamentar na proposta.
Tema ganhou repercussão após denúncias em redes sociais
O debate sobre “deep nudes” ganhou força nos últimos meses após usuárias da rede social X, antigo Twitter, denunciarem que imagens pessoais estavam sendo manipuladas por sistemas de inteligência artificial para gerar conteúdos falsos de nudez ou sexualização.
Embora o projeto tenha sido protocolado em abril de 2024, antes da repercussão recente, a proposta passou a ganhar maior atenção diante do crescimento desse tipo de conteúdo nas redes sociais.
Plataformas digitais poderão ser responsabilizadas
Além da proibição direta, o texto prevê responsabilização de plataformas digitais pela detecção e remoção de conteúdos considerados irregulares.
As empresas também deverão colaborar na identificação de aplicativos e sistemas de IA utilizados para criação das imagens manipuladas.
Segundo o artigo 3º do projeto, a produção, venda ou utilização dessas ferramentas poderá ser enquadrada como infração sujeita a multas e demais penalidades previstas na legislação.
Projeto ainda passará por novas etapas
Após análise na comissão de tecnologia da Alesp, a proposta seguirá para votação em plenário.
Caso seja aprovada pelos deputados estaduais, o texto ainda dependerá de sanção para virar lei em São Paulo.