Faltando apenas algumas semanas, os legisladores estão tentando aprovar novas proteções para vítimas de danos online antes do final de 2026, visando criadores de deepfakes e plataformas online que impedem os usuários de entrar com ações judiciais.
Na terça-feira, membros de um subcomitê do Judiciário do Senado organizaram uma audiência pedindo o fim da arbitragem forçada para danos online. Seu alvo imediato era Roblox, que eles acusaram de evitar reclamações legais sobre crianças supostamente tratadas na plataforma, aplicando sua própria cláusula de arbitragem forçada contra usuários que concordaram com os termos como menores, em alguns casos até com menos de 10 anos de idade. Separadamente, a alguns quarteirões de distância, os deputados Alexandria Ocasio-Cortez (D-NY) e Laurel Lee (R-FL) trouxeram a herdeira do hotel Paris Hilton ao Capitólio para defender o Defiance Act, que permitiria às vítimas de deepfakes íntimos não consensuais processam seus criadores.
“A melhor coisa que podemos fazer em termos de aplicação da lei é abrir as portas do tribunal”, disse o senador Josh Hawley (R-MO), que preside o subcomitê do Judiciário, aos repórteres após a audiência do Roblox. “Quanto mais vejo essas empresas fugirem das regulamentações, mais penso que não há nada tão poderoso quanto um júri.” Hawley apresentou um novo projeto de lei com o membro graduado Dick Durbin (D-IL) para tornar os acordos de arbitragem inexequíveis para disputas sobre suposta exploração sexual infantil ou “lesões cibernéticas infantis”, que podem incluir “danos à reputação, sofrimento mental” ou morte.
“A melhor coisa que podemos fazer em termos de fiscalização é abrir as portas do tribunal”
A Roblox tem procurado fazer cumprir sua cláusula de arbitragem em ações judiciais que enfrenta por alegações de que usuários foram tratados como menores na plataforma de jogos, apesar das reivindicações de proteção da empresa. Roblox enfrenta cerca de 180 ações judiciais em um caso consolidado sobre seu suposto papel na falha na proteção de crianças. No processo de arbitragem, o público não veria descobertas legais como as que vieram à tona em casos recentes contra a Meta. Hawley chamou o sistema de júri de “à prova de corrupção” e “um martelo incrivelmente grande”.
Roblox negou que esteja tentando evitar a responsabilização. “A segurança tem sido fundamental para o Roblox desde o lançamento. Exigimos verificações de idade para bate-papo, colocamos usuários menores de 16 anos em contas baseadas na idade com padrões de proteção e bloqueamos imagens e vídeos no bate-papo”, disse o chefe global de políticas públicas da Roblox, Nicky Jackson Colaço, em um comunicado. “Uma posição legal sobre arbitragem não é uma medida do histórico de segurança de uma empresa, e uma audiência construída em torno dela não consegue promover a segurança.”
O Congresso tem apenas pouco mais de três semanas restantes de sessão antes do final do ano, e uma nova maioria democrata será empossada em janeiro. Espera-se que os republicanos façam o seu melhor para aprovar os nomeados do presidente Donald Trump para cargos de juiz e no poder executivo, como o de comissário da FCC na sessão manca, bem como tentem aprovar projetos de lei de final de ano, como a Lei de Autorização de Defesa Nacional, que muitas vezes inclui uma série de outros itens políticos. Mas alguns legisladores têm esperança de poder abrir os tribunais a novos litígios sobre abuso de deepfake e predação infantil.
O litígio tornou-se uma das formas mais bem-sucedidas para os sobreviventes de danos online buscarem mudanças. O Congresso não conseguiu aprovar muitos projetos de lei importantes sobre segurança infantil, privacidade e proteção ao consumidor, embora tenha começado a abordar a questão do deepfake por meio da Lei Take It Down. Ao mesmo tempo, os procuradores-gerais e os queixosos individuais obtiveram acordos e ganhos legais significativos, apesar do amplo âmbito do escudo legal da tecnologia, a Secção 230. Se projectos de lei como a Lei de Desafio ou aqueles que procuram pôr fim à arbitragem forçada fossem aprovados, as empresas tecnológicas e os perpetradores de danos online poderiam tornar-se vulneráveis a uma nova onda de desafios legais.
“Você ficará surpreso com a rapidez com que a empresa mudará seu comportamento depois de ser processada em tribunal público”
Além do projeto de lei de Hawley e Durbin sobre arbitragem forçada, os senadores Richard Blumenthal (D-CT), Katie Britt (R-AL) e Cory Booker (D-NJ) apresentaram um projeto de lei semelhante com uma abordagem ligeiramente diferente, incluindo a cobertura explícita de violações de privacidade de dados. Na audiência da Roblox, a professora de direito da Northwestern University, Myriam Gilles, especialista em arbitragem forçada, disse que testemunhou perante o Congresso muitas vezes sobre este assunto, mas “nunca esperou comparecer perante este órgão para falar sobre seu uso contra crianças de 9 anos”. A aprovação de qualquer uma das propostas, disse ela, teria um impacto profundo. “Você ficará surpreso com a rapidez com que a empresa mudará seu comportamento depois de ser processada em tribunal público.”
A Lei Defiance permitiria que as vítimas de deepfakes íntimos não consensuais processassem os seus criadores por danos, numa tentativa de aumentar o custo da criação deste tipo de imagens. Hilton visitou Washington no início deste ano para compartilhar como um vídeo íntimo e não falso dela aos 19 anos, compartilhado sem seu consentimento, impactou sua vida, e ela usou sua história para defender a Lei de Desafio. Na coletiva de imprensa desta terça-feira, ela disse que voltaria ao Congresso quantas vezes fossem necessárias para que o projeto se tornasse lei. “Algumas pessoas podem ter pensado que esse era o fim da minha luta”, disse Hilton. “Mas quando faço uma promessa aos sobreviventes, eu a mantenho.”
Hilton disse que mais de 50 milhões de pessoas foram vítimas de deepfakes sexualmente explícitos. “Para mim, pessoalmente, estranhos criaram mais de 100.000 imagens e vídeos explícitos gerados por IA, retratando-me das formas mais gráficas e perturbadoras imagináveis”, disse Hilton. “Se isso pode acontecer com alguém com meus recursos e minha plataforma, imagine quão impotente uma jovem pode se sentir ao enfrentar isso completamente sozinha.”
Os comentários de Hilton foram seguidos por Elliston Berry, um defensor que disse que uma colega de classe fez uma imagem explícita e profunda de seu grupo de amigos “a partir de uma postagem inocente nas redes sociais” quando ela tinha 14 anos, e a distribuiu por toda a escola. “Em questão de segundos, minha sensação de segurança desapareceu”, disse ela. “Para mim, a Lei Defiance significa o reconhecimento de que as vítimas merecem ser ouvidas, que a sua experiência é importante e que o seu direito de procurar justiça não deve depender da rapidez com que a tecnologia avança.”