Durante essa semana, o streamer Brandon "Atrioc" Ewing veio a público se desculpar por ter exposto que possui "pornografia deepfake" com rostos de streamers globalmente conhecidas - algumas que, inclusive, fazem parte de seu ciclo de amigos.
A tecnologia deepfake consiste, basicamente, em alterar digitalmente o rosto de uma pessoa em um vídeo ou foto. Dessa forma, pessoas aleatórias podem ter seus rostos adicionados em situações nas quais elas nunca estiveram.
Assim como outras tecnologias, o deepfake pode ser usado tanto negativamente quando positivamente. Para algumas streamers mundialmente famosas, porém, a experiência com a tecnologia vem sendo um pesadelo.
Enquanto estava com a transmissão ao vivo aberta, Atrioc revelou um website similar ao OnlyFans que continha diversos vídeos deepfake com o uso dos rostos de criadoras de conteúdo. Para ter acesso ao material, usuários precisavam pagar uma assinatura para o criador responsável pela página.
Para se desculpar, ele disse que acabou clicando, sem querer, em um anúncio.
Após a repercussão, usuários acabaram tendo acesso ao site que produzia os conteúdos pornográficos falsos - o que aumentou a visibilidade da plataforma. O portal Vice informou que o responsável pela criação destes vídeos removeu todo o conteúdo e se desculpou publicamente.
Entre as criadoras de conteúdo afetadas, estavam Imane "Pokimane" Anys, Sweet "Anita" Anita e Blaire "QTCinderella". Anita e QTCinderella - que foi indicada como Criadora de Conteúdo do Ano no The Game Awards 2022 - utilizaram suas redes sociais para comentarem o ocorrido.
Mesmo com a crescente popularização da tecnologia deepfake, poucos estados possuem leis contra essa prática. Nos Estados Unidos, apenas Virginia e Califórnia proíbem pornografia com deepfake em seus territórios.
Dessa forma, apenas QTCinderella poderia utilizar o sistema legal para processar o responsável. A streamer reside na Califórnia e, portanto, poderia iniciar um processo legal com base na lei AB 602 - que proíbe o uso da imagem alheia para conteúdos de teor sexual.
Para tentar minimizar a situação, plataformas como Reddit, Discord e PornHub baniram o uso da tecnologia deepfake em seus websites - mas isso não impede que os usuários utilizem qualquer outro site para o consumo deste conteúdo.
No Brasil, o uso não consensual das características de um indivíduo para deepfake pode se enquadrar como uma infração de maior grau caso envolva fins sexuais.
Levando em consideração que grande parte dos crimes virtuais ainda são pouco explorados pelo sistema legal, não é possível afirmar que todas as criadoras de conteúdo vítimas desta situação poderão seguir com um processo.