Jefferson, 
03 de fevereiro de 2018, 
Um usuário do Reddit chamado “deepfakes” começou a publicar no mês passado vídeos onde apresentava o resultado do passatempo dele: usar algoritmos de “deep learning” para fazer trocas convincentes de rostos em vídeos. O resultado é espantoso: clipes pornô falsos de celebridades que uma pessoa comum juraria que se não é verdadeiro é de um sósia.
E para terminar de **der com tudo ele demonstrou que é muito fácil fazer isso e publicou as ferramentas. Começou uma explosão de vídeos falsos na internet. Um site foi criado (CUIDADO: PORNÔ HARDCORE!) com alguns exemplos. No site você escolhe uma celebridade e uma atriz pornô e vê um vídeo já submetido por alguém com a troca de rostos. Algumas trocas são irreconhecíveis mas outras são perturbadoras. Confira este de Emma Watson (apenas nudez parcial, sem sexo):
Junte com isso a ignorância e estupidez da geração Facebook, que já aceita qualquer boato insano como verdade absoluta, e agora com “provas” em vídeo estamos todos **didos. Temos eleições este ano e isso certamente vai ser usado pelos suspeitos de sempre. Mas a estupidez das redes sociais também vai destruir muitas reputações fora do círculo político com a ajuda dessa tecnologia.
Eu ainda não sei do que os algoritmos precisam da “vítima” para trabalhar, mas eu suspeito que quanto mais fotos e vídeos existirem do seu rosto à disposição do falsário, pior. Se você é pai de uma adolescente bonita e narcisista, prepare-se, porque o que não falta no mundo é adolescente desocupado. E o que sobra no Brasil é impunidade para estes.
Não é necessário um vídeo da vítima. O algoritmo apenas precisa de “algumas centenas de fotos” para analisar.
Juntando com esta tecnologia que permite manipular as expressões em vídeos e o Adobe VoCo, o falsário poderá fazer o vídeo falso dizer o que quiser, com a voz da vítima.
E o cara publicou essas ferramentas aonde?
Se não me engano a FakeApp reúne tudo o que é preciso. Eu não testei.
É um tanto “esclarecedor” ver nos comentários gente que usa Linux pedindo a um indivíduo que claramente usa Windows uma versão Linux da ferramenta ou instruções para fazer rodar no Wine. Patético.
Nem vou falar dos usuários de MacOS fazendo o mesmo pedido.
O autor da app criou um site para ela.
Obrigado! Isso é assustador, mas tem boas aplicações comerciais (e legais) possíveis envolvidas.
Certamente tem. Já existe um exemplo no youtube de alguém tentando fazer uma Princesa Léia mais realista que a de The Force Awakens. Por um lado eu acho muito bom que uma tecnologia desse porte esteja ao alcance de todo mundo. Mas infelizmente ela já começou sendo usada para o mal. O “tarado” em mim baba com os deepfakes mas o “homem civilizado” sabe que isso é muito errado.
Eu pensei na aplicação principalmente em publicidade. A agência faz um filme com um determinado ator, que no final acaba não ficando tão bom, ou é reprovado pelo cliente. Ao invés de se refazer todo o filme, que tem um custo alto, se aplica o rosto de outro ator. Isso, é claro, estando bem especificado em contrato e com autorização de todos os envolvidos. Pode diminuir muitos custos, inclusive.
O que só é viável porque ninguém de uma grande empresa de CGI viu isso antes de se tornar público. Teriam comprado, patenteado e você só poderia usar pagando quase a mesma coisa que refazer o filme.
Agora que se tornou público, supondo que não infrinja uma patente já existente, todo mundo pode usar, inclusive comercialmente.
Se o autor for esperto, em breve ele lança uma versão atualizada e melhorada para uso comercial. E deixa uma versão meia boca para uso aberto.
Esse gato não volta mais para o saco. O autor da fakeapp é só um cara que criou uma GUI para simplificar o processo explicado pelo autor original. O conjunto de ferramentas original é de código aberto, baseado na Tensorflow.
Oh my God!!! onde vamos parar???
mas tá difícil, tem coisa fake pra tudo hoje em dia: olha isso
Ah, Jeff, desculpe a sumida; novos projetos demandando tempo.
Uma coisa que eu esqueci de mencionar aqui é que Hollywood, claro, já tem uma tecnologia para mudar rostos de atores bem avançada. Essa tecnologia foi usada, por exemplo, em “What Happened to Monday” onde Noomi Rapace contracena com seis cópias dela mesma que na verdade são outras atrizes e “The Social Network” onde os irmãos gêmeos são dois atores distintos. Mas a tecnologia usada nesses filmes parece usar uma abordagem diferente e não é “deep learning”.