FaceApp, DeepFake, Inteligência Artificial…

Noutro dia, minha irmã envia-me uma fotografia de como será ela com 60 anos de idade. É este o grande sucesso do Verão 2019, uma app para smartphones cujo nome é FaceApp. Produzido em 2017 pela empresa Wireless Lab OOO, com sede em São Petersburgo (Rússia), FaceApp tem hoje mais de 80 milhões de usuários activos e o número não pára de crescer.

O que é tão atraente no FaceApp? Primeiro de tudo, o uso é muito fácil e imediato: uma vez baixado gratuitamente do PlayStore (ou da AppleStore), basta tirar uma foto em primeiro plano (uma selfie) com o celular e, em seguida, o aplicativo irá transformá-la com filtros especiais. Até aqui nada de estranho: há centenas de programas gráficos que modificam e alteram as fotos, então o que há de especial nisso?

Para entende-lo, temos que conhecer o coração e o cérebro de FaceApp: poderosos algoritmos de A.I., a Inteligência Artificial O próprio fundador da empresa Lab OOO, Goncharov (com um passado na Microsoft), explica: “desenvolvemos uma nova tecnologia que usa redes neuronais para alterar realisticamente o rosto nas fotos”. De facto, o que diferencia esta app de todas as outras é o foto-realismo. Em apenas alguns segundos, com apenas um clique, é possível mudar a cara: penteado, sexo, idade… Existem 21 filtros diferentes capazes de modificar as imagens, dos quais alguns apenas na versão paga (3.99 Euros para uma assinatura mensal; 19.99 Euros para a assinatura anual, 43.99 Euros para sempre). Os resultados são chocantes, tanto pelo realismo quanto pela qualidade, e essa é a razão pela qual as redes sociais (Facebook, Instagram, etc.), de repente, tornaram-se hospícios cheios de pessoas idosas.

Quais são os perigos? Porque há perigos. Primeiro de tudo: enquanto os escravos do Império gostam de ver-se como estarão em 30 ou 50 anos, as suas fotos transitam em vários servidores estrangeiros (onde serão armazenadas e processadas) tanto nos Estados Unidos (onde a FaceApp alega estar baseada) quanto em qualquer outro País onde FaceApp tem afiliados e/ou servidores (como a Rússia). O que acontece com essas fotos? E quanto tempo podem ser mantidas? A empresa de Goncharov, obviamente, não especifica: não sabemos quanto tempo as imagens serão armazenadas nos seus discos rígidos ou onde os servidores estão fisicamente localizados. Resultados: com FaceApp está a criar-se um imenso arquivo onde, além dos dados normalmente recolhidos com as apps (as famosas “autorizações”…), agora há também a nossa cara em primeiro plano.

Mais importante: as imagens serão usadas por redes neuronais como treino de A.I. no reconhecimento facial, para fins comerciais ou mesmo para outros fins, muito menos positivos. O sistema que explora a tecnologia na base das redes neuronais melhora à medida que analisa rostos, pelo quantas mais caras forem analisadas, mais o sistema ficará melhor na criação de pessoas “sintéticas”, que não existem, mas tão reais que se torna impossível distingui-las. Com FaceApp estamos a fornecer milhões de rostos para o treino, de forma gratuita ou até pagando algo: 3.99 Euros por mês, como vimos.

Hoje é possível criar identidades falsas que podem ser associadas a perfis sociais reais: imaginem um número impensável de usuários (Facebook, Instagram, Twitter, etc.), totalmente inventados mas absolutamente realistas, que podem influenciar a opinião pública. Aqui não falamos do clássico troll, que vasculha a rede para criar caos porque pago para fazê-lo: o discurso é muito mais complexo. Mas a coisa melhor é um bom exemplo:

 

Isso é falso, não é Mark Zuckerberg a falar: é um vídeo criado há poucas semanas por dois artistas ingleses, Bill Posters e Daniel Howe, com a tecnologia chamada DeepFake. É a mesma tecnologia usada por Hollywood nos filmes, mas hoje está ao alcance de (quase) todos e isso abre cenários inimagináveis ​​e, no mínimo, perturbadores. Tecnicamente é possível criar um exército de perfis falsos, enriquecidos com fotos e vídeos falsos, mas tudo parece ser real.

Outro exemplo é este curto excerto dum vídeo pornográfico difundido na rede social Reddit e que tem como protagonista a actriz Daisy Ridley:

 

Mas Daisy Ridley nunca gravou este vídeo, trata-se outra vez da A.I. utilizada na tecnologia DeepFake. E já existe um site (MrDeepfakes) que difunde vídeos pornográficos com os rostos de celebridades.

Mas a pornografia é o mal menor. o conjunto A.I. mais DeepFake permite extrair um vídeo da internet, substituir o rosto com aquele da pessoa que desejarmos para fazer-lhe dizer e/ou fazer o que quisermos. E, em seguida, colocar o resultado novamente na web.

Os executivos de Facebook afirmam estar muito preocupados com o crescimento desse fenómeno (o próprio Marck Zuckerberg sabe algo sobre isso, como vimos) e dizem estar a tomar medidas para limitar ao máximo o uso indevido da tecnologia. Limites para os utilizadores da internet: mas qual limite poderá ser imposto às agências governamentais?

 

Ipse dixit.

2 Replies to “FaceApp, DeepFake, Inteligência Artificial…”

  1. Max: já tem aplicativo para saber quando vou morrer: Seria útil porque a gente sempre tem de deixar algumas coisas arranjadinhas…mas periga não ter.
    Quanto a minha cara, se estivar viva daqui a uns poucos anos, nem pensar, não quero. Esses imbecis projetam uma cara que será aquela, se nenhuma variável sair do controle. Digamos que eu desenvolvesse um câncer no nariz nos próximos tempos, adivinhariam? Desculpa, eles não são imbecis, sabem muito bem o que mais precisam coletar para o bio controle mundial. Imbecis são os usuários, que além de tudo, pagam.
    Bons tempos aqueles em que os pintores sabiam fazer esse trabalho, e muito bem feito, sem nenhum prejuízo , que não fosse o bolso de quem encomendava a obra.

Obrigado por participar na discussão!

%d bloggers like this: