Noutro dia, minha irmã envia-me uma fotografia de como será ela com 60 anos de idade. É este o grande sucesso do Verão 2019, uma app para smartphones cujo nome é FaceApp. Produzido em 2017 pela empresa Wireless Lab OOO, com sede em São Petersburgo (Rússia), FaceApp tem hoje mais de 80 milhões de usuários activos e o número não pára de crescer.

O que é tão atraente no FaceApp? Primeiro de tudo, o uso é muito fácil e imediato: uma vez baixado gratuitamente do PlayStore (ou da AppleStore), basta tirar uma foto em primeiro plano (uma selfie) com o celular e, em seguida, o aplicativo irá transformá-la com filtros especiais. Até aqui nada de estranho: há centenas de programas gráficos que modificam e alteram as fotos, então o que há de especial nisso?

Para entende-lo, temos que conhecer o coração e o cérebro de FaceApp: poderosos algoritmos de A.I., a Inteligência Artificial O próprio fundador da empresa Lab OOO, Goncharov (com um passado na Microsoft), explica: “desenvolvemos uma nova tecnologia que usa redes neuronais para alterar realisticamente o rosto nas fotos”. De facto, o que diferencia esta app de todas as outras é o foto-realismo. Em apenas alguns segundos, com apenas um clique, é possível mudar a cara: penteado, sexo, idade… Existem 21 filtros diferentes capazes de modificar as imagens, dos quais alguns apenas na versão paga (3.99 Euros para uma assinatura mensal; 19.99 Euros para a assinatura anual, 43.99 Euros para sempre). Os resultados são chocantes, tanto pelo realismo quanto pela qualidade, e essa é a razão pela qual as redes sociais (Facebook, Instagram, etc.), de repente, tornaram-se hospícios cheios de pessoas idosas.

Quais são os perigos? Porque há perigos. Primeiro de tudo: enquanto os escravos do Império gostam de ver-se como estarão em 30 ou 50 anos, as suas fotos transitam em vários servidores estrangeiros (onde serão armazenadas e processadas) tanto nos Estados Unidos (onde a FaceApp alega estar baseada) quanto em qualquer outro País onde FaceApp tem afiliados e/ou servidores (como a Rússia). O que acontece com essas fotos? E quanto tempo podem ser mantidas? A empresa de Goncharov, obviamente, não especifica: não sabemos quanto tempo as imagens serão armazenadas nos seus discos rígidos ou onde os servidores estão fisicamente localizados. Resultados: com FaceApp está a criar-se um imenso arquivo onde, além dos dados normalmente recolhidos com as apps (as famosas “autorizações”…), agora há também a nossa cara em primeiro plano.

Mais importante: as imagens serão usadas por redes neuronais como treino de A.I. no reconhecimento facial, para fins comerciais ou mesmo para outros fins, muito menos positivos. O sistema que explora a tecnologia na base das redes neuronais melhora à medida que analisa rostos, pelo quantas mais caras forem analisadas, mais o sistema ficará melhor na criação de pessoas “sintéticas”, que não existem, mas tão reais que se torna impossível distingui-las. Com FaceApp estamos a fornecer milhões de rostos para o treino, de forma gratuita ou até pagando algo: 3.99 Euros por mês, como vimos.

Hoje é possível criar identidades falsas que podem ser associadas a perfis sociais reais: imaginem um número impensável de usuários (Facebook, Instagram, Twitter, etc.), totalmente inventados mas absolutamente realistas, que podem influenciar a opinião pública. Aqui não falamos do clássico troll, que vasculha a rede para criar caos porque pago para fazê-lo: o discurso é muito mais complexo. Mas a coisa melhor é um bom exemplo:

Isso é falso, não é Mark Zuckerberg a falar: é um vídeo criado há poucas semanas por dois artistas ingleses, Bill Posters e Daniel Howe, com a tecnologia chamada DeepFake. É a mesma tecnologia usada por Hollywood nos filmes, mas hoje está ao alcance de (quase) todos e isso abre cenários inimagináveis ​​e, no mínimo, perturbadores. Tecnicamente é possível criar um exército de perfis falsos, enriquecidos com fotos e vídeos falsos, mas tudo parece ser real.

Outro exemplo é este curto excerto dum vídeo pornográfico difundido na rede social Reddit e que tem como protagonista a actriz Daisy Ridley:

Mas Daisy Ridley nunca gravou este vídeo, trata-se outra vez da A.I. utilizada na tecnologia DeepFake. E já existe um site (MrDeepfakes) que difunde vídeos pornográficos com os rostos de celebridades.

Mas a pornografia é o mal menor. o conjunto A.I. mais DeepFake permite extrair um vídeo da internet, substituir o rosto com aquele da pessoa que desejarmos para fazer-lhe dizer e/ou fazer o que quisermos. E, em seguida, colocar o resultado novamente na web.

Os executivos de Facebook afirmam estar muito preocupados com o crescimento desse fenómeno (o próprio Marck Zuckerberg sabe algo sobre isso, como vimos) e dizem estar a tomar medidas para limitar ao máximo o uso indevido da tecnologia. Limites para os utilizadores da internet: mas qual limite poderá ser imposto às agências governamentais?

Ipse dixit.