Nos últimos anos, houve um aumento significativo no uso de tecnologias de inteligência artificial, também conhecida como IA, para criar deepfakes, que são nada menos que vídeos ou imagens manipuladas para parecerem reais, com um grande potencial para causar caos na sociedade se for usada de forma mal intencionada, sendo um dos objetos de estudo da ExpressVPN a respeito de como a ascensão dos deepfakes afetará a memória das pessoas. 

Além disso, a tecnologia de deepfakes também levanta preocupações de segurança, como a possibilidade de uma pessoa ser enganada ao acreditar em um vídeo ou imagem falsa e tomar decisões prejudiciais com base nessa informação falsa. Como resultado desses perigos, muitos governos e empresas estão investindo em pesquisa para detectar deepfakes e melhorar a segurança digital. 

O desenvolvimento de tecnologias avançadas de IA para detecção de deepfakes, bem como o aumento da conscientização pública sobre os riscos, são considerados essenciais para enfrentar esse desafio crescente e proteger a integridade da informação online.

Como Deepfakes afetam nossas memórias?

Embora a tecnologia de deepfakes tenha sido usada inicialmente para fins humorísticos e de entretenimento, ela agora está sendo usada para fins maliciosos, incluindo disseminação de notícias falsas e golpes financeiros. Esses avanços em IA permitiram que os criadores de deepfakes produzissem resultados cada vez mais realistas, tornando mais difícil distinguir o que é real do que é falso, fazendo surgir preocupações constantes sobre como o uso de deepfakes para manipular a opinião pública e prejudicar a reputação de indivíduos e organizações irá acontecer com mais frequência.

Um dos principais efeitos dos deepfakes é que eles podem nos fazer acreditar que algo que nunca aconteceu realmente aconteceu. Isso pode levar a uma forma de "falsas memórias", em que acreditamos ter vivenciado algo que nunca aconteceu. Isso pode ser especialmente perigoso em situações legais, onde a credibilidade das testemunhas é crucial.

Além disso, os deepfakes também podem afetar a forma como interpretamos as nossas próprias memórias. Como nossas memórias são frequentemente baseadas em imagens, sons e outras experiências sensoriais, as deepfakes possuem um grande poder para influenciar nossa percepção da realidade e afetar nossas memórias existentes.

Em um estudo realizado por pesquisadores da Universidade de Warwick, os participantes assistiram a um vídeo manipulado de um protesto violento e, em seguida, relataram lembranças falsas de ter visto coisas que não estavam no vídeo, evidenciando como os deepfakes podem afetar a nossa capacidade de distinguir entre o que é real e o que é falso, sendo um grande estudo que mostra como é necessário termos meios de como identificar deepfakes.

O aumento dos deepfakes e da inteligência artificial pode ter um impacto significativo em nossas memórias e em como as percebemos. É importante estar ciente dessas tecnologias e continuar pesquisando maneiras de detectar e prevenir deepfakes, a fim de proteger a integridade de nossas memórias e da nossa percepção da realidade.

Perigos que podem ser causados por Deepfakes

Desconfiança frequente

A exposição frequente a deepfakes pode fazer com que as pessoas questionem a autenticidade de todos os vídeos, mesmo aqueles que são genuínos. Isso pode causar um nível de desconfiança e paranoia em relação às informações que estão sendo consumidas.

Um dos exemplos recentes foi o caso do Papa Francisco que teve uma imagem compartilhada nas redes sociais em que vestia uma roupa fora do comum, fazendo com que muitos duvidassem da credibilidade da foto e se ele estaria realmente usando vestimentas com um estilo distante da sua religião.

Manipulação de evidências

A confusão gerada por uma deepfake pode tornar uma memória distorcida, afetando o modo como a pessoa pensa sobre determinado evento em questão, sendo especialmente perigoso em situações legais, em que a memória de uma testemunha pode ser comprometida por um vídeo manipulado.

Propagação de desinformação

Os usuários podem usar deepfakes para disseminar desinformação e usar isso como forma de manipulação, espalhando notícias falsas através do recurso e prejudicando tanto questões como democracia, como também a credibilidade da mídia e afetar todos os setores da sociedade em vários níveis.

Ameaças à segurança

Várias pessoas podem usar deepfakes para fins criminosos, seja para o roubo de informações e dados pessoais, como também  para sabotagem em nível nacional ou internacional, utilizando vídeos falsos que foram criados para retratar líderes estrangeiros dizendo coisas que podem causar tensão ou conflitos, como aconteceu com o presidente ucraniano, Volodymyr Zelensky, que teve um vídeo deepfake compartilhado em que nele anunciava a rendição das tropas ucranianas ao governo russo, gerando mais conflitos em meio a guerra entre os países.