Ana estava a entrar na escola quando se apercebeu dos risinhos e dos olhares. Parecia que toda a gente olhava para ela. Primeiro veio o espanto, depois o medo. Por que tantos e tantas olhavam para ela? Por que sorriam ou se riam? Seria da roupa ou dos sapatos? Do cabelo? Do seu aspeto físico? Por que razão era o centro das atenções?
Ana não sabia, mas o cérebro deu-lhe mil razões nos minutos que decorreram entre a chegada à escola e a entrada na sala de aula. Envergonhada e preocupada, evitou quem lhe apareceu à frente e sentou-se no seu lugar, calada, olhando para baixo.
Uma colega foi até ela e perguntou-lhe se já tinha visto o vídeo. O choque chegou quando a colega lhe perguntou se ela tinha entrado num filme porno. Ana ficou sem fala. A colega disse-lhe que andava a ser partilhado um vídeo em que aparecia em cenas sexuais, aparentando ser um excerto de um filme porno.
Para Ana, tudo aquilo era mentira. Para os colegas que receberam e visualizaram o vídeo, era verdade. Só que não era Ana no vídeo. Ou melhor, era. A cara. Mas não o corpo. A sua imagem tinha substituído a imagem da mulher que aparecia no vídeo original, parecendo ser ela a ter relações sexuais.
Ana sentiu-se humilhada, aterrorizada, violada. Despida em frente aos colegas, professores e auxiliares. Uma tempestade de emoções que a abalou e promete deixar marcas para o resto da vida. Que violou o seu íntimo, a sua autodeterminação, a sua honra e a sua reputação, a sua imagem perante os colegas e a escola.
A história de Ana pode ser fictícia, mas os factos são bem reais. As deepfakes (manipulação de imagens e vídeos) têm aumentado exponencialmente, sobretudo com o advento da IA e a evolução da qualidade da manipulação. Chegámos – sim, é verdade, já chegámos – ao ponto em que já não podemos ter a certeza sobre se o que vemos é verdadeiro ou manipulado.
A manipulação da verdade há muito que é usada, em vários domínios, como na política. Há muito que candidatas a cargos políticos, ou atrizes (as vítimas são, quase sempre, mulheres e crianças), são humilhadas e expostas online com vídeos falsos. Na semana passada, a revista Wired dava conta de mais de 100 políticos europeus (quase só mulheres) expostos em vídeos manipulados, disponíveis em sites de deepfakes, nos quais até se pode criar vídeos com recurso a IA.
O uso de IA, para dar aparência de veracidade a imagens falsas, é apenas mais um passo. O poder da verdade da mentira é tremendo. O maior problema é que a manipulação configura violência sexual e provoca vítimas, como a Ana desta história e todas as Anas (e também rapazes e homens) que são alvo das deepnudes, ou do deepfake porn.
Qualquer smartphone atual tem uma IA disponível na ponta do dedo. As lojas da Apple e da Google têm aplicações gratuitas com esta funcionalidade. Um estudo recente da EU Kids Online apurou que 85% das crianças e dos jovens usam IA generativa. E 22% tiveram acesso a conteúdos pornográficos. Em segundos ou poucos minutos, um jovem ou uma criança (e hoje em dia a maioria dos jovens tem um smartphone) pode pedir à IA para criar uma foto ou um vídeo pornográfico, simplesmente com base numa foto que tirou a uma rapariga da escola. E a IA satisfaz-lhe o pedido. Sem perguntas, sem filtros, sem bloqueios.
Por trás desta nova realidade, foram criadas redes criminosas, que idealizaram e exploram o negócio. Desde a venda de conteúdos explícitos manipulados, como a chantagem para obter ganhos financeiros. No Brasil, segundo uma notícia recente, foram já detetados 80 sites nos quais é possível manipular imagens e vídeos de teor sexual. Falamos em milhares de crianças e mulheres vítimas.
A nível internacional, muito se tem discutido sobre a melhor maneira de combater e travar esta forma de criminalidade. Mas também o papel e as obrigações das plataformas eletrónicas e das empresas criadoras de IA, que lucram biliões com esta tecnologia. A sua responsabilização é inevitável. Na Europa, tem sido discutida e aprovada legislação específica, com alguma polémica à mistura devido à possibilidade de vigilância em massa das redes sociais, incluindo plataformas de conversação (como o WhatsApp), para detetar e bloquear conteúdos ilegais. Também na semana passada, a Comissão Europeia apresentou a Proposta de Regulamento KIDS – Keeping Internet Digital Spaces Accountable and Trustworthy com vista a reforçar em toda a UE a segurança online das crianças.
Discute-se o limite e se os meios justificam os fins. Em particular, o risco de um qualquer governo, diretamente ou através das empresas detentoras das plataformas, poder ler e escutar tudo o que escrevemos e dizemos, mesmo sem indícios de crime. Isto ao mesmo tempo que se reforça o direito à privacidade, nomeadamente no tratamento de dados pessoais. Um aparente paradoxo, mas uma discussão necessária e difícil. Sem o mínimo de privacidade ou reserva da intimidade, não existe verdadeira liberdade.
Mas até onde podemos ir para evitar as partilhas e apanhar os criminosos que fabricam e/ou divulgam estes conteúdos? Até onde estamos dispostos a ceder na nossa privacidade e na nossa liberdade para nos protegermos?
Por outro lado, não é simplesmente proibindo que se trava o problema. É ensinando, explicando, alertando. E educando, sobretudo os rapazes, que isto não é uma mera brincadeira com o telemóvel – é crime. E é muito grave. Temos de começar bem cedo a educar as crianças para o respeito pelo outro, por uma cultura de não violência, seja digital, doméstica ou sexual. Nas escolas e em casa. O segredo está em prevenir. As crianças têm de saber, pelos pais, pelas mães e pelos professores, o que é errado e o que é certo. Porque se não sabem por estes, saberão, da pior forma, pelas redes sociais e pelo universo digital. E aí já poderá ser tarde demais.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
