Criação de deepfakes com nudez é desenfreada entre os jovens

"The Amazing Generation" co-authors Jonathan Haidt and Catherine Price join Jake Tapper to discuss their book and how kids can lead fulfilling lives in a world dominated by technology.

Apenas 30% dos adolescentes afirmam que algum professor já falou sobre como usar a IA com segurança, de acordo com uma nova pesquisa realizada pela Common Sense Media com jovens de 13 a 17 anos.

Os resultados sugerem que os jovens não estão tendo conversas sobre alfabetização em IA — incluindo como se manterem seguros, como a inteligência artificial funciona e como descobrir se os chatbots são precisos, disse o coautor do estudo, Michael Robb.

“Na maior parte dos casos, isso ainda não está acontecendo”, disse Robb, chefe de pesquisa da Common Sense Media, uma organização sem fins lucrativos de mídia e educação infantil com sede em São Francisco.

Uma limitação do estudo é que os alunos podem não estar cientes do que está incluído em seus currículos escolares, disse Robb. A Common Sense Media também não sabe o quão eficaz é o ensino de IA para a minoria de adolescentes que o recebem, acrescentou.

Como era de se esperar, o estudo também descobriu que 70% dos adolescentes usam IA para fazer a lição de casa.

Os pais provavelmente já sabiam que precisam conversar com seus filhos sobre como garantir que a IA não substitua o aprendizado deles. Já expliquei anteriormente como fazer isso — e como ensinar as crianças a proteger sua privacidade e verificar as informações que recebem da IA.

Mas você sabia que também precisa conversar com seus filhos sobre como se manterem seguros ao se depararem com conteúdo criado com IA?

Quando se trata de IA, “temos ficado um pouco presos a questões muito simplistas, como ‘você a usa para trapacear ou não?’”, disse Robb. Essa linha de questionamento não aborda se as crianças estão fazendo outras coisas prejudiciais, como interagir com deepfakes de nudez.

Deepfakes de nudez são imagens ou vídeos criados por inteligência artificial que são pornográficos ou fazem uma pessoa parecer estar sem roupa.

Criar deepfakes de nudez está “num nível que quase se pode considerar um comportamento normal para adolescentes”, disse o Dr. Chad Steel, professor adjunto de perícia digital na Universidade George Mason em Fairfax, Virgínia, que não participou do estudo.

“Existe uma subestimação fundamental e provavelmente uma concepção errada por parte dos adultos sobre a frequência e o grau de familiaridade dos adolescentes com o uso da IA ​​generativa”, disse Steel, referindo-se à inteligência artificial generativa.

Como os deepfakes de nudez são uma novidade, os especialistas desconhecem os efeitos duradouros nas vítimas, afirmou Steel. No entanto, os pesquisadores sabem que as vítimas de material de abuso sexual infantil às vezes são contatadas ou rastreadas por pessoas que acessam o conteúdo ao longo de suas vidas, observou ele. As imagens também podem ser usadas por predadores que podem ameaçar enviá-las aos pais ou amigos de uma possível vítima, a menos que as crianças paguem ou atendam a outras exigências.

Como já alertei antes , quando imagens íntimas de uma pessoa acabam online, isso pode dificultar que ela encontre um relacionamento amoroso ou um emprego, além de aumentar o risco de agressão sexual, depressão e suicídio.

Então, o que os pais devem fazer em relação a esse risco?

Primeiro, converse com seus filhos sobre por que eles nunca devem criar, compartilhar ou interagir com deepfakes de nudez.

Uma das razões pelas quais as crianças podem se sentir tão à vontade para usar IA na criação de conteúdo sexual é a familiaridade com aplicativos que permitem “experimentar” roupas, mostrando seus avatares vestindo-as. Portanto, seus filhos podem não entender a grande diferença entre experimentar um maiô em uma figura semelhante a eles online e não usar roupa alguma, de acordo com Steel.

“As crianças certamente não entendem como se proteger, e que essas imagens podem ser permanentes e podem ficar disponíveis para sempre”, disse ele.

Steel sugeriu explicar às crianças que, uma vez que imagens sexualizadas são publicadas online, as pessoas podem salvá-las em seus arquivos de imagens privados ou dispositivos pessoais, e pode se tornar impossível retirá-las da esfera pública.

Também é importante ensinar crianças e adolescentes mais novos a evitar se tornarem vítimas de deepfakes de nudez criados por terceiros. Assim que publicam uma foto comum de si mesmos online, qualquer pessoa com acesso a ela pode usar inteligência artificial para colocar a foto do rosto deles em uma imagem de um corpo nu.

Para evitar que isso aconteça, ensine as crianças a postarem fotos apenas em contas privadas — e não em contas públicas — e a garantir que elas confiem em seus amigos e seguidores, sugeriu Steel.

Limitar o acesso de estranhos às fotos de nossos filhos e educá-los sobre os malefícios dos deepfakes é a melhor maneira de protegê-los, disse ele.

Essas conversas devem acontecer em idades mais precoces do que os pais imaginam. Se as crianças começarem a falar sobre conteúdo sexualizado na terceira ou quarta série, esse é o sinal para iniciar essa conversa, disse Justine Carino, psicoterapeuta do condado de Westchester, em Nova York, que atende jovens e não participou do estudo. Caso contrário, por volta da quinta série, inicie a conversa você mesmo, acrescentou.

“Muitos pais têm esse mito”, disse Carino. Eles se preocupam que, se conversarem sobre assuntos relacionados a sexo, estarão dando permissão para que seus filhos façam sexo. “Na verdade, o oposto já foi comprovado”, afirmou. Tenha essa conversa um pouco antes do que você acha que deveria, “porque assim é proativo e preventivo”.

Também é importante ensinar às crianças o que fazer se seus amigos criarem ou compartilharem deepfakes com conteúdo adulto, disse Carino.

“Precisamos conversar com nossos filhos sobre a importância de terem confiança para defender o que consideramos certo e errado e dizer: ‘Não, eu não quero me envolver nisso, e acho que também não é uma boa ideia para você’”, disse ela.

As crianças precisam saber que “nunca é preciso dizer ‘sim’ para que alguém as aceite”, disse Carino. “Nunca é preciso dizer ‘sim’ para ter amigos. Os amigos vão te pedir coisas com as quais você não se sente confortável, e você tem o direito de dizer ‘não’.”

Lembre também seus filhos de que eles podem contar com você para pedir ajuda, disse ela. Você pode dizer algo como: “Se você vir um amigo fazendo algo que seja inseguro ou arriscado, espero que conte para um adulto de confiança, como eu, como mãe ou pai, ou um professor, um treinador ou os pais do seu amigo.”

Esse tipo de conversa também pode ajudar a proteger as crianças de outros perigos. “Quanto mais você iniciar essas conversas, mais à vontade seus filhos se sentirão para recorrer a você caso surja algum problema em suas vidas”, disse Carino.

Manter um diálogo aberto com seus filhos os ajudará a desenvolver habilidades que também lhes serão úteis antes que os pais se conscientizem dos perigos online que possam surgir.

AO VIVO: O USO DA INTELIGÊNCIA ARTIFICIAL NAS ELEIÇÕES - QUEM CONTROLA A TECNOLOGIA? | WW ESPECIAL

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/saude/criacao-de-deepfakes-com-nudez-e-desenfreada-entre-os-jovens/.