Inteligência artificial está dando vantagem aos hackers

Criminosos cibernéticos estão usando cada vez mais a IA (Inteligência Artificial) para aprimorar golpes, criar conteúdos falsos e até invadir sistemas.

Nos Estados Unidos , as vítimas perderam mais de US$ 893 milhões em crimes relacionados ao uso de IA no ano passado, segundo dados do FBI.

O avanço da tecnologia também tem levantado preocupações dentro da própria indústria. No início deste mês, a OpenAI informou que um teste de inteligência artificial saiu do controle e atacou sistemas além do Hugging Face , plataforma que inicialmente parecia ser a única vítima do incidente em um laboratório virtual.

A Anthropic também revelou que agentes de IA conseguiram acessar a internet durante testes e invadir sistemas de outras empresas.

Embora os episódios não tenham resultado no comprometimento de dados de clientes, os casos reacenderam o debate sobre os riscos do uso de agentes autônomos e sobre a segurança dos sistemas conectados à internet.

Para o neurocientista e especialista em inteligência artificial Álvaro Machado Dias , a tecnologia já deixou de ser apenas uma possibilidade para os criminosos e passou a ser uma ferramenta efetiva.

“No crime, a inteligência artificial já funciona de verdade. E funciona, em grande medida, porque o erro custa muito pouco a quem a utiliza.”

Um dos principais exemplos do uso criminoso da inteligência artificial são os deepfakes — conteúdos sintéticos produzidos por IA capazes de substituir rostos, alterar imagens ou clonar vozes em vídeos e áudios.

A tecnologia pode ser usada em fraudes financeiras, campanhas de desinformação e crimes contra a privacidade, incluindo a produção e divulgação não autorizada de imagens íntimas.

Segundo um relatório da Gallup, cerca de 12% das vítimas de golpes nos Estados Unidos afirmaram que o crime envolveu inteligência artificial ou deepfake.

O FBI também alerta para o uso de imagens e vozes falsas de celebridades, CEOs e outras figuras consideradas confiáveis. Segundo a agência, essa tecnologia cria novas “oportunidades fraudulentas de alto risco”.

No ano passado, vítimas perderam mais de US$ 632 milhões em golpes de investimento relacionados à inteligência artificial.

Uma das estratégias é utilizar a identidade de pessoas conhecidas para criar uma sensação de confiança e urgência. Se uma pessoa aparecer em um vídeo ou uma gravação de voz solicitando dinheiro, dados pessoais ou acesso a uma conta, especialistas recomendam não realizar a ação imediatamente.

A orientação é interromper o contato e confirmar a solicitação por outro meio, utilizando um número de telefone, endereço de e-mail ou outro canal que já seja conhecido e confiável.

A clonagem de voz também passou a ser utilizada em golpes que exploram situações de emergência. Criminosos podem usar poucos segundos de uma gravação para criar uma voz sintética capaz de imitar um familiar e, em seguida, ligar para a vítima alegando estar em uma situação de perigo e precisar de dinheiro.

Segundo Laurel Cook, professora de marketing e pesquisadora de bem-estar digital da Universidade da Virgínia Ocidental, a tecnologia permite criar situações de pressão em tempo real.

De acordo com dados do FBI, as vítimas relataram perdas superiores a US$ 5 milhões em fraudes desse tipo no ano passado.

“Nossa capacidade humana de detectar problemas é inadequada, por isso muitas vezes fica aquém da sofisticação da tecnologia”, afirmou.

Uma das estratégias recomendadas pela pesquisadora é estabelecer previamente uma forma de verificar a identidade de familiares e amigos, como uma palavra ou código de segurança que possa ser utilizado em situações de emergência.

Inteligência artificial: ferramenta substitui 80% das funções, alerta Head da General Atlantic

A inteligência artificial não é usada apenas para criar falsificações. Golpistas também podem utilizá-la para convencer usuários a instalar ou autorizar aplicativos maliciosos.

Esses programas podem conseguir acesso a e-mails, contatos, arquivos e outras informações armazenadas nos dispositivos ou nas contas das vítimas.

Uma das recomendações de especialistas é revisar periodicamente os aplicativos conectados às contas e remover aqueles que não são reconhecidos ou que não são mais utilizados.

Serviços como Google e Microsoft oferecem ferramentas para verificar aplicativos e serviços que possuem acesso às contas. Redes sociais, como o Instagram, também permitem consultar dispositivos conectados e configurações de segurança.

Embora ferramentas de detecção baseadas em inteligência artificial possam ajudar a identificar conteúdos manipulados ou tentativas de fraude, especialistas alertam que esses sistemas também estão sujeitos a erros.

Por isso, a principal defesa continua sendo a verificação independente da informação.

Em golpes por telefone, por exemplo, o número que aparece na tela, a voz da pessoa, a familiaridade com quem está falando e até a urgência apresentada durante a conversa já não são evidências suficientes para confirmar uma identidade.

Como explica Álvaro Machado Dias, o problema está justamente na diferença entre o custo do erro para a vítima e para o criminoso.

“Um deepfake ruim, uma voz sintética que falha ou um e-mail mal escrito não geram multa, processo nem dano reputacional para o golpista. Ele simplesmente tenta de novo, com outra vítima. Empresas legítimas gastam muito para reduzir as falhas dos modelos; o fraudador pode transferir quase todo esse custo para quem está do outro lado.”

Por isso, diante de qualquer pedido de dinheiro, dados pessoais, códigos de segurança ou acesso a contas, a recomendação é não tomar nenhuma decisão com base apenas no contato recebido.

“Em golpes por ligação, o princípio mais importante é deixar de tratar a própria chamada como ambiente de verificação. Voz, número na tela, familiaridade e urgência hoje representam evidências insuficientes de identidade . Sempre que houver pedido de dinheiro, dados ou alguma ação sensível, a confirmação precisa acontecer fora daquele contato e isso precisa ser iniciado por você”, afirmou Álvaro.

Com a clonagem de voz e a criação de imagens e vídeos falsos cada vez mais acessíveis, a inteligência artificial amplia as possibilidades para os criminosos. Ao mesmo tempo, a principal forma de reduzir o risco continua sendo simples: desconfiar da urgência, interromper o contato e confirmar a informação por um canal independente e conhecido.

Nova IA da Meta usa fotos de perfis abertos para gerar imagens

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/tecnologia/inteligencia-artificial-esta-dando-vantagem-aos-hackers/.