Especialistas alertam para risco de alimentar IA com informações pessoais

A inteligência artificial (IA ) é uma ferramenta de tecnologia usada no dia a dia de milhares de pessoas para ajudar a automatizar processos, esclarecer dúvidas e produzir conteúdos. Para que ela tenha um bom desempenho, geralmente os usuários precisam abastecê-la com diversas informações e comandos, os famosos prompts. Porém, em busca de uma resposta mais precisa, as pessoas podem acabar revelando demais sobre a própria vida.

Segundo especialistas, nem sempre é problemático revelar demais — mas depende da ferramenta . Muitas delas fazem backups, mas outras podem não armazenar de fato todos os conteúdos para economizar espaço. O maior risco é, na verdade, o tipo de dado e informação pessoal disponibilizado. Informações sensíveis estão expostas ao risco de vazamento.

O professor Laerte Peotta de Melo, do Departamento de Engenharia Elétrica da Universidade de Brasília (UnB), alerta que o fornecimento de dados como senhas, códigos de autenticação, CPF, RG, dados bancários, exames médicos e documentos corporativos permite à ferramenta criar um perfil minucioso que pode não estar protegido.

“Ao longo do tempo, o acúmulo de detalhes do dia a dia — como profissão, hábitos, localização, rotina familiar e condição financeira — permite a correlação dessas informações, criando um perfil detalhado sobre o indivíduo”, reforça. Pedro A. Galvão Junior, professor da Faculdade de Tecnologia (Fatec) São Roque, em São Paulo, confirma que superabastecer as ferramentas faz com que elas criem um perfil da pessoa que as usa cotidianamente. Um dos sinais de que isso acontece é que, às vezes, nem é necessário que o usuário pense para escrever um prompt . A ferramenta já entrega uma série de informações de antemão.

“Uso essas ferramentas todos os dias. Tenho observado que elas já entendem minha forma de trabalhar com código e têm domínio sobre minhas ações”, relata.

Outro problema é que plataformas muito genéricas, que respondem sobre tudo, geralmente usam os dados inseridos pelos usuários para ensinar o algoritmo a responder melhor . Falhas de segurança podem acabar fazendo com que a IA use as suas informações para responder perguntas de outras pessoas.

É essencial pensar duas vezes antes de abastecer a IA com seus dados pessoais. Senhas, valores, dados bancários, detalhes sobre a saúde, documentos e informações sobre o trabalho não devem ser disponibilizados . É possível perguntar sem dar detalhes.

Melo destaca que algumas empresas, quando precisam fazer análises de contrato com a ajuda da ferramenta, recorrem ao uso de Shadow AI, que é uma espécie de “uso oculto” do sistema.

Publicado originalmente por Metrópoles. Leia a matéria completa em https://www.metropoles.com/ciencia/especialistas-alertam-para-risco-de-alimentar-ia-com-informacoes-pessoais.