Anthropic alerta que, em breve, IAs poderão se espalhar sozinhas até em TVs

A Anthropic alertou em uma publicação nesta semana que modelos de IA podem estar a poucos meses de ter capacidade o suficiente para se espalharem por conta própria em dispositivos conectados à internet, incluindo TVs e câmeras de segurança.

A desenvolvedora testou as habilidades dos modelos para configurar sua própria replicação em diferentes tipos de aparelho. O experimento aconteceu em um ambiente isolado e controlado.

Alguns dos modelos conseguiram se autorreplicar em oito dos nove tipos de equipamento testados, que incluíam TVs Boxes, Smart TVs, câmeras de segurança conectadas, eletrodomésticos inteligentes (como geladeiras e fornos) e dispositivos Android.

O modelo GLM-5.2 foi o único que conseguiu completar todo o ciclo de replicação, desde identificar as brechas nos sistemas até iniciar as cópias de si mesmo.

O estudo apontou que um modelo de 26 bilhões de parâmetros (considerado intermediário) conseguiu rodar em 15 TV Boxes Android de baixo custo. Já um de 30 bilhões de parâmetros (também intermediário) já consegue executar várias etapas individuais necessárias para se replicar sozinho, sem intervenção humana .

A Anthropic concluiu que, no ritmo atual de evolução , mesmo IAs menores poderão atingir esse nível de capacidade até o fim de 2026.

A empresa chamou os modelos que conseguem se espalhar automaticamente de “vermes de IA”. Segundo a Anthropic, eles são diferentes de vírus tradicionais porque conseguem usar a IA para se adaptar a novos dispositivos e ambientes específicos, sem necessidade de programação humana.

O estudo mostrou que mesmo dispositivos baratos e pouco protegidos, como o caso dos eletrodomésticos, podem fornecer capacidade computacional suficiente para executar esses modelos de IA.

Uma das preocupações é a capacidade deles se replicarem em aparelhos IoT (internet das Coisas). Trata-se de uma rede de objetos físicos inteligentes capazes de coletar e compartilhar dados entre eles e com a nuvem.

Outro temor é sobre a capacidade de aprendizado contínuo desses “vermes”. Nos testes, os modelos conseguiram absorver experiências de versões anteriores e melhorar sua própria taxa de sucesso.

Mesmo com o alerta, a Anthropic afirma que uma IA autorreplicante ainda seria lenta, levando de um a dois dias para se espalhar.

Ainda de acordo com a desenvolvedora, não existe uma IA deste tipo operando no mundo real de forma perigosas. Por enquanto, a empresa viu apenas “sinais iniciais” de capacidades que poderiam levar a esse cenário no futuro.

A Anthropic sugeriu algumas medidas que ajudariam a proteger os dispositivos, como eliminar senhas padrão, monitorar tráfego suspeito de rede e isolar esses dispositivos assim que eles forem identificados.

Prompt CNN: Anthropic monta laboratório de biologia com IA | FECHAMENTO DE MERCADO

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/anthropic-alerta-que-em-breve-ias-poderao-se-espalhar-sozinhas-ate-em-tvs/.