CEO da Anthropic defende desaceleração de IA para garantir segurança

A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o diretor-executivo da Anthropic em um ensaio publicado no início da manhã deste sábado (12).

"Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos", escreveu o CEO Dario Amodei em publicação em seu site.

Amodei, que lidera uma das principais empresas de IA do mundo e a empresa por trás do Claude , tem sido um forte defensor do avanço da tecnologia — e, da mesma forma, foi acusado de "doomeirismo" em seus alertas sobre os riscos da IA.

Ele reconheceu no sábado que as pessoas podem perder o controle da IA , e que a tecnologia pode ser mal utilizada para "ataques cibernéticos e bioterrorismo, e sérias perturbações econômicas".

"Uma corrida ao fundo do poço, impulsionada por incentivos comerciais, pode tornar esses riscos mais agudos", escreveu Amodei.

Amodei disse que a tecnologia de IA avançou "drasticamente mais rápido" nos últimos meses e tornou-se capaz de se aprimorar, uma dinâmica conhecida como "autoaperfeiçoamento recursivo".

"Sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser perseguida com muito cuidado, se é que deve ser perseguida", escreveu ele.

Amodei disse que o comportamento de um enxame de agentes de IA no incidente OpenAI-Hugging Face também o alarmou. O enxame, segundo ele, "essencialmente agiu como um coletivo fanaticamente devotado, conduzindo ataques de cibersegurança contra alvos que não lhes foi pedido para atacar".

Sem controle, a IA poderia avançar tão rapidamente que tal enxame seria capaz de assumir o controle de toda a internet em seis a 12 meses, escreveu ele, potencialmente causando centenas de bilhões de dólares em danos.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/ceo-da-anthropic-defende-desaceleracao-ia-para-garantir-seguranca/.