Ele foi contratado para achar falhas no Claude — e agora alerta sobre o fim da humanidade
Especialista lidera equipe na Anthropic para encontrar falhas de segurança no modelo de IA e afirma que chance de extinção humana supera 10% na próxima década
Evan Hubinger foi contratado para desconfiar da própria empresa em que trabalha. O pesquisador lidera, dentro da Anthropic , a dona do Claude , uma equipe criada especificamente para tentar quebrar os sistemas de segurança que a companhia mesma desenvolve — um cargo raro, que o coloca literalmente dentro da indústria de inteligência artificial (IA), não como crítico de fora olhando para dentro.
Publicado originalmente por Exame. Leia a matéria completa em https://exame.com/inteligencia-artificial/ele-foi-contratado-para-achar-falhas-no-claude-e-agora-alerta-sobre-o-fim-da-humanidade/.
Compartilhe
Espalhe essa notícia