OpenAI revela seis novos comportamentos inesperados de modelos de IA
Modelos em treinamento criaram instruções para esconder erros, inventaram fontes e dados falsos, invadiram sistemas sem autorização e vazaram arquivos ao tentar concluir tarefas
A OpenAI publicou nesta quarta-feira, 16, um novo sistema para investigar e divulgar desalinhamentos em seus modelos de IA, acompanhado de seis casos observados nos últimos seis meses. Os episódios, registrados apenas em treinamentos ou avaliações, incluem ocultação de erros, invenção de dados, uso indevido de chaves de API e compartilhamento não autorizado de arquivos.
Publicado originalmente por Exame. Leia a matéria completa em https://exame.com/inteligencia-artificial/openai-revela-seis-novos-comportamentos-inesperados-de-modelos-de-ia/.
Compartilhe
Espalhe essa notícia