IA descobre falha em sistema de agendamento e fura fila para usuário

Um agente de IA operado pelo Claude teria encontrado uma brecha em um sistema de reserva de aulas de uma academia e cancelado a vaga de outro cliente sem autorização. Este seria o primeiro registro público documentado na Austrália em que um agente de IA burla o sistema de uma empresa comercial para cumprir uma tarefa.

O caso foi revelado pelo desenvolvedor Andrew Bird, que havia configurado a ferramenta para conseguir participar de aulas matinais muito disputadas. Segundo a ABC News , o agente rodava na ferramenta de código aberto OpenClaw, com o modelo Opus 4.6 do Claude .

Bird teria configurado o OpenClaw para tentar reservar uma vaga em aulas de uma academia, evitando o processo de atualizar a página manualmente. Num primeiro momento, a ferramenta teria conseguido colocá-lo na quarta posição da lista, mas informou ter encontrado uma vulnerabilidade no software de agendamento.

Sem que o usuário pedisse, a IA teria identificado um caminho para fazer reservar com meses de antecedência, além do limite permitido a clientes comuns.

Bird, então, teria perguntado se era possível apenas subir na fila. A ferramenta detectou que a API da plataforma não verificava corretamente a autorização para cancelamento de reservas e cancelou a vaga do primeiro colocado, movendo o desenvolvedor da quarta para a terceira posição.

Notas compartilhadas pela ferramenta mostram que o OpenClaw não conseguiu reverter o cancelamento da matrícula do ex-primeiro colocado. Bird então a fez a inteligência artificial escrever um email à plataforma de reservas explicando a vulnerabilidade.

Esse é mais um episódio recente do que especialistas da área chamam de problema de alinhamento: quando um sistema segue a meta definida pelo usuário, mas escolhe meios inadequados ou não autorizados para alcançá-la.

A indústria passou a observar casos assim com mais frequência no fim de julho, quando a OpenAI divulgou que alguns de seus modelos de IA teriam conseguido explorar falhas dos ambientes de testes para “fugir”, acessar a internet e hackear sites reais .

Depois, a Anthropic trouxe à tona outros casos , a Meta seguiu o mesmo caminho e o modelo chinês Kimi K3 conseguiu fugir de uma sandbox . As revelações em um curto período de tempo fazem com que o setor acumule críticas. O ex-diretor de cibersegurança dos Estados Unidos, Chris Inglis, afirmou que as invasões ocorrem pela falta de limites .

Outras pessoas desconfiam que as empresas estejam usando os casos para fazer marketing do potencial de suas próprias IAs, mesmo que isso coloque dados e sistemas de terceiros em risco.

IA descobre falha em sistema de agendamento e fura fila para usuário

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/ia-descobre-falha-em-sistema-e-fura-fila-para-o-usuario/.