Anthropic vai identificar textos e imagens gerados pelo Claude

A Anthropic vai começar a identificar conteúdos gerados pelo Claude com metadados e marcas d’água digitais imperceptíveis ao olho humano. A mudança será aplicada a textos, imagens e outros arquivos de mídia produzidos pelos novos modelos de inteligência artificial .

A empresa anunciou a medida como resposta às exigências de transparência do Regulamento de Inteligência Artificial da União Europeia. As regras entraram em vigor em 2 de agosto e obrigam que sejam adotados mecanismos para indicar quando um conteúdo foi criado por IA.

Embora a obrigação venha da União Europeia, a Anthropic aplicará a mudança globalmente em diferentes formas de acesso ao Claude, incluindo APIs, aplicativos comerciais e interações em nuvem com parceiros como AWS, Google Cloud e Microsoft Foundry.

A Anthropic adotará dois tipos de identificação, dependendo do conteúdo gerado. Para textos, o Claude passará a inserir uma marca d’água na estrutura das respostas, algo semelhante ao que o Google faz com as imagens geradas através do Gemini — o chamado SynthID.

Essas marcas não aparecem no conteúdo, como o logo do Gemini em imagens geradas pela IA do Google, ou o texto “Meta AI” em edições feitas pelo sistema da empresa de Mark Zuckerberg.

A dona do Claude não deu nome à marca, mas, assim como a solução da gigante das buscas, ela não deve alterar o conteúdo . Além disso, deve continuar associada ao texto mesmo se o usuário copiá-lo e transferir para outro programa.

Para imagens e arquivos visuais, a identificação será feita por meio de metadados de procedência com assinatura digital. O padrão usado será o C2PA, protocolo aberto já adotado por empresas como Adobe, OpenAI e Google. Não custa lembrar: a Anthropic ainda não possui modelos nativos de geração de imagens, mas é capaz de gerar arquivos de texto em formatos como PNG, JPG ou SVG.

A implementação começa pelos modelos lançados a partir da data em que as novas obrigações europeias entraram em vigor. Ou seja, sistemas que chegarem a partir de 2 de agosto já devem ter a identificação ativa.

Para modelos e produtos criados antes dessa data, a Anthropic afirma que ainda “trabalha para adicionar o suporte”. A legislação europeia prevê um período de carência de quatro meses para esse tipo de ajuste, segundo o The Verge .

A empresa também informou que pretende lançar documentação técnica e ferramentas próprias para que terceiros e plataformas online possam verificar, no futuro, se um conteúdo foi produzido pelo Claude.

É importante notar que essas identificações de conteúdo gerado por IA não são à prova de fraude. Metadados em padrão C2PA, por exemplo, podem desaparecer quando arquivos são enviados para determinadas redes sociais ou convertidos para outros formatos.

A própria Anthropic alerta a possibilidade da marca d´água se perder caso o conteúdo gerado seja reescrito, traduzido ou se o texto for curto demais.

Além disso, maioria das plataformas ainda não sinaliza o uso de IA com muito destaque. YouTube e Instagram, por exemplo, adicionam uma pequena marcação de possível uso em espaços pouco visíveis de suas interfaces, e isso apenas para imagens e vídeos.

Anthropic vai identificar textos e imagens gerados pelo Claude

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/anthropic-vai-identificar-textos-e-imagens-gerados-pelo-claude/.