Anthropic impulsion de watermarks de IA gera onda de ferramentas para removê-las
A implementação de marcas d'água (watermarks) em textos gerados por modelos da Anthropic, como o Claude, visava aumentar a transparência e cumprir regulamentações da União Europeia. No entanto, a medida gerou resistência entre usuários que temem que textos revisados ou traduzidos por IA sejam marcados como inteiramente gerados por máquinas. Em resposta, ferramentas de código aberto para remover essas marcas d'água ganharam popularidade rápida no GitHub e em plataformas de busca, evidenciando a dificuldade técnica de criar sistemas de identificação que sejam resistentes a modificações e ferramentas de remoção.
Reação da comunidade e ferramentas de remoção
A introdução de padrões estatísticos de escolha de palavras pela Anthropic levou ao surgimento de ferramentas como o 'Watermarks Remover' e o 'MarkScrub'. Desenvolvedores argumentam que a marca d'água trata a autoria como algo binário, o que prejudica usuários que utilizam a IA apenas para edição leve. O interesse por ferramentas de remoção de marcas d'água nos EUA subiu 60% em uma semana.
Desafios regulatórios e técnicos
Embora a União Europeia exija que as empresas de IA implementem sistemas de marca d'água resilientes, não há proibição explícita contra ferramentas de terceiros que busquem removê-las. Especialistas apontam que, sempre que uma ferramenta de detecção é tornada pública, é possível criar ferramentas para contorná-la. O uso dessas ferramentas de remoção pode colocar usuários em zonas cinzentas legais se forem utilizados para falsificar a autoria humana de conteúdos gerados por IA.