Anthropic enfrenta críticas de especialistas sobre marca d'água em textos do Claude
A implementação de marcas d'água em conteúdos gerados pelo modelo Claude, para cumprir regulamentações da União Europeia, gerou críticas de especialistas como John Gruber. A medida visa criar padrões estatísticos na escolha de palavras para identificar textos de IA sem o uso de caracteres ocultos.
Controvérsia sobre a integridade da escrita
O blogueiro de tecnologia John Gruber classificou a estratégia da Anthropic como uma 'perversão da escrita'. Gruber argumenta que a seleção de palavras por um LLM deve ser baseada exclusivamente na precisão e na melhor escolha para o usuário, e não em fatores externos como a detecção de IA. Ele afirmou que qualquer fator além das necessidades do usuário na geração de texto é 'evidentemente ofensivo'.
Conformidade com a legislação da União Europeia
A Anthropic introduziu a marca d'água para cumprir o AI Act da União Europeia, que exige que textos gerados por inteligência artificial sejam marcados em formato legível por máquina. A empresa afirma que o método não impacta a qualidade da saída e não utiliza caracteres ocultos, mas sim altera sutilmente o processo de seleção de palavras para criar um padrão estatístico em termos que seriam intercambiáveis no contexto.
Impacto na base de usuários
A polêmica sobre o plano de marca d'água gerou preocupação entre técnicos e levou alguns usuários do Claude a cancelarem suas assinaturas. No entanto, a Anthropic informou ao Business Insider que não identificou um aumento significativo no volume de cancelamentos até o momento.