O ChatGPT vai começar a colocar uma marca-d’água invisível em textos gerados pela inteligência artificial. A OpenAI anunciou nesta segunda-feira (5) o textGrain , tecnologia que altera discretamente as escolhas de palavras do modelo para criar um padrão identificável por ferramentas específicas. O recurso será implementado nas próximas semanas para usuários do ChatGPT e do Codex na União Europeia. A medida segue um caminho adotado recentemente pela Anthropic, dona do Claude, que anunciou sua própria marca-d’água para textos em agosto. Nos dois casos, a mudança busca atender às regras de transparência do AI Act europeu , que exige que conteúdos produzidos por sistemas de IA possam ser identificados por máquinas. Por enquanto, usuários do ChatGPT no Brasil não devem receber o “carimbo” automaticamente. A OpenAI afirma que o lançamento ficará restrito à União Europeia em um primeiro momento, embora clientes da API em qualquer país já possam ativar a tecnologia voluntariamente em modelos compatíveis. Como funciona o “carimbo” do ChatGPT? A marca-d’água não aparece como uma etiqueta no texto e também não adiciona caracteres invisíveis, espaços extras ou informações escondidas ao copiar e colar uma resposta. O textGrain atua durante a geração do conteúdo. Modelos de linguagem calculam diferentes possibilidades para a próxima palavra ou parte de palavra, conhecida como token. A tecnologia ajusta levemente essas probabilidades para que determinadas escolhas formem um padrão estatístico ao longo do texto. Esse padrão pode ser procurado posteriormente por um detector da OpenAI . Segundo a empresa, a ferramenta consegue indicar se um sistema da companhia provavelmente participou da geração ou edição daquele conteúdo. A abordagem é semelhante à utilizada pelo Claude. A Anthropic adotou uma versão do SynthID-Text , tecnologia criada pelo Google DeepMind, que também modifica a aleatoriedade envolvida na escolha das palavras sem inserir elementos visíveis no conteúdo. A OpenAI desenvolveu uma solução própria e afirma que, em seus testes, o textGrain igualou ou superou a capacidade de detecção de outras técnicas avaliadas, incluindo o SynthID para textos. A companhia também pretende disponibilizar a tecnologia como código aberto. Marca-d'água ainda pode ser burlada A presença do carimbo não permite afirmar com certeza que um texto inteiro foi escrito pelo ChatGPT. A tecnologia indica que um modelo da OpenAI provavelmente participou da produção ou edição daquele conteúdo , mas não consegue medir quanto do material veio de uma pessoa. Também existem limitações técnicas. Nos testes divulgados pela OpenAI, considerando uma taxa de 1% de falsos positivos, o detector encontrou a marca em aproximadamente 80% dos textos de 200 tokens analisados em uma categoria de conteúdo. Em passagens de 400 tokens, a taxa chegou a cerca de 95%. O desempenho varia conforme o tipo e o idioma do texto. Editar o conteúdo também pode reduzir significativamente a chance de identificação. Em um experimento com textos de 400 tokens, substituir 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. Com a troca de 25% das palavras, ela caiu para 17%. Por causa dessas limitações e do risco de falsos positivos, a OpenAI não vai disponibilizar seu detector para qualquer pessoa inicialmente . O acesso será oferecido a pesquisadores e organizações especializadas aprovadas pela companhia. A Anthropic adotou uma estratégia parecida e oferece sua ferramenta de detecção em prévia privada para grupos como pesquisadores, veículos de imprensa, verificadores de fatos e autoridades. Diferentemente da OpenAI, a empresa decidiu implementar sua marca-d’água globalmente porque afirmou não ter uma forma suficientemente confiável de limitar o recurso geograficamente. A OpenAI afirma que a marca também não revela quem utilizou o ChatGPT, qual foi o prompt enviado ou a conversa em que aquele conteúdo foi produzido. O sistema tampouco verifica se as informações do texto são verdadeiras. Veja mais de IA: Cientistas criam IA capaz de entender quando deu resposta errada
