ChatGPT ganha marca-d’água invisível para identificar textos gerados por IA O ChatGPT agora conta com um “carimbo” digital para identificar conteúdos produzidos por inteligência artificial. A OpenAI anunciou nesta segunda-feira (5) a chegada do textGrain, tecnologia que altera discretamente a escolha de palavras do modelo para criar um padrão legível por ferramentas específicas. A medida segue os passos da Anthropic, criadora do Claude, que adotou um recurso semelhante em agosto. O objetivo principal das empresas é cumprir as rígidas regras de transparência do AI Act, a lei de inteligência artificial da União Europeia. Por enquanto, o recurso será implementado nas próximas semanas apenas para usuários do ChatGPT e do Codex na Europa. No Brasil, o carimbo não será aplicado de forma automática nesta primeira fase, embora desenvolvedores que utilizam a API da empresa no país já possam ativar a tecnologia de forma voluntária. —
Como funciona o carimbo digital?
A marca-d’água não aparece como um selo visual e nem adiciona caracteres invisíveis ou espaços extras no texto copiado. O segredo está no processo de geração. As IAs calculam probabilidades para cada próxima palavra (ou token). O textGrain ajusta sutilmente essas chances matemáticas, criando um padrão estatístico invisível a olho nu, mas identificável por detectores da OpenAI. A abordagem é parecida com o SynthID, tecnologia do Google DeepMind utilizada pelo Claude. No entanto, a OpenAI desenvolveu uma solução própria e pretende liberar o código da ferramenta para a comunidade de código aberto. —
Limitações e riscos de burlar a IA
Apesar da inovação, a tecnologia não é infalível. O detector indica apenas que um modelo da OpenAI provavelmente participou da criação ou edição do texto, sem conseguir medir o quanto foi escrito por humanos. Testes da OpenAI mostram que a eficiência varia conforme o tamanho do texto: * Textos curtos (200 tokens): taxa de detecção de cerca de 80%. * Textos médios (400 tokens): taxa de cerca de 95%. Além disso, editar o conteúdo reduz drasticamente a eficácia do carimbo. Substituir apenas 25% das palavras por sinônimos faz a taxa de detecção desabar para 17%. Devido a essas limitações e ao risco de falsos positivos, o detector não será liberado para o público geral. O acesso inicial será restrito a pesquisadores e organizações parceiras aprovadas pela OpenAI. A empresa também ressalta que a marca-d’água não expõe dados do usuário, não revela o prompt utilizado e nem valida se as informações do texto são verdadeiras. {{WHATSAPP_CHANNEL}} Quer ficar por dentro das principais novidades do mundo da tecnologia? Entre agora mesmo no nosso [Canal do Telegram oficial](https://t.me/vitrinedochacal) para receber as melhores atualizações e promoções em primeira mão!