OpenAI adicionar watermarks ao texto do ChatGPT e Codex na UE
A OpenAI prepara-se para adicionar "marcas de água" invisíveis ao texto gerado pelo ChatGPT e pelo Codex na União Europeia. A tecnologia, chamada textGrain, não altera visualmente o conteúdo; em vez disso, modifica ligeiramente a escolha de palavras para criar um padrão estatístico que pode ser posteriormente identificado por uma ferramenta de detecção.
A empresa diz que a funcionalidade deverá começar a ser aplicada nas próximas semanas a determinados conteúdos gerados pelo ChatGPT e Codex na UE. A medida não será, para já, activada de forma global no resto do mundo. Developers que utilizem a API em qualquer parte do mundo poderão optar voluntariamente pelo watermarking se assim o desejarem, enquanto o acesso ao detector ficará inicialmente limitado a investigadores aprovados e organizações especializadas.
No entanto, esta tecnologia está longe de ser infalível. Nos testes da OpenAI, bastou substituir apenas 10% das palavras por sinónimos para que a taxa de detecção caísse de 92% para 66%. Com alterações em 25% do texto a detecção desceu para apenas 17%. Textos mais curtos, traduzidos, ou sujeitos a edição também podem tornar o watermark muito mais difícil de identificar - pondo em causa a sua eficácia efectiva.
... Isto sem falar das inúmeras ferramentas que existem e que têm como objectivo remover estas marcas de água dos conteúdos AI. A melhor ferramenta para detectar se algo terá sido efectivamente criado "estupidamente" por AI ou não, continuará a melhor ser feito pelo cérebro orgânico de quem estiver a ler os conteúdos!

































