Rimani aggiornato con WebMasterPoint
OpenAI starebbe lavorando a textGrain, un watermark pensato per riconoscere i testi generati da ChatGPT. Il sistema promette nuove possibilit, ma tra limiti tecnici, accesso ristretto e alternative, restano aperti interrogativi sul suo impiego.
OpenAI ha annunciato il 5 ottobre 2026 l’introduzione di textGrain, un watermark invisibile che modifica le scelte lessicali di ChatGPT e Codex nell’Unione europea.
La tecnologia risponde all’obbligo dell’articolo 50 dell’AI Act europeo, in vigore dal 2 agosto 2026, che richiede ai sistemi generativi di marcare i contenuti in formato leggibile dalle macchine. Il watermark non aggiunge caratteri visibili, ma altera leggermente le probabilit con cui il modello sceglie determinate parole, creando un pattern statistico riconoscibile da un detector dedicato.
Come funziona il watermark textGrain
Durante la generazione del testo, textGrain spinge il modello verso alcune opzioni lessicali piuttosto che altre, seguendo uno schema definito da una chiave segreta. Una singola scelta non rivela nulla, ma l’analisi di centinaia di decisioni consecutive forma una distribuzione statistica che il rilevatore pu identificare.
Il segnale rimane incorporato nel testo anche dopo copia e incolla, a differenza dei metadati che possono andare persi. OpenAI afferma che l’impatto sulle prestazioni del modello trascurabile, senza variazioni significative nei benchmark interni.
Rilevamento e limiti pratici
Secondo le valutazioni dell’azienda, con un tasso di falsi positivi limitato all’1%, il watermark viene identificato nell’80% dei testi di 200 token e nel 95% di quelli di 400 token, soprattutto in ambiti come la psicologia dove il modello ha maggiore libert lessicale.
Tuttavia, la modifica del testo indebolisce drasticamente l’efficacia del rilevamento. Sostituire il 10% delle parole con sinonimi riduce la precisione dal 92% al 66%, mentre modifiche pi estese di un quarto del testo fanno crollare il tasso al 17%. Testi brevi, traduzioni, risposte matematiche o contenuti fortemente vincolati linguisticamente:
- Testi brevi,
- traduzioni,
- risposte matematiche
- o contenuti fortemente vincolati linguisticamente
sono particolarmente difficili da verificare.
Accesso limitato e ragioni di sicurezza
OpenAI non render il detector pubblicamente accessibile al lancio. L’accesso sar inizialmente riservato a ricercatori approvati e organizzazioni specializzate, che potranno contribuire a valutare l’affidabilit reale e definire modalit d’uso compatibili con il rischio di falsi positivi.
La scelta deriva dalla consapevolezza che un risultato negativo non prova l’autorialit umana, mentre un risultato positivo non identifica:
- l’utente,
- il prompt
- o la conversazione.
L’assenza del watermark pu semplicemente indicare un testo:
- troppo breve,
- tradotto,
- modificato
- o generato da un modello non supportato.
Confronto con altre soluzioni e prospettive future
Per immagini e audio, OpenAI cita sistemi come SynthID e i metadati C2PA. Nel testo il rilevamento pi fragile: anche piccole modifiche possono alterare il pattern statistico senza cambiare il significato.
textGrain pu quindi offrire un indizio sull’origine di un testo, ma non dimostra chi lo abbia scritto n quanto abbia contribuito una persona. I risultati vanno interpretati come probabilistici, soprattutto quando il contenuto breve o stato modificato.