Perché l’AI Act rischia di penalizzare gli autori umani, non l’AI

Alla fine di luglio 2026 Jerry Adedayo Falade sembrava aver raggiunto il punto a cui quasi tutti gli scrittori esordienti aspirano. Il suo primo romanzo, Call Me, I’ll Hide the Body, aveva attirato l’interesse di quattordici editori e scatenato un’asta per i diritti. Negli Stati Uniti Minotaur Books, marchio di Macmillan, aveva messo sul tavolo un accordo a sette cifre e il valore complessivo dell’operazione avrebbe superato i due milioni di dollari. Nel giro di pochi giorni, però, tutto si è fermato: sono emersi dubbi sulla storia raccontata dall’autore e, soprattutto, sulla possibile presenza di testo generato con strumenti di intelligenza artificiale. L’agenzia che lo rappresentava ha interrotto il rapporto, mentre Falade ha negato di aver fatto scrivere il romanzo a un modello e ha sostenuto di aver utilizzato l’AI soltanto come strumento di supporto, per attività come fact-checking ed editing.

La vicenda è interessante non perché ci permetta di stabilire con certezza chi abbia ragione, ma proprio perché questa certezza manca. Non esisteva un test capace di prendere il manoscritto e rispondere in maniera definitiva alla domanda che, a quel punto, era diventata centrale: questo testo è stato scritto da Falade oppure da una macchina? Qualche mese prima era accaduto qualcosa di simile a Mia Ballard, quando Hachette aveva cancellato la pubblicazione del suo romanzo Shy Girl dopo l’emergere di sospetti sull’utilizzo dell’intelligenza artificiale. Anche in quel caso la discussione si era rapidamente spostata dal valore dell’opera alla sua provenienza, mostrando quanto sia diventato difficile distinguere una controversia sull’uso dell’AI da una vera e propria contestazione dell’autorialità.

È una distinzione fondamentale. Non stiamo parlando di plagio nel senso tradizionale, dove può esistere un testo originale con cui confrontare quello contestato, e nemmeno di una fotografia manipolata della quale si possono esaminare pixel, metadati o artefatti. Stiamo parlando di parole, e stabilire da dove provengano le parole sta diventando molto più complicato di quanto possa sembrare.

Proprio mentre casi del genere iniziano a comparire nell’editoria, nell’università e nel mondo del lavoro, l’Unione Europea sta cercando di costruire un sistema di trasparenza per i contenuti generati dall’intelligenza artificiale. Dal 2 agosto 2026 sono infatti applicabili gli obblighi previsti dall’Articolo 50 dell’AI Act, che impone, tra le altre cose, ai fornitori di sistemi generativi di fare in modo che i loro output siano identificabili come artificiali e marcati in un formato leggibile da macchina, nella misura in cui ciò sia tecnicamente possibile.

Qui emerge però un punto che viene spesso semplificato troppo: l’AI Act non si è dimenticato del testo. La norma cita esplicitamente testo, immagini, audio e video, ma finisce inevitabilmente per applicare un principio comune a mezzi che, dal punto di vista tecnologico, hanno caratteristiche profondamente diverse. Una fotografia contiene milioni di pixel, un file audio migliaia di campioni ogni secondo e un video combina immagini, audio, metadati e strutture digitali complesse. Tutti questi elementi possono essere sfruttati per inserire informazioni aggiuntive invisibili all’utente ma leggibili da una macchina. Un testo, invece, offre molto meno spazio: alla fine rimangono parole, punteggiatura e ordine dei token, e basta riscriverli perché una parte importante del contenitore originario scompaia.

Il vantaggio di immagini, audio e video

Negli ultimi anni una parte importante della ricerca sulla provenienza dei contenuti digitali si è concentrata non tanto sul tentativo di indovinare, a posteriori, se qualcosa sia artificiale, quanto sulla possibilità di conservare una traccia della sua storia fin dal momento della creazione. È il principio alla base di C2PA, la Coalition for Content Provenance and Authenticity, nata nel 2021 da un gruppo che comprendeva Adobe, Arm, BBC, Intel, Microsoft e Truepic. Il suo standard viene utilizzato per le cosiddette Content Credentials, una sorta di passaporto digitale in grado di accompagnare un file e registrarne alcune informazioni essenziali, come lo strumento che lo ha prodotto o le modifiche che ha subito.

La differenza rispetto a un detector è sostanziale: un detector osserva un contenuto quando la sua storia è già stata persa e prova a ricostruirla, mentre un sistema di provenance cerca di fare in modo che quella storia non venga persa fin dall’inizio. Non è una soluzione perfetta, perché le credenziali possono essere rimosse durante determinate operazioni di editing, esportazione o ripubblicazione, ma almeno esiste un’informazione originaria che può essere conservata, verificata e trasmessa insieme al file.

A questo approccio si aggiungono i watermark invisibili. Google DeepMind, per esempio, utilizza SynthID per incorporare segnali all’interno di immagini, audio e video generati dai propri modelli, mentre Meta, insieme a INRIA, ha sviluppato AudioSeal, pensato per individuare porzioni di audio generate artificialmente anche all’interno di registrazioni molto brevi. Nessuno di questi sistemi rende impossibile una manipolazione e nessun watermark può essere considerato magicamente indistruttibile, ma immagini e audio hanno comunque un vantaggio strutturale: possiedono moltissimo spazio nel quale distribuire un segnale senza modificare in maniera percepibile il contenuto.

Nel testo questo spazio quasi non esiste, ed è proprio qui che la promessa di una tracciabilità universale comincia a diventare molto più difficile da mantenere.

Come si mette un watermark dentro una frase?

Anche il testo può essere watermarkato. Google DeepMind lo fa con SynthID-Text e nell’agosto 2026 Anthropic ha annunciato un sistema analogo per Claude. Il funzionamento è meno intuitivo rispetto a quello di un watermark inserito in un’immagine, ma il principio è relativamente semplice: quando un modello linguistico genera una frase non sceglie direttamente “la parola corretta”, bensì calcola una distribuzione di probabilità su una serie di token possibili. In un determinato punto potrebbe quindi considerare quasi equivalenti due parole, due costruzioni grammaticali o due modi leggermente diversi di proseguire una frase.

Il watermark interviene proprio su questa distribuzione. Il sistema modifica in maniera molto piccola e pseudo-casuale le probabilità di alcuni token, favorendo determinate scelte secondo uno schema che il detector conosce. Una singola scelta non significa praticamente nulla, ma quando lo stesso schema viene ripetuto centinaia di volte può emergere una firma statistica che un software è in grado di cercare. Per il lettore la frase rimane del tutto normale; per il detector, invece, quella particolare combinazione di token può costituire un segnale.

La soluzione è elegante, ma presenta un limite fondamentale: il watermark appartiene alla forma del testo, non al suo significato. Se comprimiamo leggermente un’immagine watermarkata, buona parte dei pixel e del segnale possono continuare a esistere; se invece prendiamo una frase e la riscriviamo mantenendo esattamente lo stesso concetto, i token originali vengono sostituiti. Una parafrasi sufficientemente profonda, una traduzione, una forte riduzione del testo o il passaggio attraverso un altro modello possono quindi indebolire il segnale fino a renderlo difficilmente rilevabile. Nei testi molto brevi il problema è ancora più evidente, perché semplicemente non esistono abbastanza token per costruire una firma statistica sufficientemente robusta.

Da qui nasce una prima asimmetria fondamentale: se troviamo un watermark possiamo avere un indizio del fatto che un determinato modello sia intervenuto nella produzione del testo, ma se non lo troviamo non possiamo concludere che quel testo sia umano. Potrebbe esserlo, naturalmente, ma potrebbe anche essere stato prodotto da un modello che non utilizza watermark, da un sistema open-weight modificato, oppure essere stato successivamente parafrasato, tradotto o riscritto attraverso un secondo modello.

L’assenza del segnale, quindi, non certifica l’origine umana e soprattutto non risolve una questione ancora più complessa: cosa significa davvero dire che un testo è “scritto dall’AI”? Un autore può scrivere autonomamente un articolo e utilizzare un modello soltanto per correggerne la forma, individuare ripetizioni o rendere più comprensibile un passaggio. Può farsi proporre dieci alternative per una frase senza utilizzarne nessuna, oppure affidare al modello la sintesi preliminare di alcune fonti. All’estremo opposto, può partire da una bozza interamente generata e riscriverla quasi completamente.

In tutti questi scenari l’intelligenza artificiale ha partecipato al processo, ma con un peso completamente diverso. Un watermark può forse indicare che un sistema è stato coinvolto, ma non può dirci chi abbia avuto l’idea, chi abbia costruito l’argomentazione, quanto del testo sia stato effettivamente deciso dall’autore e chi debba essere considerato responsabile del risultato finale. La presenza dell’AI e la paternità dell’opera, in altre parole, non sono la stessa cosa.

Il problema dei detector

Quando non esiste un watermark affidabile, la tentazione è affidarsi ai cosiddetti AI detector, ma strumenti come GPTZero o Pangram funzionano secondo un principio diverso. Non cercano necessariamente una traccia che il modello abbia deliberatamente inserito nel testo: analizzano piuttosto le sue caratteristiche statistiche e cercano di stimare quanto assomiglino alla scrittura umana o alla generazione automatica. Non trovano una firma, formulano una previsione.

I primi sistemi di questo tipo erano particolarmente fragili. Uno studio pubblicato nel 2023 da Debora Weber-Wulff e altri ricercatori mise alla prova quattordici detector e rilevò che nessuno superava l’80% di accuratezza complessiva; tutti producevano falsi positivi e falsi negativi, mentre le performance peggioravano ulteriormente quando i testi venivano modificati, tradotti o parafrasati. Nello stesso anno un altro lavoro, pubblicato su Patterns, mostrò inoltre un problema particolarmente rilevante: diversi detector tendevano a classificare come artificiali testi scritti in inglese da persone non madrelingua, con un tasso medio di falsi positivi superiore al 60% nei saggi TOEFL analizzati.

Una delle spiegazioni avanzate dagli autori riguardava la prevedibilità del linguaggio. Chi scrive in una seconda lingua tende mediamente a utilizzare un vocabolario meno ampio e costruzioni più regolari, caratteristiche che alcuni detector potevano interpretare come segnali tipici della generazione automatica. Per chi scrive professionalmente in inglese pur essendo italiano, francese, spagnolo o madrelingua di qualsiasi altra lingua, il problema non è affatto marginale.

Allo stesso tempo sarebbe scorretto utilizzare ancora oggi soltanto i benchmark del 2023 per concludere che “i detector non funzionano”. La tecnologia è migliorata molto e i sistemi più recenti raggiungono risultati decisamente migliori quando devono distinguere due categorie pure: da una parte un testo interamente scritto da una persona, dall’altra un testo interamente generato da un modello. Il problema è che il mondo reale assomiglia sempre meno a queste due categorie.

Gran parte del lavoro intellettuale assistito dall’AI vive ormai in una zona intermedia. Un giornalista può scrivere un pezzo e farsi correggere alcuni paragrafi, un ricercatore utilizzare un modello per riformulare un abstract, un developer generare parte della documentazione insieme a un assistente e un copywriter partire da una bozza artificiale trasformandola fino a renderla quasi irriconoscibile. Chiedere a un classificatore di restituire semplicemente “umano” oppure “AI” significa quindi imporgli una distinzione che il processo creativo stesso non contiene più.

Il limite non è soltanto che il detector possa sbagliare: è che stiamo cercando di descrivere un fenomeno continuo con un’etichetta binaria.

L’open source rompe l’idea di una provenienza universale

A questa difficoltà se ne aggiunge un’altra, ancora più strutturale. Un servizio centralizzato come Gemini, Claude o ChatGPT può controllare la propria pipeline di generazione e decidere che ogni output prodotto dal sistema debba attraversare un processo di watermarking prima di essere restituito all’utente. Con un modello open-weight, invece, il rapporto cambia completamente: il modello può essere scaricato ed eseguito localmente, il codice può essere modificato, il processo di generazione può essere cambiato e qualsiasi sistema di marcatura integrato può, almeno in linea di principio, essere rimosso.

Questo non significa che i modelli open source siano automaticamente esclusi dall’AI Act, perché la normativa europea prevede regole ed esenzioni specifiche ma non una generale zona franca per tutto ciò che viene distribuito con pesi aperti. Il punto è soprattutto tecnico: una legge può obbligare un’azienda a inserire un watermark, ma non può trasformare quel watermark in una proprietà inevitabile del linguaggio.

Se l’intero processo di generazione si trova sotto il controllo dell’utente, non esiste una garanzia assoluta che la marcatura venga applicata o che sopravviva. Per questo l’idea di un futuro nel quale ogni frase prodotta dall’intelligenza artificiale sarà automaticamente riconoscibile rischia di essere molto più ottimistica di quanto sembri. Possiamo costruire sistemi sempre migliori per certificare la provenienza dei contenuti, ma costruire una prova universale di umanità è un problema completamente diverso.

Ed è proprio quando questa prova manca che la questione smette di essere soltanto tecnica.

Quando non decide la tecnologia, decide il rischio

Torniamo al caso Falade. Un editore non ha bisogno di dimostrare davanti a un tribunale che un romanzo sia stato scritto dall’intelligenza artificiale prima di decidere che pubblicarlo sia diventato troppo rischioso: deve effettuare una valutazione commerciale e reputazionale. Questo cambia radicalmente il problema, perché un detector che produce errori non opera nel vuoto e un falso positivo e un falso negativo non hanno necessariamente lo stesso costo.

Un falso negativo può permettere a un contenuto generato artificialmente di essere scambiato per umano; un falso positivo può invece accusare una persona di non aver scritto ciò che sostiene di aver scritto, compromettendo una pubblicazione, una valutazione universitaria, un concorso, una candidatura o una reputazione professionale. Chi lavora con il machine learning conosce bene questo problema: l’accuratezza complessiva di un classificatore dice poco se non viene considerato anche il costo dei diversi tipi di errore. Un sistema che sbaglia una raccomandazione musicale e uno che sbaglia una valutazione del credito possono avere la stessa percentuale di accuratezza, ma le conseguenze dei loro errori sono evidentemente molto diverse.

Lo stesso vale per la detection dell’intelligenza artificiale. Il vero rischio non è semplicemente che un detector sbagli, ma che una probabilità prodotta da quel detector diventi sufficiente per prendere una decisione contro una persona.

È un passaggio che stiamo già iniziando a osservare in altri settori creativi. Nell’aprile 2026 Deezer dichiarava di ricevere circa 75.000 tracce completamente generate dall’AI ogni giorno, quasi il 44% dei nuovi upload sulla piattaforma, mentre pochi mesi dopo Spotify ha annunciato un AI Persona badge destinato ad alcuni profili artistici sintetici. In questo caso l’etichetta non serve soltanto a informare l’utente, ma può incidere concretamente sulla distribuzione e sull’accesso alle raccomandazioni algoritmiche.

È un passaggio sottile, ma importante: prima identifichiamo un contenuto, poi lo classifichiamo e infine utilizziamo quella classificazione per decidere cosa rendere visibile, cosa premiare e cosa considerare sospetto. Nel testo potrebbe accadere qualcosa di molto simile, con la differenza che il punto di partenza tecnico è ancora meno solido.

Il vero paradosso dell’AI Act

Da tutto questo sarebbe sbagliato concludere che le regole sulla trasparenza siano inutili. Sapere che un video di un leader politico è stato generato artificialmente è utile, così come sapere che una voce non appartiene davvero alla persona che sembra parlare. Costruire standard comuni di provenance è probabilmente una delle risposte più sensate alla diffusione dei contenuti sintetici. Il problema nasce quando chiediamo a questi strumenti di risolvere anche la questione dell’autorialità.

L’AI Act può imporre a un sistema di lasciare una traccia, ma non può stabilire chi abbia avuto un’idea, misurare quanto una revisione editoriale abbia modificato la paternità di un testo o sapere se un autore abbia accettato una proposta generata oppure l’abbia completamente riscritta. Soprattutto, non può garantire che un testo privo di watermark sia stato scritto da una persona.

Il rischio è quindi quello di produrre una sorta di inversione dell’onere della prova, non necessariamente sul piano giuridico ma su quello reputazionale. Non sarà sempre chi sostiene che un testo sia artificiale a doverlo dimostrare; potrebbe essere chi scrive a dover dimostrare di aver scritto.

Per questo una delle forme più efficaci di autotutela potrebbe essere molto meno sofisticata di qualunque detector: conservare il processo di scrittura. Cronologie di modifica, bozze intermedie, fonti, appunti, revisioni e, quando possibile, persino una traccia del modo in cui sono stati utilizzati gli strumenti di intelligenza artificiale possono diventare elementi utili per ricostruire la storia di un testo. Non perché l’AI Act lo richieda e nemmeno perché ogni autore debba prepararsi a difendersi da un’accusa, ma perché, se il prodotto finale diventa sempre più difficile da attribuire, la storia della sua costruzione può diventare più informativa del prodotto stesso.

Un detector può osservare soltanto l’ultima versione e cercare al suo interno una traccia statistica. Una cronologia, invece, racconta come quella versione sia nata, quali modifiche siano state effettuate e quale percorso abbia portato al risultato finale.

Ed è forse questo il paradosso più interessante della trasparenza nell’era dell’intelligenza artificiale: per anni ci siamo chiesti come costringere le macchine a dichiarare quando stavano producendo qualcosa; potremmo scoprire che, almeno quando si tratta di parole, il problema più difficile sarà dimostrare quando a produrle siamo stati noi.