Il nuovo rilevatore AI di Substack: come Pangram esegue la scansione per Claudefishing

12

È martedì. Viene rilasciato un post sul blog. L’hai letto. Sembra un po’ troppo raffinato. Un po’ troppo vuoto. Non sei pazzo.

Substack sta finalmente ammettendo l’elefante nella stanza. Stanno lanciando un nuovo strumento per contrassegnare i contenuti generati dall’intelligenza artificiale. Questa non è solo una casella di controllo. È uno scanner. Funziona contro post, note, risposte e persino commenti. L’obiettivo? Per stimare la quantità di testo effettivamente scritta da una macchina.

Il motore dietro tutto questo? Pangram. Una società di rilevamento dell’intelligenza artificiale. Lo stanno lanciando sul Web e su iOS proprio ora. Utenti Android? Avrai un lancio “presto”.

Ecco la meccanica: se un post contiene più di 100 parole, puoi fare clic sul menu a tre punti. Angolo in alto a destra. Cerca “Cerca testo AI”. Ti dà una percentuale. Una stima. Non un verdetto. Solo una probabilità.

Il problema principale non sono le persone che usano l’intelligenza artificiale. O la qualità del suo output. Il problema è quando c’è una discrepanza tra le aspettative del lettore e la realtà.

Chris Best, co-fondatore e CEO di Substack, lo chiama claudefishing. È un termine tagliente per un problema confuso. Investi la tua attenzione. Dai il tuo tempo. Ti aspetti un essere umano dall’altra parte della tastiera. Ottieni il codice. Quella discrepanza? È ingannevole.

Perché la fiducia è più importante della precisione

Best è chiaro su ciò che Pangram non può fare. Non giudica la cura. Non vede se un essere umano ha perfezionato la bozza. Non sa se l’intelligenza artificiale sia stata utilizzata solo come fonte o se l’intero pezzo sia sintetico. Rileva la generazione del testo. Niente di più.

Allora perché preoccuparsi?

Fiducia.

Quando i lettori devono chiedersi: “È reale?” l’intera piattaforma marcisce. Minaccia gli scrittori. Anche quelli che usano l’intelligenza artificiale in modo ponderato. Anche chi crede nel proprio lavoro. Se la piattaforma premia la falsità si scatena una corsa al ribasso. Tutti perdono.

Come i creatori possono aderire

Non è solo per i lettori. I creatori possono anche utilizzare lo scanner. Possono testare le proprie bozze prima di pubblicare. Possono vedere ciò che vede Pangram.

Ma Substack non si nasconde solo dietro una scatola nera. Vogliono trasparenza. È qui che entra in gioco l’affermazione “Come lo faccio”.

Gli scrittori possono aggiungere una nota al proprio profilo o post. Spiegare il processo. L’hai scritto tu stesso? Hai usato l’intelligenza artificiale? L’hai modificato pesantemente? Gli utenti possono anche contrassegnare scansioni imprecise. È un sistema imperfetto, ma è un inizio.

La logica è semplice. Quando sai come è stato realizzato un post, puoi scegliere di investire il tuo tempo. Oppure puoi scorrere oltre. Quella scelta è importante.

Molti scrittori utilizzano strumenti per aiutare. Controlli grammaticali. Brainstorming. Struttura. Questo non è un imbroglio. Ma nasconderlo? Questo è il problema.

Siamo in un momento strano. L’intelligenza artificiale è ovunque. È nelle nostre e-mail. I nostri annunci. I nostri feed social. Substack sta cercando di ritagliarsi uno spazio che sembri autentico. Vero. Umano.

Una percentuale garantisce la verità? No. Ma aggiunge un livello. Costringe a fare una pausa. Un momento di scetticismo. Il che potrebbe essere meglio della fiducia cieca.

Il lancio sta avvenendo adesso. Gli utenti iOS possono provarlo. Android sta arrivando. Il Web è in diretta.

Come reagirai quando vedrai la scansione? Ti importerà? Supporrete il peggio?

O continuerai semplicemente a leggere?