Un'etichetta che leggono solo le macchine

Tra tre settimane, il 2 dicembre, finisce il periodo transitorio. I sistemi generativi immessi sul mercato prima del 2 agosto dovranno marcare ciò che producono: immagini, audio, video, testo. Il marchio deve essere leggibile da una macchina e deve permettere di riconoscere il contenuto come generato o manipolato artificialmente. È l'articolo 50 dell'AI Act. La Commissione ha già pubblicato il codice di condotta e le linee guida. Le regole ci sono.

Ho letto il codice con una domanda sola: chi deve capire?

Due livelli, due destinatari

Il sistema ha due piani. Il primo riguarda chi fornisce il sistema generativo: deve inserire nel contenuto segnali tecnici. Il codice chiede di combinare almeno due tecniche, per esempio metadati firmati e una filigrana impercettibile, e di offrire un modo per verificarle. Il secondo piano riguarda chi usa il sistema per pubblicare: deve dichiarare i deepfake e i testi generati che informano il pubblico su questioni di interesse generale.

Il primo livello parla alle macchine. Il secondo parla alle persone. Ed è il secondo il punto fragile.

Per le persone il codice propone un'icona europea in tre varianti: contenuto interamente generato, contenuto modificato, e un'icona base con un secondo livello di informazioni. È opzionale.

Capisco perché. Un obbligo rigido su un simbolo, in un mercato che cambia ogni mese, rischia di invecchiare male. Ma la conseguenza è chiara: abbiamo uno standard preciso per far dialogare i software e una raccomandazione per far capire le persone.

Marcare non è far capire

Ho già visto questo film. Si chiama consenso. Per vent'anni abbiamo trattato l'informativa come se, una volta pubblicata, fosse anche compresa. Il diritto ha presunto la comprensione. Non l'ha mai misurata.

Il rischio è ripetere lo schema. Il contenuto è marcato, quindi la persona è informata. Il metadato c'è, quindi la trasparenza è fatta. Ma la trasparenza non è un attributo del file. È un evento nella mente di chi guarda. Succede o non succede.

Un'etichetta che nessuno nota è un adempimento. Un'icona che nessuno sa interpretare è decorazione. E anche un'icona vista e capita può non bastare, se arriva dopo che l'immagine ha già fatto il suo lavoro: dopo la condivisione, dopo l'indignazione, dopo la decisione.

Per questo nel mio lavoro ripeto una frase: la comprensione si misura, la mente non si legge. Non serve entrare nella testa di nessuno. Serve verificare, con metodo, se un segnale viene notato, se viene capito, se cambia il modo in cui una persona valuta quello che ha davanti. È quello che facciamo con Neuro Legal Cortex sulla lettura dei testi giuridici. Si può fare anche con un'icona.

Cosa farei il 3 dicembre

Se guidassi un'azienda che pubblica contenuti, non mi fermerei alla conformità tecnica. Farei tre cose.

Primo: adotto l'icona europea, anche se opzionale. Un segnale comune vale più di dieci segnali proprietari. Meno scelte per chi guarda, più libertà di giudizio.

Secondo: la metto dove serve, quando serve. Non in fondo alla pagina, non nel menu delle informazioni. Accanto al contenuto, prima della condivisione.

Terzo: la provo con persone vere. Un piccolo gruppo di utenti, pochi minuti, una domanda: secondo te questa immagine è reale? Se la risposta non cambia con l'icona e senza, l'icona non sta facendo il suo lavoro.

Chi progetta l'ambiente in cui scegliamo dovrebbe portare l'onere di dimostrare che funziona. Non perché lo impone una norma, almeno non ancora. Per una ragione più semplice: un'etichetta serve solo se qualcuno la capisce.

Il 2 dicembre i software sapranno riconoscere un contenuto generato. Le persone, non è detto.