Quando il segnale parla, chi firma?

A settembre è stato raccontato il caso del terzo partecipante allo studio VOICE di Neuralink: un uomo con la SLA che parla attraverso una voce sintetica decodificata dalla corteccia motoria del linguaggio. Il dispositivo resta sperimentale, non approvato dalla FDA. Uno dei medici coinvolti ha detto: «The impact of giving him his speech back has been remarkable».

Lo è. Prima di qualsiasi riflessione giuridica, va detto questo: restituire la voce a una persona è una delle cose più belle che la tecnologia possa fare. Proprio per questo vale la pena pensarci bene.

Chi parla, quando parla la macchina?

Fino a oggi il diritto ha sempre avuto un punto fermo: la dichiarazione di volontà passa da un gesto della persona. La firma, la voce, il clic, persino il cenno del capo davanti a un notaio. Il gesto è il confine tra ciò che penso e ciò che dico.

In un’interfaccia che decodifica il linguaggio, quel confine si sposta dentro il sistema. Il decoder sceglie, tra molte interpretazioni possibili del segnale, quella più probabile. Spesso completa, corregge, anticipa. La frase che esce è della persona? Quasi sempre sì. Ma non sempre, e non del tutto.

Ora immaginiamo che quella voce dica «acconsento» a un trattamento, «accetto» un contratto, «revoco» un testamento.

Tre problemi che nessuna norma risolve

1. L’intenzione. Come si distingue una frase pensata da una frase voluta? Nel linguaggio parlato la differenza la fa il gesto di pronunciarla. Nel decoder serve un equivalente: un segnale di conferma separato, progettato apposta.
2. L’errore. Se il decoder sbaglia, chi risponde? Il produttore, il medico, l’utente? Il contratto di partecipazione allo studio, scommetto, non lo dice in modo che il paziente possa capirlo.
3. Il consenso al consenso. Per usare il dispositivo la persona firma documenti. Nel mio studio sui documenti di consenso per le interfacce cervello-computer, nessuno era sotto la soglia sperimentale di accessibilità: densità sintattica 72 su 100, distanza semantica 68, soglia 45. Chi oggi ha più bisogno di capire, riceve i testi più difficili.

Che cosa ho imparato sbagliando

Nel registro di questo sito c’è una voce segnata come «sbagliato»: «Un sensore basta». Pensavo che un solo segnale potesse dimostrare la comprensione. Non è così. Ne è nata una regola che applico sempre: convergenza tra fonti diverse, mai un solo indicatore.

La stessa regola andrebbe applicata alla volontà decodificata. Una dichiarazione con effetti giuridici prodotta da un’interfaccia neurale dovrebbe richiedere almeno due canali indipendenti di conferma, e un modo semplice e sempre disponibile per annullarla. Nella Carta di Habeas Mentem: «Revocare costa quanto acconsentire».

La domanda che resta

Floridi, nella prefazione a Mente e Tecnologia, scrive che progettare un’informativa sui dati neurali che un non specialista non può capire «è un modo per prendersi ciò che non è stato dato». Io aggiungerei: progettare un decoder senza un modo per dire «non intendevo questo» è un modo per fargli dire ciò che non è stato detto.