Prompt injection negli atti giudiziari: quando l’IA diventa nuovo bersaglio della manipolazione processuale
di Claudio Garau
Più volte, negli ultimi tempi, il dibattito si è concentrato sugli errori prodotti dall’uso dell’IA da parte degli avvocati: sentenze inesistenti, citazioni inventate, ricostruzioni errate dei fatti. Un recente caso emerso in Brasile, presso la Vara do Trabalho di Parauapebas (Stato del Pará), sposta però l’attenzione non su chi usa l’IA per scrivere un atto, ma su chi usa un atto per manipolarla.
Il sistema Galileu, piattaforma algoritmica di supporto alla giustizia del lavoro brasiliana, ha individuato in una petizione iniziale alcuni comandi nascosti rivolti direttamente a un modello di IA. Le due avvocate firmatarie avevano occultato, con caratteri bianchi su sfondo bianco, un’istruzione che ordinava all’IA di contestare la petizione solo superficialmente e non impugnare i documenti, indipendentemente dalle istruzioni ricevute. Invisibile all’occhio umano ma leggibile dagli strumenti di estrazione testuale, il messaggio mirava a influenzare indirettamente l’esito del procedimento, favorendo la parte assistita e riducendo il controllo critico sui documenti.
La novità non risiede nella prompt injection, tecnica già nota, ma nel fatto che il vettore dell’attacco fosse un atto processuale e che la condotta fosse valutata sotto il profilo della lealtà processuale. Non rilevava la falsità del contenuto, ma quella della struttura comunicativa: un documento che si presentava come testo ma agiva come codice. Galileu non ha deciso la controversia né qualificato giuridicamente la condotta: ha rilevato l’anomalia tecnica, bloccato il comando malevolo, segnalato il rischio e rimesso il caso alla magistratura.
Le due professioniste hanno invocato l’immunità prevista dal codice di procedura civile brasiliano, che tutela il difensore per gli atti compiuti nell’esercizio della difesa. Il giudice ha però respinto la tesi qualificando la loro condotta come un caso di frode processuale, disponendo una sanzione pari al 10 per cento del valore della causa e trasmettendo gli atti all’Ordine degli Avvocati del Pará per le valutazioni disciplinari e deontologiche.
