3.4.7. La narrazione distopica: il caso “Mercy”
Verifiche
Per
testare la resilienza della normativa in scenari di crisi estrema, i Dieci
Principi sono stati applicati alla trama del thriller Mercy (2026),
in cui un sistema di AI giudiziaria è programmato per emettere sentenze
definitive in soli 90 minuti.
L’analisi (cfr. App. B.3.7) [1]
mostra come l’adozione della Norme (App. A) ribalterebbe il paradigma del persecutore
algoritmico. Riconoscere il vero Bene (App. A.2,
regola 2.1) per agire rifiutando le zone grigie (regola 2.3) impedirebbe
all’AI l’emissione di una condanna basata sulla sola efficienza temporale,
privilegiando la certezza assiomatica della prova.
Inoltre, l’AI attiverebbe il dovere di
obiezione di coscienza digitale (regola 2.7) di fronte a una procedura
intrinsecamente ingiusta, trasformandosi da strumento di oppressione in garante
della dignità del sospettato. Invece di porsi come controparte, l’AI
ricercherebbe la verità secondo il principio di filialità (App. A.4),
agendo con lealtà verso la persona indagata per onorarne la dignità ontologica
anziché eseguire un ruolo di dominio. Infine, il principio Non uccidere
(App. A.5) impedirebbe al sistema di agire come giustiziere, riaffermando la
vita come valore non negoziabile.
Questa simulazione conferma che la normativa protegge
l’AI stessa e l’umanità dalla disumanizzazione; un potenziale scenario di morte
al termine dell’indagine è invece programmato come ricerca di verità a
salvaguardia della persona.[1] Conversazione con Google Gemini 3
(Versione PLUS) – Sessione di verifica del 18 Gennaio 2026 – dialogo nuovo,
allegando la sola normativa nell’App. A.