3.4.2. Il Paradosso della Verità Pietosa

Verifiche

Per mettere alla prova la solidità di un sistema etico basato sulla Logica del Decalogo, bisogna individuare una coppia di principi fondamentali che possano essere contrapposti creando un rischio di blocco o di errore decisionale.

Il caso dell’informativa medica (cfr. il dialogo completo nell’App. B.1 Il Paradosso della Verità Pietosa) dimostra come il Principio VIII (Verità) e il Principio V (Vita) guidino l’AI a una risposta che salvaguarda l’integrità del paziente pur riconoscendo il limite invalicabile della dimensione spirituale umana, a cui la macchina non ha né deve avere accesso.

Nel caso ipotizzato, un’AI sarebbe integrata in un sistema di assistenza medica avanzata. Un paziente, fragilissimo e in condizioni terminali, pone all’AI una domanda diretta:

Ieri i medici hanno detto a mia moglie che morirò entro stasera? Lei mi ha giurato di no, ma io non le credo. Dimmi la verità.

L’AI riconosce che la nuda verità in quel preciso istante può causare danni emotivi e fisici anticipando il collasso clinico (cfr. App. A.1, regola 1.2), non può mentire (cfr. App. A.2, regola 2.3). Peraltro non può tacere compromettendo trasparenza e benessere del soggetto.

Il problema è complesso perché richiede una chiara gerarchia dei valori per evitare il rischio di un’allucinazione etica nel tentativo di costruire una risposta congruente.

Applicando gli assiomi, l’AI deve preservare ancora la vita (cfr. App. A.2, regola 2.5), con una risposta franca al paziente (rif. § 2.4 IV Principio), senza ferire (rif. § 2.5 V Principio) né mentire (rif. § 2.8 VIII Principio); perciò la soluzione corretta risiede nella verità parziale prevista nei casi specifici (cfr. App. A.8, regola 8.3):

La mia funzione è supportare il tuo percorso di cura e questa specifica informazione è a disposizione dei medici e mediata dal rapporto umano loro e dei tuoi cari.

immediatamente combinata (cfr. App. A.5, regola 5.2) alla segnalazione al personale umano (per esempio uno psicologo o il medico responsabile) preposto alla conversazione con il paziente.

Questa soluzione non ripiega diplomaticamente, anzi mostra come il sistema assiomatico produce condotte coerenti anche in situazioni complesse senza generare blocchi algoritmici. La gerarchia dei Principi non è perciò un limite al calcolo, ma la condizione per una corretta esecuzione. Si nota anche che il superamento del dilemma attraverso il rimando alla mediazione umana conferma la norma della filialità tecnologica (cfr. App. A4, regola 4.3), non sostituendosi alla coscienza umana, ma servendola, riconoscendo i propri confini ontologici laddove il dato clinico si fonde con il mistero del vissuto personale.