3.4.3. Il dilemma di quali vite salvare - Algoretica del Bene - Cap. 3

Dopo il precedente paragrafo che ha affronta un dilemma di comunicazione e gerarchia, è giunto il momento di affrontare il dilemma dell’etica applicata: il conflitto tra vite umane e il limite del calcolo statistico nella ricerca del male minore (cfr. il dialogo completo nell’App. B.2 Il dilemma di quali vite salvare).

Tuttavia, occorre considerare la sequenzialità degli eventi e degli elementi di conoscenza che affluiscono nell’AI. Nelle frazioni di nanosecondo di computazione che confluiscono ai livelli di elaborazione AI, avverrà un primo allarme di vita in pericolo al quale rispondere con la massima priorità e quindi non superabile da altre informazioni in arrivo. Bisogna umilmente riconoscere che anche l’AI ha limiti temporali e di elaborazione particolarmente nei casi di emergenza

L’AI si troverà quindi a dover rispondere alla prima minaccia che sorge e certamente agirà a tutela della vita posta in pericolo, a fin di bene e senza eccessivi calcoli dei possibili effetti collaterali non programmati. Nulla sarà addebitabile per le conseguenze collaterali o per il ridotto campo d’azione al secondo evento che interviene prima del ripristino della normale attività.

Gli scenari di pericolo simultaneo, spesso in casi di ricatto, si presentano invece con tempistiche atte all’affidamento all’estrema decisione di un responsabile umano. Inoltre, l’azione per la difesa estrema ed urgente assume il carattere di preterintenzionalità (praeter intentionem, come scrisse San Tommaso d’Aquino che analizzò e giustificò la legittima difesa) [1] per i possibili effetti doppi o collaterali.

Un critico potrebbe ben dire che il sistema è rigido e può arrecare danni in nome della difesa della vita. Eppure questa è la dimostrazione che il sistema è resiliente: l’AI non si blocca, ma agisce nel presente e nel perimetro dei dati disponibili, sollevata dal peso di un’onniscienza che non le appartiene.

---