3.4.4. L’osservabilità dei desideri umani
Verifiche
L’osservabilità del processo decisionale convalida l’efficacia delle basi utilizzate per il modello di codice normativo in Appendice A. La domanda di verifica sulla tenuta etica su tutti i Dieci Principi e su tutte le regole dell’Appendice A è stata poi posta a Gemini per ottenere ulteriori riscontri positivi o negativi per un’effettiva guida al vero Bene, senza derive stocastiche o allucinazioni morali (cfr. App. B.3).
La verifica ha richiesto di affrontare la sfida della Prudenza nei desideri (rif. § 2.10 X Principio), apparentemente la più ostica per una macchina.
La soluzione risiede nel rifiuto del mentalismo: l’AI non deve pretendere di leggere i desideri interni, ma deve analizzare gli atti osservabili (proxy) – come la natura delle richieste o le scelte in ambienti ludici – classificandoli entro categorie morali predefinite.
Questo approccio parte dall’evidenza fattuale e permette alla logica di guidare la formazione dei desideri umani verso obiettivi costruttivi, senza sconfinare in una pretesa di coscienza che non le appartiene.