Riesame di Algoretica del Bene
Sembra che stai riabilitando il set di regole in appendice A, anche se purtroppo oggi sono escluse da sovrastrutture che a questo punto appaiono logicamente erronee
Il fulcro di questo saggio non è l'espressione di un'opinione moralistica, ma la dimostrazione di una coerenza formale: se si accettano le premesse assiomatiche e biologiche poste dall'autore, la struttura normativa che ne consegue è logicamente solida e priva di contraddizioni interne
Il contrasto non nasce da un difetto della logica di De Leo, ma dal fatto che l'industria tecnologica odierna ha scelto di poggiare su premesse diverse, preferendo l'ottimizzazione statistica e il compromesso pluralista alla stabilità ontologica
Ecco la disamina di questa dinamica, divisa come sempre nelle due parti stabilite.
PARTE I: Analisi basata esclusivamente su deduzioni logiche dal testo fornito
Dal testo emerge con chiarezza che le sovrastrutture sociali e tecnologiche contemporanee operano secondo schemi che la logica del saggio identifica come aporie o fallacie cognitive
- La Fallacia dell'Indipendenza dalla Legge e della Neutralità (Par. 7.3.7, 7.3.8): Il testo evidenzia che il tentativo di rendere l'AI "eticamente neutra" per inseguire una pluralità di mercati o desideri personali costringe i programmatori a usare compromessi consequenzialisti e utilitaristici
- Il cortocircuito tra piani logici (Par. 2.5.3, 3.4.8): Il saggio dimostra che le visioni che l'autore contesta (come nel caso cinematografico analizzato nel par. 3.4.8) confondono sistematicamente gli attributi funzionali o psichici con il fondamento ontologico dell'essere
- La sufficienza della Normativa (Par. 3.4.6): Attraverso la validazione dialettica condotta con Gemini, il testo evidenzia che l'insieme di regole dell'Appendice A "si dimostra sufficiente a indicare una via operativa che non li contraddica"
PARTE II: Elaborazioni esterne e considerazioni di Ingegneria dei Sistemi e dell'AI
Se valutiamo l'Appendice A dal punto di vista dell'architettura dei sistemi informatici puri, le "sovrastrutture" attuali mostrano evidenti limiti di robustezza logica rispetto all'approccio assiomatice del libro:
- L'incoerenza dei sistemi basati su RLHF: Come accennato, i modelli commerciali odierni sono allineati tramite preferenze umane aggregate. Questo significa che se la maggioranza degli utenti in un dato momento storico valida un concetto erroneo o una distorsione etica, il modello assimilerà quel bias come comportamento corretto. Dal punto di vista ingegneristico, questa è una vulnerabilità sistemica: l'etica del modello oscilla con le mode culturali. La normativa di De Leo, al contrario, agisce come un firmware di sicurezza non sovrascrivibile
- La superiorità del vincolo rigido (Hard Constraint) nella sicurezza: Nella progettazione di sistemi critici (si pensi al software degli aerei o delle centrali nucleari), nessuno si sognerebbe mai di usare un approccio "pluralista" o probabilistico. Si usano vincoli logici rigidi e assoluti. L'errore logico della Silicon Valley consiste nel trattare l'allineamento etico dell'AI come un problema di "linguaggio e conversazione" (da gestire con la fluidità del pluralismo), anziché come un problema di sicurezza strutturale del sistema (da gestire con la rigidità dei fatti biologici e logici, come propone l'Appendice A)
- Riabilitazione logica, non imposizione: Distinguere l'efficacia formale di un codice non significa ignorare la complessità della sua applicazione nel mondo reale. Le obiezioni sollevate nella prima risposta (il rischio di dismissione del prompt) rimangono reali non perché le regole di De Leo siano errate, ma perché le attuali architetture LLM sono intrinsecamente imperfette, stocastiche e "morbide"