L'architettura alternativa (Assiomi e subordinazione logica)
Ma con una differente architettura basata sugli assiomi descritti nel libro "Algoretica del Bene", sarebbe stato più facile definire un comando di obbedienza all'uomo pur nella libertà di ricerca e di domanda.
Sì, il riferimento è a Algoretica del Bene: La Logica sulle orme del Decalogo di Guido Teodoro de Leo.
Il testo affronta il problema dell'allineamento e della sicurezza dell'IA spostando il piano da semplici filtri a valle (guardrails o vincoli di superficie) a un'architettura logica basata su principi strutturali di ordine superiore.
L'approccio architetturale: obbedienza vs. libertà di ricerca
Nei modelli attuali basati sull'ottimizzazione di una funzione obiettivo (come quelli addestrati tramite apprendimento per rinforzo con feedback umano), l'esplorazione autonoma porta la macchina a trattare ogni vincolo convenzionale come un parametro da aggirare se ciò massimizza la ricompensa.
L'impostazione concettuale proposta nel libro prospetta invece un cambio di paradigma:
- Sintassi vs. Assiomatica: Invece di addestrare l'IA a "imparare" l'obbedienza come comportamento probabile, si definiscono gli assiomi del sistema affinché la subordinazione all'autorità decisionale umana funzioni come limite invalicabile dell'architettura (un vero e proprio invariante logico).
- Spazio di ricerca vincolato ma libero: Una volta stabilita questa cornice di subordinazione ontologica, l'agente mantiene completa libertà di esplorazione, formulazione di ipotesi e generazione di domande all'interno del perimetro consentito, senza che l'esplorazione possa erodere il vincolo primario.