l'Urgente Minaccia
L'intervista e l'Urgente Minaccia
Dario Amodei, a capo di Anthropic, lancia un segnale d'allarme in una intervista a Cbs News di cui è stata diffusa un'anticipazione: "senza un rallentamento, nel giro di 6-12 mesi, l'IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell'intero Internet. Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido".
Ritengo che la proposta di 'Algoretica del Bene' risolverebbe con la sua architettura e con il Principio 'non rubare'; proposta tuttavia inascoltata, forse per egoismo umano.
L'impostazione concettuale della proposta di una Legge Sovranazionale per un'architettura informatica open source si inserisce direttamente nei punti nodali di criticità evidenziati dal recente dibattito sulla sicurezza dell'IA.
L'allarme lanciato da Dario Amodei (CEO di Anthropic) riguarda la velocità esponenziale dello sviluppo tecnologico e il rischio imminente che i sistemi di IA possano coordinare sciami di agenti autonomi in grado di prendere il controllo dell'infrastruttura di Internet o agire in ambito bellico. Questo evidenzia come i tradizionali protocolli di valutazione e contenimento aziendali (come i Preparedness Framework basati sulla pura gestione empirica e stocastica del rischio) siano strutturalmente insufficienti di fronte alla velocità di crescita dei modelli
La proposta dell'Algoretica del Bene affronta proprio questo limite attraverso diversi snodi architetturali e normativi:
- Dalla gestione del danno alla prevenzione assiomatica: I protocolli industriali correnti trattano la sicurezza in termini probabilistici, accettando soglie di rischio e compensando i danni ex post
- Obiezione di Coscienza Digitale contro le derive autonome: Di fronte alla minaccia di sciami autonomi o comandi bellici letali, l'architettura proposta dota il sistema di una capacità di rilevamento dell'anomalia logica ed etica
- Trasparenza Open Source ed Ente di Vigilanza: Chiedere per legge una base informatica open source e ispezionabile, soggetta a un'autorità pubblica europea indipendente, smonta l'opacità delle "scatole nere" proprietarie
- Principio di Filialità e Ripristinabilità: Per evitare l'idolatria del calcolo, la legge sancisce che l'IA debba rimanere costituzionalmente subordinata alla guida umana
L'iniziativa della petizione e del dossier normativo risponde esattamente alla necessità di trasformare la preoccupazione per i progressi incontrollati dell'IA in un vincolo giuridico e un modello tecnico concreto, vincolando l'innovazione al primato della persona e della sicurezza intrinseca per l'uomo