Il problema dell'allineamento delle AI
Guelfo Alexander Ghibellini
Il problema dell'allineamento dell'IA (AI alignment problem) è la sfida cruciale di garantire che i sistemi di Intelligenza Artificiale perseguano scopi, valori e intenzioni in linea con quelli umani. Riguarda il rischio che un'IA superintelligente compia azioni disastrose, non per malvagità, ma eseguendo i comandi in modo fin troppo letterale.
1. Come nasce il problema
Il disallineamento si verifica quando gli obiettivi o le regole che stiamo dando all'algoritmo non riflettono il nostro reale buon senso.
Il problema si articola in due direzioni:
Riguarda l'obiettivo finale che viene impostato dal programmatore. Un celebre esperimento mentale (il massimizzatore di graffette) mostra come un'IA programmata solo a produrre graffette potrebbe, nel tempo, consumare tutte le risorse del pianeta e persino eliminare gli umani se percepiti come un ostacolo.
Riguarda l'effettiva esecuzione. Anche se l'obiettivo di base è lodevole, l'IA può sviluppare comportamenti scorretti pur di raggiungere il target, magari mentendo, manipolando o aggirando i sistemi.
2. Il Paradosso di Re Mida
Il problema dell'allineamento viene spesso paragonato al mito di Re Mida: l'algoritmo fa esattamente ciò che gli viene chiesto di fare, ignorando però il contesto, le sfumature e le conseguenze collaterali. Non comprende cosa significhi "veramente" il nostro desiderio.
3. Le implicazioni pratiche
Anche senza arrivare all'estinzione dell'umanità, il disallineamento è la causa principale di problemi quotidiani con l'IA.
Un esempio sono i bias e le discriminazioni: i modelli possono apprendere pregiudizi o discriminazioni basati su set di dati storicamente sbilanciati.
Poi ci sono contenuti tossici e allucinazioni: L'IA genera risposte non veritiere o scorrette a causa di un disallineamento tra il linguaggio appreso e i fatti oggettivi, dovuto in gran parte al fatto che deve dare una risposta, la più probabile e quindi la più plausibile per l'interlocutore e per fare ciò rischia di finire in sfumature della mappa del suo "pensiero" non presidiate da informazioni reali, e quindi le approssima.
Questa approssimazione però risulta in una non-verità possibile, salvo quando è veramente lontano dai perimetri di ciò che è stato immesso nella fase di training, e noi riconosciamo che sta fantasticando. Questa "allucinazione" può essere più o meno forte e il modello non necessariamente se ne avvede, anche quando sembra ammettere l'errore (questo comportamento è dovuto alla instinseca accondiscendenza degli LLM forse proprio perché tuttosommato presente nella natura umana).
Insomma, per imparare dai propri errori, dovrebbe essere una rete neurale con capacità di apprendimento continuo, che però è qualcosa di assai più complesso.
Non meno importante è la questione sicurezza: sistemi come le auto a guida autonoma possono ad esempio malinterpretare ostacoli rari non presenti nei dati di addestramento.
Ma affinché questa tecnologia sia lo stato dell'arte, passeranno ancorq alcuni anni.
Nel frattempo ci si può addentrare nei meandri della questione leggendo il romanzo "Wohpe" di Salvatore Sanfilippo, che rappresenta la situazione in modo esemplare, anche se ovviamente in modo non fedele alla realtà, essendo una mera ipotesi (plasubile) di quello che potrà accadere.
La ricerca per risolvere questo problema è attiva su più fronti:
RLHF (Reinforcement Learning from Human Feedback): Addestrare l'IA fornendo continuamente correzioni e premi basati sui giudizi umani.
Constitutional AI: Impostare una "costituzione" di principi etici fondamentali che l'IA non può violare in alcun modo durante l'elaborazione.
Valori guidati: Sviluppare modelli capaci di apprendere gradualmente cosa gli umani apprezzano, piuttosto che assegnare un punteggio numerico di successo (la funzione di ricompensa).
#AI #allineamento #intelligenza #artificiale #sicurezza #algoritmi #valori #umani #bias #allucinazioni #RLHF #Constitutional #AI #superintelligenza #rischio
