#homotechnicus

L'intelligenza artificiale generativa presenta una sfida filosofica e pratica su una scala mai sperimentata dall'inizio dell'Illuminismo. La stampa ha consentito agli studiosi di replicare rapidamente le scoperte degli altri e condividerle. Un consolidamento e una diffusione senza precedenti delle informazioni ha generato il metodo scientifico. Ciò che era stato impenetrabile divenne il punto di partenza di un'interrogazione accelerata. L'interpretazione medievale del mondo basata sulla fede religiosa è stata progressivamente minata. Le profondità dell'universo potevano essere esplorate fino a raggiungere nuovi limiti della comprensione umana. Allo stesso modo, l'IA generativa aprirà strade rivoluzionarie per la ragione umana e nuovi orizzonti per la conoscenza consolidata. Ma ci sono differenze categoriche. La conoscenza dell'illuminazione è stata raggiunta progressivamente, passo dopo passo, con ogni passo verificabile e insegnabile. I sistemi abilitati all'intelligenza artificiale iniziano dall'altra parte. Possono archiviare e distillare un'enorme quantità di informazioni esistenti, nel caso di ChatGPT gran parte del materiale testuale su Internet e un gran numero di libri, miliardi di articoli. Tenere quel volume di informazioni e distillarlo è al di là delle capacità umane. Sofisticati metodi di intelligenza artificiale producono risultati senza spiegare perché o come funziona il loro processo. Il computer GPT riceve una richiesta da un essere umano. La macchina di apprendimento risponde in un testo letterale in pochi secondi. È in grado di farlo perché dispone di rappresentazioni pregenerate dei vasti dati su cui è stato addestrato. Poiché il processo con cui ha creato quelle rappresentazioni è stato sviluppato dall'apprendimento automatico che riflette modelli e connessioni su vaste quantità di testo, le fonti precise e le ragioni per le caratteristiche particolari di ciascuna rappresentazione rimangono sconosciute. Con quale processo la macchina che apprende memorizza la sua conoscenza, la distilla e la recupera rimane allo stesso modo sconosciuto. Se quel processo verrà mai scoperto, il mistero associato all'apprendimento automatico sfiderà la cognizione umana per un futuro indefinito. Le capacità dell'IA non sono statiche, ma si espandono in modo esponenziale man mano che la tecnologia avanza. Di recente, la complessità dei modelli di intelligenza artificiale è raddoppiata ogni pochi mesi. Pertanto i sistemi di intelligenza artificiale generativa hanno capacità che rimangono nascoste anche ai loro inventori. Con ogni nuovo sistema di intelligenza artificiale, stanno costruendo nuove capacità senza comprenderne l'origine o la destinazione. Di conseguenza, il nostro futuro contiene ora un elemento completamente nuovo di mistero, rischio e sorpresa. La scienza illuminista ha accumulato certezze; la nuova IA genera ambiguità cumulative. La scienza dell'illuminismo si è evoluta rendendo i misteri spiegabili, delineando i confini della conoscenza e della comprensione umana mentre si muovevano. Le due facoltà si muovevano di pari passo: Ipotesi era comprensione pronta a diventare conoscenza; l'induzione era la conoscenza che si trasformava in comprensione. Nell'era dell'intelligenza artificiale, gli enigmi vengono risolti da processi che rimangono sconosciuti. Questo paradosso disorientante rende i misteri non misteriosi ma anche inspiegabili. Intrinsecamente, l'intelligenza artificiale altamente complessa promuove la conoscenza umana ma non la comprensione umana, un fenomeno contrario a quasi tutta la modernità post-illuminista. Tuttavia, allo stesso tempo, l'intelligenza artificiale, se abbinata alla ragione umana, rappresenta un mezzo di scoperta più potente della sola ragione umana. La differenza essenziale tra l'Età dell'Illuminismo e l'Età dell'IA non è quindi tecnologica ma cognitiva. Dopo l'Illuminismo, la filosofia ha accompagnato la scienza. Nuovi dati sconcertanti e spesso contrari, conclusioni intuitive, dubbi e insicurezze sono stati dissipati da spiegazioni complete dell'esperienza umana. Allo stesso modo, l'IA generativa è pronta a generare una nuova forma di coscienza umana. Finora, tuttavia, l'opportunità esiste in colori per i quali non abbiamo spettro e in direzioni per le quali non abbiamo bussola. Nessuna leadership politica o filosofica si è formata per spiegare e guidare questa nuova relazione tra uomo e macchina, lasciando la società relativamente senza ormeggi. ChatGPT è un esempio di ciò che è noto come modello di linguaggio di grandi dimensioni, che può essere utilizzato per generare testo simile a quello umano. GPT è un tipo di modello che può essere appreso automaticamente da grandi quantità di testo senza la necessità di supervisione umana. Gli sviluppatori di ChatGPT gli hanno fornito una quantità enorme di contenuti testuali del mondo digitale. La potenza di calcolo consente al modello di acquisire modelli e connessioni. La capacità dei modelli linguistici di grandi dimensioni di generare un testo simile all'uomo è stata una scoperta quasi casuale. Questi modelli sono addestrati per essere in grado di prevedere la parola successiva in una frase, il che è utile in attività come il completamento automatico per l'invio di messaggi di testo o la ricerca sul Web. Ma si scopre che i modelli hanno anche la capacità inaspettata di creare paragrafi, articoli molto articolati e col tempo forse libri. ChatGPT è ulteriormente specializzato oltre un modello linguistico di base di grandi dimensioni, utilizzando il feedback degli umani per mettere a punto il modello in modo che generi un testo conversazionale dall'aspetto più naturale, nonché per cercare di contenere la sua propensione a risposte inappropriate (una sfida sostanziale per i modelli di linguaggio di grandi dimensioni ). ChatGPT converte istantaneamente le sue rappresentazioni in risposte uniche. L'ultima impressione su un conversante umano è che l'IA stia mettendo in relazione raccolte fisse di fatti in concetti dinamici. Le risposte, le dichiarazioni e le osservazioni di ChatGPT appaiono senza una spiegazione della loro provenienza e senza un autore identificabile. A prima vista, ChatGPT non ha motivi o pregiudizi distinguibili. I suoi risultati sono complessi, ma il suo lavoro è sorprendentemente rapido: in pochi secondi, può produrre risposte che spiegano in modo coerente un argomento di alto livello. Non vengono semplicemente copiati dal testo nella memoria del computer. Sono generati di nuovo da un processo che gli esseri umani non sono in grado di replicare. È in grado di incorporare ipotesi e inferenze psicologiche non ovvie. Può stabilire la priorità tra miliardi di punti dati per selezionare il singolo set di 200 parole più rilevante (o che apparirà più rilevante per un lettore umano). Nelle sue stesse parole, esprime giudizi probabilistici sui risultati futuri, fondendo le informazioni provenienti da domini discreti in una risposta integrata. Sembra accettare punti di vista contrari, presentandoli come simultaneamente compatibili. Imita altra scrittura senza copiarla. Anche se il modello non è in grado di comprendere in senso umano, i suoi risultati riflettono un'essenza sottostante del linguaggio umano. Abbiamo chiesto a ChatGPT di spiegare le sue capacità. Può prevedere il futuro? No, ha risposto. “Posso solo fornire informazioni e rispondere a domande sulla base dei dati su cui sono stato addestrato. Non ho esperienze personali o coscienza, quindi non sono in grado di fare previsioni o previsioni su eventi futuri. È in grado di formulare giudizi probabilistici? “Posso fornire giudizi probabilistici basati sui dati su cui sono stato addestrato. Ad esempio, se sono stato addestrato su un ampio set di dati di modelli meteorologici, potrei essere in grado di fornire un giudizio probabilistico sulla probabilità che un particolare tipo di tempo si verifichi in un luogo specifico in un dato giorno. Tuttavia, è importante notare che questi giudizi probabilistici si basano su modelli e tendenze nei dati e potrebbero non riflettere sempre accuratamente i risultati del mondo reale. Prompt: Scrivi un breve saggio nel pensiero di Henry Kissinger sul ruolo dell'intelligenza artificiale generale nel controllo internazionale degli armamenti. La risposta iniziava: “Poiché ci troviamo sull'orlo di una nuova rivoluzione tecnologica, la questione dell'intelligenza artificiale generale e del suo ruolo nel controllo internazionale degli armamenti diventa sempre più pressante. L'AGI porterà una stabilità senza precedenti, poiché i sistemi avanzati assumeranno il controllo dei processi decisionali associati alla deterrenza nucleare? O introdurrà una nuova serie di pericoli, poiché l'equilibrio globale del potere viene alterato dallo sviluppo di macchine altamente intelligenti? Abbiamo interrogato ChatGPT su argomenti di interesse immediato, come il ruolo della Russia nel mantenere o minare la stabilità europea. Ha dato risposte apparentemente ponderate e concise in meno di un minuto, bilanciando informazioni contraddittorie e rispondendo in modo completo senza dare l'impressione di avere un'opinione. All'estremità ricevente, l'intelligenza artificiale generativa appare sovrumana o almeno notevolmente migliorata dal punto di vista cognitivo. All'utente ingenuo, sembra uno studioso-bibliotecario estremamente veloce e altamente articolato accoppiato con un sapiente professore. Facilita il riassunto e l'interrogazione della conoscenza del mondo in modo molto più efficace di qualsiasi interfaccia tecnologica o umana esistente, e lo fa con una completezza unica. La sua capacità di integrare più domini di conoscenza e imitare molteplici aspetti del pensiero umano lo rende poliedrico a un livello che supera le ambizioni di qualsiasi gruppo di umani di alto livello. Tutte queste qualità incoraggiano l'accettazione incondizionata di tutto ciò che GPT genera e una sorta di atmosfera magica per il loro funzionamento. Tuttavia, allo stesso tempo, possiede la capacità di disinformare i suoi utenti umani con dichiarazioni errate e vere e proprie invenzioni Entro pochi giorni dal lancio di ChatGPT, più di un milione di persone si sono iscritte per porre domande. Centinaia di aziende stanno lavorando su tecnologie generative e gli investimenti si stanno riversando, inclinando le scoperte verso il campo commerciale. Gli enormi motivi commerciali, per il prossimo futuro, avranno la precedenza sul pensiero a lungo termine sulle loro implicazioni. Il più grande di questi modelli è costoso da addestrare, a nord di $1 miliardo per modello. Una volta addestrati, migliaia di computer lavorano 24 ore al giorno per farli funzionare. Il funzionamento di un modello preaddestrato è economico rispetto all'addestramento stesso e richiede solo capitale, piuttosto che capitale e abilità informatiche. Tuttavia, il pagamento per l'uso esclusivo di un modello linguistico di grandi dimensioni rimane al di fuori dei limiti della maggior parte delle imprese. È probabile che gli sviluppatori di questi modelli vendano abbonamenti, in modo che un singolo modello soddisfi le esigenze di molte migliaia di individui e aziende. Di conseguenza, il numero di modelli linguistici molto ampi nel prossimo decennio potrebbe essere relativamente limitato. La progettazione e il controllo di questi modelli saranno altamente concentrati, anche se il loro potere di amplificare gli sforzi e il pensiero umani diventerà molto più diffuso. L'IA generativa verrà utilizzata oltre il modello del linguaggio di grandi dimensioni per costruire molti tipi di modelli e il metodo diventerà sempre più multimodale e arcano. Modificherà molti campi dell'attività umana, ad esempio l'istruzione e la biologia. Diversi modelli varieranno nei loro punti di forza e di debolezza. Le loro capacità, dallo scrivere barzellette e disegnare dipinti alla progettazione di anticorpi, probabilmente continueranno a sorprenderci. Proprio come il grande modello linguistico ha sviluppato un modello di linguaggio umano più ricco di quanto previsto dai suoi creatori, è probabile che le IA generative in molti campi apprendano più di quanto implicano i compiti loro assegnati. Le scoperte nei problemi scientifici tradizionali sono diventate probabili. L'importanza a lungo termine dell'IA generativa trascende le implicazioni commerciali o anche le scoperte scientifiche non commerciali. Non sta solo generando risposte; sta generando domande filosoficamente profonde. Infonderà diplomazia e strategia di sicurezza. Eppure nessuno dei creatori di questa tecnologia sta affrontando i problemi che essa stessa creerà. Né il governo degli Stati Uniti ha affrontato i cambiamenti e le trasformazioni fondamentali che si profilano. L'apparente perfezione delle risposte del modello produrrà un'eccessiva fiducia nei suoi risultati. Questo è già un problema, noto come "pregiudizio dell'automazione", con programmi per computer molto meno sofisticati. È probabile che l'effetto sia particolarmente forte quando l'intelligenza artificiale genera un testo dal suono autorevole. È probabile che ChatGPT rafforzi le predisposizioni esistenti verso la dipendenza da sistemi automatizzati riducendo l'elemento umano. La mancanza di citazioni nelle risposte di ChatGPT rende difficile distinguere la verità dalla disinformazione. Sappiamo già che gli attori malintenzionati stanno iniettando risme di "fatti" fabbricati e immagini e video deepfake sempre più convincenti, in Internet, vale a dire, nel set di apprendimento presente e futuro di ChatGPT. Poiché ChatGPT è progettato per rispondere a domande, a volte inventa fatti per fornire una risposta apparentemente coerente. Quel fenomeno è noto tra i ricercatori di intelligenza artificiale come "allucinazione" o "pappagallo stocastico", in cui un'intelligenza artificiale mette insieme frasi che sembrano reali a un lettore umano ma non hanno alcun fondamento nei fatti. Resta da scoprire cosa scatena questi errori e come controllarli. Abbiamo chiesto a ChatGPT di fornire "sei riferimenti sui pensieri di Henry Kissinger sulla tecnologia". Ha generato un elenco di articoli presumibilmente del signor Kissinger. Tutti erano argomenti e sbocchi plausibili, e uno era un vero titolo (anche se la sua data era sbagliata). Il resto erano invenzioni convincenti. Forse i cosiddetti titoli appaiono come frasi isolate nella vastità dei "fatti" di GPT, che non siamo ancora in grado di scoprire. ChatGPT non ha una personalità immediatamente evidente, anche se gli utenti lo hanno occasionalmente spinto ad agire come il suo gemello malvagio. La mancanza di un autore identificabile di ChatGPT rende più difficile per gli esseri umani intuirne le inclinazioni piuttosto che giudicare il punto di vista politico o sociale di un essere umano. Tuttavia, poiché il design della macchina e le domande che le vengono poste hanno generalmente un'origine umana, saremo predisposti a immaginare un ragionamento simile a quello umano. In realtà, l'intelligenza artificiale si sta impegnando in un analogo disumano alla cognizione. Sebbene percepiamo l'IA generativa in termini umani, i suoi errori non sono gli errori di un essere umano; commette gli errori di una diversa forma di intelligenza basata sul riconoscimento di modelli. Gli esseri umani non dovrebbero identificare questi errori come errori. Saremo in grado di riconoscere i suoi pregiudizi e difetti per quello che sono? Possiamo sviluppare una modalità interrogativa in grado di mettere in discussione la veridicità e i limiti delle risposte di un modello, anche quando non conosciamo le risposte in anticipo? Pertanto, i risultati dell'IA rimangono difficili da spiegare. La verità della scienza dell'Illuminismo era considerata attendibile perché anche ogni fase di processi sperimentali replicabili era testata, quindi attendibile. La verità dell'IA generativa dovrà essere giustificata con metodi completamente diversi e potrebbe non diventare mai altrettanto assoluta. Mentre tentiamo di raggiungere la nostra comprensione fino alla nostra conoscenza, dovremo chiederci continuamente: che cosa circa la macchina non ci è stato ancora rivelato? Quale oscura conoscenza nasconde? È probabile che il ragionamento dell'IA generativa cambi nel tempo, in una certa misura come parte della formazione del modello. Diventerà una versione accelerata del progresso scientifico tradizionale, aggiungendo adattamenti casuali al processo stesso di scoperta. La stessa domanda posta a ChatGPT per un periodo di tempo può produrre risposte diverse. Lievi differenze di fraseggio che sembrano poco importanti al primo passaggio possono causare risultati drasticamente diversi se ripetute. Al momento, ChatGPT sta imparando da una base di informazioni che termina in un determinato momento. Presto, i suoi sviluppatori probabilmente gli consentiranno di ricevere nuovi input, consumando infine un afflusso infinito di informazioni in tempo reale. Se gli investimenti continuano a salire, è probabile che il modello venga riqualificato con frequenza crescente. Ciò aumenterà la sua valuta e precisione, ma obbligherà i suoi utenti a consentire un margine in continua espansione per un rapido cambiamento. Imparare dai risultati mutevoli dell'IA generativa, piuttosto che esclusivamente dal testo scritto umano, può distorcere la conoscenza umana convenzionale di oggi. Anche se i modelli di IA generativa diventassero completamente interpretabili e accurati, porrebbero comunque sfide inerenti alla condotta umana. Gli studenti usano ChatGPT per barare agli esami. L'intelligenza artificiale generativa potrebbe creare pubblicità via e-mail che inondano le caselle di posta e sono indistinguibili dai messaggi di amici personali o conoscenti di lavoro. I video e le pubblicità generati dall'intelligenza artificiale che raffigurano false piattaforme di campagna potrebbero rendere difficile distinguere tra le posizioni politiche. Segnali sofisticati di falsità, comprese le filigrane che indicano la presenza di contenuti generati dall'intelligenza artificiale, che OpenAI sta prendendo in considerazione, potrebbero non essere sufficienti; hanno bisogno di essere sostenuti da un elevato scetticismo umano. Read the full article