Ci siamo. Ho fatto la sessione di esami che vi dicevo mi preoccupava. È andata peggio del previsto. Molti studenti sono passati senza problemi, alcuni anche con ottimi voti. Ma una frazione tutt'altro che trascurabile ha mostrato esattamente il mondo che temevo. Oggi l'ho visto davanti ai miei occhi. Sembrava di stare in un mondo distopico. Il grande assente era il senso. La sensazione è amara. Ho visto studenti leggere direttamente dalla chat di ChatGPT durante la presentazione, con tanto di grafici e spiegazioni. Ho visto studenti mostrare correlazioni di Pearson senza sapere cosa fosse una correlazione di Pearson e a cosa servisse. Ho visto regressioni lineari che non mostravano nessuna relazione, mentre lo studente concludeva il contrario perché non sapeva leggere l'output. Ho visto, ancora una volta, probabilità maggiori di uno (per chi non lo sapesse, è impossibile per definizione). Ho visto progetti costruiti tutti allo stesso modo. Non seguivano un ragionamento. Seguivano la coerenza statistica del linguaggio. Erano assemblaggi plausibili di concetti che, messi insieme, non significavano quasi nulla. Per certi versi sembrava di assistere a una di quelle conferenze para-accademiche tanto di moda in alcune avanguardie qulturali in cerca di rilevanza: discorsi fluidi, pieni di parole giuste, ma senza il minimo background che li sostenesse. La cosa che mi ha lasciato perplesso è che non hanno usato gli LLM solo per fare il progetto. Li hanno anche usati per studiare. Se un LLM gli dicesse che che 2+2 fa 7.5, molti di loro non avrebbero gli strumenti per accorgersi che è una sciocchezza. La prenderebbero per buona. Andrebbero avanti. Perché un LLM ottimizza la plausibilità, non la verità. E se lo usi per sostituire il processo di apprendimento, finisci per interiorizzare la plausibilità invece della comprensione. Va bene per certi ambienti performativi, non per il mondo vero, soprattutto per quello del lavoro. Stiamo lavorando proprio in queste settimane sull'affidabilità di AI Overview. Vi dico solo questo. C'è da mettersi paura. E continuo a pensare che stiamo commettendo un errore terrificante. Ripetere che gli LLM sono "abilitanti", che "democratizzano la conoscenza", che "abbassano le barriere dell'apprendimento" è una follia. Chi lo dice è un incosciente, o peggio. Io oggi ero in aula. Stiamo letteralmente fottendo una generazione con sta cazzata e continuando a vendere questi strumenti per quello che non sono. Capisco la corsa alla performance, al voler sembrare brillanti, ai libri e alle dichiarazioni a effetto. Ma continuare a raccontare questa favola, davanti a quello che ormai vediamo nelle aule universitarie, è una responsabilità.
@paperometria
Approfitto del tuo tag (grazie mille) per fare ancora la parte del vecchio rincoglionito incazzato col mondo, abbiamo appena raschiato la cima del barile. Io sto aspettando alla sbarra tutti quegli stronzi che si vendono oggi questa roba, usando dei paragoni sotto il livello dell'idiozia, tipo
eh, ma pure quando siamo passati dalla scrittura alla stampa meccanica ci fu la rivolta
oppure
eh, ma la calcolatrice o il computer non sono la stessa cosa?
che non c'entra proprio un cazzo, perché, e mi ripeto, questa è la prima rivoluzione industriale della storia dove non stiamo automatizzando alcun lavoro manuale o processo di elaborazione delle informazioni, stiamo automatizzando la costruzione del pensiero, e boh, a me certe volte cadono le palle quando pare che io sia l'unico a gridare allo sfacelo. Non sto affermando che ci sarà la distruzione dell'umanità (quello sarebbe troppo comodo), sto solo dicendo che l'umanità che ne verrà fuori, quella che ha scelto di delegare la costruzione del pensiero ad una macchina, non la sua rappresentazione meccanica, è una umanità della quale non voglio fare parte.
Fino a ieri pregavo che prima o poi andassimo a sbattere su questa roba, con qualcuno che ci rimette la pelle, oggi, dopo aver insegnato e lavorato con la AI, ti posso dire che ho pure smesso di pregare perché, succeda quello che succeda, mi sa che indietro non si torna più.













