“È la generazione, attraverso modelli, di un reale privo di origine o di realtà: un iper reale. Il territorio non precede più la mappa, né le sopravvive. È tuttavia la mappa che precede il territorio -la precessione dei simulacri- a generare il territorio”, Jean Baudrillard, “Simulacres et Simulation”, 1981. Jorge Luis Borges racconta di un antico impero in cui l’arte della cartografia si sviluppa sino al punto in cui i geografi imperiali pretendono che la mappa di una provincia occupi un’intera città. Questa deriva li porta, alla fine, a ritenere che l’unica mappa accettabile sia quella uno a uno, perché capace di dar conto dei dettagli di un impero tanto grande e meraviglioso. La mappa viene creata e sovrapposta a coprire il territorio. Il delirio collettivo si conclude solo con la generazione successiva: gli eredi dei cartografi si rendono conto che una mappa del genere non ha alcuna utilità e l’abbandonano al suo destino. Scrive Borges: “Nei deserti dell’Ovest restano ancora lacere rovine della mappa, abitate da animali e mendicanti; nell’intero Paese non vi sono altre reliquie delle discipline geografiche”. L’effetto collaterale dell’abbandono della mappa è la distruzione, con essa, delle discipline geografiche. Non a caso un effetto assai simile a quanto accaduto nei due precedenti “inverni dell’Ai” seguiti all’entusiasmo acritico degli anni Cinquanta e poi degli anni Ottanta. Dopo lo sversamento all’esterno dei laboratori di ricerca dei modelli linguistici seguito al lancio di ChatGPT, informatica e politica sembrano preda di un pensiero molto simile a quello dei cartografi del racconto di Borges. La sana fiducia nell’utilità di modelli matematici per predire il comportamento del mondo fisico si è tramutata in fede cieca e assoluta. Secondo le imprese della Silicon Valley (e i loro protettori alla Casa Bianca) dovremmo prendere questi modelli a nostra “mappa del mondo”, per orientarci nel prendere decisioni importanti, soprattutto in emergenza. In effetti l’intento dei ricercatori che hanno creato questi modelli linguistici è davvero molto simile a quello dei cartografi del racconto. Il procedimento di ottimizzazione del modello, ribattezzato addestramento, produce un “riassunto per sommi capi” di tutti i dati in mano al ricercatore che lo crea. Queste tecniche fanno parte della famiglia delle compressioni con perdita, di cui fa parte anche l’algoritmo per ridurre le dimensioni di un file musicale al formato .mp3. Nel formato “riassunto” (detto “il modello”) i dati meno comuni sono sottorappresentati, mentre quelli più comuni sono sovrarappresentati, producono quindi una simulazione distorta della realtà, un po’ come le mappe geografiche sono infedeli rispetto alle vere dimensioni dei Paesi (anche se per un motivo differente). Questo è uno dei sensi della frase “un modello linguistico funziona probabilisticamente”: le situazioni più comuni vengono rappresentate meglio di quelle rare. Detto questo, l’utilità di imbarcarsi in tale procedimento di ottimizzazione è che una volta “trasformati i dati in modello” possiamo provare ad accedervi attraverso prompt (ossia “sollecitazioni”) scritte nel nostro linguaggio. Se poi trascuriamo la perdita e fingiamo che il modello sia una simulazione fedele del mondo esterno potremmo risparmiare tempo, aumentare la produttività e risolvere problemi che, nel mondo reale, potrebbero richiedere tempi e risorse irragionevoli. Purtroppo, però, la perdita non solo non è trascurabile, a seconda dei casi -come vedremo- può essere una questione di vita o di morte. Nel trascurare la perdita si trasforma -come scrive il filosofo Jean Baudrillard- una simulazione in simulacro. Questo significa, per continuare a usare la metafora del racconto, pretendere di sostituire la mappa al territorio. Questa fallacia sarebbe rimasta confinata nel mondo della matematica astratta se le imprese della Silicon Valley non avessero un bisogno disperato di farci usare questa tecnologia per poter ripagare, almeno in parte, gli enormi investimenti al buio fatti dalla Borsa statunitense. Ma il costo di questi sistemi è talmente sproporzionato da non potersi ripagare grazie al mercato. È una tecnologia che può sopravvivere solo alle grasse commesse pubbliche, meglio se militari. Ecco perché, il 25 febbraio di quest’anno, il segretario alla Guerra del governo Trump, Pete Hegseth, ha lanciato un ultimatum ad Anthropic: rimuovere entro 48 ore ogni restrizione al suo Claude (uno dei maggiori modelli linguistici di grandi dimensioni dopo ChatGPT) o perdere il contratto di fornitura con il Pentagono. La risposta di Anthropic è stata negativa e il contratto è stato rescisso, aprendo le porte alla concorrente OpenAI, i cui vertici sono entusiasti sostenitori economici della campagna di Trump. La richiesta del Pentagono era rendere possibile “ogni uso lecito”: una definizione volutamente ambigua, che avrebbe aperto la strada ai sistemi d’arma automatici (inclusi quelli atomici), così come ai sistemi di sorveglianza della popolazione civile, senza alcun controllo da parte della magistratura. La mossa era da attendersi, visto il memorandum rilasciato solo un mese prima, che imponeva al dipartimento della Guerra una politica “Ai first” con diktat su come potenziare lo sviluppo e la sperimentazione di agenti per la gestione delle operazioni di combattimento e il supporto decisionale basati sull'Ai, dalla pianificazione della campagna all'esecuzione della “kill chain” Un linguaggio da far accapponare la pelle, il cui significato è fin troppo chiaro: prevedere l’uso di modelli linguistici per calcolare gli obiettivi (come già fatto da Israele), arrivando a creare una kill chain, ossia una catena di montaggio degli omicidi automatizzati. Il software utilizzato per questa operazione? Il modello Claude, di Anthropic. Quindi, l’azienda che -almeno in apparenza- si sta coraggiosamente scontrando con il “cattivo” Hegseth per imporgli limiti sugli usi più scandalosi dell’Ai ha già, nei fatti, violato quei limiti che dichiara di voler presidiare. Questo apparente ossimoro è facilmente spiegato: una volta creati sistemi in grado di uccidere senza intervento umano, sperare che vengano “usati bene” grazie all’etica dell’utilizzatore è, per l’appunto, una pia speranza. È necessario intervenire prima, avendo il coraggio di bandire alcune tecnologie. A questo punto il bombardamento della scuola Minab il 28 febbraio 2026 -con le sue 175 vittime, in maggioranza bambine- assume l’aspetto di una terrificante conseguenza logica. Secondo i giornalisti investigativi statunitensi l’ipotesi più probabile è che Claude abbia commesso un errore: o per mancanza di sufficienti dati (le cosiddette “allucinazioni”), o perché i dati con cui era stato ottimizzato non erano stati aggiornati. A quel punto il bombardamento ha cancellato la scuola dall’isolato occupato in larga parte da un edificio della marina militare, eguagliando il territorio alla mappa, come preteso dai creatori di Claude. Altrettanto conseguente pare, a questo punto, l’ultima notizia di cui vogliamo dare atto: il regime iraniano ha dichiarato che dal primo di aprile di quest'anno considera le sedi di 18 aziende high tech statunitensi che può raggiungere con i suoi sistemi di bombardamento “obbiettivi legittimi”, a meno che il governo Usa non cessi i suoi attacchi. Forse l’idea di non sviluppare tecnologia militare, come prevedeva il regolamento originale di Google, non era solo una scelta etica. Era soprattutto una scelta saggia. “Scatole oscure. Intelligenza artificiale e altre tecnologie del dominio” è una rubrica a cura di Stefano Borroni Barale. La tecnologia infatti è tutto meno che neutra. Non è un mero strumento che dipende unicamente da come lo si usa, i dispositivi tecnici racchiudono in sé le idee di chi li ha creati. Per questo le tecnologie “del dominio”, quelle che ci propongono poche multinazionali, sono quasi sempre costruite come scatole oscure impossibili da aprire, studiare, analizzare e, soprattutto, cambiare. Ma in una società in cui la tecnologia ha un ruolo via via più dispositivo (e può quindi essere usata per controllarci) aprire e modificare le scatole oscure diventa un esercizio vitale per la partecipazione, la libertà, la democrazia. In altre parole: rompere le scatole è un atto politico. Stefano Borroni Barale (1972) è laureato in Fisica teorica presso l’Università di Torino. Inizialmente ricercatore nel progetto EU-DataGrid (il prototipo del moderno cloud) all’interno del gruppo di ricerca dell’Istituto nazionale di fisica nucleare (Infn), ha lasciato la ricerca per lavorare nel programma di formazione sindacale Actrav del Centro internazionale di formazione dell’Ilo. Oggi insegna informatica in una scuola superiore del torinese e, come membro di Circe, conduce corsi di formazione sui temi della Pedagogia hacker per varie organizzazioni, tra cui il ministero dell’Istruzione. Sostenitore del software libero da fine anni Novanta, è autore per Altreconomia di “Come passare al software libero e vivere felici” (2003), una delle prime guide italiane su Linux e altri programmi basati su software libero e “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale” (2023). © riproduzione riservata L'articolo “Del rigore nella scienza”: Borges, Anthropic e gli effetti della fede cieca in mappe infallibili proviene da Altreconomia.

Dopo un anno di rinvii e anticipazioni a effetto, la nuova creatura di OpenAI è finalmente qui. Ed è un flop. La delusione dei fan della società di Altman è talmente grande che alcuni, dopo nemmeno 24 ore, hanno ottenuto il ripristino della versione precedente perché, secondo loro, “è meglio di quella nuova”. Nel tentativo di correre ai ripari, Sam Altman arriva a pronunciare la parola proibita: “bolla”. Che cosa ci aspetta? La rubrica di Stefano Borroni Barale L'articolo ChatGPT-5 è qui. Ed è esattamente come ce lo aspettavamo proviene da Altreconomia.

La definizione moderna di Intelligenza artificiale (IA) si basa su idee vecchie di settant’anni. Infatti, quando Elon Musk e compagni parlano di IA, si riferiscono a delle tecnologie in grado di superare il famoso test di Turing, altrimenti noto come “gioco dell'imitazione”. Alan Turing, in un fondamentale articolo del 1950, propone un esperimento mentale: chiudere in due diverse stanze un uomo e la sua “macchina di Turing”, permettendo a un esaminatore di interrogarle solo dall'esterno attraverso una tastiera; l'uomo avrebbe dovuto cercare di aiutare l’esaminatore, la macchina cercare di ingannarlo. La macchina avrebbe vinto se fosse riuscita a convincere l’esaminatore di essere una persona, unicamente rispondendo per iscritto alle sue domande. All'epoca una condizione del genere sembrava davvero molto difficile da realizzare, ma oggi, settant’anni di evoluzione tecnologica dopo, sembra un traguardo alla portata di software come ChatGPT. Al tempo stesso il web è pieno di fallimenti al test da parte di ChatGPT: vuoi per “allucinazioni” (risposte completamente fuori tema), vuoi per errori grossolani (anche in operazioni banali); in ogni caso tali da rivelare la vera natura della macchina, ancora ben lontana dall’essere intelligente. Macchine senzienti e altre credenze tecno-magiche Se invece prendiamo per buona la definizione di “intelligenza” data da Turing, sorvolando sulla riduzione dell’intelligenza alla capacità di operare in maniera soddisfacente con i simboli dell’alfabeto senza investigare sulla capacità della macchina di “comprendere il senso” di tali simboli, otteniamo la ferma convinzione dell'esistenza -qui e ora- di macchine senzienti. È in questo contesto che si colloca la lettera: un contesto in cui è normale parlare, con assoluta convinzione, dell’ipotesi di fondere l’uomo con le macchine per conseguire la vita eterna (transumanesimo) o del rischio di una “apocalisse delle macchine” in cui queste, come in “Matrix” o “Terminator”, sarebbero pronte a mettere fine alla nostra esistenza sul Pianeta, dopo averci superato nell’evoluzione (singolarismo). La guerra per l’IA Com’è possibile, dunque, che da un consesso così smaccatamente tecno-entusiasta venga un monito a riflettere e procedere con calma, democratizzando la tecnologia? Per comprenderlo bisogna mettere insieme diversi pezzi di un puzzle complesso. Anzitutto Elon Musk aveva tentato, nel 2018, di scalare OpenAI e prenderne il controllo, senza successo. In quel momento è nata la collaborazione che ha portato l’azienda di Sam Altman nell’orbita di Microsoft. Infatti, Bill Gates si è sentito in dovere di intervenire prontamente in un campo che non dovrebbe più interessarlo, per rispondere che “una moratoria non cambierebbe la sostanza del problema”. Questo fa pensare che le vere motivazioni abbiano a che fare con uno “scontro al vertice” tra colossi come Microsoft, l’emergente impero di Musk, Meta (che ha da poco lanciato la sua versione “open source” di GPT, chiamata LLaMA ) e Google con il suo Bard. In tale ottica una “moratoria” avrebbe chiaramente l’effetto di dare un po’ di fiato a chi, come Musk, sta rincorrendo, e ridurre il vantaggio che OpenAI ha conquistato grazie ai pesanti investimenti di Microsoft. E qui da noi? Per una volta l’Italia è in prima fila. Il 30 marzo il Garante per la protezione dei dati personali, organo collegiale usualmente rappresentato pubblicamente dall’avvocato Guido Scorza, ha notificato a OpenAI la violazione di diversi principi del Regolamento generale per la protezione dei dati (Reg. 679/2016, acronimo “Gdpr”). I punti più delicati sollevati dal Garante sono quelli relativi al fatto che, dall’informativa scritta da OpenAI, non risultava abbastanza chiaro il fatto che le conversazioni intrattenute con il bot sarebbero state utilizzate per alimentare l’IA, la mancanza di efficaci metodi per limitare l’accesso ai minori di 13 anni e, infine, la cosa più grave: il fatto che ChatGPT restituisca dati personali uniti a informazioni false, per esempio nella costruzione di biografie personali. Questo è un punto chiave per OpenAI, giacché correggere questo tipo di errori è costoso, in quanto necessita intelligenza umana, come mostrato nella primissima fase della creazione di ChatGPT-3, quando un piccolo esercito di operatori del Kenya è stato assunto per addestrare il modello grezzo. Sottopagato. Il richiamo dava tempo all’azienda 20 giorni (prolungabili) per rispondere e mettersi in regola. OpenAI ha invece optato per la linea di scontro frontale: chiudere l’accesso al suo sito in Italia e diffondere la vulgata secondo la quale il “Garante, nemico dell’innovazione, ha chiuso OpenAI in Italia”. Falso, visto che la versione precedente è ancora integrata in Bing, a dimostrazione che non è in atto alcuna caccia alle streghe, semmai il primo serio tentativo di fare un passo concreto verso l’apertura di un indispensabile e urgente dibattito su questi temi. Entro fine 2023 è attesa la promulgazione della direttiva europea sull’IA che, pur se “annacquata” rispetto al testo originale, potrebbe risultare una risorsa utile per chi spinge verso una tecnologia più partecipata. La direttiva prevede infatti che nelle cause per danni generate da questa nuova tecnologia, l’onere della prova sia in carico all’azienda che fornisce il servizio e non al danneggiato. Dunque, nessun pericolo? Se l’allarme lanciato dalla Silicon Valley è come minimo prematuro (se mai avremo una Intelligenza artificiale generalista - Agi è molto difficile che sia nel prossimo secolo), questo non significa che l’IA sia sicura. Negli ultimi tre anni in molti hanno descritto i notevoli problemi che l’IA, e le tecnologie in generale, possono causare ai diritti umani, alla società e al mondo del lavoro. Penso ad accademici come Dan McQuillan, Kate Crawford e Teresa Numerico, ad hacker come Carlo B. Milani e ad attivisti digitali come Max Schrems, “responsabile” delle due sentenze europee che portano il suo nome e che stanno mettendo i bastoni tra le ruote all’applicazione dell’IA nella scuola, con progetti finanziati da Google e Meta e, purtroppo, anche dai fondi del Piano nazionale di ripresa e resilienza (Pnrr). Tali fondi, infatti, rischiano di andare a consolidare la presenza di piattaforme come Google Workspace for Education, che sta raccogliendo -nell’inconsapevolezza generale- i dati necessari a costruire la prossima IA educativa, che dovrebbe sostituire i docenti nei piani di Google e Meta. Per scongiurare questo scenario si sono mobilitate sia Assoli (l’Associazione per il software libero), che ha scritto al governo per ottenere che le scuole si dotino di piattaforme libere, sia il sindacato della scuola Cub Sur che ha lanciato una campagna segnalando, oltre alle note problematiche di privacy e trasparenza, anche la violazione dello Statuto dei lavoratori operata sistematicamente da Google. L’IA di oggi è una tecnologia che lavora alacremente all’allargamento della disparità sociale ed economica e al suo consolidamento in apparati rigidi, regolati dalle macchine. Alcuni esempi: la tecnologia di riconoscimento facciale utilizzata come arma contro i migranti, gli algoritmi di assegnazione delle commesse che rendono la vita dei rider un’esperienza che ricorda lo schiavismo e l’algoritmo delle graduatorie provinciali per le supplenze che da due anni priva gli allievi più fragili, ossia persone con disabilità e Bes, delle loro figure di riferimento, spedendo i professori precari in una girandola di cattedre che non li vede mai ritornare nella stessa scuola, al contrario di quanto avveniva con le nomine in presenza. Alla luce di questa realtà viene naturale pensare che tutto questo gridare “al lupo, al lupo” nella direzione di un pericolo ipotetico nel futuro, abbia come effetto collaterale di togliere attenzione ai danni reali nel presente. Stefano Borroni Barale, classe 1972, è fisico teorico. Inizialmente ricercatore nel progetto Eu-DataGrid (per Infn To), dopo otto anni nella formazione sindacale internazionale e una (triste) parentesi nel privato, oggi insegna informatica in un Iti del torinese. Sostenitore del software libero da fine anni 90, è autore per Altreconomia del manuale di liberazione informatica "Come passare al software libero e vivere felici" (edito nel 2003). © riproduzione riservata L'articolo Intelligenze pericolose domani? Disparità sociali ed economiche oggi proviene da Altreconomia.