“È la generazione, attraverso modelli, di un reale privo di origine o di realtà: un iper reale. Il territorio non precede più la mappa, né le sopravvive. È tuttavia la mappa che precede il territorio -la precessione dei simulacri- a generare il territorio”, Jean Baudrillard, “Simulacres et Simulation”, 1981. Jorge Luis Borges racconta di un antico impero in cui l’arte della cartografia si sviluppa sino al punto in cui i geografi imperiali pretendono che la mappa di una provincia occupi un’intera città. Questa deriva li porta, alla fine, a ritenere che l’unica mappa accettabile sia quella uno a uno, perché capace di dar conto dei dettagli di un impero tanto grande e meraviglioso. La mappa viene creata e sovrapposta a coprire il territorio. Il delirio collettivo si conclude solo con la generazione successiva: gli eredi dei cartografi si rendono conto che una mappa del genere non ha alcuna utilità e l’abbandonano al suo destino. Scrive Borges: “Nei deserti dell’Ovest restano ancora lacere rovine della mappa, abitate da animali e mendicanti; nell’intero Paese non vi sono altre reliquie delle discipline geografiche”. L’effetto collaterale dell’abbandono della mappa è la distruzione, con essa, delle discipline geografiche. Non a caso un effetto assai simile a quanto accaduto nei due precedenti “inverni dell’Ai” seguiti all’entusiasmo acritico degli anni Cinquanta e poi degli anni Ottanta. Dopo lo sversamento all’esterno dei laboratori di ricerca dei modelli linguistici seguito al lancio di ChatGPT, informatica e politica sembrano preda di un pensiero molto simile a quello dei cartografi del racconto di Borges. La sana fiducia nell’utilità di modelli matematici per predire il comportamento del mondo fisico si è tramutata in fede cieca e assoluta. Secondo le imprese della Silicon Valley (e i loro protettori alla Casa Bianca) dovremmo prendere questi modelli a nostra “mappa del mondo”, per orientarci nel prendere decisioni importanti, soprattutto in emergenza. In effetti l’intento dei ricercatori che hanno creato questi modelli linguistici è davvero molto simile a quello dei cartografi del racconto. Il procedimento di ottimizzazione del modello, ribattezzato addestramento, produce un “riassunto per sommi capi” di tutti i dati in mano al ricercatore che lo crea. Queste tecniche fanno parte della famiglia delle compressioni con perdita, di cui fa parte anche l’algoritmo per ridurre le dimensioni di un file musicale al formato .mp3. Nel formato “riassunto” (detto “il modello”) i dati meno comuni sono sottorappresentati, mentre quelli più comuni sono sovrarappresentati, producono quindi una simulazione distorta della realtà, un po’ come le mappe geografiche sono infedeli rispetto alle vere dimensioni dei Paesi (anche se per un motivo differente). Questo è uno dei sensi della frase “un modello linguistico funziona probabilisticamente”: le situazioni più comuni vengono rappresentate meglio di quelle rare. Detto questo, l’utilità di imbarcarsi in tale procedimento di ottimizzazione è che una volta “trasformati i dati in modello” possiamo provare ad accedervi attraverso prompt (ossia “sollecitazioni”) scritte nel nostro linguaggio. Se poi trascuriamo la perdita e fingiamo che il modello sia una simulazione fedele del mondo esterno potremmo risparmiare tempo, aumentare la produttività e risolvere problemi che, nel mondo reale, potrebbero richiedere tempi e risorse irragionevoli. Purtroppo, però, la perdita non solo non è trascurabile, a seconda dei casi -come vedremo- può essere una questione di vita o di morte. Nel trascurare la perdita si trasforma -come scrive il filosofo Jean Baudrillard- una simulazione in simulacro. Questo significa, per continuare a usare la metafora del racconto, pretendere di sostituire la mappa al territorio. Questa fallacia sarebbe rimasta confinata nel mondo della matematica astratta se le imprese della Silicon Valley non avessero un bisogno disperato di farci usare questa tecnologia per poter ripagare, almeno in parte, gli enormi investimenti al buio fatti dalla Borsa statunitense. Ma il costo di questi sistemi è talmente sproporzionato da non potersi ripagare grazie al mercato. È una tecnologia che può sopravvivere solo alle grasse commesse pubbliche, meglio se militari. Ecco perché, il 25 febbraio di quest’anno, il segretario alla Guerra del governo Trump, Pete Hegseth, ha lanciato un ultimatum ad Anthropic: rimuovere entro 48 ore ogni restrizione al suo Claude (uno dei maggiori modelli linguistici di grandi dimensioni dopo ChatGPT) o perdere il contratto di fornitura con il Pentagono. La risposta di Anthropic è stata negativa e il contratto è stato rescisso, aprendo le porte alla concorrente OpenAI, i cui vertici sono entusiasti sostenitori economici della campagna di Trump. La richiesta del Pentagono era rendere possibile “ogni uso lecito”: una definizione volutamente ambigua, che avrebbe aperto la strada ai sistemi d’arma automatici (inclusi quelli atomici), così come ai sistemi di sorveglianza della popolazione civile, senza alcun controllo da parte della magistratura. La mossa era da attendersi, visto il memorandum rilasciato solo un mese prima, che imponeva al dipartimento della Guerra una politica “Ai first” con diktat su come potenziare lo sviluppo e la sperimentazione di agenti per la gestione delle operazioni di combattimento e il supporto decisionale basati sull'Ai, dalla pianificazione della campagna all'esecuzione della “kill chain” Un linguaggio da far accapponare la pelle, il cui significato è fin troppo chiaro: prevedere l’uso di modelli linguistici per calcolare gli obiettivi (come già fatto da Israele), arrivando a creare una kill chain, ossia una catena di montaggio degli omicidi automatizzati. Il software utilizzato per questa operazione? Il modello Claude, di Anthropic. Quindi, l’azienda che -almeno in apparenza- si sta coraggiosamente scontrando con il “cattivo” Hegseth per imporgli limiti sugli usi più scandalosi dell’Ai ha già, nei fatti, violato quei limiti che dichiara di voler presidiare. Questo apparente ossimoro è facilmente spiegato: una volta creati sistemi in grado di uccidere senza intervento umano, sperare che vengano “usati bene” grazie all’etica dell’utilizzatore è, per l’appunto, una pia speranza. È necessario intervenire prima, avendo il coraggio di bandire alcune tecnologie. A questo punto il bombardamento della scuola Minab il 28 febbraio 2026 -con le sue 175 vittime, in maggioranza bambine- assume l’aspetto di una terrificante conseguenza logica. Secondo i giornalisti investigativi statunitensi l’ipotesi più probabile è che Claude abbia commesso un errore: o per mancanza di sufficienti dati (le cosiddette “allucinazioni”), o perché i dati con cui era stato ottimizzato non erano stati aggiornati. A quel punto il bombardamento ha cancellato la scuola dall’isolato occupato in larga parte da un edificio della marina militare, eguagliando il territorio alla mappa, come preteso dai creatori di Claude. Altrettanto conseguente pare, a questo punto, l’ultima notizia di cui vogliamo dare atto: il regime iraniano ha dichiarato che dal primo di aprile di quest'anno considera le sedi di 18 aziende high tech statunitensi che può raggiungere con i suoi sistemi di bombardamento “obbiettivi legittimi”, a meno che il governo Usa non cessi i suoi attacchi. Forse l’idea di non sviluppare tecnologia militare, come prevedeva il regolamento originale di Google, non era solo una scelta etica. Era soprattutto una scelta saggia. “Scatole oscure. Intelligenza artificiale e altre tecnologie del dominio” è una rubrica a cura di Stefano Borroni Barale. La tecnologia infatti è tutto meno che neutra. Non è un mero strumento che dipende unicamente da come lo si usa, i dispositivi tecnici racchiudono in sé le idee di chi li ha creati. Per questo le tecnologie “del dominio”, quelle che ci propongono poche multinazionali, sono quasi sempre costruite come scatole oscure impossibili da aprire, studiare, analizzare e, soprattutto, cambiare. Ma in una società in cui la tecnologia ha un ruolo via via più dispositivo (e può quindi essere usata per controllarci) aprire e modificare le scatole oscure diventa un esercizio vitale per la partecipazione, la libertà, la democrazia. In altre parole: rompere le scatole è un atto politico. Stefano Borroni Barale (1972) è laureato in Fisica teorica presso l’Università di Torino. Inizialmente ricercatore nel progetto EU-DataGrid (il prototipo del moderno cloud) all’interno del gruppo di ricerca dell’Istituto nazionale di fisica nucleare (Infn), ha lasciato la ricerca per lavorare nel programma di formazione sindacale Actrav del Centro internazionale di formazione dell’Ilo. Oggi insegna informatica in una scuola superiore del torinese e, come membro di Circe, conduce corsi di formazione sui temi della Pedagogia hacker per varie organizzazioni, tra cui il ministero dell’Istruzione. Sostenitore del software libero da fine anni Novanta, è autore per Altreconomia di “Come passare al software libero e vivere felici” (2003), una delle prime guide italiane su Linux e altri programmi basati su software libero e “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale” (2023). © riproduzione riservata L'articolo “Del rigore nella scienza”: Borges, Anthropic e gli effetti della fede cieca in mappe infallibili proviene da Altreconomia.

«La lezione che Israele ci ha dato è questa: nella sfera storica le vittime non sanno né possono chiedere pace né riparazione ma… L'articolo Una corrente, qualcosa che corre: conversazione con Bifo sembra essere il primo su L'INDISCRETO.

“Venite signori della guerra / voi che costruite i cannoni / voi che costruite gli aereoplani di morte / voi che costruite le bombe / voi che vi nascondete dietro muri / voi che vi nascondete dietro scrivanie / voglio solo che sappiate / che posso vedere attraverso le vostre maschere”. Bob Dylan, "Masters Of War" da “The freewheelin’ Bob Dylan”, 1963 Qui in Italia non è così noto, ma la controcultura hippie degli anni Sessanta, di cui San Francisco era divenuta la capitale, è stata uno degli ingredienti che ha contribuito, nel decennio successivo, alla creazione di quei gruppi di appassionati di elettronica, come l’Homebrew computer club, in cui hanno mosso i primi passi personaggi come Steve Wozniack e Steve Jobs, i fondatori della Apple. Il sogno naïf di quella generazione era che i piccoli personal computer avrebbero distribuito il potere di calcolo, cambiando la società. Il poeta Richard Brautigan arrivò a cantare di questa utopia nel suo poema del 1967 "All watched over by machines of loving grace" che conobbe per questo una discreta fortuna.  Forse anche per questo motivo alcuni, tra cui Bill Gates, sono rimasti stupiti della recente sterzata all’estrema destra della totalità dei Gafam, ossia Google, Apple, Facebook (ora Meta), Amazon e Microsoft. La “svolta a destra”, però, non ha coinvolto solo la generazione degli ex-hippie. Sembra passato un millennio da quando due giovani universitari di belle speranze, Larry Page e Sergej Brin, fondavano una start-up per gestire il successo del loro algoritmo di ricerca, PageRank, che aveva dato i natali al più fortunato “motore” di ricerca su internet, Google. Allora, era il 1998, il motto scelto per la loro impresa era “Do no evil” ossia “Non fare del male”. Chissà che cosa penserebbero oggi quegli stessi giovanotti della decisione presa, a gennaio di quest’anno, dalle loro attuali versioni imbolsite e con le borse sotto gli occhi: far cadere la clausola che impegnava l’azienda a non utilizzare i propri studi sull’intelligenza artificiale per scopi militari, aprendo così la porta allo sviluppo di killer robots, in accordo con un piano di implementazione delle armi autonome pubblicato dalla Nato già nel 2023.  Purtroppo questa decisione non fa altro che suggellare un impegno sul campo dell’azienda che va ben oltre la ricerca e sviluppo di sistemi d’arma. L'American friends service commitee (Afsc) -storica organizzazione nonviolenta americana legata ai quaccheri- accusa da tempo Google di avere responsabilità dirette nei crimini di guerra compiuti da Israele in Palestina dopo gli attacchi di Hamas del 7 ottobre 2023. Secondo un’esplosiva inchiesta della rivista israeliana +972 uscita ad agosto del 2024, Google, insieme a Microsoft (Azure) e Amazon (Amazon web services - Aws, il fornitore che vanta i legami più solidi di tutti con governo e militari israeliani), avrebbe fornito servizi cloud classici al Project nimbus, il servizio di raccolta dati del governo, utilizzato successivamente dall’esercito per individuare i bersagli militari. Contemporaneamente, su un’altra commessa, Microsoft e Google fornivano la tecnologia di “intelligence artificiale” per il riconoscimento facciale, usata per scegliere automaticamente gli obiettivi degli attacchi che hanno causato decine di migliaia di morti civili. Diverse altre inchieste del Washington Post danno riscontro e solidità alle accuse dell'Afsc. Purtroppo Google non è l’unica impresa del gruppo Gafam a essere impegnata in prima linea nei peggiori conflitti in atto (anche se, per ora, è l’unica ad aver licenziato i suoi dipendenti che protestavano contro queste collaborazioni). La lista è talmente lunga da eccedere lo spazio di questa rubrica: ci dovremo limitare a una attenta selezione, partendo da Meta Platforms Inc. (conglomerato che controlla Facebook, Instagram, WhatsApp e l’ultimo nato Threads). In questo momento l’ufficio stampa di Meta è impegnato in un titanico sforzo per evitare che le persone leggano "Careless People", il libro-scandalo della sua ex-dipendente Sarah Wynn-Williams che ne rivela alcuni dei segreti più inconfessabili (legati alle sue responsabilità nel massacro della minoranza Rohingya in Myanmar soprattutto) e, al contempo, per silenziare lo scandalo della cessione illegale dei dati di migliaia di utenti palestinesi della controllata WhatsApp all’Idf (l’esercito israeliano), che li ha inseriti in Lavender, una delle Ai utilizzate per scegliere automaticamente chi uccidere. In questo caso non si è trattato di killer robots, bensì di Laws ossia Lethal authonomous weapons systems, sistemi per uccidere automatizzati: morte somministrata via algoritmo, a seguito dell’utilizzo di una chat. Sappiamo infatti che le reti neurali utilizzate da Lavender hanno margini di errore nella produzione del loro output (le cosiddette “allucinazioni”: ne abbiamo parlato qui) che non scendono mai sotto il 5% e che possono arrivare ad oltre il 20%. Tale margine di errore va poi moltiplicato, giacché le nuove regole d’ingaggio dell’Idf dopo il 7 ottobre prevedono come “accettabile” la morte di venti innocenti per ogni presunto miliziano di Hamas colpito. Ultimi nella nostra analisi, ma non certo per importanza strategica, vengono gli interessi militari di due imprese che, fino a poco tempo fa, avevano un profilo più “riservato” rispetto ai Gafam: Palantir di Peter Thiel e SpaceX di Elon Musk. La prima è oggetto di operazioni di disinvestimento pianificato per via del suo coinvolgimento nei crimini di guerra di Israele, ma è frutto di un progetto abominevole fin dal nome: Palantir, nel mondo creato da Tolkien, è il nome delle antiche pietre capaci di mostrare il futuro che portano il saggio Saruman a impazzire e unirsi all’oscuro sire, Sauron. Infatti, l’azienda nasce con l’idea di fornire sistemi di polizia predittiva, una pseudo-scienza il cui fondamento è “solido” quanto le infami teorie del nostro Cesare Lombroso, e i risultati tutt’altro che entusiasmanti (meno dell’1% di efficacia nel caso americano). Nonostante ciò, i suoi servizi sono stati utilizzati dal governo di Israele per incarcerare cittadini palestinesi per il solo fatto di rientrare in un “profilo del terrorista” sviluppato dalla ditta in questione. La seconda è passata alle cronache di guerra per via del servizio Starlink, una rete di satelliti di comunicazione a bassa quota, che si è rivelata strategicamente vitale in Ucraina. All’indomani dell’invasione russa, Elon Musk è stato acclamato eroe dagli ucraini perché ha fornito “gratuitamente” il servizio agli ucraini, salvo poi divenire -il 10 marzo di quest'anno- il peggiore dei loro nemici sostenendo che “senza Starlink sarebbero spacciati”. D’altronde Musk aveva già mostrato di essere un attore incontrollabile in almeno due occasioni: quando era passato all’incasso con il suo stesso governo (sostenendo di non poter continuare a finanziare l’Ucraina a tempo indeterminato), e quando aveva deciso di bloccare le comunicazioni per impedire un’escalation della guerra che considerava nefasta. L’orrore della morte via chat si sarebbe potuto evitare. Le avvisaglie di una forte collaborazione tra Meta e l’Idf, infatti, erano nell’aria sino dal 2021, quando Meta bloccò gli account di diversi giornalisti della Striscia di Gaza, per impedirgli di far fluire informazioni verso l’esterno. Purtroppo, la società civile ha introiettato profondamente l’idea che le tecnologie dell’informazione e comunicazione siano semplici merci, strumenti a nostra disposizione. Gli esempi che abbiamo toccato mostrano in maniera lampante il contrario. Eppure, le alternative esistono: il software libero costituisce un corpus di conoscenze collettive che possono essere utilizzate da qualsiasi gruppo per soddisfare i propri bisogni, dalla formazione (è il caso di alcune scuole del progetto Fuss, che si sono dotate di una infrastruttura per la formazione online), alla comunicazione (è il caso del sindacato Cub-Sur che si è dotato di un’intera piattaforma di comunicazione a distanza), rendendosi indipendenti delle imprese Gafam. Ma basta allargare lo sguardo per scoprire che, nei dintorni di Barcellona, esiste una “rete internet locale” con la bellezza di cinquemila punti d’accesso su diversi chilometri quadrati di territorio, che continuerebbe a funzionare anche se la connessione verso il mondo esterno fosse tranciata di netto, in maniera simile a progetti presenti anche in Italia. Insomma, non si tratta di “testimonianze” di singoli, magari un po’ “impallinati” e senza impatto sulla società, ma piuttosto di esempi di come problemi collettivi possano trovare soluzioni collettive. Il passo da fare, ora, è riconoscere che la dipendenza da queste imprese, mentre queste “riconvertono” il loro business alla guerra, è un serio problema collettivo, che ci riguarda tutte e tutti.  Scatole oscure. Intelligenza artificiale e altre tecnologie del dominio” è una rubrica a cura di Stefano Borroni Barale. La tecnologia infatti è tutto meno che neutra. Non è un mero strumento che dipende unicamente da come lo si usa, i dispositivi tecnici racchiudono in sé le idee di chi li ha creati. Per questo le tecnologie “del dominio”, quelle che ci propongono poche multinazionali, sono quasi sempre costruite come scatole oscure impossibili da aprire, studiare, analizzare e, soprattutto, cambiare. Ma in una società in cui la tecnologia ha un ruolo via via più dispositivo (e può quindi essere usata per controllarci) aprire e modificare le scatole oscure diventa un esercizio vitale per la partecipazione, la libertà, la democrazia. In altre parole: rompere le scatole è un atto politico. Stefano Borroni Barale (1972) è laureato in Fisica teorica presso l’Università di Torino. Inizialmente ricercatore nel progetto EU-DataGrid (il prototipo del moderno cloud) all’interno del gruppo di ricerca dell’Istituto nazionale di fisica nucleare (Infn), ha lasciato la ricerca per lavorare nel programma di formazione sindacale Actrav del Centro internazionale di formazione dell’Ilo. Oggi insegna informatica in una scuola superiore del torinese e, come membro di Circe, conduce corsi di formazione sui temi della Pedagogia hacker per varie organizzazioni, tra cui il ministero dell’Istruzione. Sostenitore del software libero da fine anni Novanta, è autore per Altreconomia di “Come passare al software libero e vivere felici” (2003), una delle prime guide italiane su Linux e altri programmi basati su software libero e “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale” (2023). © riproduzione riservata L'articolo Masters of Cyberwar. Dai sogni degli hippies all’incubo dei killer robots proviene da Altreconomia.