At least some of this is coming to light: > Doublespeed, a startup backed by Andreessen Horowitz (a16z) that uses a phone > farm to manage at least hundreds of AI-generated social media accounts and > promote products has been hacked. The hack reveals what products the > AI-generated accounts are promoting, often without the required disclosure > that these are advertisements, and allowed the hacker to take control of more > than 1,000 smartphones that power the company. > > The hacker, who asked for anonymity because he feared retaliation from the > company, said he reported the vulnerability to Doublespeed on October 31. At > the time of writing, the hacker said he still has access to the company’s > backend, including the phone farm itself. ...

N on è mai facile fare affermazioni categoriche sulla propria contemporaneità, ma penso si possa dire con un certo grado di sicurezza che le tecnologie digitali sono tra quelle che hanno maggiormente caratterizzato l’orizzonte storico e sociale degli ultimi 25 anni. A renderle così influenti sono soprattutto due delle loro caratteristiche distintive: la capacità di trasformare qualsiasi dispositivo a cui vengono applicate in un calcolatore capace di generare, raccogliere e analizzare dati e la diffusione globale della connettività che mette in rete tutti questi dispositivi e permette loro di comunicare in modo (semi)istantaneo a grandi distanze. Con il tempo, la prima ha generato una logica per cui ogni fenomeno diventa misurabile (e quindi ottimizzabile), mentre la seconda ha esteso la rete dagli esseri umani agli oggetti, rendendo automatizzabile praticamente ogni genere di dispositivo. Nonostante semplifichi in modo brutale la sua effettiva complessità, questa descrizione ci serve per fissare lo stato dell’evoluzione delle tecnologie digitali e ci permette di indicarla come la base su cui poggiano le loro applicazioni più recenti ed embrionali. > In molti casi, l’impatto rivoluzionario che tecnologie come blockchain, > metaverso e intelligenza artificiale dovrebbero produrre è più supposto che > effettivo. Applicazioni che sono al centro di Simulacri digitali. Le allucinazioni e gli inganni delle nuove tecnologie, un saggio uscito all’inizio di aprile per add editore; a firmarlo è Andrea Daniele Signorelli, uno dei giornalisti tech più preparati che abbiamo in Italia. Blockchain, metaverso, robotica e intelligenza artificiale sono alcune delle principali tecnologie di cui Signorelli si propone di smascherare le “allucinazioni e gli inganni” a cui si fa riferimento in modo esplicito nel sottotitolo del libro. Ma per quale motivo Signorelli parla di allucinazioni e inganni a proposito di tecnologie a cui ci si riferisce quasi sempre in termini altisonanti, enfatizzando la loro capacità di produrre un impatto rivoluzionario? La risposta più semplice e brutale è: perché, in molti casi, l’impatto rivoluzionario che queste tecnologie dovrebbero produrre è più supposto che effettivo. Il web3 è un esempio a tal punto evidente di questa natura ingannevole di alcune delle più recenti e chiacchierate applicazioni delle tecnologie digitali, da spingere Signorelli a usare l’espressione “grand truffa” per aprire il paragrafo che le dedica nel penultimo capitolo del libro. Per l’autore, il web3 rappresenta “la terza incarnazione della rete”, che segue il web 1.0 (statico e leggibile) e il web 2.0 (dinamico e partecipativo) e “promette invece di sfruttare la blockchain e le criptovalute per dare vita a un ecosistema digitale in cui non solo possiamo leggere e scrivere sulle piattaforme, ma anche possederne delle quote”. Per spiegare quest’ultimo concetto Signorelli fa l’esempio di Filecoin: > una sorta di Dropbox (un popolare sistema di archiviazione file, ndr) della > blockchain che permette a tutti di salvare contenuti nel cloud. Il cloud di > Filecoin non ha però sede nei data center di proprietà di qualche colosso del > settore, ma negli hard disk di tutti i computer collegati a questa blockchain. > […] Chi affitta lo spazio presente sull’hard disk del proprio computer tramite > Filecoin ottiene in cambio una quantità proporzionale della criptovaluta > collegata, chiamata Fil, che può poi essere venduta sulle tradizionali > piattaforme di compravendita di criptovalute. Per i fautori e gli entusiasti di questa tecnologia “quella immaginata dal web3 è quindi un’utopia in cui l’economia di Internet fa piazza pulita dei colossi monopolistici che la dominano e permette a tutti gli utenti di conquistare una fetta della ricchezza oggi concentrata nelle mani di pochissimi”. > La distanza tra la narrazione di un’applicazione delle tecnologie digitali e > la realtà del loro effettivo impatto non è accidentale, si deve a quello che > l’autore definisce “technomarketing”, ovvero il modo in cui le grandi aziende > utilizzano tecniche di storytelling per promuovere sé stesse e i loro > prodotti. Il problema di questa narrazione, mostra in modo efficace Signorelli, è che la sua realizzazione si sta rivelando meno lineare del previsto ma, soprattutto, molto più opaca. La blockchain è una tecnologia che richiede all’utente conoscenze approfondite di informatica, impegno e un atteggiamento attivo e partecipe, caratteristiche che non la rendono facile da usare, per non parlare del fatto che i suoi fautori più accaniti sono una nicchia di utenti consapevoli e molto esperti di informatica, tutt’altro che propensi a renderla tale. Ciononostante, per poter finanziare lo sviluppo, la manutenzione e la crescita di applicazioni basate su questa tecnologia servono soldi e per poterla monetizzare serve allargarne la base di utenti disposti a pagare per farlo. È per allargare questo collo di bottiglia che intervengono i fondi di venture capital che finanziano sia lo sviluppo delle applicazioni basate sulla blockchain sia quello di piattaforme in grado di semplificare l’utilizzo da parte di utenti privi di un’alfabetizzazione digitale avanzata e specialistica. Un doppio movimento che, nonostante l’enfasi posta sulla sua natura decentralizzata, introduce nella blockchain le stesse dinamiche di centralizzazione di cui i suoi fautori più “zelanti” volevano fare piazza pulita. La distanza tra la narrazione di un’applicazione delle tecnologie digitali e la realtà del loro effettivo funzionamento, utilizzo e impatto non è accidentale ma, come mostra bene Signorelli durante tutta la trattazione, si riscontra nella maggior parte, se non in tutte, le applicazioni che vengono raccontate in Simulacri digitali. Questo iato si deve a un fenomeno che l’autore definisce “technomarketing”, ovvero il modo in cui le grandi aziende tecnologiche utilizzano tecniche di storytelling per promuovere sé stesse e i loro prodotti. Fino a qui nulla di particolarmente scandaloso; il racconto del prodotto e del brand sono alla base della leva promozionale del marketing mix di qualsiasi azienda. Ma è la scala a cui tende questo processo a rendere prolifica l’intuizione di Signorelli. Per capire cosa intendo con l’espressione “scala” è opportuno chiarire la distinzione tra “storia” (story) e “narrazione” (narrative). > Ciò che fa delle grandi aziende tecnologiche forze di natura storica > all’interno della nostra società è proprio la loro volontà esplicita di agire > sulla dimensione metanarrativa dello sviluppo dell’umanità. Una storia è il racconto di un evento ‒ reale o immaginario a seconda del registro che scegliamo di utilizzare o del genere che decidiamo di praticare ‒ o, nel nostro caso, di una tecnologia come, appunto, la blockchain, la robotica, il metaverso o l’intelligenza artificiale. Una narrazione invece è il modo in cui scegliamo di raccontare una storia o una serie di storie collegate tra di loro. Ciò che caratterizza le narrazioni è che esse possono dispiegarsi a più livelli sovrapposti. Il livello più basso di una narrazione è quello personale, ovvero il modo in cui raccontiamo la nostra vita come un susseguirsi di eventi puntuali o periodi lineari che costituiscono la nostra identità o il punto di vista che distilliamo sulla realtà che ci circonda. Al di sopra del livello personale c’è il livello delle organizzazioni, ovvero il modo in cui un’organizzazione di qualsiasi tipo (un’azienda, un partito politico, un culto) descrive sé stessa come una realtà unica e peculiare. Più sopra ancora c’è il livello industriale, ovvero quello in cui le organizzazioni elaborano una serie di storie in risposta alla domanda “quale ruolo interpretiamo e rivestiamo nel nostro specifico settore?”. L’ultimo livello, quello che caratterizza le narrazioni apicali, è quello a cui si collocano le cosiddette “metanarrazioni”, ovvero quello in cui una serie di individui organizzati elevano l’impatto che esercitano sul proprio contesto di riferimento a una dimensione storica, capace di piegare alle proprie condizioni lo sviluppo dell’umanità intera. > L’ideologia delle grandi aziende tecnologiche è composta da un melange di > millenarismo, fascinazioni soluzioniste ed echi di quella sorta di “destino > manifesto” proprio della corrente lungotermista della filosofia contemporanea. Ciò che fa delle grandi aziende tecnologiche forze di natura storica all’interno della nostra società è proprio la loro volontà esplicita di agire sulla dimensione metanarrativa dello sviluppo dell’umanità, attraverso il modo in cui l’ideologia personale dei loro fondatori si riflette nel modo in cui essi plasmano le organizzazioni e, attraverso di esse, influenzano i settori industriali nei quali operano. Quali siano i tratti dominanti di questa ideologia Signorelli lo spiega bene nei capitoli intitolati “La religione dell’intelligenza artificiale” e “L’inquietante filosofia della Silicon Valley”. Non c’è qui abbastanza spazio per approfondire le dimensioni religiose e filosofiche dell’ideologia delle Big Tech ma è opportuno specificare che questa è composta da un melange di millenarismo, fascinazioni soluzioniste ed echi di quella sorta di “destino manifesto” che trova nella corrente lungotermista della filosofia contemporanea il suo riferimento più saldo e prolifico. Quello che va invece sottolineato è a cosa sia funzionale la narrazione del futuro che, attraverso la produzione costante di storie, gli apparati di propaganda delle grandi aziende tecnologiche distillano da questo sostrato ideologico, ovvero la sua capacità di retroagire sul presente determinandolo. Lo sviluppo delle tecnologie digitali più avanzate sembra seguire un copione scritto in anticipo: quello delle storie che raccontiamo su di esse. E i loro effetti, a dispetto della retorica, sono tutt’altro che immaginari. Più una tecnologia viene raccontata come capace di risolvere i problemi dell’umanità su una scala e con un impatto di dimensione storica, più sarà probabile che questa tecnologia riuscirà a prevalere sulle altre tecnologie concorrenti nella competizione per assicurarsi risorse, materiali e finanziarie, per potersi sviluppare ulteriormente. > Lo sviluppo delle tecnologie digitali più avanzate sembra seguire un copione > scritto in anticipo: quello delle storie che raccontiamo su di esse. E i loro > effetti, a dispetto della retorica, sono tutt’altro che immaginari. Insieme alla tecnologia e al suo apparato di propaganda, la finanza, così sostiene Signorelli, è una delle tre forze che mantengono attivo questo processo di estrazione basato sulla produzione semiotica. Il metaverso è senza dubbio uno degli esempi in cui questo processo appare meno sensato e giustificato che in altri casi. Propagandate con la promessa di creare un mondo virtuale sostituivo di quello attuale, le aziende che dichiaravano di voler costruire applicazioni per questa tecnologia sono riuscite a raccogliere ingenti fondi ma sono state incapaci di creare un’esperienza in grado anche solo di avvicinarsi a quanto promesso, limitandosi a dare vita a goffe copie della realtà come l’ufficio delle imposte ricreato da un comune norvegese “all’interno di Decentraland (un ambiente immerso, non in realtà virtuale ma che rientra comunque nelle tradizionali definizioni di metaverso), in cui recarsi con il proprio avatar per pagare le tasse”. Attraverso l’imposizione delle proprie narrazioni, le grandi aziende tecnologiche riescono dunque a ottenere quello che, secondo l’interpretazione che ne dà il filosofo tedesco Martin Heidegger, è l’obiettivo della tecnologia moderna: smettere di essere il mezzo per ottenere un fine e diventare una modalità di rivelazione del mondo, ovvero una forza in grado di modificare il nostro modo di vedere e vivere la realtà. > Per l’autore del libro, la realtà che ci circonda assomiglia sempre più a una > simulazione: non perché sia finta, ma perché è filtrata da immagini e > narrazioni che si impongono sulla sostanza. Qual è dunque il modo di vedere e vivere la realtà che le tecnologie digitali e le loro applicazioni più avanzate stanno apparecchiando per noi? Signorelli prova ad articolare una risposta a questa domanda nel primo e nell’ultimo capitolo del libro, dialogando apertamente con il pensiero di Jean Baudrillard e due dei suoi concetti più celebri: quello di simulacro e quello di simulazione. Per l’autore del libro, la realtà che ci circonda assomiglia sempre più a una simulazione: non perché sia finta, ma perché è filtrata da immagini e narrazioni che si impongono sulla sostanza. Quelle create dalle grandi aziende tecnologiche sono metanarrazioni potenti, capaci di riscrivere il presente con la scusa di promettere il futuro. Signorelli ci mostra che, spesso, le tecnologie più celebrate non mantengono le promesse che le accompagnano. Ma le storie che le raccontano continuano a funzionare benissimo: attirano investimenti, ne orientano lo sviluppo, e giustificano privilegi che esse creano. In questo senso, Simulacri digitali è un invito a non fermarsi all’incanto della narrazione tecnologica, ma a interrogare il potere che l’ha prodotta ‒ e il mondo che sta costruendo al nostro posto. L'articolo Simulacri digitali di Andrea Daniele Signorelli proviene da Il Tascabile.