Informazioni aggiuntive

  • Resoconto teleriunione  3 aprile 2018

AI e collasso del sistema-mondo

La teleconferenza di martedì, presenti 7 compagni, si è aperta con la segnalazione dell'inizio del lavoro di ristampa del nostro catalogo libri che conta circa 80 titoli. I testi verranno pubblicati utilizzando piattaforme on line che consentono la produzione anche di poche copie per libro. La riunione è poi proseguita con il commento delle ultime notizie sull'intelligenza artificiale.

Tutte le maggiori riviste e quotidiani, dall'Espresso a Repubblica, dal Sole 24 Ore all'Economist, non possono fare a meno di scrivere, con cadenza sempre più frequente, articoli sull'AI, ovviamente in chiave sensazionalistica e/o allarmistica. Il primo a mettere in guardia dai pericoli dell'automazione era stato il fisico Stephen Hawking: le macchine intelligenti, affermava, si sviluppano troppo velocemente in confronto all'evoluzione umana e prenderanno il potere mettendo a rischio la sopravvivenza della nostra specie; perciò i governi dovrebbero applicare qualche forma di controllo o di limitazione allo sviluppo tecnologico. Quindi è stata la volta di Elon Musk, che nei suoi tweet ha definito l'AI "più pericolosa delle armi nucleari, una vera minaccia per tutta la razza umana", arrivando a sostenere che "un nuovo conflitto internazionale potrebbe essere avviato non dai leader dei vari Paesi ma da uno dei loro sistemi di intelligenza artificiale, se questo dovesse decidere che un attacco preventivo costituisce il percorso ideale per la vittoria."

Curiosamente, Hawking vedeva con sospetto la tecnologia ma dipendeva completamente da sofisticate macchine per vivere, e Musk, mentre lancia allarmi sullo sviluppo dell'intelligenza extra-corporea, vende missili, case solari e automobili elettriche, e spedisce una Tesla Roadster nello spazio (il piano di colonizzazione di Marte è solo una parte del tentativo di espandere la specie a livello interplanetario).

Un compagno ha segnalato un testo scritto dal filosofo Nick Bostrom, Superintelligenza. Tendenze, pericoli, strategie pubblicato in Italia nel 2018. Nel libro si descrive come, nel primo '900, l'utilizzo delle macchine abbia ridotto quello dei cavalli sia nella produzione di merci che nei trasporti, ipotizzando di conseguenza ciò che potrebbe accadere oggi all'uomo con il ricorso massiccio a robot e algoritmi.

Se la società si robotizzasse del tutto facendo lavorare le macchine al posto degli uomini, per il capitalismo sarebbe un disastro, perché dovrebbe sfamare un esercito di schiavi invece di estrarne il plusvalore necessario a riprodursi. Oggi le macchine automatiche non sono altro che protesi dei nostri sensi e delle nostre facoltà, utilizzate dal Capitale per asservire l'operaio. Domani potranno contribuire a liberarci dal lavoro, facendoci uscire dalla preistoria umana. Dipende da chi le programma e in quale società vengono adoperate.

La borghesia analizza quanto avviene nel "suo" modo di produzione in termini ragionieristici e mercantilisti per cui tutto si risolve in un dare e avere. Siccome non riesce a trattare i dati in un modo scientifico, finisce per concentrarsi su quanti posti di lavoro saranno eliminati e quali nuove figure lavorative compariranno, ignorando che è tutta la struttura sociale a mutare radicalmente, visto che le macchine cominciano ad autoapprendere. La classe dominante è sprovvista di una teoria della conoscenza attraverso la quale fondare previsioni oggettive sul rapporto uomo-macchina, è quindi incapace di vedere che la macchina non è solo un oggetto fisico - con parti in movimento - finalizzato a uno scopo, ma è parte di un sistema che obbliga a pensare, cioè ad evolvere.

La Sinistra Comunista "italiana" si è scagliata contro la classe borghese perché essa, anziché indagare obiettivamente i fenomeni fisici, fa del sensazionalismo ("Triviale rigurgito di illuminismo"). E. Morozov, ad esempio, in Silicon Valley: i signori del silicio punta il dito contro i grandi gruppi monopolistici della Rete (Facebook, Google, Apple, Microsoft) accusandoli di essere onnipresenti e troppo influenti. Come se il capitalismo potesse essere diverso da quello è.

I vari scrittori, studiosi o analisti che sostengono che l'umanità stia attraversando una fase di transizione (Paul Mason, J.Rifkin, ecc.), non riescono mai a definire il punto di approdo di questo processo, ma delineano, al massimo, l'ennesima riforma del capitalismo. Eppure, già nel 1970, in base ai dati immessi nel modello Mondo 3 elaborato dal MIT su commissione del Club di Roma, i ricercatori dell'epoca intravidero il "superamento dei limiti" e il conseguente collasso del sistema-mondo. Dato che il modello era stato studiato per la salvezza del capitalismo, le proposte di cambiamento avanzate ai governanti furono accolte negativamente da una borghesia che si credeva eterna. Eppure le curve elaborate dal computer descrivevano un trend inesorabile che portava dritto alla catastrofe (interessante, in questo senso, il documentario Ultima Chiamata - Last Call di Enrico Cerasuolo).

A proposito di collasso del sistema-mondo, si è accennato alla degenerazione dei rapporti sociali e alla condizione out of control di alcuni stati. In Libia decine di gruppi armati si scontrano tra di loro, senza che nessuna fazione riesca a prevalere. Gli islamici sono stati cacciati dal loro stato (Derna, Siria-Iraq) e si sono sparsi dappertutto. Se il marasma sociale e la guerra dovessero estendersi all'Algeria o al vicino Egitto, avrebbero ben altri effetti in quanto entrambi i paesi sono molto più popolosi ed hanno un'importanza strategica nell'area. Si capisce come mai dal Cairo il generale Al Sisi abbia basato la sua presidenza su una lotta ferocissima ai gruppi islamici.

Di fronte ad interi stati dissolti o collassati, non c'è assolutamente nessuna forza che possa invertire la rotta. L'intervento delle grandi potenze è finalizzato al coinvolgimento delle popolazioni locali in guerre per procura. Siria, Libia e Yemen sono lo specchio mostruoso di quello che sta succedendo. Il capitalismo può tollerare retaggi del passato, come le monarchie del Golfo perché costa meno mantenere gli emiri anziché occupare militarmente un paese ed estrarre petrolio da sé. Si tratta di paesi tutto sommato poco abitati e, come affermava Luttwak nel caso dell'Arabia Saudita, si possono radere al suolo a costo zero quando escono dai binari.

In chiusura di teleconferenza si è accennato all'imposizione di nuovi dazi da parte degli Stati Uniti, agli scioperi dei ferrovieri francesi e alla (s)vendita di titoli dei big delle nuove tecnologie.

Il protezionismo di Trump ha prodotto i primi effetti: in risposta alla nuova politica commerciale americana, la Cina ha deciso a sua volta di introdurre nuove tasse doganali per 128 tipologie di merci, causando 3 miliardi di dollari di perdite per gli Usa. Come affermava l'Economist, queste misure possono avvitarsi in una spirale che nessuno riuscirà a controllare. Le terre rare, indispensabili nella produzione di smartphone e tablet, si trovano per la maggior parte nel sottosuolo cinese. Scatenare il protezionismo in un mondo in cui le risorse non sono ben redistribuite è una follia per il capitalismo.

In Francia le mobilitazioni dei ferrovieri sono state indette contro la liberalizzazione della Sncf, la ferrovia nazionale, e la modifica dello statuto dei ferrovieri. In programma due giorni di sciopero ogni cinque, per un totale di 36 giornate fino al 28 giugno. Significativo che le quattro sigle principali (Cgt, Unsa, Sud-Ril e Cfdt) si siano unite per l'occasione. La classe operaia vale qualcosa quando si muove all'attacco piuttosto che in difesa (di contratti e presunte garanzie). Lo stato francese, essendo rigido e ultracentralizzato, non può certo sopportare uno sciopero del genere, per cui scenderà a patto con i sindacati i quali accetteranno un compromesso al ribasso.

In seguito allo scandalo "Cambridge Analytica", Google, Apple, Twitter, Microsoft, Facebook e Amazon hanno perso mediamente il 15% del valore di Borsa. Gli analisti temono che l'ondata di vendite si allarghi coinvolgendo tutte quelle grandi aziende che "valgono" svariati miliardi, ma che non possiedono nulla o quasi nulla. Per ora il castello di carta resta in piedi grazie ad una generica fiducia nel mondo smaterializzato. Ma se questa fiducia dovesse venire meno...

Articoli correlati (da tag)

  • L'intelligenza agentica nella transizione di fase

    La teleriunione di martedì sera è iniziata prendendo spunto dall'articolo "What if AGI is already here, and it's made of... children?'", pubblicato su X da @IAmPascio.

    Secondo l'autore vi sono forti analogie tra l'intelligenza biologica e quella artificiale: la prima si è sviluppata lungo circa quattro miliardi di anni senza che nessuno l'abbia progettata, e anche la seconda è un fenomeno emergente. Nessun neurone, preso a sé, è intelligente: lo è il cervello, dove decine di miliardi di neuroni con oltre centomila miliardi di connessioni producono quel fenomeno che chiamiamo "intelligenza". Riguardo allo sviluppo dell'IA generale (AGI), molti immaginano l'avvento di HAL 9000 o Skynet, ovvero qualcosa di "singolare", ma per l'autore ciò che sta emergendo potrebbe essere un sistema composto da milioni di pezzi minuscoli, in connessione tra loro, distribuiti in rete. Un sistema di IA può, infatti, produrre agenti che coordinano sub-agenti e così via, una struttura che ricorda le reti autorganizzate, o gli sciami, dove ogni elemento è concatenato agli altri e, per mezzo di regole semplici, si coordina con essi dando luogo a un'architettura che produce soluzioni capaci di sorprendere gli stessi ricercatori.

    L'evoluzione dei sistemi complessi, dalla vita organica all'IA, è stata possibile grazie a mutazioni. Nel caso dell'intelligenza a base carbonio questo processo è durato miliardi di anni, mentre la velocità con cui evolve l'IA si conta in anni, se non in mesi. Dalla replicazione degli algoritmi alla loro selezione, fino alla retro-propagazione, abbiamo una struttura evolutiva che produce conseguenze che l'attuale società non sa gestire. Abituati a una concezione gerarchica dei processi sociali, facciamo fatica ad accettare l'organicità come modo di essere della natura. L'autore porta l'esempio delle formiche: una formica ha circa 250.000 neuroni, ma non è in grado di risolvere alcun problema significativo. Un'intera colonia di formiche è invece un sistema complesso in grado di risolvere una lunga serie di problemi: ricerca del cibo, cura delle larve, difesa del nido e sua manutenzione. Nessuno è responsabile del formicaio, non c'è un dirigente. L'intelligenza della colonia emerge dalle relazioni tra le formiche. L'architettura dei sistemi di IA più avanzati assomiglia più a una colonia di formiche che a un singolo individuo. Un neurone isolato non è solo poco intelligente: semplicemente non può esistere. Esiste invece una rete di neuroni, che interagiscono tra loro e con altre parti del corpo, il quale è in feedback costante con il mondo "là fuori". E' proprio questa retroazione ad aver reso possibile l'evoluzione della nostra specie (Engels e poi Leroi-Gourhan, sulla dialettica mano-lavoro-cervello).

  • Intelligenza artificiale e catastrofe sociale

    La teleriunione di martedì sera è iniziata prendendo spunto dalle ultime dichiarazioni riguardanti le perplessità e i timori per lo sviluppo dell'Intelligenza Artificiale (IA).

    Eric Schmidt, ex CEO di Google, ha lanciato un allarme sulla possibilità che l'IA sfugga al controllo degli esseri umani. Schmidt ha dichiarato di "preoccuparsi dell'IA più di ogni altra cosa", dati i pericoli legati all'interazione autonoma tra agenti (agent-to-agent) e ai rischi di conflitti cibernetici avanzati. Schmidt non è stato l'unico a rilasciare questo tipo di dichiarazioni. La Chiesa, con l'enciclica Magnifica Humanitas, ha posto il problema della gestione di una simile tecnologia, e recentemente anche Dario Amodei, cofondatore di Anthropic (Claude), ha scritto un saggio incentrato sulla necessità di rallentare lo sviluppo dell'IA ("We Must Pace the Frontier"). Ci sono poi ex sviluppatori come Jacob Coxon, ricercatore di Anthropic, che ha deciso di dimettersi, sostenendo che "le persone che sviluppano l'IA credono fermamente che potrebbe ucciderci tutti entro la fine del decennio". Rischi esistenziali che, secondo il ricercatore, dipendono dal fatto che le aziende sono più impegnate a competere che a garantire la sicurezza di questi sistemi.

    Le dichiarazioni di Coxon hanno avuto una forte eco sulla stampa. Sia Donald Trump sia il ministero degli Esteri cinese hanno respinto le richieste di rallentamento, ribadendo l'importanza di proseguire nello sviluppo dell'IA, e soprattutto la volontà politica di non lasciarsi sopraffare d'allarmismo. D'altronde, un coordinamento globale in una forma sociale basata sulla guerra di tutti contro tutti (concorrenza) è impossibile.

  • Il problema del controllo

    La teleriunione di martedì sera è iniziata dalla segnalazione di alcune notizie riguardanti le tecnologie impiegate nelle guerre moderne.

    Secondo le stime più recenti, l'Ucraina produce circa quattro milioni di droni l'anno, ma nel 2026 punta quasi a raddoppiarne la produzione; la Russia procede in modo simmetrico, aumentando a sua volta i propri ritmi produttivi. Se Kiev mantiene un vantaggio negli attacchi con droni a lungo raggio, sta però esaurendo i missili intercettori, e in alcuni casi il tasso di intercettazione dei missili balistici russi è sceso fino quasi allo zero.

    Da anni producono droni a scala industriale anche l'Iran e la Turchia, che si sono candidati a offrirli sul mercato: si tratta di vettori di vario tipo e natura, sempre più difficili da intercettare. Negli ultimi anni, con l'avvento di sensori e attuatori autonomi, di velivoli senza pilota e di missili ipersonici, sta cambiando il modo di fare la guerra. Come in fabbrica, gli uomini sono divenuti appendici delle macchine.

Rivista n. 58, dicembre 2025

copertina n° 57

Avvertenza al lettore / Editoriale: Terra incognita / Articoli: Le determinazioni materiali e l'ambiente - Il retroterra storico di n+1 / Recensione: Non lanciate quel missile / Doppia direzione: Sulla successione dei modi di produzione

Raccolta della rivista n+1

Newsletter 245, 19 gennaio 2022

f6Libertà

Viviamo in una società che scoppia. I suoi membri, divisi o raggruppati secondo criteri il più delle volte arbitrari e casuali, non riescono più a darsi un'identità plausibile. La pandemia, invece di compattare gli individui intorno a provvedimenti utili alla salvaguardia della specie, ha aggravato la situazione facendo emergere ataviche tendenze all'irrazionale.

Continua a leggere la newsletter 245
Leggi le altre newsletter