Stampa questa pagina
  • Venerdì, 17 Giugno 2022

Informazioni aggiuntive

  • Resoconto teleriunione  14 giugno 2022

La coscienza delle macchine

La teleconferenza di martedì sera, a cui si sono connessi 15 compagni, è cominciata commentando le notizie di stampa riguardanti il caso LaMAD (Language Model for Dialogue Applications), un programma di intelligenza artificiale conversazionale, elaborato da Google, che si basa su una rete neurale open source per la comprensione del linguaggio naturale.

Un ingegnere impegnato nel progetto, Blake Lemoine, è stato messo in congedo dall'azienda di Mountain View perché ha dichiarato pubblicamente che LaMAD sarebbe senziente e avrebbe sviluppato una coscienza pari a quella di un essere umano: "Se non sapessi esattamente cos'è, ovvero questo programma informatico che abbiamo costruito di recente - ha detto Lemoine al Washington Post - penserei che si tratta di un bambino di sette, otto anni che per caso conosce la fisica". Il portavoce di Google ha negato le affermazioni di Lemoine: "Il nostro gruppo, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri principi di IA - ha spiegato - e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia senziente, e che ci sono molte prove contrarie".

Sulla vicenda si è espresso anche The Economist ospitando una serie di interventi di esperti in materia, da Douglas Hofstadter a Blaise Agüera y Arcas, i quali però non hanno saputo cogliere le implicazioni profonde dell'avanzamento della cosiddetta intelligenza artificiale. Il dibattito intorno al tema è viziato dall'antropomorfismo, e quindi dalla ricerca nella macchina di capacità, facoltà e abilità proprie dell'uomo. Ciò che arrovella gli addetti ai lavori è lo stabilire se un robot può o meno arrivare ad avere un'intelligenza, o una coscienza, simile a quella umana. Ma lasciamo i borghesi alle loro diatribe sull'impatto etico dei software e poniamoci al di fuori della mischia.

Innanzitutto, chi ha detto che l'intelligenza informatica debba assomigliare a quella umana? Come alcuni biologi evoluzionisti sostengono, non c'è motivo di credere che l'intelligenza umana - con emozioni e pulsioni animalesche come la riproduzione e l'aggressività - sia l'unica forma possibile di intelligenza evoluta. The Guardian fa scrivere i suoi editoriali dal programma GPT-3 e il risultato non scandalizza nessuno.

Inoltre, questione ancora più importante, si continuano ad intendere i congegni tecnologici come qualcosa di separato da noi, di alieno. Si tratta di un approccio tipicamente capitalistico, perché in questa forma sociale sono le macchine a dominare gli uomini e non viceversa. E proprio per questo motivo la borghesia teme l'avvento di un mondo simile a quello descritto nel celebre film Matrix, nel quale gli uomini sono ridotti a batterie per le macchine.

Le macchine, però, sono un prodotto dell'uomo, una sua esteriorizzazione, al pari delle prime pietre scheggiate che via via si sono evolute fino a diventare lance, giavellotti, ecc. Esse sono nate per potenziare l'uomo, per renderlo più abile, permettendogli di sopravvivere. Ora, diventate intelligenti, formano un super-organismo con l'umanità, un simbionte in grado di auto-organizzarsi ed evolvere. Noi e la tecnologia siamo costretti a co-evolvere ("Verso la singolarità storica").

La borghesia ormai non può fare a meno di computer e robot e comincia ad aver paura del suo stesso sistema, avendo la percezione che esso stia andando fuori controllo.

Da qualche tempo è in costruzione un mondo virtuale, il Metaverso, in cui gli uomini si trasformano in avatar diventando copie di sé stessi in grado di muoversi, condividere e interagire. A tal proposito, si è fatto riferimento a due articoli pubblicati sul sito Difesa Online: "Il Metaverso è oramai una realtà: quali sfide ci attendono?" e "Metaverso, società e cybersecurity".

Nel primo articolo si narra dell'origine del Metaverso e dell'impatto che la fusione tra mondo virtuale e fisico avrà sulle nostre vite, descrivendolo come un cambio di paradigma al pari della nascita del World Wide Web negli anni '90. Nel secondo, si mette in guardia dalla possibilità che in esso si possano compiere atti di spionaggio e di riciclaggio di denaro: "Il metaverso è uno spazio creato dall'uomo, in cui l'uomo, attraverso il suo avatar, avrà la possibilità di muoversi, vivere, compiere atti di tutti i tipi. Atti che avranno indubbiamente dei risvolti sia nel mondo virtuale sia nel mondo reale. Ecco perché è importante capire quali siano queste interazioni e quali siano i rischi possibili per il singolo e per la società nel suo complesso."

La classe dominante ha sviluppato i wargame poiché utili per preparare le azioni di guerra; allo stesso modo sarà utile il Metaverso per addestrare i militari (realtà aumentata, visori, simulazioni 3D, ecc.). Ma nessuno sa ancora quali potrebbero essere le conseguenze dello sviluppo di questo mondo virtuale. Un assaggio di quanto potrebbe accadere dal punto di vista della virtualizzazione della guerra lo possiamo vedere nel film Good Kill di Andrew Niccol.

Conquistare il territorio non serve più all'imperialismo d'oggi, e infatti gli Usa non mirano a quello, ma al controllo del mondo. Per questo devono pigiare sull'acceleratore del riarmo, dato che non hanno ancora sviluppato le armi adatte per continuare a farlo, come qualche analista militare americano fa notare.

Le macchine, nella guerra come nell'industria, prendono il sopravvento sugli uomini. Lo stesso vale per i wargame computerizzati, che suggeriscono agli stati maggiori cosa fare. La borghesia deve ripensare tutto, dalla strategia alla tattica alle tecnologie. La Russia ha minacciato di usare dei missili ipersonici, capaci di raggiungere velocità superiori a Mach 5 (oltre 6mila Km/h); alcuni eserciti hanno in dotazione missili a planata ipersonica, che dopo essere stati trasportati oltre l'atmosfera da un lanciatore scendono sul bersaglio spostando continuamente la traiettoria, rendendola imprevedibile. La dialettica cannone-corazza spinge tutti verso nuove simmetrie di guerra (game-changer). Ad esempio, sono sempre più necessari aerei velocissimi in grado di non essere intercettati dal nemico.

La guerra deve essere bloccata al suo scatto altrimenti passa e si rafforza la controrivoluzione, lo scrive Amadeo Bordiga ad un compagno nel gennaio 1957. Ciò non significa che se passa la guerra il comunismo è spacciato. Esso fa parte del DNA della nostra specie. La guerra, con le sue unioni sacre e la sua difesa della patria, può ritardare la rivoluzione, anche di molto, ma non la elimina. Quella in corso è stata chiamata infinita e senza limiti, e oramai anche il Papa ammette che una nuova guerra mondiale è stata dichiarata. La chiama Terza, noi invece preferiamo chiamarla Quarta per le ragioni che abbiamo riportato nel volantino distribuito il Primo Maggio.

La lotta del proletariato contro la borghesia non muore, almeno finché resta in piedi il capitalismo, ma cambia di significato rispetto a un tempo. Oggi la posta in gioco è molto più alta rispetto ad una vertenza nazionale generalizzata per un aumento salariale (senza nulla togliere alle lotte contro il carovita dei portuali tedeschi o degli autotrasportatori sudcoreani), e riguarda l'inquinamento, l'aumento delle temperature del pianeta, le risorse energetiche, l'approvvigionamento dei beni di prima necessità, dal cibo all'acqua, nuovi e pericolosi patogeni.

La classe proletaria è diventata sempre più universale e i suoi interessi ormai coincidono con quelli della specie umana; di qui la necessità di un partito rivoluzionario che abbia come fine la salvaguardia dell'umanità insieme a quella della biosfera. Se si estingue la tradizione "marxista", la rivoluzione troverà comunque gli strumenti necessari per imporsi e rompere l'involucro che la imprigiona. Il comunismo, in quanto "conoscenza di un piano di vita per la specie", vincerà anche senza il contributo attivo dei comunisti e dei proletari.

Articoli correlati (da tag)

  • L'intelligenza agentica nella transizione di fase

    La teleriunione di martedì sera è iniziata prendendo spunto dall'articolo "What if AGI is already here, and it's made of... children?'", pubblicato su X da @IAmPascio.

    Secondo l'autore vi sono forti analogie tra l'intelligenza biologica e quella artificiale: la prima si è sviluppata lungo circa quattro miliardi di anni senza che nessuno l'abbia progettata, e anche la seconda è un fenomeno emergente. Nessun neurone, preso a sé, è intelligente: lo è il cervello, dove decine di miliardi di neuroni con oltre centomila miliardi di connessioni producono quel fenomeno che chiamiamo "intelligenza". Riguardo allo sviluppo dell'IA generale (AGI), molti immaginano l'avvento di HAL 9000 o Skynet, ovvero qualcosa di "singolare", ma per l'autore ciò che sta emergendo potrebbe essere un sistema composto da milioni di pezzi minuscoli, in connessione tra loro, distribuiti in rete. Un sistema di IA può, infatti, produrre agenti che coordinano sub-agenti e così via, una struttura che ricorda le reti autorganizzate, o gli sciami, dove ogni elemento è concatenato agli altri e, per mezzo di regole semplici, si coordina con essi dando luogo a un'architettura che produce soluzioni capaci di sorprendere gli stessi ricercatori.

    L'evoluzione dei sistemi complessi, dalla vita organica all'IA, è stata possibile grazie a mutazioni. Nel caso dell'intelligenza a base carbonio questo processo è durato miliardi di anni, mentre la velocità con cui evolve l'IA si conta in anni, se non in mesi. Dalla replicazione degli algoritmi alla loro selezione, fino alla retro-propagazione, abbiamo una struttura evolutiva che produce conseguenze che l'attuale società non sa gestire. Abituati a una concezione gerarchica dei processi sociali, facciamo fatica ad accettare l'organicità come modo di essere della natura. L'autore porta l'esempio delle formiche: una formica ha circa 250.000 neuroni, ma non è in grado di risolvere alcun problema significativo. Un'intera colonia di formiche è invece un sistema complesso in grado di risolvere una lunga serie di problemi: ricerca del cibo, cura delle larve, difesa del nido e sua manutenzione. Nessuno è responsabile del formicaio, non c'è un dirigente. L'intelligenza della colonia emerge dalle relazioni tra le formiche. L'architettura dei sistemi di IA più avanzati assomiglia più a una colonia di formiche che a un singolo individuo. Un neurone isolato non è solo poco intelligente: semplicemente non può esistere. Esiste invece una rete di neuroni, che interagiscono tra loro e con altre parti del corpo, il quale è in feedback costante con il mondo "là fuori". E' proprio questa retroazione ad aver reso possibile l'evoluzione della nostra specie (Engels e poi Leroi-Gourhan, sulla dialettica mano-lavoro-cervello).

  • Intelligenza artificiale e catastrofe sociale

    La teleriunione di martedì sera è iniziata prendendo spunto dalle ultime dichiarazioni riguardanti le perplessità e i timori per lo sviluppo dell'Intelligenza Artificiale (IA).

    Eric Schmidt, ex CEO di Google, ha lanciato un allarme sulla possibilità che l'IA sfugga al controllo degli esseri umani. Schmidt ha dichiarato di "preoccuparsi dell'IA più di ogni altra cosa", dati i pericoli legati all'interazione autonoma tra agenti (agent-to-agent) e ai rischi di conflitti cibernetici avanzati. Schmidt non è stato l'unico a rilasciare questo tipo di dichiarazioni. La Chiesa, con l'enciclica Magnifica Humanitas, ha posto il problema della gestione di una simile tecnologia, e recentemente anche Dario Amodei, cofondatore di Anthropic (Claude), ha scritto un saggio incentrato sulla necessità di rallentare lo sviluppo dell'IA ("We Must Pace the Frontier"). Ci sono poi ex sviluppatori come Jacob Coxon, ricercatore di Anthropic, che ha deciso di dimettersi, sostenendo che "le persone che sviluppano l'IA credono fermamente che potrebbe ucciderci tutti entro la fine del decennio". Rischi esistenziali che, secondo il ricercatore, dipendono dal fatto che le aziende sono più impegnate a competere che a garantire la sicurezza di questi sistemi.

    Le dichiarazioni di Coxon hanno avuto una forte eco sulla stampa. Sia Donald Trump sia il ministero degli Esteri cinese hanno respinto le richieste di rallentamento, ribadendo l'importanza di proseguire nello sviluppo dell'IA, e soprattutto la volontà politica di non lasciarsi sopraffare d'allarmismo. D'altronde, un coordinamento globale in una forma sociale basata sulla guerra di tutti contro tutti (concorrenza) è impossibile.

  • Uno spettro si aggira per il mondo

    La teleriunione di martedì sera si è concentrata sull'analisi della situazione economica e sociale di Cina e Stati Uniti, ricercando le invarianze che accomunano i due Paesi.

    Cai Fang, già Vice Presidente dell'Accademia Cinese delle Scienze Sociali, Presidente dell'Associazione Cinese di Economia del Lavoro e membro del Consiglio Consultivo di Alto Livello della Banca Mondiale del Lavoro, nel suo recente libro New Trends in China's Employment: How Artificial Intelligence Is Reshaping the Labour Market esamina l'impatto potenzialmente dirompente dell'Intelligenza Artificiale (IA) sul mercato del lavoro cinese, teorizzando lo sganciamento del salario dalla prestazione lavorativa. In altri suoi interventi pubblici ha inoltre proposto l'introduzione di un "salario vitale", il reddito di base e la pensione non contributiva.

    Choramedia, podcast company, ha dedicato una puntata all'argomento ("La Cina vuole il salario vitale: cosa sta cambiando davvero"), sottolineandone l'importanza. Quando decine di milioni di lavoratori devono scaricare un'app per lavorare e sperare di essere contattati da una piattaforma, significa che anche il gigante asiatico è alle prese con i problemi di senescenza capitalistica affrontati dai paesi occidentali. La situazione non è migliore in India, dove migliaia di giovani si sono radunati a Nuova Delhi per protestare contro il governo di Narendra Modi. La mobilitazione è stata organizzata dal "Cockroach Janata Party" (Partito degli Scarafaggi), un movimento satirico nato sul Web che denuncia l'elevata disoccupazione giovanile e la corruzione dilagante, e chiede una riforma del sistema educativo.