Informazioni aggiuntive

  • Resoconto teleriunione  28 novembre 2023

Un sistema che non conosce sé stesso

La teleriunione di martedì sera, a cui si sono collegati 17 compagni, è iniziata con il commento delle notizie riguardanti OpenAI, uno dei più avanzati laboratori di ricerca nel campo dell'Intelligenza Artificiale (IA).

La startup che ha elaborato ChatGPT ("Chat Generative Pre-trained Transformer"), un sistema linguistico LLM ("Large Language Model") basato sull'apprendimento automatico profondo, recentemente è salita all'onore delle cronache per il licenziamento di uno dei suoi fondatori e CEO, Sam Altman. Da quanto si può leggere sui giornali, sembra che l'allontanamento di Altman ad opera del consiglio di amministrazione rientri nello scontro in atto tra i sostenitori di due diversi approcci nello sviluppo dell'intelligenza artificiale, ed in particolare riguardo allo sviluppo di un nuovo progetto denominato Q*. ChatGPT produce risultati in base ad un calcolo probabilistico, legato alla statistica del linguaggio; Q*, invece, sarebbe un sistema autonomo in grado di "superare gli esseri umani nei compiti con il maggiore impatto a livello economico" (Wired).

Secondo la Reuters, lo scontro verterebbe sulle precauzioni da adottare verso lo sviluppo del progetto: mentre la maggioranza del consiglio di amministrazione richiedeva una maggiore cautela, sembra che Altman spingesse per la sua commercializzazione. Nei giorni successivi al licenziamento, Microsoft, il maggior finanziatore della società, si è fatta avanti per assumere Altman, e più di 700 dipendenti hanno minacciato di andarsene per seguire il loro ex-capo. OpenAI nasce nel 2015 come organizzazione di ricerca senza scopo di lucro; qualche anno più tardi, nel 2019, viene affiancata da un braccio commerciale che si occupa di attrarre gli investimenti e gestire i profitti. All'interno della startup è presente la corrente dell'altruismo efficace, un movimento filosofico che si propone di applicare la ricerca scientifica e la tecnologia per migliorare il mondo, e di mettere in pratica la massimizzazione dei profitti per incentivare le donazioni economiche a favore dei problemi sociali.

Le startup della Silicon Valley lavorano a stretto contatto con il governo di Washington. Elon Musk ha fornito i suoi servizi satellitari agli Ucraini all'inizio del conflitto, e recentemente li ha messi a disposizione delle ONG presenti a Gaza. I sistemi basati sull'IA sono ambiti di ricerca che stanno sconvolgendo il mondo dal punto di vista economico, militare, sociale.

L'imprenditore sudafricano rientra tra la schiera di coloro che mettono in guardia sullo sviluppo dell'IA, perché potrebbe portare all'estinzione della specie umana. Gli allarmi su un'IA senziente sono sovente diffusi proprio da personalità leader nel settore; per i capitalisti, questi sistemi rappresentano una svolta drammatica che segna la fine dell'umanità. Si tratta di una situazione schizofrenica, riflesso di una società altrettanto schizofrenica: la produzione associata e l'appropriazione privata vanno in contrasto, la società morente è gravida di società futura e tutto il tempo che ci vorrà per compiere il passaggio dall'una all'altra sarà pericolosissimo per la specie. Nel caso della guerra, ad esempio, si è già giunti alla progettazione di armi che possono decidere in autonomia dove e come colpire.

Può un sistema di macchine arrivare ad avere una coscienza? Ovviamente bisognerebbe prima capire cos'è la coscienza. La specie evolve nella misura in cui suggerisce a se stessa i mezzi per arrivare ad una conoscenza di livello superiore. L'uomo impara presto a darsi sistemi per contare e memorizzare (tavolette, cretule, ecc.), entrando in un contesto fatto di continua e costante produzione di informazione. L'uomo inizia poi a studiare se stesso attraverso lo studio delle macchine che egli stesso produce, dal pallottoliere ai dispositivi informatici. L'architettura di von Neumann, ancora oggi alla base della maggior parte dei computer, non è altro che uno schema per il trattamento delle informazioni: istruzioni, memoria, e un diagramma di flusso che illustra una situazione dinamica. Per von Neumann le macchine possono arrivare a costruire se stesse, senza l'ausilio degli esseri umani.

Marx ha intuito (Grundrisse, "Frammento sulle macchine") straordinariamente bene ciò che sarebbe accaduto: la macchina ha bisogno di essere informata sulle operazioni da svolgere, ma una volta che tale operazione è compiuta essa può lavorare teoricamente all'infinito, lanciando i suoi segnali all'operaio solo per chiedere manutenzione o per essere ricaricata di materie prime. La costruzione di macchine per mezzo di macchine cozza contro la società del valore-lavoro.

Nel saggio La scimmia nuda lo zoologo Desmond Morris afferma che la specie umana non si è sviluppata adeguatamente rispetto alla strumentazione tecnica che ha costruito; a livello sociale siamo rimasti degli scimpanzé, che però hanno per le mani armi nucleari. L'umanità ha a disposizione strumenti, mezzi e tecnologie tali da permetterle di compiere il salto in una fase sociale avanzata, ed invece rimane ancorata alla preistoria. Una società che non conosce sé stessa sta producendo attrezzature che stanno prendendo il sopravvento. Singolarità (R. Kurzweil) significa non tanto indeterminazione quanto andamento catastrofico che può avere esiti diversi. Il rapporto tra uomo e macchina è un tema affrontato in numerosi film. In 2001, Odissea nello Spazio, Terminator, Matrix, ad esempio, tale interazione ha un'accezione negativa; nell'ultimo, addirittura, l'umanità-batteria non è nemmeno consapevole di essere schiava delle macchine, che la illudono di vivere nella libertà. Percependo di non avere futuro, la società borghese rimpiange il passato e all'orizzonte vede solo pericolo, immaginando scenari distopici.

Negli appunti epistemologici (rivista n. 15-16), la corrente cui facciamo riferimento scrive che la rivoluzione avviene senza che gli uomini abbiamo la consapevolezza della società futura, e che la vera conoscenza ci sarà soltanto quando l'umanità sarà libera dai vincoli capitalistici. Vivendo ancora nella sua preistoria, l'umanità non conosce sé stessa, e la classe dominante non sa dove sbattere la testa, non riuscendo ad elaborare un programma né tantomeno una visione del futuro. Il comunismo è la possibilità che la specie comprenda l'universo in cui vive e trovi un'armonia con la biosfera di cui fa parte. Il modo di produzione capitalista ha come obiettivo la valorizzazione da D a D' e si disinteressa di tutto il resto.

In chiusura di teleconferenza, abbiamo ripreso il tema della guerra in Medioriente ed Ucraina. A Gaza, l'attenzione dei media è riservata alla tregua, che in un conflitto è quel momento necessario per gli approvvigionamenti e il riposizionamento dei soldati. Gli Americani tentano di frenare gli Israeliani per evitare un' escalation, spingendo per la liberazione degli ostaggi (vedi movimento interno ad Israele dei familiari degli ostaggi contrari alla guerra). Per l'esercito israeliano, la tregua ritarda le operazioni e favorisce i rifornimenti di beni di prima necessità ad Hamas. Israele ha un grosso problema e cioè la strategia sul lungo termine: per ora i militari vanno avanti nell'occupazione della Striscia di Gaza, ma non è chiaro quale sia l'obiettivo. Attualmente il nord della Striscia è distrutto e la popolazione si è riversata nel sud dove, secondo la propaganda del governo Netanyahu, l'esercito dovrà finire il lavoro di sradicamento di Hamas. Centinaia di migliaia di civili sono intrappolati, senza poter uscire da quella che è una prigione a cielo aperto. A ciò si aggiunge il problema della Cisgiordania, dove gruppi di giovanissimi palestinesi imbracciamo le armi e si scontrano giornalmente con l'esercito israeliano. È difficile immaginare una soluzione. La compellence agisce su tutti gli attori regionali, ad esempio Hezbollah, che per il momento attua un conflitto a bassa intensità.

Anche il fronte ucraino è problematico per l'Occidente. Durante la scorsa estate l'Ucraina ha sparato 220 mila/240 mila proiettili di grosso calibro al mese (The Economist, "Ukraine's new enemy: war fatigue in the West"). L'apparato industriale occidentale non riesce a stare al passo con la produzione di armamenti: limiti fisici vincolano la fornitura di armi e munizioni all'Ucraina mentre i Russi, ben trincerati nelle regioni dell'est e del sud, compiono massicci attacchi con missili e droni. Al di là della propaganda occidentale, la Russia ha raggiunto parte dei propri obiettivi.

Il mondo sta sfuggendo di mano agli Stati Uniti, e il controllo dell'Indo-Pacifico e dei suoi flussi commerciali resta il nodo centrale. Ragionando in termini di wargame, è lecito elaborare uno scenario mondiale in cui la Cina, forte del caos in Medioriente e in Ucraina, decide di prendersi Taiwan, con tutte le conseguenze del caso.

Articoli correlati (da tag)

  • L'attenzione verso il linguaggio

    La teleconferenza di martedì sera è iniziata riprendendo gli argomenti trattati durante la riunione pubblica tenuta a Milano lo scorso 20 aprile.

    La conferenza, incentrata sul tema "Guerra e nuove tecnologie", si è tenuta presso il circolo anarchico Bruzzi-Malatesta. Al termine della riunione sono state poste alcune domande riguardo la socializzazione del capitale e le strutture fisiche alla base della guerra cibernetica, che ci hanno dato l'occasione di ribattere alcuni chiodi teorici. L'impressione che abbiamo avuto è stata positiva sia per la presenza di giovani che per l'attenzione del "pubblico" durante lo svolgimento di tutta la relazione.

    L'acutizzarsi della guerra e lo sviluppo di nuove armi fanno parte di un processo unico, di una dinamica di crisi strutturale del capitalismo. I fatti hanno la testa dura, dice Lenin, e la realtà si incarica di fare piazza pulita delle vecchie "questioni" che in passato sono state motivo di interminabili dibattiti (partito, sindacato, ecc.). Nell'introduzione alla relazione di Milano è stato ribadito che il capitalismo non può funzionare senza l'estrazione di plusvalore, e che la guerra, fenomeno invariante, si è trasformata nel tempo essendo soggetta al modo di produzione che la esprime. Engels nota che l'innescarsi della dialettica cannone/corazza porta all'intensificazione del conflitto, motivo per cui, ad esempio, ben presto le barricate risultano obsolete rispetto all'impiego dell'artiglieria.

  • La guerra e il suo contesto

    La teleriunione di martedì sera è iniziata dall'analisi del recente attacco dell'Iran ad Israele.

    Secondo un portavoce dell'esercito israeliano, nell'azione compiuta nella notte tra il 13 e il 14 aprile l'Iran ha impiegato 170 droni, 30 missili da crociera e 120 missili balistici, che sono stati quasi tutti abbattuti. L'attacco è stato simbolico, le nazioni arabe erano state avvertite e probabilmente anche gli Americani; dopo il bombardamento di un edificio annesso all'ambasciata iraniana a Damasco il primo aprile scorso, Teheran non poteva non rispondere. Gli USA hanno chiesto ad Israele di evitare una reazione a caldo e di pazientare, onde evitare un'escalation; gli Iraniani hanno dichiarato che se Israele lancerà un nuovo attacco essi colpiranno più duro: "Con questa operazione è stata stabilita una nuova equazione: se il regime sionista attacca, sarà contrattaccato dall'Iran."

    Teheran è all'avanguardia nella produzione di droni, ha sviluppato un'industria bellica specializzata e vende queste tecnologie alla Russia ma anche ad Algeria, Bolivia, Tagikistan, Venezuela ed Etiopia.

    Ciò che sta accadendo in Medioriente conferma l'importanza del lavoro sul wargame, a cui abbiamo dedicato due numeri della rivista (nn. 50 - 51). I giochi di guerra servono a delineare scenari futuri, e le macchine amplificano le capacità dell'uomo aiutandolo a immaginare come potrebbero svilupparsi i conflitti in corso. Gli eserciti e gli analisti militari che lavorano con i wargame sono in grado di accumulare grandi quantità di informazioni, ma sono però costretti a vagliarne solo una parte. È un dato oggettivo: i big data vanno ordinati e l'ordine risente dell'influenza di chi applica il setaccio.

  • Guerra "intelligente" e rovesciamento della prassi

    La teleriunione di martedì sera è iniziata con alcune considerazioni riguardo i sistemi di intelligenza artificiale utilizzati da Israele nella Striscia di Gaza. L'argomento si inserisce nel nostro lavoro in corso sulla guerra e sulle nuove armi in via di sperimentazione in Medioriente e Ucraina.

    Prendendo spunto da fonti israeliane (i due siti di informazione +972 e Local Call), il manifesto ha pubblicato un lungo articolo ("20 secondi per uccidere: lo decide la macchina") in cui sono riportate le interviste ad ufficiali dell'intelligence israeliana che spiegano il funzionamento del sistema IA Lavender e il ruolo che esso ha giocato nei bombardamenti sulla Striscia. Lavender opera in sinergia con il sistema Gospel, che si occupa nello specifico di contrassegnare gli edifici e le strutture da cui Hamas lancia i razzi; e ha il compito di individuare i nemici assegnando un punteggio da 1 a 100 ad ogni individuo: per un alto responsabile di Hamas, se identificato in una palazzina molto abitata, è possibile accettare una certa quantità di "danni collaterali", per un militante minore se ne accetta una inferiore. Il sistema di intelligenza artificiale riesce a costruire dei profili e a definire una "kill list" secondo un processo statistico che ha perciò un margine di errore (intorno al 10%); i tempi impiegati dalla macchina per individuare e colpire un obiettivo sono di circa 20 secondi, l'operatore umano non può quindi tenerne il passo e tantomeno eseguire un'analisi approfondita della lista dei bersagli.

    Non si tratta di indignarsi perché l'IA uccide gli uomini, anche i cannoni e le mitragliatrici lo fanno; si tratta invece di comprendere le novità che emergono dall'utilizzo di questa tecnologia. Siamo nel bel mezzo di una transizione di fase, tra un vecchio tipo di conflitto ed uno nascente: la guerra inizia sempre con gli armamenti, le dottrine, le tecniche del passato, ma in corso d'opera evolve diventando altra cosa. Oggigiorno si combatte ancora nelle trincee, come in Ucraina dove però allo stesso tempo si utilizzano i robot; si adoperano i fucili e le granate, ma anche i missili ipersonici. Nell'articolo dell'Economist "How Ukraine is using AI to fight Russia" si informa il lettore che sin dall'estate del 2022 sono stati utilizzati software per ridurre gli attacchi-disturbo dei Russi. Tante start-up ucraine operanti nel settore hi-tech hanno virato verso le necessità belliche, e sono state utilizzate tecniche di profilazione e monitoraggio, consulenze e indagini statistiche per raccogliere dati e scovare la posizione delle truppe e dei sistemi d'arma nemici. Semantic force è una start-up che si è specializzata nel trattamento dei dati riguardanti il morale della popolazione: ora il suo scopo è comprendere lo stato d'animo dei soldati russi (attraverso i social network e non solo).

Rivista n°54, dicembre 2023

copertina n° 54

Editoriale: Reset

Articoli: La rivoluzione anti-entropica
La guerra è già mondiale

Rassegna: Polarizzazione sociale in Francia
Il picco dell'immobiliare cinese

Terra di confine: Macchine che addestrano sè stesse

Recensione: Tendenza #antiwork

Raccolta della rivista n+1

Newsletter 245, 19 gennaio 2022

f6Libertà

Viviamo in una società che scoppia. I suoi membri, divisi o raggruppati secondo criteri il più delle volte arbitrari e casuali, non riescono più a darsi un'identità plausibile. La pandemia, invece di compattare gli individui intorno a provvedimenti utili alla salvaguardia della specie, ha aggravato la situazione facendo emergere ataviche tendenze all'irrazionale.

Continua a leggere la newsletter 245
Leggi le altre newsletter

Abbonati alla rivista

Per abbonarti (euro 20, minimo 4 numeri) richiedi l'ultimo numero uscito, te lo invieremo gratuitamente con allegato un bollettino di Conto Corrente Postale prestampato.
Scrivi a : mail2

Iscriviti alla newsletter

Iscriviti alla newsletter quindicinale di n+1.

Invia una mail a indirizzo email