Stampa questa pagina
  • Sabato, 10 Giugno 2023

Informazioni aggiuntive

  • Resoconto teleriunione  6 giugno 2023

Apprendimento automatico

La teleriunione di martedì sera, a cui hanno partecipato 13 compagni, è iniziata dalla segnalazione di un articolo del quotidiano Il Post, intitolato "Bisogna capirsi su cosa sia 'l'intelligenza artificiale'".

Nell'articolo si sostiene che non esiste una versione unica dell'IA in quanto essa varia rispetto ai contesti e agli ambiti di ricerca. Una delle tante definizioni che vengono date è quella di "ambito dell'informatica per risolvere problemi con vari gradi di difficoltà", come ad esempio la guida autonoma di un'autovettura oppure il funzionamento di una chatbot. Quando se ne parla, bisogna perciò distinguere tra intelligenza artificiale "generale" e "ristretta": la prima riguarda il campo delle macchine che arrivano a riprodurre interamente l'intelligenza umana, come nei film di fantascienza, e questo è l'aspetto che fa più paura; la seconda, l'IA ristretta, indica quei sistemi che svolgono compiti precisi ma molto complessi, differenti dai normali software.

Abbiamo sempre detto che non ci serve una macchina che sia una copia dell'uomo. Ci servono invece protesi per amplificare le nostre capacità e soprattutto che ci aiutino a conoscere noi stessi. Un algoritmo, procedimento di calcolo nato prima dell'informatica, non è altro che una sequenza definita di istruzioni per arrivare a un risultato: partendo dal suo funzionamento base fondato sul binomio "se, allora", si possono inserire più dati e variabili e renderlo estremamente complesso.

Gli algoritmi basati sull'IA (bot) svolgono il lavoro che prima svolgevano gli umani e al giorno d'oggi ci sono algoritmi che costruiscono altri algoritmi: bot vengono testati da altri bot precedentemente istruiti dai programmatori. Miliardi di interazioni fanno sì che il sistema migliori strada facendo, imparando dai propri errori, e ciò vale sia per i bot che devono riconoscere immagini o suoni, che per i bot che devono addestrarli e testarli. Il passo successivo sono i bot che costruiscono altri bot. Una macchina che impara ad imparare rientra nella categoria del machine learning. Man mano che questi algoritmi analizzano i dati trovano andamenti e schemi sulla base dei quali fare previsioni.

Il machine learning può essere supervisionato, e cioè prevedere l'intervento dei programmatori, oppure non supervisionato, con un sistema che organizza da sé i dati, sviluppando autonomamente capacità in un processo che possiamo definire autopoietico. Mentre nella sotto categoria definita deep learning, che basa il suo funzionamento su reti neurali artificiali, abbiamo la famosa scatola nera: input in entrata, output in uscita, ed in mezzo numerosi strati che elaborano i dati immessi. Gli stessi esperti del settore ammettono che si fatica a capire cosa avvenga tra gli strati intermedi della black box.

Si capisce dunque da dove sorge la preoccupazione di alcuni tecnici e ingegneri che da anni lavorano allo sviluppo dell'intelligenza artificiale. Con l'implementazione di sistemi in grado di produrre immagini, video, ma anche codice con una rapidità mai vista prima, come si fa a capire cosa è stato prodotto dall'uomo e cosa dalle macchine? Recentemente è circolata su Twitter una foto di un attacco al Pentagono, generata da un programma basato su IA; immediatamente dopo la sua pubblicazione, il Dow Jones Industrial Index è sceso di 85 punti prima di rimbalzare nuovamente verso l'alto. Cosa potrebbe succedere nei prossimi 10 o 20 anni, tenendo presente la velocità con cui si evolvono questi sistemi? Non si tratta solo del lavoro umano che verrà eliminato, ma di un cambiamento rivoluzionario che sta scombussolando l'intera società. Come abbiamo scritto in "Essere digitali - Quando le cose iniziano a pensare":

"Siccome l'attuale modo di produzione non si sviluppa più, mentre ciò che si sviluppa è la forza della società futura, indipendentemente dall'uso che il capitalismo ne fa, le conseguenze sono rivoluzionarie, favorevoli all'avvento della nuova forma sociale. Tutto ciò prepara una rivoluzione che non ha nulla a che fare con quelle che l'hanno preceduta, essa non sostituirà una classe al potere con un'altra, ma eliminerà tutte le classi. Stiamo dunque andando verso una catastrofe sistemica di proporzioni difficili da immaginare, già preceduta però da molte avvisaglie."

Nel caso in cui il sistema vada fuori controllo, c'è la possibilità di spegnerlo? È impossibile spegnere tutte le macchine basate sull'IA, dato che ormai il capitalismo funziona per mezzo di esse. Non si può fermare nulla perché siamo di fronte ad un sistema globale interconnesso, non ad una singola macchina, e non esiste un governo unico mondiale in grado di prendere una tale decisione e di farla eseguire. Arrestare un sistema del genere equivarrebbe a voler spegnere il capitalismo, il quale si è autonomizzato dagli stati, dai governi e dai capitalisti, e fa ballare tutti alla sua musica. Nei primi anni '50 la corrente a cui facciamo riferimento, scriveva: "Non potete fermarvi, solo la rivoluzione proletaria lo può, distruggendo il vostro potere". La rivoluzione non è però da intendersi come un atto di volontà di un partito o di una classe, ma come il risultato di un "movimento reale" che costringe i vari attori sulla scena storica a muoversi in un determinato modo.

Siamo poi passati a commentare un video su YouTube intitolato "Abolire la competizione", in cui si elencano, da un punto di vista culturale e psicologico, i motivi per cui la competizione è negativa e la cooperazione è positiva. Alla base del discorso sulla competizione ci sono motivazioni di ordine morale, divergenti rispetto a quelle di Marx, che ha dimostrato che mentre la divisione sociale del lavoro contrappone gli individui l'uno all'altro in una eterna e spietata concorrenza, la divisione del lavoro industriale pone gli uomini in cooperazione, inserendoli in un sistema dove l'apporto differenziato di ognuno si integra perfettamente nelle esigenze del tutto per un fine prestabilito. Marx dimostra come il capitalismo nega sé stesso sviluppando su scala internazionale lavoro associato. Una delle società più competitive della storia genera senza sosta cooperazione, sia tra gli operai che tra questi e le macchine, gettando le basi della futura forma sociale ("Operaio parziale e piano di produzione").

"Che cosa crea un nesso fra i lavori indipendenti dell'allevatore, del conciatore, del calzolaio? L'esistenza dei loro prodotti rispettivi come merci. Che cosa invece caratterizza la divisione manifatturiera del lavoro? Il fatto che l'operaio parziale non produce nessuna merce; che solo il prodotto comune degli operai parziali si trasforma in merce" (Marx, Il Capitale, Libro I, cap. XII)

In conclusione di teleriunone, abbiamo fatto una breve rassegna delle news dal mondo. Ultimamente in Polonia ci sono state grandi manifestazioni, le più partecipate dai tempi di Solidarność; circa mezzo milione di persone è sceso in piazza a Varsavia contro il partito al governo e contro il carovita. L'est Europa non ha solo problemi legati alla guerra, ma anche di tenuta sociale. Per quanto riguarda il conflitto russo-ucraino, ci sono state delle incursioni nella regione di Belgorod, in territorio russo, da parte di milizie ucraine, ma anche, sembra, di gruppi russi anti-Putin ("La guerra in Ucraina tra attacchi in profondità e incursioni in Russia", Analisi Difesa). La guerra si sta spostando all'interno del territorio russo con raid, sabotaggi, impiego di droni, che stanno cambiando la dinamica del conflitto determinandone una nuova escalation. In Ucraina è crollata la diga di Kakhovka sul Dnepr, causando l'allagamento di intere aree residenziali e mettendo in pericolo la popolazione della regione. Che sia stata fatta saltare per fermare la controffensiva ucraina o per bloccare l'approvvigionamento di acqua verso la Crimea, resta il fatto che la guerra va avanti coinvolgendo le popolazioni e distruggendo tutto ciò che serve per ottenere una posizione di vantaggio nei confronti del nemico. Come ricordato da diversi analisti militari, questa è una guerra ibrida, che comprende l'utilizzo di tutto quello che c'è sul campo, di tutti i mezzi e le forze disponibili, civili e militari che siano. La guerra si muove su diversi piani, dai satelliti alle reti, dalle piazze agli agenti d'influenza.

Da verificare la notizia della nave russa Ivan Khurs colpita dai tre droni marini dell'Ucraina mentre attraversava il Bosforo. Per l'agenzia Ansa, "l'Ivan Khurs è la nave da ricognizione più moderna della Marina russa. Svolge compiti di comunicazione, gestione della flotta, ricognizione radio e guerra elettronica. L'equipaggiamento della nave rileva i segnali radio in tutte le bande di frequenza e ne localizza la fonte."

Articoli correlati (da tag)

  • L'intelligenza agentica nella transizione di fase

    La teleriunione di martedì sera è iniziata prendendo spunto dall'articolo "What if AGI is already here, and it's made of... children?'", pubblicato su X da @IAmPascio.

    Secondo l'autore vi sono forti analogie tra l'intelligenza biologica e quella artificiale: la prima si è sviluppata lungo circa quattro miliardi di anni senza che nessuno l'abbia progettata, e anche la seconda è un fenomeno emergente. Nessun neurone, preso a sé, è intelligente: lo è il cervello, dove decine di miliardi di neuroni con oltre centomila miliardi di connessioni producono quel fenomeno che chiamiamo "intelligenza". Riguardo allo sviluppo dell'IA generale (AGI), molti immaginano l'avvento di HAL 9000 o Skynet, ovvero qualcosa di "singolare", ma per l'autore ciò che sta emergendo potrebbe essere un sistema composto da milioni di pezzi minuscoli, in connessione tra loro, distribuiti in rete. Un sistema di IA può, infatti, produrre agenti che coordinano sub-agenti e così via, una struttura che ricorda le reti autorganizzate, o gli sciami, dove ogni elemento è concatenato agli altri e, per mezzo di regole semplici, si coordina con essi dando luogo a un'architettura che produce soluzioni capaci di sorprendere gli stessi ricercatori.

    L'evoluzione dei sistemi complessi, dalla vita organica all'IA, è stata possibile grazie a mutazioni. Nel caso dell'intelligenza a base carbonio questo processo è durato miliardi di anni, mentre la velocità con cui evolve l'IA si conta in anni, se non in mesi. Dalla replicazione degli algoritmi alla loro selezione, fino alla retro-propagazione, abbiamo una struttura evolutiva che produce conseguenze che l'attuale società non sa gestire. Abituati a una concezione gerarchica dei processi sociali, facciamo fatica ad accettare l'organicità come modo di essere della natura. L'autore porta l'esempio delle formiche: una formica ha circa 250.000 neuroni, ma non è in grado di risolvere alcun problema significativo. Un'intera colonia di formiche è invece un sistema complesso in grado di risolvere una lunga serie di problemi: ricerca del cibo, cura delle larve, difesa del nido e sua manutenzione. Nessuno è responsabile del formicaio, non c'è un dirigente. L'intelligenza della colonia emerge dalle relazioni tra le formiche. L'architettura dei sistemi di IA più avanzati assomiglia più a una colonia di formiche che a un singolo individuo. Un neurone isolato non è solo poco intelligente: semplicemente non può esistere. Esiste invece una rete di neuroni, che interagiscono tra loro e con altre parti del corpo, il quale è in feedback costante con il mondo "là fuori". E' proprio questa retroazione ad aver reso possibile l'evoluzione della nostra specie (Engels e poi Leroi-Gourhan, sulla dialettica mano-lavoro-cervello).

  • Intelligenza artificiale e catastrofe sociale

    La teleriunione di martedì sera è iniziata prendendo spunto dalle ultime dichiarazioni riguardanti le perplessità e i timori per lo sviluppo dell'Intelligenza Artificiale (IA).

    Eric Schmidt, ex CEO di Google, ha lanciato un allarme sulla possibilità che l'IA sfugga al controllo degli esseri umani. Schmidt ha dichiarato di "preoccuparsi dell'IA più di ogni altra cosa", dati i pericoli legati all'interazione autonoma tra agenti (agent-to-agent) e ai rischi di conflitti cibernetici avanzati. Schmidt non è stato l'unico a rilasciare questo tipo di dichiarazioni. La Chiesa, con l'enciclica Magnifica Humanitas, ha posto il problema della gestione di una simile tecnologia, e recentemente anche Dario Amodei, cofondatore di Anthropic (Claude), ha scritto un saggio incentrato sulla necessità di rallentare lo sviluppo dell'IA ("We Must Pace the Frontier"). Ci sono poi ex sviluppatori come Jacob Coxon, ricercatore di Anthropic, che ha deciso di dimettersi, sostenendo che "le persone che sviluppano l'IA credono fermamente che potrebbe ucciderci tutti entro la fine del decennio". Rischi esistenziali che, secondo il ricercatore, dipendono dal fatto che le aziende sono più impegnate a competere che a garantire la sicurezza di questi sistemi.

    Le dichiarazioni di Coxon hanno avuto una forte eco sulla stampa. Sia Donald Trump sia il ministero degli Esteri cinese hanno respinto le richieste di rallentamento, ribadendo l'importanza di proseguire nello sviluppo dell'IA, e soprattutto la volontà politica di non lasciarsi sopraffare d'allarmismo. D'altronde, un coordinamento globale in una forma sociale basata sulla guerra di tutti contro tutti (concorrenza) è impossibile.

  • Il problema del controllo

    La teleriunione di martedì sera è iniziata dalla segnalazione di alcune notizie riguardanti le tecnologie impiegate nelle guerre moderne.

    Secondo le stime più recenti, l'Ucraina produce circa quattro milioni di droni l'anno, ma nel 2026 punta quasi a raddoppiarne la produzione; la Russia procede in modo simmetrico, aumentando a sua volta i propri ritmi produttivi. Se Kiev mantiene un vantaggio negli attacchi con droni a lungo raggio, sta però esaurendo i missili intercettori, e in alcuni casi il tasso di intercettazione dei missili balistici russi è sceso fino quasi allo zero.

    Da anni producono droni a scala industriale anche l'Iran e la Turchia, che si sono candidati a offrirli sul mercato: si tratta di vettori di vario tipo e natura, sempre più difficili da intercettare. Negli ultimi anni, con l'avvento di sensori e attuatori autonomi, di velivoli senza pilota e di missili ipersonici, sta cambiando il modo di fare la guerra. Come in fabbrica, gli uomini sono divenuti appendici delle macchine.