Al secondo livello, che Cristianini chiama "meso", si osserva la formazione delle mappe cognitive e delle reti neurali, cioè l'insieme dei miliardi di connessioni tra i nodi del sistema (analoghe, in parte, a quelle del cervello umano). L'analisi di questo livello renderebbe possibile intervenire sull'architettura della rete, modificando alcuni approcci e, di conseguenza, i risultati prodotti dall'IA. Leggiamo in Forma mentis: "La chiave non sta tanto nei neuroni individuali, quanto nell'architettura della rete che li connette".
Il livello "macro", che riguarda le interazioni continue tra macchine e uomini e macchine e macchine, è quello in cui si studiano le risposte che l'IA produce in funzione degli input. Attribuire ad un animale o ad una macchina una forma di "atteggiamento intenzionale" non significa attribuire loro una coscienza. Anche gli organismi monocellulari si spostano in modo deterministico verso una fonte di cibo: si può dire che pensano? La macchina, a sua volta, manifesta un comportamento ed è il risultato di una storia evolutiva come sistema complesso, descrivibile solo dall'interazione tra le sue parti e tra il sistema e l'ambiente esterno, uomini compresi.
Secondo alcuni filosofi, i modelli linguistici di grandi dimensioni (LLM) non farebbero altro che combinare dati in modo statistico, alla stregua di "pappagalli stocastici" (Emily M. Bender, Timnit Gebru e Angelina McMillan-Major). In realtà, i sistemi di IA possono costruire mappe dinamiche (rappresentazioni interne dello stato del problema), ad esempio una scacchiera (AlphaZero), consentendo forme di apprendimento e pianificazione. Il pappagallo non gioca a scacchi, la macchina sì e batte i migliori scacchisti.
Anthropic sta indagando proprio questo livello "psicologico" della macchina, con l'obiettivo di modificare comportamenti ritenuti pericolosi (il cosiddetto problema dell'allineamento dell'IA). Per intervenire su tale aspetto, si agisce sull'ambiente, sul contesto e sugli input forniti. Tuttavia, i differenti risultati cui giunge l'IA non ci dicono come essa arrivi a una determinata elaborazione. Secondo l'approccio multidisciplinare, la comprensione di tali processi può essere migliorata mettendo insieme fisica, matematica, filosofia e psicologia. L'interdisciplinarietà tende a riprodurre la divisione della conoscenza, riflesso della divisione sociale del lavoro, tentando di ricomporla senza però superarla. Al contrario, è fondamentale un approccio monistico alla conoscenza (organico, diremmo noi): unità del mondo fondata su leggi univoche per la materia-energia e quindi per il vivente-uomo-società (n+1, n. 15-16).
I lavori di Nello Cristianini e Dario Amodei rispondono ad un'esigenza impellente di interpretabilità delle macchine e delle loro potenzialità, alla luce dello sviluppo esponenziale dei sistemi di IA. Ci troviamo in una terra di confine tra presente e futuro. "More is different" è il titolo di un noto articolo del fisico e premio Nobel Philip Warren Anderson, nel quale si introduce il concetto di "emergenza", inteso come comparsa di caratteristiche o comportamenti nuovi che derivano dall'interazione di molte componenti semplici, senza essere presenti in ciascuna componente presa isolatamente.
Quando avviene un'interazione tra elementi (come nel caso del brodo primordiale) emergono proprietà nuove. Tali caratteristiche sono prive di significato se applicate al singolo atomo. Nel campo dell'IA, questa nuova "mente" che si è venuta configurando non è stata progettata da qualcuno in particolare, ma è emersa dall'immenso lavorio sociale di centri di ricerca, start up, accademie, industria (chip, circuiti, server, data center, satelliti, ecc.)
Le reti neurali artificiali simulano le reti biologiche. Negli LLM, quando vengono attivati riferimenti a determinati concetti, si osservano configurazioni interne analoghe alle attivazioni individuate in ambito neuroscientifico nello studio del cervello umano. L'IA è un potenziamento dell'intelligenza umana e parte del cervello sociale, che è sia biologico che extra biologico. Nel tentativo di cercare di interpretare quanto avviene dentro la "black box", si inizia a comprendere che il vero mistero da risolvere è come fa l'uomo a capire, ossia quali sono i processi che rendono possibile la conoscenza.
Secondo Engels, è il rapporto dinamico tra lavoro, mano e cervello il motore della nostra evoluzione. L'uomo si è evoluto lavorando socialmente e, in questo processo, ha trasformato la materia, i rapporti sociali e persino i propri neuroni. La specie umana ha dovuto dotarsi di strumenti sempre più complessi per non soccombere, "comprendendo" il mondo attraverso strumenti, modelli, macchine per conoscere, ecc.
La borghesia si pone il problema del controllo perché riconosce l'emergere di qualcosa di potente: una forma di intelligenza che non appartiene al singolo individuo, ma alla conoscenza accumulata dall'intera società. Marx, che ha affrontato questioni analoghe nel I Libro del Capitale e nel "frammento sulle macchine" dei Grundrisse, si interroga non solo sul funzionamento delle macchine, ma anche sui rapporti sociali che esse producono e su quelli che mettono in crisi. Se l'artigiano possedeva gli strumenti di lavoro e aveva capacità specifiche, nella fabbrica moderna il sapere dell'operaio viene sussunto dal sistema di macchine, il quale si è evoluto fino a darsi un suo cervello con tanto di reti neurali artificiali, distribuite non solo nella fabbrica ma su scala planetaria. La ricchezza "parametrata" sul tempo di lavoro non ha più senso, poiché la forza produttiva immediata passa sotto il controllo del General Intellect:
"La specie umana, la cui Vita è la Storia, ha un suo Cervello, organo costruito dalla sua millenaria funzione, che non è retaggio di alcun Teschio e di alcun Cranio. Il Sapere della specie, la Scienza, ben più che l'Oro, non sono per noi privati retaggi, ed in Potenza appartengono integri all'Uomo sociale". ("Traiettoria e catastrofe della forma capitalistica...").
L'informazione non è immagazzinata in qualche neurone in particolare, ma è distribuita nel cervello. I collegamenti in parallelo consentono di sviluppare schemi e modelli. La macchina si è fatta "un'idea" di cos'è un ponte, un saggio, una e-mail, e può lavorare su concetti astratti:
"L'obiettivo delle menti naturali non è formare conoscenze perfette e infallibili, ma descrizioni del proprio ambiente che siano utili per raggiungere i propri scopi. Anche le macchine possono formare tali rappresentazioni interne e usarle per guidare i propri comportamenti. Tra l'onniscienza e la perfetta ignoranza c'è uno spazio, in cui tutti noi viviamo." (Forma mentis)
Le macchine non sono solo strumenti e, raggiunto un certo livello di complessità e automazione delle funzioni, risultano difficili da controllare per una società che bada innanzitutto al profitto.
Gian Segato, ricercatore di Anthropic, in un'intervista su YouTube, osserva come vi sia una certa difficoltà a comprendere l'andamento esponenziale dei modelli IA e il fatto che il tasso di innovazione nel settore sia rapidissimo. L'evoluzione di questi modelli porterà alla sostituzione di una serie di mansioni lavorative, alla scomparsa di molte professioni e di milioni di posti di lavoro, e quindi a una trasformazione profonda della società. Cristianini suggerisce di pensare all'IA come ad una mente aliena: potrebbe essere, ma va specificato che essa è tale perché viviamo in una forma sociale alienata. L'IA è solo l'ultima manifestazione dello sviluppo dell'industria, e dal Marx dei Manoscritti del 1844 sappiamo che la vera antropologia è l'industria. Noi siamo natura che pensa, che è come dire che la natura ha prodotto l'uomo-industria per pensare sé stessa. Questa umanità cibernetica (simbiosi di naturale e artificiale), liberata dal capitalismo, approderà ad una forma sociale superiore, n+1.