La teleriunione di martedì sera è iniziata con il commento del saggio di Nello Cristianini, Forma mentis. La corsa per decifrare i pensieri delle macchine, e dell'articolo di Dario Amodei, CEO di Anthropic, "The urgency of interpretability". Entrambi i testi si concentrano sui processi di elaborazione dell'informazione che avvengono nelle reti neurali artificiali alla base dei sistemi di Intelligenza Artificiale (IA).

Secondo Amodei, la corsa degli uomini per stare al passo con le macchine è legata al fatto che non sappiamo esattamente cosa accada al loro interno. La mancanza di comprensione dei meccanismi che ne guidano il funzionamento impedisce di prevederne gli sviluppi a breve termine e solleva importanti questioni di sicurezza:

"I sistemi di intelligenza artificiale generativa vengono coltivati più che costruiti: i loro meccanismi interni sono 'emergenti' piuttosto che progettati direttamente... Le persone esterne al settore rimangono spesso sorprese e allarmate nello scoprire che non comprendiamo come funzionano le nostre creazioni di intelligenza artificiale."

Secondo Cristianini, esplorare la "scatola nera" nei sistemi di IA richiede tre livelli di astrazione. Il livello "micro", rappresentato dai singoli elementi ossia dai singoli neuroni e dal loro funzionamento, non è sufficiente per comprendere i processi che portano all'elaborazione delle risposte.