Roberto Ibba

Cagliari, 28 ferbbraio 2021 - Durante l'addestramento di una rete neurale artificiale emergono chiaramente schemi di successo o di fallimento: sul tema si concentra la ricerca di Giuliano Armano, docente del Dipartimento di Matematica e Informatica, pubblicata sulla rivista internazionale Scientific Reports, del gruppo Nature.

Le reti neurali artificiali sono una delle tecnologie di punta per risolvere problemi di classificazione in vari ambiti applicativi. Per le applicazioni in campo biomedico si possono citare, per esempio, il calcolo del rischio di recidiva di tumori, l’identificazione della presenza o assenza di polmonite interstiziale da Covid-19 e la prognosi di malattie invalidanti. Tutti questi problemi, e molti altri ancora, sono risolti efficacemente addestrando una rete neurale su un compito specifico.

La struttura interna di una rete neurale artificiale è tipicamente costituita da vari strati, ognuno equipaggiato con un numero prefissato di neuroni scelto dal programmatore. I neuroni di uno strato sono collegati a quelli dello strato successivo mediante una fitta rete di connessioni, ognuna in grado di trasportare un segnale e di modularlo tramite un peso. Quindi su ogni neurone arriveranno molteplici segnali provenienti dalla strato precedente e da ciascuno di essi partiranno altri segnali diretti allo strato successivo.

Per fare in modo che una rete neurale impari a compiere le operazioni per cui è stata definita occorre addestrarla. Concettualmente, il processo di addestramento si può riassumere facilmente: bisogna presentare ripetutamente alla rete gli ingressi di addestramento disponibili, misurare per ognuno la differenza tra l’uscita voluta e quella effettiva, e modificare di conseguenza i pesi associati alle varie connessioni, con l’obiettivo finale di ottenere un sistema completamente automatico in grado di produrre le uscite attese anche per ingressi che non siano mai stati precedentemente visti dalla rete.

Per decenni i ricercatori hanno pensato che l’interno di una rete neurale non potesse essere decifrato in alcun modo. Per capire se una rete neurale artificiale avesse appreso bene il compito per il quale era stata addestrata (ovvero avesse generalizzato correttamente) ci si è sempre basati sui risultati ottenuti in uno o più insiemi di dati di test.

Le ricerche di Armano hanno dimostrato, invece, che quando una rete neurale ha generalizzato correttamente si formano al suo interno degli schemi specifici, da lui denominati schemi di successo. Viceversa, quando la rete non è riuscita a apprendere adeguatamente si formano altri schemi specifici, questa volta però a indicare l’insuccesso.

Da un punto di vista tecnologico il risultato evidenziato dal ricercatore è stato possibile grazie alla definizione e all’uso di diagrammi ad hoc, che consentono di visualizzare l’allineamento dei vari neuroni rispetto alle uscite attese. La caratteristica principale di questi diagrammi è che negli schemi di successo i neuroni si posizionano lontano dall’asse delle ascisse. A questa regola non sfugge neppure il neurone che rappresenta l’uscita finale della rete: infatti in questo caso il neurone di uscita dovrà essere localizzato il più vicino possibile al bordo superiore del diagramma. La coincidenza con il bordo superiore significherebbe infatti che la rete si comporti come un oracolo, ovvero non sbaglia mai.

Tramite questi diagrammi è stato dunque possibile aprire finalmente la scatola nera, con potenziali ricadute di grande interesse sia dal punto di vista speculativo, sia in campo tecnologico, per gli anni a venire.