Condividere informazione può rendere i nodi indistinguibili
Un modello su grafo usa relazioni fra oggetti: per esempio componenti collegati in un impianto, entità in un documento o elementi di una rete scientifica. Far comunicare ogni oggetto con i vicini sembra un modo naturale per raccogliere contesto. Ma ripetere lo scambio può cancellare proprio le differenze necessarie al compito. Studieremo un caso minimo in cui tutto è calcolabile: quattro nodi, un valore per nodo e una media locale ripetuta. Il lettore vedrà quali parti del segnale restano, quali diminuiscono e quali scompaiono già al primo passaggio.
Abstract. Su un ciclo non diretto a quattro nodi usiamo P=0,5 I+0,25 A, dove A è l’adiacenza. Gli autovalori sono 1,0,5,0,5,0. Il segnale alternato(1,−1,1,−1) diventa zero in un passo; il segnale(1,0,−1,0) dimezza l’ampiezza a ogni passo e la sua varianza si riduce di un fattore quattro. Mostriamo il ruolo della componente costante, una variante che rallenta il mescolamento e un caso senza auto-peso che oscilla invece di convergere. Sono esperimenti lineari senza GNN addestrata: il collegamento con l’oversmoothing non autorizza a dichiarare che tutte le architetture profonde falliscano.
Il grafo e la regola di aggiornamento
I collegamenti sono 1–2,2–3,3–4,4–1, nei due sensi. Ogni nodo ha due vicini. A ha valore 1 quando due nodi sono collegati e 0 altrimenti; I è l’identità. Ogni aggiornamento mantiene metà del valore precedente del nodo e aggiunge un quarto da ciascun vicino. La somma dei pesi di ogni riga è 1 e i pesi sono non negativi: sono coefficienti di media, non probabilità delle classi. Non ci sono pesi appresi, attivazioni non lineari o identificativi dei nodi aggiunti come caratteristiche.
h è un vettore colonna di quattro valori sintetici senza unità, k il numero dei passaggi. Moltiplicare P per h significa applicare contemporaneamente le quattro medie usando i valori del passo precedente. Aggiornare un nodo e usare subito il suo nuovo valore per il successivo sarebbe un altro algoritmo, dipendente anche dall’ordine dei nodi. Il codice usa il prodotto matriciale proprio per evitare questa ambiguità. Nel nostro grafo regolare P è anche simmetrica e la somma di ogni colonna vale 1: la media globale si conserva.
Un segnale che sparisce subito
Partiamo da h⁽⁰⁾=(1,−1,1,−1). Per il nodo 1 il nuovo valore è 0,5 × 1+0,25 ×(−1)+0,25 ×(−1)=0; per gli altri il conto è analogo. Dopo un passo tutti i valori sono zero. L’operazione ha cancellato il contrasto alternato, benché il grafo sia rimasto collegato e ogni nodo abbia ricevuto messaggi. Se quelle differenze rappresentavano l’informazione utile, raccogliere più contesto non le ha arricchite. Dal solo vettore risultante non possiamo ricostruire l’ingresso: anche un ingresso tutto zero avrebbe prodotto lo stesso risultato.
Possiamo dare a questa perdita un significato classificatorio senza fingere un benchmark. Assegniamo per costruzione etichette(1,0,1,0) ai quattro nodi e consentiamo a un classificatore deterministico di vedere soltanto il valore dopo la media, senza identità o altre caratteristiche. Poiché vede quattro zeri, deve dare la stessa risposta a tutti; al massimo due etichette su quattro coincidono. È un limite rappresentazionale sul piccolo insieme costruito, non un’accuratezza di test stimata. Se conserviamo gli ingressi originali o altre informazioni, il limite non si applica nello stesso modo.
Gli autovalori dicono quali differenze sopravvivono
Un autovettore è una direzione del segnale che l’operatore non ruota verso altre direzioni: la moltiplica per un numero, l’autovalore. Applicare P molte volte moltiplica quella componente per la potenza dell’autovalore. Nel nostro caso possiamo verificarlo direttamente, senza prendere per fede un risultato numerico. Il vettore costante resta uguale, due modi regolari vengono dimezzati e quello alternato viene annullato. Questi quattro vettori indipendenti formano una base: ogni ingresso può essere scomposto in quelle componenti.
La componente costante c₁u₁ contiene la media globale. Per k che cresce le altre due tendono a zero, mentre u₄ è già persa: ogni nodo finisce per avere la stessa media. Questo è il meccanismo di mescolamento eccessivo che stiamo isolando. Non prova che tutte le reti su grafi abbiano esattamente questa matrice, né che la rappresentazione di un grafo irregolare converga alla media aritmetica: normalizzazione e gradi cambiano il risultato. La dimostrazione vale per P e le ipotesi dichiarate, non per il semplice fatto che un modello sia chiamato GNN.
Misurare la perdita di contrasto
Per il segnale regolare h⁽⁰⁾=(1,0,−1,0), dopo k passaggi abbiamo(0,5)ᵏh⁽⁰⁾. La varianza fra i nodi è la media dei quadrati degli scarti dalla media globale: dividiamo per 4 perché stiamo descrivendo tutti e quattro i nodi, non stimando una varianza di popolazione da un campione casuale. La media è zero e la varianza iniziale è(1+0+1+0)/4=0,5. Dimezzare tutti gli scarti ne riduce i quadrati a un quarto. La formula seguente legge quindi in modo quantitativo la perdita di contrasto visibile nella figura.
| Passaggi k | Varianza fra nodi |
|---|---|
| 0 | 0.5 |
| 1 | 0.125 |
| 5 | 0.00048828125 |
| 10 | 0.0000004768371582 |
Due precisazioni impediscono di usare la metrica come slogan. Un ingresso costante(1,1,1,1) ha varianza zero e resta invariato, non viene cancellato. Inoltre, nel segnale regolare le posizioni positive e negative conservano il segno a ogni passo finito nell’aritmetica ideale. La varianza che cala non dimostra da sola una curva di accuratezza che peggiora. Per il segnale alternato abbiamo invece mostrato una perdita non invertibile esatta. Un’analisi utile deve dire quale informazione serve al compito, non soltanto mostrare che un numero diventa piccolo.
Se provassimo a recuperare il modo regolare dopo 10 passaggi moltiplicandolo per 2¹⁰=1024, recupereremmo anche amplificato di 1024 un eventuale errore additivo presente nella rappresentazione. È una relazione algebrica, non una misura di rumore di un dispositivo; il programma registra il fattore, ma non simula errori sperimentali. Il modo con autovalore zero non ha nemmeno questa possibilità: nessuna divisione per una potenza nulla ricrea il dato perso. Per questo l’ampiezza ridotta e la cancellazione esatta non vanno confuse.
Cambiare il peso proprio cambia la conclusione?
Generalizziamo la media con P_α=(1−α)I+αA/2. α controlla quanta informazione prendiamo dai vicini e quanta conserviamo localmente. Il nostro caso iniziale ha α=0,5. Le stesse direzioni restano autovettori: i modi regolari hanno fattore 1−α, quello alternato 1−2α. Il programma esegue anche α=0,25 eα=1 sul segnale alternato, salvando i primi sei stati. Non introduciamo una rete nuova: stiamo variando una sola regola lineare di aggiornamento.
| α | Fattore alternato | Dopo un passo |
|---|---|---|
| 0.25 | 0.5 | (0.5,−0.5,0.5,−0.5) |
| 0.5 | 0 | (0,0,0,0) |
| 1 | -1 | (−1,1,−1,1) |
Con α=0,25 il contrasto alternato si dimezza invece di scomparire subito. Con 0<α<1 tutti i modi non costanti hanno modulo del fattore inferiore a 1 e finiscono comunque per attenuarsi: rallentare non significa eliminare il limite a infiniti passaggi. Con α=0 non scambiamo nulla e manteniamo l’ingresso. Con α=1 togliamo il peso proprio: sul ciclo bipartito il segnale alternato cambia segno a ogni passo e conserva varianza 1, senza convergere. Questa eccezione spiega perché la frase ripetere medie rende sempre tutto uguale sia troppo generica: contano grafo, auto-collegamenti e operatore.
Che cosa collega l’esempio alla ricerca sulle GNN
Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning di Qimai Li, Zhichao Han e Xiao-Ming Wu, arXivv 1 del 22 gennaio 2018, analizza lo smoothing laplaciano e i suoi limiti. Abbiamo letto derivazioni, condizioni del teorema e protocollo sperimentale. Gli autori usano Cora, CiteSeer e PubMed, con configurazioni e quantità di etichette specifiche; riportano medie su 50 esecuzioni,10 per PubMed nel protocollo descritto. Il nostro ciclo non riproduce quei dati, metodi di co-training o risultati. È una derivazione indipendente di un meccanismo lineare, utile a capire una preoccupazione fondativa, non una rassegna dello stato dell’arte 2026.
Una rete reale può aggiungere trasformazioni apprese, non linearità, collegamenti che conservano l’ingresso o altre modalità di aggregazione. Conservare esplicitamente il vettore iniziale, per esempio concatenandolo a quello mediato, rende ancora disponibile quel segnale: è una proprietà della rappresentazione, non una garanzia che l’addestramento lo usi bene. Il nostro risultato non seleziona un’architettura migliore. Chiede invece che una spiegazione dei vantaggi della profondità distingua portata delle comunicazioni, perdita di contrasto e qualità del compito, dimostrando ognuna con l’evidenza adatta.
Il pacchetto eseguito usa NumPy 2.5.3 e Python 3.14.0, senza casualità. I prodotti sui vettori scelti sono controllati con asserzioni; il risolutore degli autovalori restituisce per lo zero un valore dell’ordine 10⁻¹⁶, trattato con tolleranza numerica e distinto dallo zero algebrico della dimostrazione. In una versione sparsa, la sola media di d caratteristiche su n nodi ed e collegamenti richiede O((n+e)d) lavoro per passo; qui usiamo una matrice densa 4 × 4 per trasparenza, non per misurare scalabilità. Nessuna accuratezza o prestazione di un prodotto EL-AI è stata misurata.
Più passaggi permettono al segnale di viaggiare, ma non aumentano automaticamente l’informazione utile. Nel nostro esempio una differenza viene cancellata subito e altre si attenuano secondo autovalori calcolabili; conservare la media non significa conservare ciò che distingue gli oggetti. Questa è la risposta alla domanda iniziale. Il vantaggio di un modello su grafo deve quindi essere dimostrato sul compito e sulle informazioni che occorre preservare, senza scambiare il numero di scambi fra nodi per un indice universale di comprensione.
from experiment import P
import numpy as np
h=np.array([1.,-1.,1.,-1.])
print(P@h, np.linalg.eigvalsh(P))Codice, dati e istruzioni · JSON. Calcoli didattici eseguiti con Python 3.14.0; figure con Matplotlib 3.11.2. Analisi con assistenza AI, senza dichiarare peer review o revisione umana. Copertina originale ImageGen, illustrativa: non documenta persone, sedi o installazioni EL-AI. Fonti consultate il 17 ottobre 2026.