Harn Umet

Harn Umet

Modellazione quantitativa applicata ai mercati finanziari

Interpretare i pesi di attenzione nei modelli transformer per serie finanziarie
Machine Learning Interpretabile

Interpretare i pesi di attenzione nei modelli transformer per serie finanziarie

2 min
98 visualizzazioni
538 apprezzamenti

Un transformer prevede un calo del 3,2% nelle azioni farmaceutiche per domani. Quali eventi storici hanno determinato questa previsione?

Estrazione dei pesi di attenzione

I transformer assegnano pesi a ogni punto temporale della serie storica. Estraete la matrice di attenzione dal layer finale: per la previsione del 18 aprile, il modello concentra il 42% dell'attenzione sul crollo del 7 aprile, il 28% sull'annuncio normativo del 12 aprile, solo il 9% sui dati della settimana precedente. Questi numeri mostrano esattamente quali eventi passati contano.

Visualizzazione temporale

Create un grafico a mappa termica: asse orizzontale con gli ultimi 60 giorni, asse verticale con l'intensità del peso. I picchi di attenzione evidenziano momenti critici. Se il modello ignora completamente i dati tra il 1 e il 5 aprile, quei giorni non hanno influenza sulla previsione attuale. Questa visualizzazione rivela pattern ricorrenti: il modello privilegia sempre gli eventi di inizio mese per le previsioni di fine mese.

Confronto con analisi fondamentale

Verificate se i pesi di attenzione coincidono con eventi economici reali. Il picco del 7 aprile corrisponde effettivamente a un comunicato FDA negativo. Quando i pesi evidenziano date senza eventi rilevanti, investigate possibili correlazioni nascoste o artefatti nei dati di addestramento.

98
Visualizzazioni totali
538
Persone hanno apprezzato
2 min
Tempo di lettura

Gestione Cookie

Utilizziamo cookie per migliorare la tua esperienza di navigazione e analizzare il traffico del sito.

Per maggiori dettagli sulla nostra gestione dei cookie e sui tuoi diritti, consulta la nostra politica completa sui cookie.