Overfitting

[reef]

no, ma dico!... ma allora quale sarebbe il modo per evitare l'overfitting in questo caso? scegliere delle medie con i numeri casuali??? o rivolgersi alla numerologia??? scusa reef ma io non mi capacito

In questo caso semplicemente non si può evitare l'overfitting, perchè le due MM non sono basate su eventi che possano avere rilevanza per gli andamenti futuri.

Lieto di essere smentito

 

[starless]

In questo caso semplicemente non si può evitare l'overfitting, perchè le due MM non sono basate su eventi che possano avere rilevanza per gli andamenti futuri.

Lieto di essere smentito

ok, puoi elaborare quanto dici? ossia, se l'incrocio di due mm è overfittante di per sè, in quanto tu dici non fondate, quale approccio permetterebbe di basarsi su eventi rilevanti? e genericamente, potresti dire quali altri eventi avrebbero rilevanza per gli andamenti futuri? grazie

 

[cammello]

grazie a chi ha risposto.
Un precisazione: il caso che ho chiesto di commentare serve solo per capire quale etichetta associare a overfitting, fitting etc e perché, non a capire se l'incrocio di due medie sia un buon metodo o se il sover di excel sia uno strumento affidabile nella ricerca di un ottimo, locale o globale (per quello che può significare "ottimo"). Un caso semplice e frequente ma che potrebbe aiutare a chiariri i termini usati.

(se poi si vuole proseguire in maniera costruttiva su questi due temi ok, ben venga, ma non era lo scopo diretto )



C

 

[reef]

ok, puoi elaborare quanto dici? ossia, se l'incrocio di due mm è overfittante di per sè, in quanto tu dici non fondate, quale approccio permetterebbe di basarsi su eventi rilevanti? e genericamente, potresti dire quali altri eventi avrebbero rilevanza per gli andamenti futuri? grazie

Se lo sapessi, sarei impegnato a tempo pieno a trovare destinazione per i lauti guadagni.

Un generico incrocio di due medie (o un MACD) non può essere un predittore, se il sottostante ha un rapporto segnale rumore tale da non poter rilevare eventuali informazioni. Praticamente si media il rumore.
Nè pare particolarmente utile utilizzare lunghissime serie storiche, quando i mercati modificano i comportamenti sulla base di condizioni macroeconomiche e di mercato che mutano in continuo.

 

[GiuliaP]

x PGiulia io ancora non capisco... modello deterministico... io pensavo tu fossi un'econometrista che applicava modelli stocastici (dei quali devo dire non so pressochè niente tranne per il fatto che si oppongono appunto ai modelli deterministici)

Anche questa volta pensavi male, molto male, su tutti i fronti!

Forse questo ti aiuterà a capire meglio il mio punto di vista: un modello previsionale statistico (econometrico e non) è comunque deterministico.
In realtà un modello previsionale non deterministico potrebbe essere tale se generasse numeri casuali per fare previsioni, oppure si affidasse all'istinto umano (qualora si ritenesse il pensiero umano non deterministico): da cui l'assurdità di prendere solo in considerazione modelli previsionali non deterministici.

Quando PAT interveniva per affermare che io non avevo idee chiare a riguardo, cosa probabilmente vera, in realtà non aveva capito precisamente niente del discorso. Probabilmente però ci teneva anche in questa sede a sottolineare, grazie anche ad autoproclamazioni di capital gain, le sue magnifiche doti di trading ed invece le mie incapacità in tale ambito

Perchè, te lo ripeto per l'ennesima volta, con la parola "deterministico" io mi riferivo al sistema da prevedere, non certo al modello previsionale. E quand'anche si vogliano considerare la psicologia e l'economia come scienze, ovvero il pensiero umano deterministico (cosa che io non credo, ma meglio non andare OT), ritengo il livello di conoscenza delle stesse ben lungi da poterlo dimostrare e quindi sfruttare. Da cui la mia tesi iniziale.

Se poi neanche così ti sta bene, allora ti basti sapere che la quantità di rumore contenuta in una serie storica è infinitamente superiore alla quantità di rumore contenuta nell'output di un sistema fisico controllabile tramite reti neurali (e derivati). Cosa facilmente dimostrabile dal bravissimo Cren . Così fai finta di ignorarne le ragioni, accettando però che qualunque tecnica di ottimizzazione empirica su serie storica comporterà overfitting.

Chi ha poca fantasia può vedere i miei interventi semplicemente distruttivi. Chi ne ha un pò di può, può anche considerarli selettivi

Riguardo il significato delle parole, da overfitting a determinismo, consiglio google (in inglese) come strumento molto più sicuro di chiarificazione dei dubbi (compreso l'"invisible overfitting", di cui in questo thread abbiamo già avuto almeno due rivendicazioni e definizioni opposte )

 

[Cren]

...la quantità di rumore contenuta in una serie storica è infinitamente superiore alla quantità di rumore contenuta nell'output di un sistema fisico controllabile tramite reti neurali (e derivati).

Posso farti una domanda senza il minimo intento polemico ma solo per soddisfare una mia innocente curiosità?

Certo che puoi, Cren

Grazie, procedo: dalla lettura dei tuoi messaggi relativi a questo argomento e, lo confesso, anche dall'immagine molto parziale e romanzata che mi sono costruito di te, mi sembra che anche tu però parti da una piccola e insidiosa considerazione a priori.

Ho l'impressione che il tuo filo logico sia questo: la rete neurale è una scatola nera che costruisce "da sè" il proprio output imparando su un training set e combinando gli input in modi che non conosciamo, quindi è possibile, perchè no, che una NN cui sia chiesta una stima della volatilità di domani produca "da sè", ad esempio, un modello GARCH(1,1) se effettivamente dal suo training set l'ha valutato come "cosa buona".

Sottolineo: è possibile che lo produca senza che il programmatore le abbia nemmeno spiegato cos'è e come funziona un modello GARCH, ma per apprendimento.

Quindi, per logica, ne devi avere dedotto che qualunque modello econometrico sia solo una forzatura imposta dalla mente umana di ciò che una NN potrebbe cavare fuori da una intensa lezione di apprendimento sul passato.

[Mi immagino la brillante ing.(?) V. davanti ai suoi quattro schermi che borbotta tra sè e sè: «Perchè devo stabilire io a priori che il miglior modo di stimare il rendimento di domani è un modello lineare etc. etc. e poi bastonare i residui? Al diavolo: ci pensi la mia fidatissima NN "Beppina"!»]

Benchè anche ad un profano come me sembri logica una deduzione come questa, il mio dubbio (da profano, lo ripeto) è questo: ma è proprio vero che il processo di apprendimento e l'output di una NN possono produrre oggetti come quelli modellati ex ante dalla mente umana e su cui poi sono stimati i parametri sempre con procedimenti teorici (la stima di massima verosimiglianza è qualcosa di così... logico...)?

Esempio: lo stato dell'arte delle NN è tale per cui, se davvero un APARCH(p,q) fosse il processo che descrive la varianza di una serie storica, la NN mi darebbe il medesimo output "da sè" senza condizionamenti umani? Te la metto giù in modo più pratico: supponi che io simuli una serie storica di varianza da un processo GARCH(1,1): lo stato dell'arte delle NN è tale che queste come funzione generatrice mi sanno ricostruire perfettamente il processo GARCH(1,1) utilizzato?

Domanda finale (spero) un po' insidiosa: non è che sei stata un po' troppo veloce a classificare allo stesso modo NN e modelli econometrici come un caso particolare di NN? Dopo quanto anni sei giunta a questo verdetto?

 

[reef]

Francamente penso che qui siamo tutti allineati sull'assunto "garbage in->garbage out".

Chi esplora modelli (Fuzzy, NN, deterministici) ritiene di poter trovare relazioni causa-effetto non banali, attraverso metodi non lineari. Potrebbe pure riuscirci, per certi titoli, certe condizioni di mercato, certi intervalli di tempo (frame settimanali, giornalieri, orari...).
Perchè no?

 

[Piedi a Terra]

Quando PAT ....
. Probabilmente però ci teneva anche in questa sede a sottolineare, grazie anche ad autoproclamazioni di capital gain, le sue magnifiche doti di trading ed invece le mie incapacità in tale ambito

)

No, non e' l'interpretazione corretta.
E' un totale travisamento.

L'altra settimana ero intervenuto semplicemente per confermare le asserzioni di chi aveva scritto di non aver mai chiuso un solo anno con performance negative, a conferma della bonta' dei modelli di trading che costui utilizza con successo.A sottolineare il carattere di veridicita' dell'enuniciato avevo portato a conforto dei dati reali, quale la probabilita' di non perdita nel 90% dei casi su operazioni condotte nell'ultima ora di negoziazione, metodiche che io stesso mi sono permesso di replicare, seppure con risultati non altrettanto ottimisti. La mia propensione al rischio e' comunque superiore alla propensione al rischio di chi questi metodi me li ha insegnati.
Capisco che portare delle tesi tramite dati e tramite indicaizoni operative dispiaccia, soprattutto se le tesi argomentate dai tuoi interlocutori sono casi concreti e del tutto destituito da alcun aggancio epistemologici, quali teoria della misura, teoria del campionamento, principio di indeterminazione di Heisenberg.

Continua pure, cara PGiulia, ma raccontaci almeno qualcosa di piu' del gatto di Schroedinger, per cortesia, e come lo stesso gatto si interlacci alle nostre garbate et amabili discussioni.

Buon ultimo dell'Anno e Felice inizio del Nuovo

P.A.T

 

[luka46]

Mi piace questo 3D perchè ci si fa un sacco di Auguri
Buone Feste a tutti!!

ps: io spero che l'LHE si sia solo trasformato in qualche altro effetto ancora da battezzare.

 

[GiuliaP]

...Ho l'impressione che il tuo filo logico sia questo: la rete neurale è una scatola nera che costruisce "da sè" il proprio output imparando su un training set e combinando gli input in modi che non conosciamo, quindi è possibile, perchè no, che una NN cui sia chiesta una stima della volatilità di domani produca "da sè", ad esempio, un modello GARCH(1,1) se effettivamente dal suo training set l'ha valutato come "cosa buona".

Sottolineo: è possibile che lo produca senza che il programmatore le abbia nemmeno spiegato cos'è e come funziona un modello GARCH, ma per apprendimento.

Quindi, per logica, ne devi avere dedotto che qualunque modello econometrico sia solo una forzatura imposta dalla mente umana di ciò che una NN potrebbe cavare fuori da una intensa lezione di apprendimento sul passato.

[Mi immagino la brillante ing.(?) V. davanti ai suoi quattro schermi che borbotta tra sè e sè: «Perchè devo stabilire io a priori che il miglior modo di stimare il rendimento di domani è un modello lineare etc. etc. e poi bastonare i residui? Al diavolo: ci pensi la mia fidatissima NN "Beppina"!»]

Benchè anche ad un profano come me sembri logica una deduzione come questa, il mio dubbio (da profano, lo ripeto) è questo: ma è proprio vero che il processo di apprendimento e l'output di una NN possono produrre oggetti come quelli modellati ex ante dalla mente umana e su cui poi sono stimati i parametri sempre con procedimenti teorici (la stima di massima verosimiglianza è qualcosa di così... logico...)?

Esempio: lo stato dell'arte delle NN è tale per cui, se davvero un APARCH(p,q) fosse il processo che descrive la varianza di una serie storica, la NN mi darebbe il medesimo output "da sè" senza condizionamenti umani? Te la metto giù in modo più pratico: supponi che io simuli una serie storica di varianza da un processo GARCH(1,1): lo stato dell'arte delle NN è tale che queste come funzione generatrice mi sanno ricostruire perfettamente il processo GARCH(1,1) utilizzato?

Domanda finale (spero) un po' insidiosa: non è che sei stata un po' troppo veloce a classificare allo stesso modo NN e modelli econometrici come un caso particolare di NN? Dopo quanto anni sei giunta a questo verdetto?

Spero con questi 3 punti di rispondere alla tua raffica di domande:

1) Io mi chiedo come tu faccia ad estrarre tutte queste ipotesi dalla lettura dei miei post. Eppure mille volte ho detto di aver amabilmente e da molto tempo scartato l'econometria come metodo previsionale: come scelta personale derivante da logiche altrettanto personali, non certo per averne dimostrato l'inefficacia (cosa che altrettante volte ho detto di non aver fatto e di non poter assolutamente fare).

2) Altre mille volte ho detto che "secondo me" le reti neurali applicate alle serie storiche non servono a niente (anche in privato a te, se non sbaglio). Perchè ora associarle a simulatori di GARCH, di medie mobili ronzanti, e di dischi volanti? A che mi serve stabilire se una rete neurale possa simulare un GARCH, stato dell'arte o meno, se poi secondo me entrambi non servono a prevedere i mercati? (per inciso, probabilmente le reti neurali allo stato attuale dell'arte sono in grado di simulare un garch, ma è una mia opinione di cui io stessa posso dire di fregarmente ampiamente )

3) Visto che il mio scopo è prevedere i mercati e non giocare ai soldatini, mi chiedo perchè mi si continui ad attribuire passioni econometriche quando il mio albero di ricerca è andato da troppo tempo in ben altre direzioni. Se nessuno è in grado di immaginare queste direzioni, non si aspetti certo che gliele indichi io, per favore. E continui pure con le sue logiche ed i suoi alberelli personali. Come ha già detto Imar, preferirei fare beneficenza in altri modi, sempre che fossi in grado di farla (anche se nutro sempre la speranza di aver regalato un pò di tempo a qualche rarissimo lettore )