Overfitting

[Imar]

Almeno questa volta sei stato più diretto
Le mie risposte, nei limiti della mia pazienza, della mia curiosità e soprattutto della mia capacità, te le ho già date da un pezzo (dall'inizio).

Il mio terrore era ampiamente giustificato

Se poi vuoi credere che io sia in combutta con smodato, o che sia innamorata di lui, o quant'altro mi impedisca di essere onesta nei giudizi su di lui (che non sono stati sempre rose e fiori, vero smody?) ti ringrazio pubblicamente per palesarlo. Potresti avere ragione, ed è giusto che qualunque altro lettore possa dubitare!

Io non credo niente.
Però (mi correggerai se sbaglio dato che questo è il tuo terreno e non il mio) mi aspettavo che qualche "esperto opzionista" spiegasse all'amico Andrea che le opzioni mensili sull'S&P 500 settlementano diversamente (proprio come tempi) da quelle trimestrali e come - dunque - bastasse questa semplice considerazione ad escludere che potesse esistere una qualche manipolazione fatta sempre alla stessa ora del 3° venerdì di tutti i mesi.


Per inciso, di questa "stranezza" ha parlato anche Blair Hill in uno dei suoi rari interventi esterni (alla Columbia Univesity, se non sbaglio).
Solo che Blair Hull, sempre se non ricordo male, dato che parlo di un video che ho visto mesi fà, la cosa l'ha messa giù nel modo "giusto"..... dato che lui un paio di cosette sull'option expiration dell's&P ... le conosce...

Never mind.... ho chiesto troppo..... mi scuso.

 

[GiuliaP]

...Anche lì, non era una questione di aspettare i risultati... io ho percepito che qualcosa non andava quando mi è stato detto di un macrosistema che diversificava su 50 sub-sistemi.
La diversificazione è importante, ma io non conosco gestori in grado di diversificare su 50 sottosistemi, se non tramite ..... overfitting (limite mio, sicuramente)...

Ripesco questo passo perché significativo sia della diversa visione di "overfitting" tra me ed Imar, e sia della bassissimo livello qualitativo della suddetta banda. Perché la diversificazione di cui si parla, e di cui ho abbondantemente discusso con loro stessi sul fol, è solo, per usare un termine dolce, un'illusione.

...stenterei anche a definirli parte del circo...

Questa è ancora più grave!

...Se loro sono banditi io sono un imbecille per non capirlo, se sono degli incapaci lo sono pure io...

Oppure hai esigenze professionali, consce o inconsce che siano!

Io non credo niente.
Però (mi correggerai se sbaglio dato che questo è il tuo terreno e non il mio) mi aspettavo che qualche "esperto opzionista" spiegasse all'amico Andrea che le opzioni mensili sull'S&P 500 settlementano diversamente (proprio come tempi) da quelle trimestrali e come - dunque - bastasse questa semplice considerazione ad escludere che potesse esistere una qualche manipolazione fatta sempre alla stessa ora del 3° venerdì di tutti i mesi...

Per me non significa niente, e quindi non esclude niente.
Questa la mia opinione personale, come tutto ciò che scrivo.
Se sincera e/o professionale, come sempre a voi l'ardua sentenza!

 

[smodato 2]

Oppure hai esigenze professionali, consce o inconsce che siano!

PSigmundP e lo dico perchè se le ho sono del secondo tipo

 

[smodato 2]

Ancora un detto delle mie parti: acquaiuò, l'acqua è fresca?

Così però lo sposti più sul conscio

 

[smodato 2]

Ma nel tuo caso farò un'eccezione, visto l'occhio di riguardo che ti riservo

Zitta che Imar ci guarda

 

[Imar]

Se però chiedi apertamente a me cosa potresti fare, non posso che invitarti per la seconda ed ultima volta ad una lettura più paziente ed approfondita dei post "seri" di questo thread. Sempre che tu pensi io possa avere ragione. Altrimenti continua pure per la tua strada ed in bocca al lupo!

Boob,

siccome mi sei simpatico e - più importante - sei persona educata, provo (sò presuntuoso, lo so) a riassumerti in tre parole il significato dei pochi post "seri ed in topic" di questo lunghissimo thread

Secondo quanto io ho capito (ma PGP o altri correggeranno se sbaglio) il punto focale è uno solo, ed è quello che insegnano nelle classi di logica1 (nelle università in cui la insegnano... ):

LOGIC 101: A CANNOT PREDICT A.

che - per quanto ci riguarda - si traduce in

(past) MARKET PRICES of "A" CANNOT PREDICT (next) MARKET PRICES of "A".


Per cui, in qualunque caso tu presenti a PGP un trading system in cui l'input della previsione è una serie di prezzi dello stesso strumento che vuoi tradare..... lei ti risponderà che è overfitting (e nel 99,99% dei casi, ha ragione).


By the way, dato che si parla dell'IMAR-pensiero, mi permetto di dare una interpretazione autentica:

a) io sono d'accordo al 99% con lìmpostazione sopra descritta: nel 99% dei casi

MARKET PRICES CANNOT PREDICT MARKET PRICES.

avrei solo una sommessa domanda che è rivolta prima di tutto a me stesso: cosa succede nel restante 1% dei casi....

b) penso però che - nello svulippo di un qualunque TS, a parte gli arbitraggi chiusi - l'overfitting sia in una certa misura inevitabile, come è il sovrasterzo di una macchina da rally.

Quindi, il mio problema pratico non è se c'è overfitting..... ma se siamo con uno strumento (il trading system) che è in grado di rimanere in strada nonostante l'overfitting, oppure se esso è tale da farci finire in un burrone....

c) penso anche che - per quanto il warning sull'inutilità del "prezzo per predire il prezzo" sia (al 99%) corretto - abbia il limite di non condurre ad alcuna soluzione, dato che chi si sposta su territori inesplorati (e qui si apre l'immenso campo dei BIG DATA) incontra problemi e difficoltà almeno comparabili a chi si limita ad "arare" una serie storica finanziara sperando di trovare il parametro "corretto" (che non esiste) per un breakout o una MM.

Questo è l'IMAR-pensiero e - come sempre - potrebbe essere tutto sbagliato e/o scritto scientemente per mandarvi dentro il burrone..... dato che per 1000 che ci cadono dentro c'è n'è uno che incassa...

Ok, basta così, è stato un piacere, saluti a tutti.

 

[GiuliaP]

LOGIC 101: A CANNOT PREDICT A.

Sbagliatissimo: vanno fatte ipotesi su A.

Per cui anche questa frase:

...Per cui, ..in qualunque caso tu presenti a PGP un trading system in cui l'input della previsione è una serie di prezzi dello stesso strumento che vuoi tradare..... lei ti risponderà che è overfitting...

... va contestualizzata.

avrei solo una sommessa domanda che è rivolta prima di tutto a me stesso: cosa succede nel restante 1% dei casi....

Io credo di avere la risposta. E di averla anche in un certo qual modo data

c) penso anche che - per quanto il warning sull'uso del "prezzo per predirre il prezzo" sia (al 99%) corretto, abbia il limite di non condurre ad alcuna soluzione, dato che chi si sposta su territori inesplorati (e qui si apre l'immenso campo dei BIG DATA) incontra problemi e difficoltà almeno comparabili a chi si limita ad "arare" una serie storica finanziara sperando di trovare il parametro "corretto" (che non esiste) per un breakout o una MM.

Ovviamente dissento completamente

Ho capito il vero problema: Imar non è ingegnere!

 

[boob]

Grazie Imar,
L'idea che hai tu è quella che condivido di piu, forse perchè sviluppiamo entrambi ts e abbiamo lo stesso approcio.
L'idea di overfit che mi ero fatto in questi ultimi mesi è di cercare di catturare i segnali costanti e non situazioni sporadiche. Sviluppando su tutto il time frame mi ero reso conto che alcuni miei ts prendevano solo queste situazioni invece di segnali ripetitivi, da qui ho iniziato a sviluppare su 1/3 o anche meno della serie a disposizione.
Nonostante questo non sono riuscito per ora ad ottenere buoni risultati.
Però continuo tutte le sere a pensare a come migliorare lo sviluppo dei ts.
L'ultima cosa che ho provato è di fare ts molto semplici, adattativi e non parametrici, ma vedo che il ts su ucg (quello che ho postato stamattina) che viola tutte le regole scritte sopra ( è stato sviluppato su tutta la serie e ha 1500 righe di codice, ed è mezzo parametrizzato), ha mantenuto i guadagni costanti nell'ultimo anno e rende discretamente bene.
Quindi ho le idee ancora piu confuse,devo digerire un po di teoria ma una cosa molto importante che mi avete indicato è quella che si riesce a prevedere fino a un certo punto. Di mio non sarei mai andato a prendere ts che consideravo overfittati di 1 anno fa e la sorpresa ancora piu grande è stata vedere che funziona

 

[Imar]

Quindi ho le idee ancora piu confuse,devo digerire un po di teoria ma una cosa molto importante che mi avete indicato è quella che si riesce a prevedere fino a un certo punto. Di mio non sarei mai andato a prendere ts che consideravo overfittati di 1 anno fa e la sorpresa ancora piu grande è stata vedere che funziona

Eh, però attenzione che potrebbe essere semplicemente per... caso.

Almeno EX POST, ti dovrebbe essere chiaro perchè un sistema ha performato o no, altrimenti non è chiaro quale comportamento o ricorrenza del mercato cerca di acchiappare....ed il sistema non è praticamente utilizzabile.

PS Se ti va di leggerre qualcosa, su SSRN vi sono papers molto recenti sul tema del "backtest overfitting", esempio:

What to Look for in a Backtest by Marcos Lopez de Prado :: SSRN

 

[boob]

Però un "grazie" lo potevi dare anche a me

Almeno le intenzioni erano buone!

P.S. Sto aspettando tuccio al varco da un po', posso aspettare anche te

Certo GRAZIE qui sei compresa anche tu e smodato 2
"ma una cosa molto importante che mi avete indicato è quella che si riesce a prevedere fino a un certo punto"