Overfitting

[GiuliaP]

...Da secoli e secoli la scienza è andata avanti con questa coppia maledetta, di cui a volte non si puo' fare a meno. Bisogna pur trovare una qualche soluzione sia pure approssimaticcia...

Per tornare all'over fitting.
E' un problema che risale al 1300 con l'avvento della scholastica e del neo aristotelismo. Quindi diamo un nome in inglese moderno ad un tema vecchio come il cucco. Come se lo avessero scoperto gli statistici moderni...

Io non la vedo propriamente così. Il discorso cambia moltissimo in funzione del sistema da modellare. Ed i sistemi di cui si parla oggi sono molto diversi da quelli di secoli e secoli fa.

Ma non mi va di ripetere ancora idee già esplicitate abbastanza in questo stesso thread

Bhè libertà! io preferisco che 3d tecnici abbiamo post strettamente attinenti...

Forse sarà che io non credo all'esistenza di thread tecnici in questi forum

In realtà, parlando seriamente, preferisco che il giudizio su thread e post sia libero, e che quindi sia libera la scelta, visto che chiunque può tranquillamente ignorare post (e thread) che soggettivamente (ma anche oggettivamente) reputa "non attinenti".
Le moderne tecniche di lettura veloce fanno miracoli

 

[Imar]

… sul FIB RETTIFICATO, se mercoledì è stato positivo >1% (esempio), comprando in open giovedi (e chiudendo in close)

Il motivo "logico" possono essere solamente gli annunci di FOMC,BCE..etc..etc...etc..che, in tempi di crisi assumono rilevanza maggiore.

In breve: un sistema che può entrare in azione 1 volta la settimana (cioè 52 volte l'anno) non può basarsi sugli annunci della FED e della BCE.

Per un semplice motivo: da programma, il FOMC si riunisce 8 volte l'anno (esiste la possibilità di riunioni straordinarie, come quelle del 10 e del 16 agisto 2007, ed esse sono in genere escluse dalla ricerca di realzioni causa-effetto, dato che sono esse stesse imprevedibili):

FRB: Meeting calendars, statements, and minutes (2006-2012)

Le riunioni della BCE (meeting + conferenza stampa) sono mensili (12/anno).

Domanda: se la causa logica sono le riunioni FED/BCE, perchè comprendiamo nel testing anche le settimane in cui queste riunioni non vi sono???

Semplice: perchè prima abbiamo scovato il fenomeno con il data mining e poi abbiamo cercato di "cucirvi sopra" una spiegazione "logica" . Insomma, abbiamo lavorato "al contrario".
Overfitting? Fate voi.....


3.continua

 

[Imar]

cerco evidenze in letteratura di un effetto simile poichè è difficile che io sia il primo ad accorgermi di tale fenomeno.
Allego:

Il primo è uno studio della FEd di NY (http://www.newyorkfed.org/research/staff_reports/sr512.pdf) il quale riconosce che non vi sono spiegazioni razionali all’out-performance (all.2) e che – stranamente – essa si realizza PRIMA delle diffusione delle minute (all1).

Ripeto perchè così capiscono tutti, anche i moderatori di forum terzi: lo studio termina proprio affermando il contrario di quanto sostenuto: non vi sono ragioni LOGICHE per l'overperformance:

AT THIS POINT THE PRE-FOMC ANNOUNCEMENT DRIFT IS A PUZZLE

D'accordo che del diman non v'è certezza.... ma se volete tradare un PUZZLE…. accomodatevi…


4.continua

 

[Imar]

cerco evidenze in letteratura di un effetto simile poichè è difficile che io sia il primo ad accorgermi di tale fenomeno.
Allego:

Il secondo, How Much Do Investors Care About Macroeconomic Risk? Evidence from Scheduled Economic Announcements by Pavel Savor, Mungo Ivor Wilson :: SSRN non esamina specificamente la performance di Borsa nelle sedute del FOMC, ma ha un oggetto molto più generale, soffermandosi sulla reazione dei mercati nei giorni di diffusione dei dati macro (es CPI, PPI, UNEMPLOYMENT, FOMC).
Partendo da un universo diverso, gli autori arrivano ad una conclusione leggermente diversa da quella del primo studio caso, concludendo (ved allegato) che i maggiori rendimenti riscontrati nei giorni dei dati macro sono coerenti col maggior rischio sopportato negli stessi.

In questo caso, dunque, si ipotizza una causa LOGICA del fenomeno, solo che lo si fa per smentire l'extrarendimento... e non per suffragare una anomalia che si traduce in pasti gratis..... peccato... provaci ancora Sam...


5.continua

 

[Imar]

…. capisco anche che la mia scarsa comprensione dei tuoi metodi valutativi possa irritarti ma, ancora oggi trovo quantomeno singolare che per testare un TS si debba inviarlo sotto forma di paper ad un concorso indetto da un Hedge Fund..

Oh santa pazienza.... TESTARE un TS non significa VALIDARLO (sono due fasi completamente diverse, e nei casi OPEN SOURCE è perfettamente normale chiedere un parere ad altri professionisti del settore…. lo fanno medici, avvocati,commercialisti….. possono farlo anche gli Ernesti…) e che - comunque - livelli minimi di lealtà/dignità/correttezza imporrebbero di rispettare gli impegni formali presi pubblicamente, presentando lo studio del TS Amico entro la scadenza del 15 gennaio che ormai incombe e riferendo la risposta (o la mancanza di …) sul FOL (AQR non ha mai mangiato nessuno, al minimo prendono coscienza del fantastico sistema che li ha “battuti” nel 2011… coi soldi del Monopoli…).

A quanto pare la testolina, la riflessione, il ragionamento, non passano di moda.
Capito? La testolina. La passione. La volontà. Poi il C. Inteso come Carattere.

No, non passano MAI di moda.
Il problema, però, è che sono un poco come il coraggio di cui parla Manzoni: chi non ce li ha, non se li può dare.
Per fortuna di questi ultimi, rimane sempre il fattore C (no, non il carattere, l’altro ) che è random….




6. Fine va' .......... sennò tra un pò scopriamo che il giovedì oltre che le aste dei titoli di stato (che tutti sanno si fanno solo al giovedì... ) c'è anche meno nebbia in val padania.... e si sa .... http://papers.ssrn.com/sol3/papers.cfm?abstract_id=265674 .....gli investitori sono meteopatici...

 

[reef]

Ottima iniziativa, bravo.

Anche se il massimo sarebbe unire R a Amibroker, con il plug in dedicato (Enderrrrrr.....).

Sono solo un umile soldatino, ma ho appena testato l'installazione R "di Cren" con Amibroker 5.40 e il tutto gira (test con l'esempio fornito nel plugin di Ami). E' già qualcosa, vista l'insalata di SW coinvolto... (su Win 7 pro)

Resta il solito problema di "cosa farsene"

Scusate l'OT

 

[starless]

ringraziandovi per non avermi storpiato il nome in starloss (anche se solo perchè vi sarà sembrato banale), vi comunico che sono anni che mi taglio i capelli da solo più che per risparmiare tempo per non sentire le chiacchiere dei barbieri, figuriamoci di quelli odiosamente presuntosi. quanto al rasoio, credo anch'io che sia fondamentale, ma solo dopo che sono cresciuti i peli, prima no. infine sono molto deluso: 'sta parlando' non si scrive con l'accento. passo e chiudo.

 

[Paolo1956]

Per tornare all'over fitting.
E' un problema che risale al 1300 con l'avvento della scholastica e del neo aristotelismo. Quindi diamo un nome in inglese moderno ad un tema vecchio come il cucco. Come se lo avessero scoperto gli statistici moderni
More solito, a furia di usare neologismi ricavati traducendo in inglese vecchi concetti si perde di vista il tema principale.


Frate William of Ockam (1288 - 1348) : Entia non sunt multiplicanda praeter necessitatem.

Aveva focalizzato il problema:
se per giustificare un assunto finale devi metter su un ragionamento ridondante e aggrappato a troppe ipotesi di coesistenza
vuol dire che c'è qualche cosa che non va. Tanto vale eliminare le parti troppo
rococò. Il rasoio di Occam.

Il risultato non sarà migliore in assoluto, ma piu' si elimina e piu' sarà verosimile.

Caro professore,

la fortuna di Occam mi sembra ciclica. Trovo che abbia raggiunto un massimo un secolo fa circa. Poi le hacceitas si sono riaffacciate.

Le piace l'astronomia giusto? Ha visto com'è finita l'eleganza di Keplero / Newton? Anni fa, con molta fatica mi sono sforzato di capire il calcolo assoluto, levi civita e quella roba li'. Poi ho capito che non bastava nemmeno quello e mi sono arreso.

Sapeva che qualcuno ha tentato di applicare quei concetti ai mercati?

http://www.matematicamente.it/tesi/Andreis-Modelli_di_regressione.pdf

un saluto.

 

[f4f]

Sono solo un umile soldatino, ma ho appena testato l'installazione R "di Cren" con Amibroker 5.40 e il tutto gira (test con l'esempio fornito nel plugin di Ami). E' già qualcosa, vista l'insalata di SW coinvolto... (su Win 7 pro)

Resta il solito problema di "cosa farsene"

Scusate l'OT

bellissimo thread

parto dal tuo intervento, Reef, per una nota storica :
imho prima degli strumenti ( statistici, trigonometrici, ecc ecc ) la logica del sistema
e ammetto, sono Ockhamiano , fermamente
da quanto sopra, due battute:

1) KISS : Keep it simple

2)
Bagaglio migliore
non si porta l'uomo in viaggio
di un gran buon senso.
Della ricchezza, migliore
ti si rivela in un paese sconosciuto:
tale è la salvezza del disperato.
http://bifrost.it/GERMANI/Fonti/Eddapoetica-2.Havamal.html#Testo
dallo Havmal, i detti di Odino

 

[GiuliaP]

Oh santa pazienza.... TESTARE un TS non significa VALIDARLO (sono due fasi completamente diverse, e nei casi OPEN SOURCE è perfettamente normale chiedere un parere ad altri professionisti del settore…. lo fanno medici, avvocati,commercialisti….. possono farlo anche gli Ernesti…) e che - comunque - livelli minimi di lealtà/dignità/correttezza imporrebbero di rispettare gli impegni formali presi pubblicamente, presentando lo studio del TS Amico entro la scadenza del 15 gennaio che ormai incombe e riferendo la risposta (o la mancanza di …) sul FOL (AQR non ha mai mangiato nessuno, al minimo prendono coscienza del fantastico sistema che li ha “battuti” nel 2011… coi soldi del Monopoli…).

.....

6. Fine va' .......... sennò tra un pò scopriamo che il giovedì oltre che le aste dei titoli di stato (che tutti sanno si fanno solo al giovedì... ) c'è anche meno nebbia in val padania.... e si sa .... Good Day Sunshine: Stock Returns and the Weather by David Hirshleifer, Tyler Shumway :: SSRN .....gli investitori sono meteopatici...

Chissà quale sarà il parere di Cren a proposito!

P.S. Ma non credo avremo mai la sua aperta opinione