INVESTOX-Forum

Nachfolgend verschiedene Ergebnisse aus Weka mit dem den DAX Datensatz (Weka_Daten_DAX_ROC.ARFF )!

In dem Output sind alle wichtigen Merkmale und Kennzahlen, wie z.B. mathematisches Verfahren, Rechenzeit, etc., aufgeführt.

Es wird immer das Prognoseziel ROC22 (Ref(ROC(Close,2,%),2) berechnet / modelliert!


Modell: Radial basis function network

=== Run information ===

Scheme: weka.classifiers.functions.RBFNetwork -B 2 -S 1 -R 1.0E-8 -M -1 -W 0.1
Relation: dax
Instances: 1186
Attributes: 6
ROC22
ROC1
ROC2
ROC3
ROC5
ROC8
Test mode: split 66% train, remainder test

=== Classifier model (full training set) ===

Radial basis function network
(Linear regression applied to K-means clusters as basis functions):


Linear Regression Model

ROC22 =

0.0859 * pCluster_0_0 +
-0.0857 * pCluster_0_1 +
0.2354

Time taken to build model: 0.09 seconds

=== Evaluation on test split ===
=== Summary ===

Correlation coefficient 0.0398
Mean absolute error 1.1509
Root mean squared error 1.5876
Relative absolute error 100.1419 %
Root relative squared error 99.9304 %
Total Number of Instances 404



Modell: SMOreg mit linearen Kernel (Support Vector Regession)

=== Run information ===

Scheme: weka.classifiers.functions.SMOreg -S 0.0010 -C 1.0 -E 1.0 -G 0.01 -A 250007 -T 0.0010 -P 1.0E-12 -N 0
Relation: dax
Instances: 1186
Attributes: 6
ROC22
ROC1
ROC2
ROC3
ROC5
ROC8
Test mode: split 66% train, remainder test

=== Classifier model (full training set) ===

SMOreg

Kernel used :
Linear Kernel : K(x,y) = <x,y>

Machine Linear: showing attribute weights, not support vectors.
(normalized) ROC22 =
-0.0269 * (normalized) ROC1
+ 0.0843 * (normalized) ROC2
+ 0.0822 * (normalized) ROC3
+ -0.1427 * (normalized) ROC5
+ -0.0947 * (normalized) ROC8
+ 0.4646

Number of kernel evaluations: 703891 (100 % cached)

Time taken to build model: 1.33 seconds

=== Evaluation on test split ===
=== Summary ===

Correlation coefficient 0.0697
Mean absolute error 1.1597
Root mean squared error 1.6026
Relative absolute error 100.9134 %
Root relative squared error 100.8769 %
Total Number of Instances 404


Modell: MultilayerPerceptron

=== Run information ===

Scheme: weka.classifiers.functions.MultilayerPerceptron -L 0.3 -M 0.2 -N 500 -V 0 -S 0 -E 20 -H a
Relation: dax
Instances: 1186
Attributes: 6
ROC22
ROC1
ROC2
ROC3
ROC5
ROC8
Test mode: split 66% train, remainder test

=== Classifier model (full training set) ===

Linear Node 0
Inputs Weights
Threshold -0.2597396182547624
Node 1 -1.7262797345844225
Node 2 -0.6671000395416617
Node 3 1.579076101156135
Sigmoid Node 1
Inputs Weights
Threshold -4.123012746275563
Attrib ROC1 1.1738659667662341
Attrib ROC2 2.857824791800252
Attrib ROC3 1.663441775249133
Attrib ROC5 -1.1273687189496069
Attrib ROC8 0.3719890495155913
Sigmoid Node 2
Inputs Weights
Threshold -3.8258102867604076
Attrib ROC1 0.28779195663005747
Attrib ROC2 0.935788707382136
Attrib ROC3 0.687670333056787
Attrib ROC5 -0.22394036954705582
Attrib ROC8 0.22071780509864145
Sigmoid Node 3
Inputs Weights
Threshold -4.433322830816111
Attrib ROC1 0.5610693136816484
Attrib ROC2 4.68910005447754
Attrib ROC3 5.561504095157246
Attrib ROC5 -5.4893205699087515
Attrib ROC8 -0.6943921717211088
Class
Input
Node 0


Time taken to build model: 2.03 seconds

=== Evaluation on test split ===
=== Summary ===

Correlation coefficient 0.0411
Mean absolute error 1.5432
Root mean squared error 1.9949
Relative absolute error 134.2803 %
Root relative squared error 125.5732 %
Total Number of Instances 404


Modell: SMOreg mit RBF Kernel

=== Run information ===

Scheme: weka.classifiers.functions.SMOreg -S 0.0010 -C 1.0 -E 1.0 -G 0.01 -A 250007 -T 0.0010 -P 1.0E-12 -N 0 -R
Relation: dax
Instances: 1186
Attributes: 6
ROC22
ROC1
ROC2
ROC3
ROC5
ROC8
Test mode: split 66% train, remainder test

=== Classifier model (full training set) ===

SMOreg

Kernel used :
RBF kernel : K(x,y) = e^-(0.01* <x-y,x-y>^2)

Support Vector Expansion :
(normalized) ROC22 =
-1 * K[X(0), X]
.
.
+ 1 * K[X(1185), X]
+ 0.4437

Number of support vectors: 1170

Number of kernel evaluations: 703891 (100 % cached)

Time taken to build model: 2.33 seconds

=== Evaluation on test split ===
=== Summary ===

Correlation coefficient 0.0968
Mean absolute error 1.1495
Root mean squared error 1.5891
Relative absolute error 100.0265 %
Root relative squared error 100.0254 %
Total Number of Instances 404

Viele Grüße

Reiner

Hallo Reiner,

ich konnte Deine Berechnungen z.B.
- Modell: Radial basis function network,
- Modell: SMOreg mit linearen Kernel (Support Vector Regession),
- Modell: MultilayerPerceptron und
- Modell: SMOreg mit RBF Kernel
bei mir nachvollziehen bzw. kam auf dieselben Ergebnisse!! Ausser dass bei mir die "Time taken to build model" etwas höher lag als bei Dir.

Hier meine Fragen: Wie kann ich die gleichen Berechnungen nun im "KnowledgeFlow" nachvollziehen bzw. berechnen lassen? Wie kann ich RTT-Dateien in die benötigte *.arff konvertieren?

Besten Dank im Voraus für Deine Hilfe,
halobungie

Hallo Reiner,

vielen Dank für deine Hilfe, deine sehr detaillierte Beschreibung, hat mich direkt ans Ziel gebracht!

Mein Ziel war es, heraus zu finden, ob die erhaltenen Ergebnisse, wirklich reproduzierbar sind, weil ich
habe es bis heute noch nicht so richtig glauben können.


Meine Problematik, die ich mit den NN immer habe, ist folgende:

Ich einwickle ein NN, dass liefert mir ein Ergebnis. Wenn ich dass NN dupliziere und es mit den selben
Daten, den selben Inputs trainiere, dann bekomme ich unterschiedliche Ergebnisse, die zum Teil sehr stark von einander abweichen. Da ich dann nicht weiß, ob es sich um den berühmten Zufall handelt, oder eine Signifikanz dahinter steckt, habe ich eigentlich keine Grundlage, auf der ich die Verbesserung der Inputs, wie auch
der Architektur vornehmen kann. Ich denke, die Problematik ist jedem bekannt.

Der nächste Punkt, den ich sehr interessant finde, ist die „Eignung“ der einzelnen Inputs heraus zu finden. Dass macht INV zwar automatisch, aber wenn ich die Möglichkeit habe, dann mache ich es lieber selber, oder kann es
auf jeden Fall besser kontrollieren. Ist ähnlich wie wenn man das Robustieren mit dem Optimieren vergleicht, da mir beim Optimieren die Transparenz fehlst und ich die Zusammenhänge und Verhältnisse nicht sehen kann, Robustiere ich lieber, auch wenn es meistens um einiges länger dauert. Lohnen tut es sich meistens.


So, und wenn man etwas Neues ausprobiert, dann entehren auch gleich wieder neue Fragen.

Die Programmiersprache macht mir noch ein wenig Sorgen. Weil der Programmcode für den ROC fand ich
schon ein wenig beängstigend. Dass Dax Beispiel-Projekt mit dem SVR arbeitet im Moment ja nur mit dem Close, aber auch bei Weka, wird es sicher nötig sein, mit verschiedenen Indikatoren, Verknüpfungen usw. die Daten auf zu bereiten. Und ich würde gerne, meine schon bestehenden Schablonen in Weka einbinden, aber dass scheint dann wohl doch sehr schwer zu werden.
Vielleicht habe ich auch was falsch verstanden, aber meine Bedenken, weil ich halt Java nicht beherrsche,
wollte ich etwas verdeutlichen.


Deine Beiträge, sehe ich als sehr große Bereicherung für das Forum, und wenn man sich mal ansieht, wie viele Leute deine Beiträge lesen, dann sehe ich, dass ich weiß Gott nicht der einzige bin, mit dieser Meinung.

DANKE!


Eine schönen Abend noch!


lasa

Ich wollte mit meinem letzten Beitrag hauptsächlich darstellen, dass sich mit Weka nicht nur ein einziges mathematisches Modell, aus dem Bereich "Data Mining", darstellen und berechnen lässt, sondern eine Vielzahl.

Das Modell -Radial basis function network- stellt, ebenso wie die SVM, ein interessanten Ansatz dar.

Das Modell -SMOreg mit linearen Kernel (Support Vector Regession)- eben eine SVM, Typ-SVR, mit linearen Kernel.

Das Modell -MultilayerPerceptron- ist eine Form des aus Investox bekannten Neuralen Netzwerkes und sollte zeigen, dass hier wichtige Kennzahlen gewonnen werden können (in 2.01 s), ohne ein NN über Stunden zu trainieren. (Natürlich wenn die Architektur, etc. gleich ist!)

Das Modell -SMOreg mit RBF Kernel- (Support Vector Regession)- eben eine SVM, Typ-SVR, mit RBF - Kernel.

Man kann also in Weka innerhalb von wenigen Sekunden ein Modell, hinsichtlich vieler Kriterien, testen. Dies ohne nur auf ein einziges Modell beschränkt zu sein.

Denn die Support Vector Machines sind unbedingt nicht der Weisheit letzter Schluss!


Ein einfaches Beispiel/Möglichkeit beim EoD-Handel! --> visionär ;)

Bei dem Modell -SMOreg mit linearen Kernel haben wir mit den Weka_Daten_FDAX_ROC folgendes Ergebnis erhalten:

Machine Linear: showing attribute weights, not support vectors.

(normalized) ROC22 =
-0.0269 * (normalized) ROC1
+ 0.0843 * (normalized) ROC2
+ 0.0822 * (normalized) ROC3
+ -0.1427 * (normalized) ROC5
+ -0.0947 * (normalized) ROC8
+ 0.4646

Das allerdings noch nicht mit Test-Daten und OoS-Daten verifiziert wurde!!!

Wenn nun die Daten (Weka_Daten_FDAX_ROC.ARFF) aus Investox jeden Tag weitergeführt werden (dies ist ja möglich, denn ich habe nicht ca. 1100 Datenzeilen manuell in eine Datei gefügt!), so kann innerhalb weniger Minuten (das reicht um 7:30 Uhr --> für den EoD-Handel), entweder eine Prognose aus dem bestehenden Modell erfolgen, oder aber eine Neumodellierung/Training mit dann anschließender Prognose!

Bei dem hier rein beispielhaft gewählten Modell bräuchte man auch keinen automatischen Rück-Export der Prognose zu Investox.

Man schreibt sich folgendes Programm in Investox:

Const ROC1: -0.0269;

Const ROC2: 0.0843;
.
.
Const ROC8: -0.0947;

Const C: 0.4646;

Calc Prognose: ROC1*ROC(Close,1,%)+ROC2*(ROC(Close,2,%) ..+ROC8*ROC(Close,8,%)+C;

Enter Long: Prognose > 0, Exit Long: 0, Enter Short: Prognose < 0, Exit Short: 0

Die fünf Parameter kann ich um 7:35 Uhr sehr schnell kopieren und in Investox eintragen!

Achtung: Dies ist ein lückenhaftes Beispiel!!! So dürften natürlich die Attribute von Weka nicht automatisch normalisiert werden, um gleiche Berechnung zu erhalten! (Ich mag aber jetzt nicht aus Weka die ganze Geschichte nochmals kopieren: ohne Normalisierung!)

Ich wollte hier nur einen banalen Ansatz geben! Der, ohne großen Programmieraufwand, auskommt.

Natürlich muss man die Modelle genau testen, eben auch mit Test-Daten und OoS-Daten, etc.!

Aber für den EoD-Handel mögen sich mit Weka und einigem Ehrgeiz schon bald profitable HS entwickeln lassen!

Viele Grüße

Reiner

Hier stelle ich noch einen zusätzlichen Datensatz vom FDAX zum Testen mit Weka zur Verfügung!

Es handelt sich um den FDAX 10.03.2003 bis 30.10.2007 mit 1186 Instanzen.

In diesem Datensatz ist das Prognoseziel wieder das erste Attribut: Ref(Close-Open, 1)

Die anderen vier Attribute sind hier: Open, High, Low und Close! (die Inputs)

--> Die Prognosemodelle müssen also die Differenz Close-Open zum nächsten Tag voraussagen!

Die Datei ist als ZIP-Ordner diesem Beitrag angefügt.

Format:
%
% This is example for Close-Open / FDAX dataset
%
@relation 'dax'
@attribute CmO real
@attribute Open real
@attribute High real
@attribute Low real
@attribute Close real
@data
-38.7002,2774,2782,2646.5,2648.8
-101.3,2655.6,2675.6,2572,2616.9
109.1001,2605.6,2640.9,2489.5,2504.3
-3.399902,2561.4,2670.5,2542.7,2670.5
184.3999,2730.5,2826.6,2703.3,2727.1
57.19995,2662.6,2873.6,2651.3,2847
.
.
.

1. Attribut: Ref(Close-Open,1) --> Prognoseziel!
2. Attribut: Open
3. Attribut: High
4. Attribut: Low
5. Attribut: Close

Im Weka Explorer mit Open File den Datensatz "Weka_Daten_FDAX_CO.ARFF" öffnen und dann experimentieren.

Den Datensatz Weka_Daten_FDAX_ROC kann hier geladen werde:

http://www.investoxforum.de/index.php?pa…20783acc88e2c3f

Viele Grüße

Reiner

Hallo zusammen,

Zitat

Bin mal gespannt, wie lange es dauert ein einfaches Handelssystem zum laufen zu bringen, wo die Kurseinspeisung in Investox erfolgt, die Berechnung extern in Weka durchgeführt wird, das Ergebnis an Inv. zurückgeliefert, die Handelssignale erzeugt und schließlich das OM das Orderrouting durchführt.

Ist dies nur eine Vision, oder lässt sich eine Anbindung an INV tatsächlich umsetzen? Eine solche Anbindung wäre zweifelsohne sehr interessant!

Viele Grüsse!
halobungie

Ich möchte mitteilen, dass ich nun mit Weka ein vollständiges Data Mining Paket EoD für Investox fertiggestellt habe.

Weitere Informationen: Preprozessor für Inputs

Viele Grüße

Reiner

Hallo!

Nachfolgend der Link zu RapidShare.Com, wo das Demo Video zum Download bereit steht:

http://rapidshare.com/files/69440248/Dat…n_Paket_EoD.exe

Hier stelle ich das komplette Zusammenspiel zwischen Weka / Investox dar!

Einlesen der Daten

Komplette Verarbeitung der Daten in Weka

Übergabe und Auswertung von Investox

Ich bitte die Qualität des Videos zu entschuldigen, da ich ein solches heute zum ersten Mal erstellt habe.

Einige Anwender haben mich per Email bereits um die Zusendung des Data Mining Paketes EoD gebeten.

Dies wird erst in einigen Tagen möglich sein, da ich erst noch ein Shareware-Regelung entwerfen muß, des Weiteren muß ich auch noch die Art der Versendung (Größe der Dateien) festlegen, als auch noch weitere Dinge!

Ich bitte um kurze Stelungsnahme, ob das Video für eine Informationsbildung ausreichend ist.

Viele Grüße

Reiner

Hallo Reiner,

Glückwunsch ich kann mir das Video ansehen.
Jetzt stellt sich nur noch die Frage wie ich meine TaiPan EoD Daten mit der Endung .DAT in WEKA lesbaren Format umwandeln kann.

Gruß
Arnold

Hallo Reiner,

dass Video finde ich sehr gelungen! Ich kann alles sehr gut erkennen.

Leider habe ich ein ähnliches Problem, wie meine Vorredner, nur dass es sich bei mir um IB Daten im
RTT handelt, welche ich da herausbekommen muss. Ich arbeite gerade an einer Lösung, aber auch wenn alles so klappt, werde ich diesen
Vorgang nicht automatisieren können.
Ich denke, es wäre am elegantesten, wenn man es schaffen könnte, auf die BT zu zu
greifen, weil die könnte dann jeder nutzen(Egal, welchen Datenanbieter man nutzt). Und außerdem, könnte man alle
Indikatoren nutzen, welche in INV zur Verfügung stehen. Ist nur mal so eine Idee.



Gute Zeit!

lasa

Was es doch so alles in Handbüchern zu lesen gibt.........
Problem gelöst. Datenkonvertierung von Tai-Pan (6.3) in ASCCII ist eingebaut.