INVESTOX-Forum

Hallo zusammen,

auch wenn die Überschrift hier ich Tread "NN" ist eine Frage aus dem gleichen Kontext.

Hat sich hier jemand vielleicht schon mal mit dem Thema der Hidden Markov Ketten oder spezieller der "Time-Line Hidden Markov" beschäftigt?

Viele Grüße

Martin

Hallo Udo,

ich bin mir selber gegenüber nicht im klaren, ob ich glaube, dass Algorithmen wirklich erfolgreich sein können. Aber, wenn überhaupt sollte man sich bei der Wahl der Algorithmen nicht auf neuronale Netze und bei diesen auf die Backpropagation Architektur beschränken. In der Mathematik gibt es eine Zahl von weiteren Verfahren sei es von simplen Regressionsgeraden über SVM usw. In diesem Zusammenhang betrachte ich meine Beschäftigung auch als eine Art von "Spiel" und möchte Kriterien für den Einsatz bestimmter Verfahren in ausgewählten Kontexten gewinnen.

Die Idee von Markov Ketten kam mir bei dem Gedanken an Spracherkennung. Es gab hinreichend Versuche auch auf der Basis von neuronalen Netzen in diesem Gebiet. Aber in den "guten" Programmen werden primär andere Techniken eingesetzt. Auch zeigt sich, dass oft ein einzelner Ansatz nicht zum Ziel führt und man versucht "Expertenwissen" und Annahmen über die Funktion von z.B. der Spracherkennung mit zu Berücksichtigen. Dabei handelt es sich um Dinge wie getrennte Optimierung der Laut-Erkennung und sehr anderen Verfahren zur Hypothesenbildung beim Aufbau sinnvoller Satzzusammenhänge.

Bei uns machen wir z.T. ja ähnliches wenn wir mit Filtern, übergreifenden Marktbeziehungen usw. arbeiten.

Dann noch zu dem Problem mit dem Trainingsumfang:
Die Trennung des SVM von Investox sehe ich nicht nur als Nachteil, sondern als einen möglichen Vorteil. Iterative Verfahren mit hohem Rechenaufwand sind im Programmiermodell von Invoestox nicht perfekt untergebracht. Hier kann man außer SVM mit einer guten Schnittstelle weitere Verfahren einbinden und über optimale Hardware und Werkzeuge wahrscheinlich sehr viel performantere Berechnungen hinbekommen.

Viele Grüße

Martin

@Udo,

was mir in der letzten Zeit beim Vergleich von NN und SVM zum Beispiel aufgefallen ist, beide Algorithmen haben ein sehr unterschiedliches Verhalten beim Overlearning. NN scheinen bei gleichen Inputs die Trainingsdaten deutlich besser abzubilden. Je stärker die perfekte Abbildung ist, desto stärker bricht sie anschließend auch wieder ein (außer man hat die perfekten Inputs gefunden ).
SVM sind hingegen bei den gleichen Inputs träger. Dafür brechen sie nicht so abrupt ein. Leider gibt es aber auch hier keine Garantier für eine weitere positive Entwicklung der Kapitalkurve.

Viele Grüße

Martin

Hallo Udo,

deine Erfahrungen kann ich absolut bestätigen. Es liegt auch auf der Hand, dass ein "beliegig" großes NN (Hidden Knoten, Schichten, Inputs) die Trainingsdaten beliegig gut nachbilden kann. Dies ist jedoch keine Verallgemeinerung sondern ausschließlich ein lernen der Verknüpfung der jeweiligen Inputvektoren mit dem passenden Zielwert. Voraussetzung ist natürlich, dass die Inputs nicht vollständig korreliert sind.

Schwierig ist es jedoch Inputs zu finden die verallgemeinern. Hier setzt m.E.n. die Erfahrung an. Mit automatischer Selektion wird man es nicht schaffen. Ein guter Analyst kann bessere Hypothesen bilden welche Faktoren die Entwicklung des Marktes wirklich beeinflussen. Dann kann er sehen, ob dies Faktoren zum Teil korreliert sind und bereinigen. Das NN ist am Ende nur ein Hilfmittel für das automatische Finden des algorithmischen Zusammenhangs.