【OpenAI gym】DQN + LSTMでfx攻略

プログラミング

gymの自作環境の作り方が分かったので、fx攻略してみた。

結論は失敗でした。まあ、モデルから環境から学習データから何から何まで改良の余地がありそうなので、また近いうちにトライしてみようと思います。

そりゃ機械学習の知識が皆無のシロウトが適当に用意した学習データと適当に組んだモデルで世界最大のマネーゲームを攻略できたら、世の中金持ちだらけですね。

 

まあ、せっかく作ったのだから、記事にしておこうと思います。

 

 

まず、こちらが今回の学習データ(兼テストデータ)。20181016の0:10~8:29のドル/円です。

上が1分足終値で、下が出来高です。 (強化学習でエージェントが観測できる値は、この2つに加えて”1分足始値”・”1分足最低値”・”1分足最高値”の全部で5つとしました。)

また、なぜたった8時間という短い期間のデータを使ったかというと、

・学習時間を短縮したかったから

・期間が短いほど、テクニカル分析が重要だから(期間が長いと経済指標やニュースなどのファンダ分析が重要になる)

 

Q値学習のためのモデルにはLSTM(Long short-term memory )を使いました。
LSTMはRNNの仲間の一つで時系列データの学習に有効らしいです。

 

エージェントの行動は、”買”, “売”, “ステイ”の3種類で、”買”, ”売”の注文量は一定(要は全力買/全力売)としました。また、エージェントは1分足の終わりに一回だけ行動できるものとしました。

*ここに関して、自分がノーポジかロングポジやショートポジかでアクションの結果が変わってしまうのでこれであっているか分かりません。

 

エージェントへの報酬は、行動をとった1分後にどのくらい(確定損益+含み損益)が増えたか/減ったかとしました。

 

トレードシステムは、レバレッジ25倍・スプレッド0.005pips固定としました。

*スプレッドとは取引にかかる手数料のようなものです。これは本来、その時間帯の取引量などによって変動しますが、実装が面倒+計算式を知らないので固定にしました。

 

学習回数は10000ステップです。”0:10~8:29の500ステップ”を20回なのでかなり少なく感じますが、いい感じに学習してそうだったらステップ数を増やします。

 

結果、、、、

終値と含み益が同じように上がっていき、確定利益はずっと0のままです。

つまり、”最初に買いを入れてずっと放置”という戦略をAIは立てたようです。

 

スプレッドがあるせいで、取引回数が多い = 損 ということを学んだのかと思い、スプレッドを0にして再度試してみましたが、結果は変わりませんでした。

 

コードはgithubに上げておきました。

sugo-lock/gym_dqn_fx_trade
Contribute to sugo-lock/gym_dqn_fx_trade development by creating an account on GitHub.

コメント

タイトルとURLをコピーしました