Transformerを用いた時系列予測におけるEmbedding手法の開発

カテゴリ: 部門大会

論文No: GS6-3

グループ名: 【C】2024年電気学会電子・情報・システム部門大会

発行日: 2024/08/28

タイトル(英語): Development of Embedding Method for Time Series Forecasting Using Transformer

著者名: 原 和希（千葉大学）,中間 公啓（千葉大学）,小圷 成一（千葉大学）

著者名(英語): Kazuki Hara (Chiba University),Kimihiro Nakama (Chiba University),Seiichi Koakutsu (Chiba University)

キーワード: 時系列予測|Transformer|EmbeddingEmbedding|Time Series Forecasting|Transformer|Embedding

要約(日本語): 近年, 人工知能技術の発達により機械学習を用いた時系列予測が盛んに行われている。時系列予測は, 電力需要予測や株価予測など, 工学分野からビジネス分野まで幅広く利用が期待されている。このような時系列予測において, Transformer モデルが注目されている。Transformerでは, 入力をベクトル表現に変換する手法が使用されており, その実装が予測精度に大きな影響を与える。本研究では, 時系列予測Transformer の精度向上を目的として, 入力をベクトル表現に変換する手法である Embedding において, 時系列データの勾配を導入した新規Embedding 手法の開発と予測精度の検証を行う。