丸の内QFセミナー

Marunouchi QFseminar

第40回研究会

開催日:

2019年2月25日 (月) 18:00-19:30

会場:

丸の内永楽ビルディング18階 首都大学東京 丸の内サテライトキャンパス

報告者:

小澤 昂 氏(東京工業大学大学院理学院数学系 修士課程2年)

タイトル:

確率的流れを用いた新しい深層学習機械の提案

概要Overview

ディープニューラルネットワーク(Deep Neural Network, 以下 DNN)は,データセットを単純な出力関数(softmax関数など)で分類できる特徴空間へと連続的に変換するモデルである.また,多層なニューラルネットワークを用いることでより複雑な関数表現を獲得できる.一般物体認識のコンペティションやベンチマークタスクでは,ネットワークの残差表現などを取り入れることで,DNN の層数の増加による性能向上に成功している.しかし,性能向上につながる新しいネットワーク構造や層数を増やすことの理論的解釈については確立されておらず,現在も研究されている.
(Zhen Li and Zuoqiang Shi.,2017)では, DNNの層の深さを常微分方程式 (Ordinary Differential Equation,以下 ODE)の時間の流れに対応させることで,離散時間近似されたODEによるDNNの表現を与えている.

本研究では,離散時間近似したODEによって表現されるDNNをいくつか構築し,2次元/3次元データの分類問題に適用し,データのODEによる流れの可視化や精度比較を行った.また,オイラー法・ホイン法・ルンゲ=クッタ法によって離散時間近似されたODEに対応する畳み込みニューラルネットワーク(Convolution Neural Network)を構築し,画像認識分野で広く用いられているCIFAR-10を使用して精度の比較を行った.

次に,確率微分方程式(Stochastic Differential Equation,以下 SDE)に対してオイラー・丸山法による離散時間近似を行い,そのSDEに対応した新しい深層学習機械を構築した.また,その深層学習機械による確率分布の近似方法を提案し,近似精度やベクトル場の可視化を行う.

(Zhen Li and Zuoqiang Shi.,2017)
Zhen Li and Zuoqiang Shi. Notes: A continuous model of neural networks.
part I: residual networks. CoRR, Vol. abs/1708.06257, , 2017.

お申込み方法Registration

第40回研究会へ参加される方は必ず事前登録をお願いいたします。 参加登録の締切は2月22日(金)です。
下記のいずれかの方法で「お名前・所属機関・電子メールアドレス」をご連絡ください。
※参加費は無料です。

WEBからの登録
本ページにあります「REGISTER HERE」ボタンをクリックいただき、お申し込みフォームよりご登録ください。

電子メールでの登録
finance●tmu.ac.jpまで「お名前・所属機関・電子メールアドレス」をご連絡ください。
(※ご連絡時は●を@に置き換えてご使用下さい。)

当日のご案内Information

当日は丸の内永楽ビルディング3階の受付にて、首都大学東京のセミナーへ参加する旨とご所属、お名前を申し出てください。
ビジターカードが発行されますので、18階の首都大学東京丸の内サテライト キャンパスまでお越しください。

金融工学研究センター概要

Research Center for Quantitative Finance

イベント情報

Event