平成30（2018）年度　重点型研究実施報告書

課題番号	30−共研−4303		分野分類			統計数理研究所内分野分類			h
						主要研究分野分類			3
研究課題名	統計的推測法としての深層学習：活性化関数から
重点テーマ	統計的機械学習の新展開
フリガナ 代表者氏名	ヤナギモト タケミ 柳本 武美				ローマ字		Yanagimoto Takemi
所属機関	統計数理研究所
所属部局	名誉教授
職　　名	名誉教授
配分経費	研究費	40千円		旅　費		63千円		研究参加者数		3　人

研究目的と成果（経過）の概要

　Softmax関数と ReLU関数の理解を深める。その上で関連研究の理解を深めて初期の目的とした。データ集合の育成と転移学習の理解を深める手立てを探った。
　自然連結回帰モデルと softmax関数との関連は既に指摘されているが、表面的である。この関連は、統計モデルの微分幾何的な双対構造に求める方がより深い理解が得られる。この理解はそのままBayes推測における双対な Kullback-Leibler divergence をロスとして双対な最適予測子の選択と関連する。また別の視点から見ると、分類問題を多項分布の出現確率の推定問題に還元していることに着目した。　
　ReLU関数の用語は新しいけれども､別に ramp関数と呼ぶ人がいるように、多くの分野で既に用いられてきた。制約つき最尤推定量・経験ベイズ法などでは頻繁に現れる。申請者が注目するのは hockey-stick回帰モデルとの関連である。この回帰モデルは、生体の集団における閾値の推定と関連して議論されてきた。人の認識過程を記述する数式としての妥当性である。先ず明らかに理解されるのは step 関数が認知心理学で言う sensationに対応する。それより高レベルである perception とか recognition を支える活性化関数として役割からの考察を行っている。
　

当該研究に関する情報源（論文発表、学会発表、プレプリント、ホームページ等）

1) 柳本武美 活性化関数と回帰関数の性能と人の認知からの評価
2018年度統計関連学会連合大会

2)柳本武美　RCT と DNN が医療水準の向上を駆動する 科研費研究集会「多変量データ解析法における理論と応用

3) 柳本武美*　大草孝介(九州大学) 災害認知：リスク認知と DNN から 科研費研究集会「災害と時空間統計」」

研究会を開催した場合は、テーマ・日時・場所・参加者数を記入してください。

本研究は、重点型研究の分担として実施された。全体集会に参加した。

研究参加者一覧
氏名	所属機関
大草 孝介	九州大学