平成9（1997）年度　共同研究集会実施報告書

課題番号	9−共研−4			専門分類		2
研究課題名	ニューラルネット・重回帰分析における変数選択とその周辺
フリガナ 代表者氏名	イバ　ユキト 伊庭　幸人			ローマ字
所属機関	統計数理研究所
所属部局	予測制御研究系
職　　名	助手
所在地
TEL				FAX
E-mail
URL
配分経費	研究費	0千円	旅　費		0千円		研究参加者数	3　人

研究目的と成果（経過）の概要

ニューラルネットワーク及び重回帰分析における変数選択，“Pruning”，線形・非線形のpriorを用いた縮小推定，などについて，分野の壁をこえた討論を行う。


多層パーセプトロン(Feedforward Network)やその特別の場合である重回帰分析において、有効な変数をどのように選択し、overfitting・overlearningを防止するかは重要な問題である。
最近の興味ある話題としては、いわゆるリッジ回帰と変数選択の間を補間するような非ガウス的なprior(あるいは罰金)を用いた手法の登場がある。そのほか、モデルや超パラメータの選択規準をめぐる問題や大規模モデルにおけるモデル選択・モデル混合のためのアルゴリズムなども興味深い話題である。
本研究会は、この分野が、統計学、ニューラルネット理論、人工知能、統計物理などの諸分野の交わる点であることを考慮して、この問題をめぐる学際的な交流をめざして開かれた。具体的なテーマは以下の通り。
下平（統数研）モデル選択における信頼集合とモデル地図による探索
伊庭（統数研）変数選択と平均場近似
石黒（統数研）準ガウス分布による事前情報の表現について
松本（早大）Neural Netによる非線形ダイナミカルシステムの再構成と予測
石川（九工大）汎化誤差最小基準による正則化項の設計
樺島（東工大）階層ベイズ法への統計物理からのアプローチ
甘利・村田（理研）階層ベイズと NIC:　汎化誤差の最小化における正則化項をめぐって（世話人　伊庭幸人、樺島祥介、松本隆、石川眞澄）
［研究会の場合　開催期間：1998年1/30-1/31　開催場所：統計数理研究所講堂］

当該研究に関する情報源（論文発表、学会発表、プレプリント、ホームページ等）

研究参加者一覧
氏名	所属機関
石川　眞澄	九州工業大学
樺島　祥介	東京工業大学