響き合う人とデータ―統数研プロジェクト紹介

第28回「理論と応用をつなぐ連続最適化の研究拠点の構築」

コラボレーションの芽を育むカジュアルな場づくり

数理最適化には連続最適化と離散最適化があるが、連続最適化の分野は、離散最適化に比べて課題や成果が目に見えにくいこともあって、研究者の漸減が危惧されている。連続最適化研究の伝統を有する統計数理研究所では、連続最適化の研究者が他組織の仲間を集い、応用分野の研究者を巻き込むカジュアルな研究コミュニティ形成に向けて動き始めた。

身近なサービスや産業界で活用されている最適化

▲田中未来准教授 ▲成島康史准教授(慶應義塾大学)

「連続最適化の理論やアルゴリズムの研究者が、応用の研究者と課題を共有し、アイデアを出し合える場をつくりたい。協力してもらえませんか」。統計数理研究所数理・推論研究系数理最適化グループの田中未来准教授は、慶應義塾大学理工学部管理工学科の成島康史准教授、関西大学環境都市工学部都市システム工学科の檀寛成准教授、東京都立大学システムデザイン学部機械システム工学科の豊田充助教に声をかけ、この構想の実現に向けて準備を進めている。

▲檀寛成准教授(関西大学) ▲豊田充助教(東京都立大学)

「連続最適化」は「数理最適化」の分野の一つ。数理最適化とは、与えられた条件を満たす候補の中で目的となる指標を最小(または最大)にするものを求めるための数学的方法論だ。高校で学ぶ数学でも「関数f (x )=x 2-2x +3を0≦x ≦5において最小にするx を求めよ」といった数理最適化の問題を目にするし、実社会でも私たちの身近なサービスや産業界のさまざまな分野で応用され、活用されている。

たとえば、出発地から目的地までの複数の経路のうち最も所要時間が短い、最も運賃が安いといったルートを検索できる乗り換え案内や、需要と供給のバランスの中で最も効率よく製品を作る生産計画、複数の工場から複数の店舗まで製品を運ぶのに最も輸送コストが安くなるようにする配送計画などは、数理最適化が活用されている代表例と言える。

機械学習の進化に欠かせない連続最適化の技術

数理最適化は、大きく連続最適化と離散最適化(組合せ最適化とも呼ぶ)に分けられる。「両者の違いは、変数が『連続的に動くかどうか』です」と田中は説明する。

図1:田中が取り組む機械学習分野との連携による研究例。画像集合の分類では、2つの画像集合の特徴量を高次元空間における2つの錐としてモデル化し、それらの間の最小の角度を数理最適化で求め、両者の間の類似度として用いることがある。この2錐間の最小角の計算は画像の分類のみならず、常微分方程式の理論や順序データの正準相関分析や錐最適化の理論とも関係がある。「ある1つの共通した最適化問題がいろいろな分野に出現することはしばしばある。最適化をキーワードとして複数の応用分野がつながり合う場を作ることで、新たな発見がなされる可能性が生まれる」と田中は言う。

先の例で言えば、交通機関の乗り換えは「Aという乗り物に乗るか、乗らないか。乗らないならBに乗るか、乗らないか」という選択の組み合わせであり、「AとBの中間に乗る」ことはありえない。配送計画でも輸送トラックは1台、2台の単位であり、「0.5台」はない。つまり、これらの問題は、通常は離散最適化の問題として解かれる場合が多い。

一方で、「投資におけるポートフォリオを最適にする」といったケースでは、「収益を最大にする」「リスクを最小にする」といった条件に沿って保有する金融商品の比率を連続的に変更できることから、連続最適化の問題として扱われるのが一般的だ。

数理最適化はこのように応用範囲が非常に幅広いが、最近は連続最適化より離散最適化のほうが隆盛で、研究者も多い傾向にあるという。「統数研には伝統的に連続最適化を専門とする研究者が一定数在籍していますが、国内を見渡すと、連続最適化を選ぶ学生や研究者が相対的に減ってきているように思います」と田中は懸念を示す。

前職では民間企業に所属し、最適化問題の実務課題について相談を受ける立場にいた檀准教授も「持ち込まれる相談の9割以上が離散最適化でした。製造現場などでは離散的、組合せ的な構造を持つ問題ほど表面化しやすいことが一因でしょう。しかし、連続最適化がなくてはならない分野もあるので、絶対に研究の灯を消してはいけないと思っています」と力を込める。

じつは、統計や機械学習を下支えしている技術も連続最適化だという。

「たとえば、線形回帰によって『スポーツドリンクの売り上げを予測したい』というケースを見てみましょう」と成島准教授は例を挙げる。第i 週の売り上げyi 、平均気温xi 1、平均降雨量xi 2 が与えられているとき、モデルyi 01 xi 12 xi 2i を仮定して、誤差 εi の2乗和が最小になるパラメータβ0, β1, β2 を数理最適化で求める。この場合、β0, β1, β2 は連続変数であるから、連続最適化の問題になるわけだ。これは、もっとも単純な例だが、同様の考え方が統計や機械学習の基礎となっている。

図2:成島准教授による数理最適化のイメージ。高度情報化に伴う扱うデータ量の増大によって、大規模な最適化問題に対するモデル化やそれを解くアルゴリズムへのニーズが高まっている。この図は反復法と呼ばれるアルゴリズムのイメージ図である。紫のグラフが最小化したい関数で、2次元平面にはその等高線が描かれていて、赤い点が求めたい最適解である。反復法では初期点x0からスタートし、点列を更新することで最適解に近づいていく様子がわかる。

統計や機械学習がすでに広く普及し、さらなる進化を遂げようとしている今、数理最適化の研究に求められる役割がますます重要度を増すことは間違いない。研究拠点をつくり、研究者同士が切磋琢磨することで連続最適化の分野の活性化を図るのが、このプロジェクトのねらいの一つだ。

応用分野とのコラボレーションが連続最適化の新展開につながる

研究拠点のもう一つの目的は、応用分野の研究者との連携を深めることだ。「応用分野の研究者は、制御や金融、都市計画などそれぞれの専門の学会に参加するのが一般的で、数理最適化に関連する学会に参加している人はあまり多くいません。交流するメリットは大きいはずですが、場が少ないのが実情です」と成島准教授は指摘する。

田中、檀准教授、成島准教授の3人は連続最適化の専門家で、数理最適化の専門家が多く集まる日本オペレーションズ・リサーチ(OR)学会で知り合った。田中は理論やモデリング、アルゴリズムに加えて応用も少々、と連続最適化の全般を広く手掛けている。大学で土木情報学を教える檀准教授は、連続最適化の分野では非線形最適化問題を解くソルバー(ソフトウェア)の開発を研究している。もともと応用数学系の学部出身という成島准教授は、連続最適化のアルゴリズム開発が専門。経営工学分野でポートフォリオ最適化や最短経路問題などのモデリングにも取り組む。

図3:檀准教授による自動微分の計算グラフ。非線形最適化ソルバーでは、最適化問題を解く際に問題の目的関数と制約条件を構成する各関数の勾配が必要になるが、この計算に「自動微分」の技術を使う。計算グラフの下から上へ向けて各節点の値(青)と各枝の要素的偏導関数値(緑)を計算した後、上から下に辿りながら各節点での偏導関数値(赤)を計算すると、グラフ最下部で偏導関数値を得られる。

一方、豊田助教の専門は制御工学の理論だ。統数研の統計思考院に特任助教として在籍していた縁で田中と知り合い、共同研究につながった。「制御入力となる電圧などは連続量なので、制御にも連続最適化が有効ではないか。そう思い、田中准教授の統数研でのセミナーの発表を聴講したのをきっかけに、数理最適化の共同研究を始めました。最適化の専門家と議論すると、制御とは考え方が違う面も多く、発見がある。私にとってはそれがとても有意義です」と豊田助教は話す。

図4:豊田助教と田中の共同研究の例。数値例として制御工学の分野でよく用いられる「倒立振子(とうりつしんし)」(重心が支点より高い位置にある振り子のこと。図に示したものは特に制御工学の第一人者である古田勝久東京工業大学名誉教授が考案したことからFuruta Pendulum とも呼ばれる)を用いた。倒立振子は、掌にペンを立てて倒れないようにする遊びと原理が同じ。ここでは、「倒立状態からずれた位置で制御を開始し、倒立状態で静止させる」という問題を設定し、最適化を使って制御入力を時間的に求めた。

豊田助教は2021年3月に、田中との共同研究の成果を数理最適化の研究集会で発表した。この研究では、最適制御問題において制御入力を与えられた候補値のいずれかに近づけるという問題を扱い、この問題を効率よく解くアルゴリズムを提案し、その理論的性質を示した。また、数値例として具体的な制御の問題に対して提案手法を適用し、短い計算時間でよい性質をもつ制御入力を求めることに成功した。

「問題を見せたらすぐに田中先生は解き方のアイデアを教えてくれました。おかげで、最適化の知見を活かして新しいアルゴリズムを作ったり、新しい理論的な結果が得られたりしました。最適化の研究集会で発表をしたのは自分にとって初めてで、いい経験になりました」(豊田助教)。

図5:豊田助教による制御のブロック線図。最適化を用いたモデル予測制御のアルゴリズム。1つ前の時刻に求めた解から反復を開始するホットスタートは、モデル予測制御と呼ばれるオンラインの最適制御でよく用いられる。このホットスタートを用いた制御系を対象として、最適化の知見を活かし解析を行った。

制御分野との共同研究は国内の数理最適化コミュニティではあまり多くない。豊田助教とのコラボレーションによって、田中もまた新たな世界が拓けたという。「実際に近い問題を解いた研究はインパクトがあるので、豊田さんのように応用分野の問題を持っている人とつながりがあるのは、私にとってもありがたいこと。制御の世界ではこんな構造の問題を解く必要が生じるケースがあるのか、と気づかせてもらいました」と田中は話す。

コロナ禍のオンラインサマースクールには意外な成果も

応用分野との交流による連続最適化の活性化と人材育成の必要性を実感した田中、成島准教授、檀准教授の3人は、2020年に統数研統計思考院の公募型人材育成事業として合宿型のセミナーを企画したものの、コロナ禍により断念。翌2021年8月23日から25日に、満を持してオンラインサマースクールを実施した。

メインターゲットは、学生を含む若手研究者。連続最適化とその関連分野である凸解析、数値計算、線形代数などの基礎力の養成や、新たな研究テーマの発見を目標とした。もちろん、連続最適化の研究者のすそ野を広げることもねらいの一つだ。

講義は、明治大学理工学部情報科学科の飯塚秀明教授による「不動点理論と最適化」と、京都大学大学院情報学研究科数理工学専攻最適化数理分野の佐藤寛之特定准教授による「リーマン多様体上の最適化理論とその周辺」。それぞれ講義3コマと演習2コマ+演習の発表・解説1コマで構成した。

3日間の参加者数は118人で、そのうち65人が学生だった。「オンラインなので人数制限がないとはいえ、予想していたよりかなり多く、盛況でした」と成島准教授は微笑む。

学生ばかりでなく、インターネット企業やAIベンチャー、電気機器メーカー、自動車メーカー、投資会社などの企業や研究機関からの参加者も多かった。「企業のニーズを感じ、われわれも新たなテーマが見つかりました」と檀准教授も言う。

今回のサマースクールに参加した豊田助教は「制御の分野では、まだ統数研の知名度は高くないのが現実です。われわれの側も、数理最適化や統計手法にもっと興味を持てば、いろいろな展開ができるはず。これから、他分野からも参加できるこうした機会が増えることを期待しています」と感想を述べる。

ただ、オンラインによるサマースクールには、コミュニケーション上の限界も感じられた。「合宿のように同じ釜の飯を食い、気軽に交流する雰囲気にはならなかったのが心残りです。もっとも、オンラインには大人数でも参加できるよさはあるので、コロナ禍が収束したら、オンサイト集会とオンライン配信のハイブリッドで続けていくのがいいと考えています」と田中は話す。すでに、2022年度のサマースクールの企画に着手しており、そこでは参加者が自分の研究について発表するセッションも用意するという。

応用の分野において連続最適化の技術を使って問題を解こうとするならば、モデリングの段階から専門家を巻き込むことが得策だ。「われわれはゴルフのキャディーのようなもの。いろいろな種類のクラブを持っているので、状況さえ与えられれば、ぴったりのクラブを差し出すことができます」。そんな田中の言葉に、成島准教授が頷く。檀准教授も「サマースクールで、われわれの知らないところにゴルフ場がたくさんあることも分かりました。こちらも努力してゴルフ場を探さないと、クラブの出番がありません」と言葉を添える。

オープンでフランクな連続最適化のコミュニティが形成されることで、広々としたグリーンのあちこちで「ナイスショット!」の声が響き渡る日も近そうだ。

(広報室)

新型コロナウイルス感染拡大防止のため、本インタビューはオンラインで行われました。


ページトップへ