第2回思考院セミナー/ The 2nd Seminar of the School of Statistical Thinking (Hybrid)

【日時】
2026年10月8日（木）15:00〜16:30 + フリーディスカッション (〜17:00)
参加無料
【場所】
統計数理研究所 セミナー室5 (D313・D314)
(zoomでの参加登録はこちらから)
【講演者】
大田 浩史 (東京大学)
【演題】
E過程による統計的逐次推測理論とLLM自己整合性への応用
【概要】
本発表では、近年の統計的逐次推測理論における重要なツールであるE値・E過程について数学的基礎を概説したあと、発表者の最近の研究である大規模言語モデル (LLM) の自己整合性 (Self-consistency) について報告する。
逐次観測設定においては固定サンプルサイズに基づいて計算したP値による仮説検定が妥当ではないことが知られている一方、E値・E過程はVilleの不等式により時間一様に妥当 (anytime-valid) な推論が可能であることが近年の研究により理解が進んでおり、さまざまな分野に応用されつつある。
前半では、これらの数学的基礎づけを与えたあと、関連する普遍推論法 (Universal Inference) などの現代的な統計的推測理論について解説する。
後半では、E過程のモダンな応用例として、LLM self-consistency におけるサンプリングの早期停止問題を扱う。 Self-consistency はLLMの回答の多数決を取ることで推論能力を向上する手法として広く用いられているが、サンプリングの計算コストが非常に大きいという問題がある。
本研究では、LLM self-consistency を統計的推測理論の問題として定式化し、LLMによって生成されるカテゴリのサイズや最頻カテゴリを事前に知らなくとも適応的にサンプリングを停止する規則を与える。
提案した停止時刻は逐次推論の意味で第一種の過誤を anytime-valid に制御でき、かつ適切なチューニングパラメータを選べば最適な検出力を持つことを証明する。
実応用として、AIME2026 (数学)/FrontierScience (科学オリンピック)/ER-REASON (救急医療) のデータセットでの挙動を紹介する。