保科架風

２０１６年度統計関連学会連合大会 at 金沢大学

【概要】

モデルの推定と変数選択を同時に行うことが可能なスパースモデリング手法において, 非凸関数を正則化項として持つ手法にはサンプルサイズが増加するにつれ真のモデルに収束する性質（Oracle Property）を持つものがいくつも存在する. しかし, それらの手法には複数の調整パラメータが存在し, 候補のモデルの増大に伴い, モデリングコストの増大とモデル選択の精度の向上が求められる. これに対し本研究では, one-step local linear approximation による Bridge の推定をベイズモデルで表現し, その上で２つある調整パラメータのうちの1つを回帰係数や誤差分散と同時推定し, 残りの調整パラメータの選択のためのモデル選択基準の導出を行った.

保科架風

科研費シンポジウム「統計学と機械学習における数理とモデリング」at 東京工業大学

【概要】

非凸正則化手法である Bridge 回帰は, 真のモデルへの収束性（Oracle Property）を持つ手法として知られ, 理論的な魅力を持つ. しかしながら, 推定に非凸最適化問題を解く必要があり, また, 複数の調整パラメータの値を決定する必要がある. この問題に対し本研究では, ある調整パラメータを他のモデルパラメータと同時推定するために local linear approximation を適用した Bridge 回帰をベイズモデルに拡張し, 事後分布の単峰性を有するような事前分布を定め, 推定を効率的に行える手法の提案を行った. また, 残りの調整パラメータを選択するための問題について提示し, それらに対応する手法の提案を行った.

保科架風, 酒折文武

２０１５年度統計関連学会連合大会 at 岡山大学

【概要】

Lassoでは, 推定された回帰係数ベクトルと共に誤差分散の推定値を用いてモデル選択基準を求めることが多い. しかし, lasso には誤差分散の推定量が存在せず, 多くの研究では不偏推定量や最尤推定量を代用する. これに対し本研究では, 誤差分散の推定値によるlasso のモデル選択の精度に対する影響を数値的に検証し, また, モデル選択基準ごとに適切な誤差分散の推定値について考察を行った.

保科架風

２０１５年度統計関連学会連合大会 at 岡山大学

【概要】

モデルの推定と変数選択の同時性を有する lasso と高次元データに対して安定的なモデイングを可能にする ridge の一般化として定義される bridge 回帰は, 柔軟なモデリングが可能である一方, モデル選択のコストや推定の難しさといった問題を抱える. これに対し本研究では, bridge 回帰のベイズモデルをもとに推定を行い, モデル選択のコストを低減させ, また, 容易に推定する手法の提案を行った.

保科架風, 小西貞則

第８回日本統計学会春季集会 at 同志社大学

※優秀発表賞を受賞

【概要】

本研究では高次元データに対して有効なモデリング手法として知られる elastic net に対するモデル選択基準の提案を行った. 一般に, モデル選択基準の多くは漸近的に予測精度を評価するものであり, 高次元データに対しては評価の精度が保証されなくなる. これに対し本研究で提案したモデル選択基準は, 漸近的な近似の代わりにモンテカルロ積分を適用し, 高次元データでも適切にモデルを評価することが可能である.

保科架風

日本計算機統計学会第27 回シンポジウム at 崇城大学ホール

【概要】

種々のモデル選択基準でモデルの有功自由度は重要な役割を果たすが, Bayesian lasso におけるモデルの有功自由度についてはあまり研究が進められてこなかった. これは, Bayesian lasso のモデルが解析的に扱いづらく, 数値的な手法によって推定するのが一因である. これに対し本研究では, 数値計算を含むことによってBayesian lasso のモデルに対してモデルの有功自由度が容易にもとまることを示した.

保科架風, 廣瀬慧, 小西貞則

科研費シンポジウム「統計科学における深化と横断的展開」 at 松江テルサ

【概要】

回帰係数を厳密にゼロと推定する性質＝Sparse 性を有するスパースモデリング手法は, モデルの推定と同時に変数選択を行うことが可能であり, 高次元データから効率的に有益な情報を抽出することが期待されている. しかし, これらの手法のモデリングでは調整パラメータを適切な値に決定することが重要となるが, そのためのモデル選択基準のキーポイントとなる Degrees of Freedom は一般に未知である. この問題に対し本研究では, LARS アルゴリズムの理論的特性を活用した Degrees of Freedom の推定手法を提案し, さらにそれによって Lasso, Elastic net, Adaptive lasso などの Degrees of Freedom の推定が可能になることを示した.

I. Hoshina and S. Konishi

Joint Statistical Meeting 2012 at San Diego Convention Center

【概要】

Lasso では, モデル選択基準において推定バイアスに対応するモデルの有効自由度が解析的に陽に定まらず, モデルの有効自由度の不偏推定量をモデル選択基準に代入することが一般的である. これに対し本研究では, lasso の推定アルゴリズムの1つであるLARSアルゴリズムの特性に着目し, lasso の有効自由度をlassoの推定と同時に推定するアルゴリズムの提案を行った.

I. Hoshina and S. Konishi

International Society for Bayesian Analysis 2012 at Kyoto Terrsa Conference Center.

【概要】

Bayesian lasso は事後分布が解析的に陽にもとまらず, MCMC手法によって発生させた事後分布からのサンプルに基づいて事後分布や点推定値の推定を行う. しかし, Bayesian lasso の事後分布には平均の値が 0 から離れると分散が大きくなる傾向があり, これによって推定モデルが不安定となり, 予測精度に影響を与えてしまう. これに対し本研究では, より安定的な Bayesian lasso のMAP推定を行う方法の提案を行った.

保科架風

科研費シンポジウム「非正則統計的推測とその応用：想定内と想定外」at 東海大学

【概要】

Sparse 性を有することでモデルの推定と変数選択を同時に行うことが可能な Lasso をベイズモデルに拡張した Bayesian lasso には, Sparse 性の欠如という問題があり, 推定した回帰係数が厳密にはゼロにならない. 本研究では, この問題を解決するための推定アルゴリズムの導出過程について説明し, また, 他のスパースモデリングを推定するアルゴリズムについて紹介した.