*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

『発掘捏造』毎日新聞旧石器遺跡取材班

 もう20年も前の事であるが、毎日新聞取材班の熱意により旧石器遺跡の捏造事件が発覚した。その結果、

記事を読む

戦略論体系⑩石原莞爾(facebook2021年5月23日投稿文)「極限まで行くと、戦争はなくなるが、闘争心はなくならないので、国家単位の対立がなくなるという。」

石原莞爾の『世界最終戦論』が含まれている『戦略論体系⑩石原莞爾』を港区図書館で借りて読んだ。同書の存

記事を読む

鬼畜米英が始まったのは、1944年からの現象 岩波ブックレット「日本人の歴史認識と東京裁判」吉田裕著

靖国神社情報交換会に参加した。歴史認識は重要な観光資源であるとする私の考えに共鳴されたメンバーの

記事を読む

no image

若者の課外旅行離れは本当か?観光学術学会論文の評価に疑問を呈す

「若者の海外旅行離れ」を読み解く:観光行動論からのアプローチ』という法律文化社から出版された書籍が

記事を読む

『旅行契約の実務』  鈴木尉久著2021年 民事法研究会発行

 旅行業法の解釈について、弁護士でもある鈴木教授がどのような見解を持っておられるかと本書を図書館で

記事を読む

『パッケージツアーの文化史』吉田春夫 草思社    

港区図書館の新刊本コーナーにあり、さっそく借り出して読んだ。JTBでの実務経験が豊富な筆者であり、

記事を読む

no image

英国のドライな対外投資姿勢 ~田中宇の国際ニュース解説より~

私の愛読しているメール配信記事に田中甲氏の田中宇の国際ニュース解説 無料版 2015年3月22日 h

記事を読む

書評『法とフィクション』来栖三郎 東大出版会

観光の定義においても、自由意思を前提とするが、法律、特に刑法では自由意思が大前提。しかし、フィク

記事を読む

no image

『鉄道が変えた社寺参詣』初詣は鉄道とともに生まれ育った 平山昇著 交通新聞社

初詣が新しいことは大学の講義でも取り上げておいた。アマゾンの書評が参考になるので載せておく。なお、

記事を読む

no image

『脳の誕生』大隅典子 Amazon書評

http:// www.pnas.org/content/supp1/2004/05/13/040

記事を読む

PAGE TOP ↑