*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

no image

シャマニズム ~モンゴル、韓国の宗教事情~プラス『易経』

シャーマン的呪術は筮竹による数字と占いのテキストを使った方法にかわった。このことにより特殊能力者でな

記事を読む

no image

GetTaxi  Via (company)  YANDEX

Gett, previously known as GetTaxi, is a global on-

記事を読む

no image

『昭和史』岩波新書青本  恐慌の影響で、朝鮮人(日本国籍がある)の満州移住が増加したが、中国側は日本の手先と見て敵視 奉天の柳条溝で満州事変  この頃からメディアも変わる

26年と30年を比較すると中国(満蒙含む)の輸出入貿易額に占める対日貿易額の占める割合は低下した

記事を読む

no image

『QUORA 日本人の賃金が30年間増えなかった理由』vs 渡辺努東大教授の「物価と賃金の心地よい状態」説

渡辺努「世界と日本の物価に何が」2022年12月13日 (火) https://www.nhk

記事を読む

no image

2019年11月9日日本学術会議シンポジウム「スポーツと脳科学」聴講

2019年11月9日日本学術会議シンポジウム「スポーツと脳科学」を聴講してきた。観光学も脳科学の

記事を読む

no image

1932年12月16日『白木屋の大火始末記』

関東大震災の始末が終了したころ 地下三階地上七階建てデパートの4階から出火 クリスマスツリーの豆電

記事を読む

no image

御手洗大輔「示威の自由に関する日中比較と日本人の課題」

『横浜市立大学論叢』第68巻社会科学系列2号 御手洗大輔「示威の自由に関する日中比較と日本人の課題」

記事を読む

no image

『起業の天才 江副浩正 8兆円企業を作った男』大西康之

父親の縁で小運送協会が運営していた学生寮に大学1,2年と在籍していた。その時の一年先輩に理科二類

記事を読む

no image

江戸時代の交通事故

交通事故は、自動車の登場以前にもあった。江戸時代にも、大八車や牛車、馬車などの“クルマ”があったか

記事を読む

no image

保阪正康氏の講演録と西浦進氏の著作物等を読んで

日中韓の観光政策研究を進める上で、現在問題になっている「歴史認識」問題を調べざるを得ない。従って、戦

記事を読む

PAGE TOP ↑