*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

『漁業という日本の問題』勝川俊雄 日本人は思ったほど魚を食べてない。伝統の和食イメージも変化

マスコミによってつくられた常識は、一度は疑ってかかる必要があるということを感じていますが、「日本人は

記事を読む

no image

ふるまいよしこ氏の尖閣報道と観光

ふるまいよしこさんの記事は長年読ませていただいている。 大手メディアの配信する記事より、信頼できる

記事を読む

『MMT現代貨幣理論入門』

現代貨幣理論( Modern Monetary Theory, Modern Money The

記事を読む

書評『日本社会の仕組み』小熊英二

【本書の構成】 第1章 日本社会の「3つの生き方」第2章 日本の働き方、世界の働き方第3章

記事を読む

no image

『QUORA 日本人の賃金が30年間増えなかった理由』vs 渡辺努東大教授の「物価と賃金の心地よい状態」説

渡辺努「世界と日本の物価に何が」2022年12月13日 (火) https://www.nhk

記事を読む

no image

高木由臣 公研2019.1月「ゾウリムシ研究でたどり着いた『私の生命観』」

生命とは死なないのが本来の姿であり、死ぬことができるように進化した どうして? どのように?

記事を読む

消費と観光のナショナリズム 『紀元二千六百年』ケネスルオフ著

今観光ブームでアトキンス氏がもてはやされている。しかし、観光学者なら「紀元二千六百年」を評価すべ

記事を読む

no image

ウェストファリア神話

国際観光を論じる際に、文科省からしつこく、「国際」観光とは何かと問われたことを契機に、国際について

記事を読む

no image

動画で考える人流観光学 マクスウェルの悪魔

【物理学150年の謎を日本人教授が解明】マクスウェルの悪魔が現れた!/東京大学 沙川貴大教授/教え子

記事を読む

観光資源創作と『ウェールズの山』

観光政策が注目されている。そのことはありがたいのであるが、マスコミ、コンサルが寄ってたかって財政資金

記事を読む

no image
ロシア旅行の前の、携帯wifi準備

https://tanakanews.com/251206rutrav

no image
ロシア旅行 田中宇

https://tanakanews.com/251205crimea

no image
2025年11月25日 地球落穂ひろいの旅 サンチアゴ再訪

no image
2025.11月24日 地球落穂ひろいの旅 南極旅行の基地・ウシュアイア ヴィーグル水道

アルゼンチンは、2014年1月に国連加盟国58番目の国としてブエノスア

no image
2025年11月23日 地球落穂ひろいの旅 マゼラン海峡

プンタアレナスからウシュアイアまでBIZBUSで移動。8時にPUQを出

→もっと見る

PAGE TOP ↑