*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

no image

中国の観光アウトバウンド政策 公研No.675 pp45-46

倉田徹立教大学法学部教授 1997年にアジア通貨危機、2003年にSARS流行発生時、香港経

記事を読む

no image

倉山満著『お役所仕事の大東亜戦争』1941年12月8日『枢密院会議筆記』真珠湾攻撃後に、対米英宣戦布告の事後採決

海軍が真珠湾攻撃のことを東条に伝えたのは直前のこと 倉山満著『お役所仕事の大東亜戦争』p.2

記事を読む

no image

シャマニズム ~モンゴル、韓国の宗教事情~プラス『易経』

シャーマン的呪術は筮竹による数字と占いのテキストを使った方法にかわった。このことにより特殊能力者でな

記事を読む

no image

『不平等生成メカニズムの解明』「移民はどのようにして成功するのか」竹中歩・石田賢示・中室牧子

「移民はどのようにして成功するのか」竹中歩・石田賢示・中室牧子『不平等生成メカニズムの解明』ミネルバ

記事を読む

no image

『芸術を創る脳』酒井邦嘉著

メモ  P29 言葉よりも指揮棒を振ることがより直接的  P36 レナードバースタイン 母校ハー

記事を読む

歴史認識と書評『暗闘 スターリン、トルーマンと日本降伏 』長谷川毅

日本降服までの3ヶ月間を焦点に、米ソ間の日本及び極東地域での主導権争いを克明に検証した本。

記事を読む

no image

動画で考える人流観光学帝国ホテル等に見る「住と宿の相対化」

  https://youtu.be/21llSPlP5eQ https://yo

記事を読む

中国文明受入以前は、藤貞幹は日本に韓風文化があったとする。賀茂真淵は自然状態、本居宣長は日本文化があったとする。

中国文明受入以前は自然状態であったとする賀茂真淵、日本文化があったとする本居宣長に対して、藤貞幹

記事を読む

書評『日本社会の仕組み』小熊英二

【本書の構成】 第1章 日本社会の「3つの生き方」第2章 日本の働き方、世界の働き方第3章

記事を読む

消費と観光のナショナリズム 『紀元二千六百年』ケネスルオフ著

今観光ブームでアトキンス氏がもてはやされている。しかし、観光学者なら「紀元二千六百年」を評価すべ

記事を読む

no image
ロシア旅行の前の、携帯wifi準備

https://tanakanews.com/251206rutrav

no image
ロシア旅行 田中宇

https://tanakanews.com/251205crimea

no image
2025年11月25日 地球落穂ひろいの旅 サンチアゴ再訪

no image
2025.11月24日 地球落穂ひろいの旅 南極旅行の基地・ウシュアイア ヴィーグル水道

アルゼンチンは、2014年1月に国連加盟国58番目の国としてブエノスア

no image
2025年11月23日 地球落穂ひろいの旅 マゼラン海峡

プンタアレナスからウシュアイアまでBIZBUSで移動。8時にPUQを出

→もっと見る

PAGE TOP ↑