Quora 「汎化性能」
公開日:
:
最終更新日:2023/05/29
出版・講義資料
すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?
個人的には「汎化性能」だと思います。
上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。
それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。
このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。
統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。
言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。
汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。
いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。
関連記事
-
-
国際収支の理解 インバウンド好調の原因
それでも円高にならないのはなぜか?「売った円が戻ってこなくなった」理由 https://www.
-
-
ヨーロッパを見る視角 阿部謹也 岩波 1996 日本にキリスト教が普及しなかった理由の解説もある。
キリスト教の信仰では現世の富を以て暮らす死後の世界はあ
-
-
QUORA 日本の歴代総理大臣ワースト1は誰ですか?
日本の歴代総理大臣ワースト1は誰ですか? 近衛文麿でしょう。彼は首相在任中に国運を左右する二
-
-
2022年8月ジャパンナウ観光情報協会原稿 アフターコロナという名の観光論 原稿資料
◎ジャパンナウ原稿案 2020年冬から始まった新型感染症は日本の人流・観光業界に
-
-
『「日本の伝統」の正体』
現在、「伝統」と呼ばれている習慣の多くが明治時代以降に定着したと聞いたら驚く人も多いかもしれない
-
-
QUORA 北方四島問題でソ連は日ソ不可侵条約が有るも拘わらず、終戦直後参戦し北方四島を強奪しましたが、国と国の条約は形式だけで何の意味も持たないのですか?
https://qr.ae/py4JmS 北方領土問題の発端は、大東亜戦争(太
-
-
『デモクラシーの帝国』 藤原帰一2002岩波新書 国際刑事裁判所 米国の不参加
国際刑事裁判所の設立を定めたローマ規程は、設立条約に合意していない諸国にも適用されるところから、アメ
-
-
中山智香子『経済学の堕落を撃つ』
経済学は、なぜ人間の生から乖離し、人間の幸福にはまったく役立たなくなってしまったのか? 経済学の
-
-
『MMT現代貨幣理論入門』
現代貨幣理論( Modern Monetary Theory, Modern Money The
-
-
21世紀を考える会「仮想通貨の現状」岩下直之京都大教授の話を聞く 2018年4月20日
Bitcoinの発掘の仕組み 256ビットの最初の30個は零が続かなければらないという約束。ハッシュ
