*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

no image

コロナ後の日本観光業 キーワード 現金給付政策を長引かせないこと、採算性の向上、デジタル化、中国等指向

今後コロナ感染が鎮静化に向かうことが期待されているおり、次の課題はコロナ後の回復に向けての施策に重

記事を読む

『発掘捏造』毎日新聞旧石器遺跡取材班

 もう20年も前の事であるが、毎日新聞取材班の熱意により旧石器遺跡の捏造事件が発覚した。その結果、

記事を読む

no image

DNAで語る日本人起源論 篠田謙一 をよんで(めも)

篠田氏は、義務教育の教科書で、人類の初期拡散の様子を重要事項として取り上げるべきとする。 私も大賛

記事を読む

『チベットの娘』リンチェン・ドルマ・タリン著三浦順子訳

河口慧海のチベット旅行記だけではなく、やはりチベット人の書物も読まないとバランスが取れないと思い、標

記事を読む

英国通貨がユーロでない理由 志賀櫻著「日銀発金融危機」

  ポンド危機と英国通貨がユーロでない理由 サッチャー政権

記事を読む

AIに聞く、甘利俊一博士の「脳・心・人工知能」を参考にした、『観光資源反応譜』の提案

人流・観光に関する学生用の教科書として、amazonのkindleで『人流・観光学概論』を出版してい

記事を読む

no image

ダークツーリズムと『脳科学からみた「祈り」』中野信子著

ダークツ―リズム 怖いもの見たさの時の脳内物質を調査する必要がある。その調査をせずして、ダークツー

記事を読む

no image

国際観光局ができた1930年代の状勢 『戦前日本の「グローバリズム」』

大東亜共栄圏の虚構を指摘 「バダヴィアに派遣された小林一三商相」国内世論の啓発に努める小林は

記事を読む

no image

南米「棄民」政策の実像 遠藤十亜希著 岩波現代全書 最も南米移民を排出したのが最貧困地帯たる東北ではなく北部九州~山陽ラインだったのは何故か?

19世紀末から20世紀半ばまで、約31万人の日本人が、新天地を求めて未知の地ラテンアメリカに移住

記事を読む

no image

観光資源評価の論理に使える面白い回答 「なぜ中国料理は油濃いのか」に対して、「日本人は油濃いのが好きなのですね」という答え

中華料理や台湾料理には、油を大量に使用した料理が非常に多いですが、そうなった理由はあるのでしょうか

記事を読む

no image
ロシア旅行の前の、携帯wifi準備

https://tanakanews.com/251206rutrav

no image
ロシア旅行 田中宇

https://tanakanews.com/251205crimea

no image
2025年11月25日 地球落穂ひろいの旅 サンチアゴ再訪

no image
2025.11月24日 地球落穂ひろいの旅 南極旅行の基地・ウシュアイア ヴィーグル水道

アルゼンチンは、2014年1月に国連加盟国58番目の国としてブエノスア

no image
2025年11月23日 地球落穂ひろいの旅 マゼラン海峡

プンタアレナスからウシュアイアまでBIZBUSで移動。8時にPUQを出

→もっと見る

PAGE TOP ↑