*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

no image

『支那四億のお客様』カール・クロ―著 

毎朝散歩コースになっている一か所に商業会館ビルというのがある。この本を出版したのが倉本長治氏のよう

記事を読む

『観光の事典』朝倉書店

「観光の事典」に「観光政策と行政組織」等8項目の解説文を出筆させてもらっている。原稿を提出してか

記事を読む

no image

横山宏章の『反日と反中』(集英社新書2005年)及び『中華民国』(中央公論1997年)を読んで「歴史認識と観光」を考える

 歴史認識を巡り日本と中国の大衆が反目しがちになってきたが、私は歴史認識の違いを比較すればするほど、

記事を読む

角川文庫『ペリー提督日本遠征記』(Narrative of the Expedition of an American Squadron to the China Seas and Japan)

https://youtu.be/Orb9x7NCz_k https:

記事を読む

no image

『兵士のアイドル』押田信子著   盧溝橋事件勃発で、新聞の報道合戦開始 慰問団ブーム

陸軍恤兵(ジュッペイ)部  日清戦争時に少なくともそのたぐいの組織はできていた?

記事を読む

no image

ウェストファリア神話

国際観光を論じる際に、文科省からしつこく、「国際」観光とは何かと問われたことを契機に、国際について

記事を読む

no image

安易なフードツーリズム、食育、和食神話への批判  コメに無期ヒ素が含まれているのはものすごく都合が悪い。大手メーカーが「ただの水です」といって水素水を売っている

公研2016年6月号に「食の安全とリスクを考える」畝山智香子(国立医療品食品研究所安全情報部第三室長

記事を読む

no image

三灶島事件

「日本海軍400時間の証言 軍令部・参謀たちが語った敗戦」NHKスペシャル取材班、P344-35

記事を読む

no image

太平洋戦争で日本が使用した総費用がQuoraにでていた

太平洋戦争で、日本が使った総費用はいくらでしょうか?Matsuoka Daichi, 九州大学で経

記事を読む

no image

書評『ペストの記憶』デフォー著

 ロビンソン・クルーソーの作者ダニエル・デフォーは、17世紀のペストの流行に関し、ロンドン市長及び

記事を読む

no image
シカゴ

1. シカゴで安全・安い・立地が良いホステル(3つだけ厳選) シカゴ

2026年4月20日 AMRAKの現状認識

◎日本のシステム 線路はJR旅客会社が保有し、JR貨物は「樹液の範

no image
2026年4月20日 ロス發サウスウェストチーフ号の沿線見どころ

サウスウエスト・チーフの線路は、ほぼ全区間が貨物鉄道会社 BNSF(B

AIに聞く USレールパスによるAMTRAK乗車方法

US Rail Pass(USA Rail Pass)を1月19日に購

no image
2026年4月20日 LITTLE TOKYOでの過ごし方 GEMINI回答

1. ビバリーヒルズからリトル東京への移動 公共交通機関を利用する場

→もっと見る

PAGE TOP ↑