*

Quora 「汎化性能」

公開日: : 最終更新日:2023/05/29 出版・講義資料

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

渡辺惣樹著『第二次世界大戦 アメリカの敗北』

対独戦争をあくまで回避するべきと主張したチェンバレンら英国保守層 対独戦争は膨大な国力を消費し、アメ

記事を読む

no image

江戸時代の交通事故

交通事故は、自動車の登場以前にもあった。江戸時代にも、大八車や牛車、馬車などの“クルマ”があったか

記事を読む

no image

『AI言論』西垣通 神の支配と人間の自由

人間を超越する知性  宇宙的英知を持つ機械など人間に作れるか 人間は20万年くらい前に生物進

記事を読む

no image

観光立国から経済立国へ Recommendations with Respect to U.S.Policy toward Japan(NSC13/2)

この翻訳テキストは、細谷千博他『日米関係資料集1945~97』(東京大学出版会,1999)<当館

記事を読む

no image

「米中関係の行方と日本に及ぼす影響」高原明生 学士會会報No.939 pp26-37

金日成も金正日も金正恩も「朝鮮半島統一後も在韓米軍はいてもよい」と述べたこと  中国支配を恐れてい

記事を読む

『日本車敗北』村沢義久著  アマゾンの手厳しい書評

車の将来の議論の前提に、地球温暖化への見解 ガソリン車 電気自動車 エンジンではな

記事を読む

no image

ジャパンナウ観光情報協会機関紙138号原稿『コロナ禍に一人負けの人流観光ビジネス』

 コロナ禍でも、世界経済はそれほど落ち込んでいないようだ。PAYPALによると、世界のオンライン

記事を読む

no image

動画で考える人流観光学帝国ホテル等に見る「住と宿の相対化」

  https://youtu.be/21llSPlP5eQ https://yo

記事を読む

no image

山泰幸『江戸の思想闘争』

社会の発見 社会現象は自然現象と未分離であるとする朱子学に対し、伊藤仁斎は自然現象

記事を読む

『天安門事件を目撃した日本人たち』

天安門事件に関する「藪の中」の一部。日本人だけの見方。中国人や米国人等が作成した同じような書籍があ

記事を読む

no image

1. シカゴで安全・安い・立地が良いホステル(3つだけ厳選) シカゴ

2026年4月20日 AMRAKの現状認識

◎日本のシステム 線路はJR旅客会社が保有し、JR貨物は「樹液の範

no image
2026年4月20日 ロス發サウスウェストチーフ号の沿線見どころ

サウスウエスト・チーフの線路は、ほぼ全区間が貨物鉄道会社 BNSF(B

AIに聞く USレールパスによるAMTRAK乗車方法

US Rail Pass(USA Rail Pass)を1月19日に購

no image
2026年4月20日 LITTLE TOKYOでの過ごし方 GEMINI回答

1. ビバリーヒルズからリトル東京への移動 公共交通機関を利用する場

→もっと見る

PAGE TOP ↑