*

Quora 「汎化性能」

すべてのデータサイエンティストが知っておくべき、統計学の重要なトピックはなんでしょうか?

個人的には「汎化性能」だと思います。

上の図はその説明でよく用いられるもので、実際には3次多項式にノイズを加えて生成したサンプル(白い円)に多項式フィッティングを行った結果です。3次多項式モデル(赤線)だと全ての円は通らないながらも滑らかで綺麗に全体のトレンドに沿った曲線が描けますが、9次多項式モデル(青線)だとより多くの円を通りながらもぐにゃぐにゃして全体のトレンドに合わない奇妙な曲線を描いてしまいます。

それもそのはずで、3次モデルは程よく真の値(3次多項式に従う)を捉えているのに対して、9次モデルは真の値のみならずノイズにまでフィットしてしまっているからです。この場合、両端(-3 or 3)の外側にまでサンプルを拡張した場合、3次モデルは適切にフィットするであろう一方、9次モデルはあらぬ方向に吹っ飛んでしまって全くフィットしないであろうことが容易に想像できるかと思います。

このように、ノイズに振り回されず程よく全体のトレンドを捉え、適切にまだ見ぬ未知データにうまくモデルを当てはめられる(適切に予測できる)度合いのことを「汎化性能」と呼びます。

統計学とは、「標本抽出(サンプリング)された少ない標本から背後にある(見えない)母集団の性質を推定する営み」だとされます。この定義に従えば、汎化性能を確保することは統計学を統計学たらしめる本質的な要件であるように見えます。

言い換えると、例えばt検定やカイ二乗検定のような仮説検定から重回帰分析のような線形モデル、ロジスティック回帰などの一般化線形モデル、さらには統計的学習の手法に基づく機械学習領域におけるDeep Learningのような高度なモデルであっても全く同じことが言えるということだと思います。

汎化性能を評価する方法は世の中には色々あり、例えばAICのような情報量規準を用いるものや、交差検証によって擬似的に手持ちのサンプルから算出するものもあり、それぞれのシチュエーションに応じて使い分けることが望ましいとされます。

いかなる統計学的な取り組みであれ、汎化性能を確保することは非常に重要であると個人的には考えています。

関連記事

no image

ジャパンナウ2019年9月号原稿「森光子記念館」

著名人の顕彰施設は著名である限りは存続する。問題は経年変化により著名人でなくなった場合である。文化

記事を読む

no image

海外旅行の情報入手手段(米国と中国)

ネット社会であり、旅行業も変わってきているというが、米国商務省資料によれば、米国居住者はネット以上に

記事を読む

no image

ゆきゆきて、神軍

https://youtu.be/OfWHuP0N0Z0

記事を読む

no image

学生への出題2(外国人観光客と外国人移民の違いをのべ、その違いについての評価を論述せよ)の解答への講評

まず違いの前に共通事項を上げる学生がいた。優秀な学生は「国際的な人流である」「訪問国に経済的な利

記事を読む

no image

『貧困と自己責任の中世日本史』木下光夫著 歴史は後から作られるの例

江戸時代の農村は本当に貧しかったのか 奈良田原村に残る片岡家文書、その中に近世農村の家計をき

記事を読む

November 3, 2016   Survey report No.3 on taxi dispatch application and tourism advertisement in New York by Japanese taxi business CEOs

   We visited the New York City Tourism Board.

記事を読む

no image

Nikita Stepanov からの質問

Nikita Stepanov (Saint-Petersburg State Polytechn

記事を読む

Namibia · Windhoek 22 Early morning airport drop-off via Johannesburg to Eswatini

At 4 o'clock, because the lobby is closed, I call

記事を読む

no image

チベット旅行の検討から見えてきたこと。神保町S社と平河町Y社の対応の違い

物流行政をしていたころ、港湾運送事業者が、貿易手続きが複雑なことが自分たちの仕事が存在する理由だとし

記事を読む

2016年2月中東・東アフリカ旅行記2 アンマン

◎ 2月8日~10日 ヨルダン・アンマン① 8日深夜カタール航空で羽田発ドーハ経由アンマンに向

記事を読む

no image
Quora 古代日本語の発音

youtubeで、「百人一首を当時の発音で朗読」という動画を見ました

no image
ヴァーチャル旅行アフリカ篇①総括(LON、DXB、DOH比較)

2020年5月の旅行計画であったが、コロナの影響により中止の判断をし

ヴァーチャル旅行アフリカ篇① マディラ諸島 FNC フィンシャル空港 マディアラ島の月桂樹林(1999年世界遺産)大西洋の真珠

「マデイラワインは、永遠に生き続けるのです」とホテル「ベルモンド・リ

ヴァーチャル旅行アフリカ篇① アゾレス諸島The Azores TERテライズモ、PDLポンタデルガータ

TERテライズモ テルセイラ島 (Terceira)

ヴァーチャル旅行アフリカ編① カナリア諸島自治州  TFN 

テネリフェ島に世界遺産の街「ララグーナ」  テネリフェ島の

→もっと見る

PAGE TOP ↑