Machine Morning

機械学習やWebについて学んだことを記録しています。

数学

標準誤差とは

今回は標準誤差について取り上げる。標準偏差との違いがいまいちわからないという人もいると思うが、これらはまったくの別物であり、推定や検定を理解する上で非常に大切なものである。ただし、ここで扱う標準誤差とはSEM(standard error of the mean)、すな…

テイラー展開からオイラーの等式を導く

世界一美しい等式として有名なオイラーの等式を導出する。 導出の手順は以下の通りである。 、、の多項式近似をテイラー展開で求める。 とを足す。 虚数を指数に導入する。 にを代入する。 まず初めに、、、の多項式近似をテイラー展開で求めると以下のよう…

標本平均の分散はなぜサンプルサイズnで割るのか

標本平均の分散 (ただしは母分散、はサンプルサイズ)がなぜこのような形になっているのか。 結論から言うと、サンプルサイズが大きければ標本平均の分散は0に収束し、標本平均の期待値が母平均に収束するからである。これは大数の法則が主張したいことその…

なぜソフトマックス関数にeを使うのか

ソフトマックス関数はニューラルネットワークにおいてスコア(affine layerから出力された値)を確率に変換する役割を持っている。しかしなぜわざわざを底として累乗するのだろうか。 ソフトマックス関数とは ソフトマックス関数による出力値はニューラルネ…

Multinoulli distribution

Murphyを読んでいたらMultinoulli distributionという言葉が出てきた。ベルヌーイ分布の多次元版かなと思ったら大正解。カテゴリカル分布の別名ということである。Multinoulli distributionに相当する日本語がなかったので、カテゴリ分布と読み替えておけば…