確率統計

独立同一分布(i.i.d.)に従うってどういうことなんだ

機械学習の解説なんかを読んでいると、不意に独立同一分布(i.i.d.)という単語に出くわすことがあります。i.i.d.をネットでぱっと調べてもいまいちピンと来ず、平岡和幸氏著『プログラミングのための確率統計』 (P.102)を読んで腹落ちし...
確率統計

ベルヌーイ分布とかベータ分布とか

タイトルの確率分布について、ふと気になって調べて見つけた動画のメモです。 ベルヌーイ分布が語られる際に、よく一緒に登場するベータ分布。それらの関係を手短に、わかりやすく解説した玉木先生の講義動画。
機械学習

【機械学習】モデルに最適な乱数シードを選んで性能を上げる

Yoav Goldberg氏原著の訳本『自然言語処理のための深層学習』を一通り読みました。難しくて理解できない箇所もありましたが、自然言語処理×ディープラーニングの話が網羅的に学べてよかったです。 印象に残った箇所について、今後何回かにわた...
Python

categorical_crossentropyとsparse_categorical_crossentropyの違い【Keras】

ニューラルネットワークのライブラリKerasにはいくつかの損失関数が実装されています。 その中に、categorical_crossentropyとsparse_categorical_crossentropyという名前のよく似たものがあり...
Python

【Python】1段ネストされたリストや辞書を要素やvalueに基づいてソートする

1段ネストされたリスト(二重リスト)を内包されるリストの任意のインデックス(今回は1番目)に基づいてソートする方法のメモです。 >>> l = , , , ] >>> sorted(l, key=lambda x: x) , , , ] 内...