その他

言語処理学会の年次大会(NLP2019)に参加しました。

先週は言語処理学会の年次大会(NLP2019)を見に行ってきました。 平日開催で仕事と重なっていた為、一部しか参加できなかったですが、専門家の方々の熱意ある発表を聞けて勉強になりました。 参加費18000円と新幹線代の価値はあったと思います...
確率統計

独立同一分布(i.i.d.)に従うってどういうことなんだ

機械学習の解説なんかを読んでいると、不意に独立同一分布(i.i.d.)という単語に出くわすことがあります。i.i.d.をネットでぱっと調べてもいまいちピンと来ず、平岡和幸氏著『プログラミングのための確率統計』 (P.102)を読んで腹落ちし...
確率統計

ベルヌーイ分布とかベータ分布とか

タイトルの確率分布について、ふと気になって調べて見つけた動画のメモです。 ベルヌーイ分布が語られる際に、よく一緒に登場するベータ分布。それらの関係を手短に、わかりやすく解説した玉木先生の講義動画。
機械学習

【機械学習】モデルに最適な乱数シードを選んで性能を上げる

Yoav Goldberg氏原著の訳本『自然言語処理のための深層学習』を一通り読みました。難しくて理解できない箇所もありましたが、自然言語処理×ディープラーニングの話が網羅的に学べてよかったです。 印象に残った箇所について、今後何回かにわた...
Python

categorical_crossentropyとsparse_categorical_crossentropyの違い【Keras】

ニューラルネットワークのライブラリKerasにはいくつかの損失関数が実装されています。 その中に、categorical_crossentropyとsparse_categorical_crossentropyという名前のよく似たものがあり...