selecao3のブログ

技術系の備忘録

2019-06-01から1ヶ月間の記事一覧

誤差逆伝播法についてメモ

何これ 誤差逆伝播法について、なぜ誤差の関数を微分するのかが分からなかったのでメモ なぜ誤差の関数を微分するのか ざっくり言うと誤差(損失関数)を変化量から重みを修正するために微分をしている。 例えば損失関数が下に凸の二次関数の時、その二次関…

DeepLearningモデルメモ

何これ 自作DeepLearningエンジンを作成しているわけだが、ちょっとわけわかんなくなったのでメモ モデルの各概要 skip-gram ターゲットとなる一つの単語から両隣の単語をそれぞれ推測する。 候補の単語が比較的多いので難しい(訓練次第では性能のいいもの…