soilwell316p / dezero Goto Github PK

軸を指定して高次元のテンソルに対しても軸の入れ替えを自由にできるようにリファクタする

順伝播が実行されたら、裏で逆伝播が自動で実行されるように心機能を実装してみる。

• インスタンスを呼び出すことなく、Pythonの関数として実装する。
• 逆伝播メソッドの簡略化。
• ndarray だけを使う。

ndarray, int, float などと使えるように演算子を改良する

• 逆伝播時に、中間変数の微分を削除できるよう修正する
• 自動微分をオフにする機能を追加する

Xavierの初期値を使うか、Heの初期値を使うか

#31 の補足

Adam, Adagradを実装してみる

ほかの演算子に対しても同じようなオーバーロードを行う。