要件

• データ生成部分について, 時系列の標準表現を得てから(get_timeseries_normal_representation.py)それに対してトレーニング用データの生成スクリプト(data.py)を適用する形に変更.
• 統計情報を表示するスクリプト(stats.py)を作成
• データの分割方法を複数指定できるように拡張(時間分割, サイト分割の二種類で当面はOK)

実装

• data/ folder以下に実装.
• data/dataname/ folder以下にデータを保存する感じ
• BaseData classを継承した形でdata.pyを実装

要件

• tweet hashtagsとmemetrackerでの実験結果を追加

実装

• ipython notebookに直書き

要件

• データセットを分割して学習データとテストデータを作成する際, strideを入力次元(30)以下の値にすると, n+1番目の入力にn番目の教師(の情報の一部)が少し含まれてしまう.
• bookmarkデータではあまり影響が無いように見えたので放置していたが, さすがにサチり過ぎなので学習が進めば影響が出てくる感じなのかもしれない

実装

• PreprocessingでWebページ抽出の段階でtrainとtestを分ける

note

要件

• CNNやLSTMの基底クラスを作り, 直上ディレクトリに格納する

実装

• 直上ディレクトリをimportする際, ..baseというように双対パスによる指定が出来ないっぽい
• ディレクトリを分けるのをやめるべきな気もする(CNN, LSTM, seq2seqなどを全て同じディレクトリで管理
• keras実装だとモデル定義は1ファイルでできるので問題なさそう

要件

実装

• 重要な変数の可視化
• 決定木の可視化
  • こちらから決定木を指定するのではなく, あるデータについて貢献度の高い決定木であったり, 平均して重要度の高い決定木を自動で発見する仕組みが欲しい

note

• Python XGBoost の変数重要度プロット / 可視化の実装: http://sinhrks.hatenablog.com/entry/2015/08/27/000235 にしたがってやってみる

要件

• multilabel CNNで多次元が同時に正解する確率を求めたい
• そもそも今バグってるっぽいのでそれを直す

実装

• accuracyに多次元同時正解確率を追加する

要件

scikit-learnのGBDTよりXGBoostのほうがよく使われていそうだったのでそちらに変更.

実装

xgboostというライブラリがあるのであるのでそれを使うだけでたぶんok

note

• Python XGBoost の変数重要度プロット / 可視化の実装: http://sinhrks.hatenablog.com/entry/2015/08/27/000235 にしたがってやると良さそう

要件

• 実験をシステマティックにやる
• scikit-learnのcross validationとかgrid searchとかを使う？
• テストデータもリサンプリングされている問題を解決したい

実装

• kerasだとgrid searchとかはラッパーっぽく使えたはず

要件

• train:testの分割で, これまでWebサイト単位で分けていたものを時間で分けたものについても実験する
• より実際の使用シーンに近そうではある

実装

要件

• 学習器としてkNNを追加してベースラインにする

実装

• model/kNN/を作ってそこにコードを置いとく
• コマンドラインから呼べる感じには後でまとめてする
• metricはeuclideanとDTWくらいで
• data_feed的なクラスを作って継承する方がよさげ