2018/12/03 - 2018/12/09

[ampcpmgp]

学習 📚

• 18 Tips for Training your own Tensorflow.js Models in the Browser を読んだ。
  • Tensorflow.js の可能性とその問題点、その対応策が述べられている。
  • 小さなモデルを意識して作ろう。
    • 100MBのモデルを、ブラウザがダウンロードするのは現実的ではない。
    • 1レイヤーを平たく大きくするのではなく、小さくし層を増やして精度を上げることで、処理スピード・モデル容量を減らせる。
  • Yolo, SSD のような実績のあるネットワークアーキテクチャを使うことが良いとされているが、それらを参考に、まずは小さなネットワークアーキテクチャを作ることを推奨する。
  • 活性化関数は迷ったらReluを使おう。
  • オプティマイザで迷ったらAdamを使おう。
  • 損失値が振れ始めて下がらなくなったら、学習率をさらに下げよう。精度が上がることがある。
  • 学習済みモデルのチェックポイント記録は FileSaver.js がおすすめ。
  • 入力データの前処理と後処理ロジックはユニットテストを書いたほうが良い。
    • ゴミデータを渡すとゴミデータが生成され、１晩学習させても何も進まない。
  • 独自の損失関数を作った場合は、ユニットテストを必ず書こう。
  • メモリリークには気を付けよう。
    • tf.dispose() / tf.tidy を利用する。
    • tf.memory() でメモリ利用量を確認できる。
  • 訓練データはindexedDBに格納すると良さそうだ。
    • 訓練データはおそらく1GB以上になる。それを配信するサーバーを作るのも手だが、明らかに効率が悪い。

仕事 💼

• electronツールの作成。画像データをひたすら取得して画面に表示するツールを作っていたが、img srcを頻繁に切り替えるとメモリリークすることが発覚。 参考URL。
  • こちらの手法 を参考に直してみたが、改善されなかった。
  • 上記の不具合、 electron で developer tools を開いている時のみ起きる。閉じると起きないことがわかった。謎。
• am-mocktimes のパターン作成で、 electron 向けに対応。 開発がかなりしやすい。
  • starter-kitを作成した。

ライフハック 🏡

• 前週同様L-ドーパ含有製品を摂取すると、進捗無しの焦燥感が多少落ち着いているような感覚がある。心臓の鼓動を抑える手法も別軸で行っていて、そっちのほうが効果が高いかもしれない。引き続きこの手法で人生を進めていく。
• 飲み会後に学習のパフォーマンスが大きく落ちることを改善したい。飲まない選択肢も今後視野に入れていくが、飲み会後に大量の水分＋ビタミンCを飲んで改善しないか試したい。

人生 🧙‍♂️

• 将棋で上位0.7%程度にいる人に、我流でdisられることを相談。（自分は上位3%程度）
  • もらえた発言
    • 「王道ってのは応用のきく幅が広い。」
    • 「ハマれば我流の方が強い。」
    • 「王道の真似事だけして、その意図を理解していない人ならば、頑張って考えた悪手のほうが強い」
  • 我流全てが悪いのではなく、その一部分を修正するだけでも効果があるもの。王道の真似事だけして我流をdisる人は本質では無いことを再確認。ITに通じる部分があると考えている。王道流の良い点を、ひたすら吸収していき、自分らしい新しい仕組みを作っていきたい。

趣味 💞

• DBD で、AIで動くキラーを作成するため実践学習中。（出来るかどうか不明だが、出来るところまで）
  • 30ms 程度の遅延でwindowsのスクリーン画像を取得し、node.js側に送信出来た。多少遅れるのがわかるが、大きな問題にはならなさそう。
  • tfjs - simple object detection を魔改造して、dbdの物体検知を行えるか実践中。以前に行ったCNNや転移学習を再学習しつつ。来週も引き続き行う。開発はelectron上で行っていて、 tfjs-node は使わず browser向け tfjs を利用。 tfjs-node-gpu を使いたかったが CUDA のインストールではまったため、webGLを利用する方針に転換した。

イベント 🎟

• 前の会社の人と忘年会