今年(2016)参考にさせてもらったChainerの論文実装、サンプルコード集
去年書いたサンプルコード集の2016年版です。
個人的な興味範囲のみ集めているので網羅的では無いとは思います。
基本的に上の方が新しいコードです。
QRNN(Quasi-Recurrent Neural Networks)
論文ではchainerを使って実験しており、普通のLSTMはもちろんcuDNNを使ったLSTMよりも高速らしい。
一番下にchainer実装コードが埋め込まれている。
New neural network building block allows faster and more accurate text understanding
[1611.01576] Quasi-Recurrent Neural Networks
Softmaxなどに要している時間を除き純粋にRNN部だけで比較すると相当速くなっているのがわかる。
このように実験でchainerが使われている研究論文が徐々に増えているらしい。
EBGAN(Energy-Based Generative Adversarial Network)
chainerでEBGAN(Energy-Based Generative Adversarial Network)を実装した - Monthly Hacker's Blog
[1609.03126] Energy-based Generative Adversarial Network
NStepLSTM(cuDNN版RNN)のサンプル
DNC (Differentiable Neural Computers)
DNC (Differentiable Neural Computers) の概要 + Chainer による実装 - Qiita
WaveNet
GitHub - monthly-hack/chainer-wavenet: A Chainer implementation of DeepMind's WaveNet paper
GitHub - musyoku/wavenet: Chainer implementation of Deepmind's WaveNet
VAE(Variational AutoEncoder)
VAEはchainer公式サンプルもありますが、解説付きのこちらの方がわかりやすいです。
Semi-Supervised Learning with Deep Generative Models [arXiv:1406.5298] – ご注文は機械学習ですか？
[1406.5298] Semi-Supervised Learning with Deep Generative Models
Combining Markov Random Fields and Convolutional Neural Networks for Image Synthesis
去年流行ったゴッホっぽくスタイルを変換できるやつの別手法らしいです
Convolutional Neural Networkを使ったもう1つのスタイル変換手法 - Qiita
adversarial autoencoder (AAE 敵対的)
GitHub - musyoku/adversarial-autoencoder: Chainer implementation of adversarial autoencoder (AAE)
Adversarial AutoEncoderで半教師あり学習 – ご注文は機械学習ですか？
Adversarial Autoencoders [arXiv:1511.05644] – ご注文は機械学習ですか？
lda2vec
Ladder Networks
Residual Learning(ResNet)
chainer-cifar10/ResNet.py at master · mitmul/chainer-cifar10 · GitHub
