2017.12.1 小記

安安：

• 下午載麻麻一起看醫生，毛毛雨地下室停車場不讓死老百姓停車，只好繞一圈再試一次還是不給停，只好停在外面台大空地停車場，也是稍微排隊等車位。
• 脖子正常。
• 看完診麻麻餵奶大便，到廁所換尿布。尿布台有安全帶可以綁住安安，安全。大便有點多，還好沒弄髒洗手台。
• 回家後又大一次。
• 洗完澡又大一次。
• 抱安安。身體濕濕熱熱感覺不妙，果然出現第四次大便。因為已經流出來了所以特別可怕，衣服濕了代表身體背面也是大便，我的腳也沾到大便，好不容易弄完居然想不起來剛剛自己哪邊弄到，衣服不可能呀，肚子沒有大便味道，最後發現是大腿弄到（而且已經變硬了）。

鳥鳥蛇：

• Calculus of Variations
• 緣起：（黑人問號）
• Paper: Attention Is All You Need
• Video: CMU Neural Nets for NLP 2017 (9): Attention.  Link: https://www.youtube.com/watch?v=MhTMgFvoaD8
• 對應的課程: CS 11-747: Neural Networks for NLP. Link: http://phontron.com/class/nn4nlp2017/ 
• Reading Material: Yoav Goldberg, Neural Network Methods for Natural Language Processing (Synthesis Lectures on Human Language Technologies).
• 中間談到 feed-forward neural networks 的 representation power，很容易讓人聯想變分學。
• Tutorial: 
• Introduction to the Calculus of Variations.  Link: http://www-users.math.umn.edu/~olver/ln_/cv.pdf
• 大家很喜歡用 J。就像用 x, y, y^{hat}, θ 一般，都有約定成俗的意義。 
• Neural Language Processing
• 自從有 Goldberg 這本書後，終於知道整個體系大概長怎樣，進而猜測未來可能研究方向，只要任何新想法（例如 Attention Is All You Need），都有機會拿來改進之前的 state-of-the-art，偏偏 Neural Language Processing 問題特別多（應該說各個領域都一樣），只要稍微進步一下就可以把論文丟上來讓大家聞香。
• 論文附程式碼真的是功德無量，我替功德院院長感謝作者。
• 沒有品質的統治者。Link: https://www.facebook.com/professorofpower/videos/522114804824640/