摘自 《基于深度学习的自然语言处理》 简单RNN (S-RNN)对序列中元素顺序敏感的最简单的RNN形式称为Elman RNN或者简单RNN(S-RNN), S-RNN由Elman[1990]提出， 并由Mikolov[2012]用于探索在语言模型中的应用。在其递归函数R里，状态si-1 和输入xi分别线性变换， 结果相加(连同一个偏置项)， 然后通过一个非线性的激活函数g(通常是tanh或者ReLU)。确定性函数O：位置i的输出与
摘自 《基于深度学习的自然语言处理》 梯度消失与梯度爆炸在深层网络中，因为梯度通过图反向传播回来，错误梯度是非常常见的， 要么梯度消失(变得非常接近0)，要么梯度爆炸(变得非常高)。在更深的网络中，这个问题变得更加严重，尤其是在递归和RNN中。处理梯度消失问题仍然是一个开放的研究问题。 解决办法有让网络变浅，逐步训练使用Batch-normalization方法，或者使用特定的结构去帮助梯度流动(如LSTM和GRU)。处理梯度爆炸有
仁川机场，坐在我们对面的老夫妇，一边吃汉堡一边开心的聊天，老奶奶深灰色的头发蓬松的很好看，用过餐后老奶奶拿出粉饼和口红补好妆，牵着老爷爷的手走了。我和同行的朋友 同时感叹了一句：好精致啊~ 购物篇我们这次因为时间有限，所以把所有时间都花在了shopping上，护肤品，彩妆，衣服，鞋子，面膜，奢饰品，小电器，IQOS，全部可以买到，除非你要买的是断货王。 购物一般不需要起早，明洞乐天免税店十一点才开门，建议先去十楼办张临时金卡，如
飞机还没落地之前，路过笔直的海岸线，俯瞰蓝色的海水，白色的沙滩和棕色的小人儿，还有可以用灿烂来形容的阳光，一瞬间就把我200度的近视眼治愈了… 这就是我对普吉的第一印象。 Go to the beach!!想要完全进入放松状态，就去海滩!! 因为行程的原因，我们去了三个海滩 Kamala Beach离FantaSea主题公园比较近，周围民宿很多，海鲜烧烤也很多。 Patong Beach离江西冷购物商场和夜市都不远， 外国
Get started It’s quite easy to start developing a Wechat Mini Program following below tutotial. Developers.Wechat.Tutorial - The official tutorial If you do it right, you have the development tool and an Mini Program
整份的PEP8指南在这里 为了自己能记下重点，和方便以后查找，在这里简单分享一下，一些Python coding时必须要遵守的规则。 每一层缩进用四个空格，而不用tab 每行字符不超过79 函数和类之间用两个空行隔开 在同一个类中每个方法之间用一个空行隔开 为变量赋值时，赋值符号左右两侧各写一个空格 函数，变量和属性应用小写，各单词间用下划线，eg. lowercase_underscore 受保护的实例属性，以单个下划线开头 私
If you want to maintain an ordered dictionary with json file in Python, this post might help. 1. Ordered DictionaryAs we known, Python dictionaries are unordered, but we got OrderedDict. First of all, we have to use th
解析bugreport，根据不同的log分析Android重启的原因 1. Normal reset这种情况是最简单的，我们可以查看LAST_KMSG的最后一行，就可以得到相应的重启原因。1Restarting system with command: *** 如果为空，原因应为 adb reboot 如果是 bootloader， 原因应为 fastboot reboot 如果是其他明确的command， 可以按字面意思理解其原
基于Android 8.0源码，分析InputManagerService给Physical Keyboard 设置Keyboard Layout(KL)的具体过程。 123456789101112131415161718192021222324frameworks/native/services/inputflinger/ - InputDispatcher.cpp - InputReader.cpp - InputMana
组成Android Vendor Test Suite 包含三部分： VTS， VTS-*， VTI VTS VTS 是Android Vendor 接口的一致性测试套件， Android Vendor接口即VINTF， 它相应的Object Data 被定义在device manifest 中. Refer to VINTF Object Data Link VTS- * VTS- 包括可选的非功能测试和测试用例开发工具。VTS
Be humble, sit down..