python深度学习笔记

机器学习可以浅显地分为浅层学习和深度学习

浅层学习是决策树和SVM等，也就是西瓜书里的大部分内容，目前最好的浅层学习是梯度提升机，是一种集成的机器学习技术，主要使用XGBoost库；深度学习不是浅层学习的堆叠。梯度提升机主要处理结构化数据的问题，而深度学习主要处理感知问题，使用keras库。

RNN适用于处理序列数据以进行预测，但却受到短期记忆的影响。LSTM和GRU是作为一种使用称为门的机制来缓解短期记忆的痛点而创建的。门结构可以调节流经序列链的信息流。LSTM和GRU正在被用于最先进的深度学习应用，如语音识别，语音合成，自然语言理解等。

GRU的参数量少，减少过拟合的风险

LSTM的参数量是Navie RNN的4倍（看公式），参数量过多就会存在过拟合的风险，GRU只使用两个门控开关，达到了和LSTM接近的结果。其参数量是Navie RNN的三倍

看

LSTM pysam 买书

预测时也应先取在intron的序列。