Layup方案总结
2020-04-06 本文已影响0人
CPinging
简单记录一下阅读的这篇文章。
方案简述
1 根据阈值划分不同层。分为计算敏感型与迁移敏感型。
2 复用中间数据
- 滑动窗口方案
- 卷积空间与cuDNN空间复用
image.png
3 总流程
image.png
DNN中间数据
image.png
测试
-
1 测试对照组
image.png
image.png
- 2 与vDNN与Layrub对比
image.png
- 3 与SuperNeurons比较
image.png
- 4 与模型并行进行比较
image.png
- 5 内存方面比较
layup在Resnet1001中从76GB-->6GB
image.png
