Deep-Learning-with-PyTorch-1.3.1

1.3.1 深度学习竞争格局

尽管所有类比都不恰当，但2017年1月发布的PyTorch 0.1似乎标志着从类似于寒武纪爆炸式的深度学习库，包装器和数据交换格式的转变过渡到了整合和统一的时代。

注意：深度学习领域最近发展很快，以至您阅读本文时，它可能已经过时。 如果您不熟悉此处提到的某些库，那很好。

在PyTorch的第一个Beta版本发布时：
1，Theano和TensorFlow是首屈一指的低级库，它们使用的模型可以让用户定义一个计算图然后执行它。
2，Lasagne和Keras是Theano的高级包装，Keras也包装TensorFlow和CNTK。
3，Caffe，Chainer，DyNet，Torch（基于Lua的PyTorch的前身），MXNet，CNTK，DL4J等填充了生态系统中的各个领域。

在随后的大约两年中，形势发生了巨大变化。 随着其他库的采用逐渐减少，该社区在PyTorch或TensorFlow的背后大体上得到了巩固，除了那些填补特定功能的人。 简而言之：

1、Theano是最早的深度学习框架之一，已停止积极发展。

2、TensorFlow：

（1）完全消耗了Keras，将其提升为一流的API

（2）提供了一种立即执行的“动态图模式”，与PyTorch进行计算的方式有些相似

（3）默认情况下以动态图模式发布了TF 2.0

3、由Google开发的，独立于TensorFlow的库JAX，已开始受到与GPU，autograd和JIT功能等效的NumPy的吸引力

4、PyTorch：

（1）消耗了Caffe2作为后端

（2）替换了基于Lua的Torch项目中重复使用的大多数低级代码

（3）增加了对ONNX的支持，这是一种与供应商无关的模型描述和交换格式

（4）添加了称为TorchScript的延迟执行“图形模式”运行时

（5）发布1.0版

（6）取代CNTK和Chainer作为各自企业赞助商的首选框架

TensorFlow拥有鲁棒性的生产通道，广泛的行业范围社区和广泛的思维共享。 由于PyTorch的易用性，PyTorch已在研究和教学社区中取得了长足的发展，并且自从研究人员和毕业生培训学生并进入行业以来，其发展势头强劲。 就生产解决方案而言，它也积累了人气。 有趣的是，随着TorchScript和动态图模式的问世，PyTorch和TensorFlow都已经看到它们的功能集开始相互融合，尽管这些功能的呈现方式和整体体验在两者之间仍然存在很大差异。