扫码咨询与免费使用
1 流行深度学习框架比照
现如今的开发软件基本上全是分层次化和智能化的，网络层开发设计会根据框架层。例如开发设计Linux Driver会根据Linux kernel，开发设计Android app会根据Android Framework。深度学习也是如此，框架层为顶层实体模型开发设计带来了强有力的多语言表达插口、平稳的运行时、高效率的算子，及其完备的通讯层和设备层高管。因而，各大企业很早的就开始了深度学习框架的产品研发，便于能抢占市场。现阶段的框架有数十种之多，流行的如下所示（截止到2018年11月）
显而易见TensorFlow是独一无二的霸者。第二名Keras，它是对TensorFlow或Theano插口的二次封装形式，严苛的意义上并没有一个单独的深度学习框架。TensorFlow现阶段也早已集成化了Keras，促使安裝了TensorFlow的客户就可以立即应用Keras了。
TensorFlow往往可以从数十种框架中出类拔萃，关键特点有
才华出众，是Google推出的。但别的许多框架出生都不差，例如PyTorch对于Facebook，MXNET之于A ** zon2015年就开源系统了，较为早的虏获了一大批开发人员。这一的确是tf的一大先给优点，但PyTorch的其前身Caffe，及其MXNET开源系统時间也不晚，并且Caffe时兴時间比tf早，之后才被超越的。更有Theano那样的肯定老一辈。不难看出，手机软件开源系统是多么的关键。现阶段盛行的深度学习框架也几乎都开源系统了。支持的编程语言多，支持Python Java Go C 等多种多样流行语言。对比一些框架，的确是优点非常大。对比MXNET则小巫见大巫了。MXNET初期发展趋势的一个关键方位便是前面多语言的支持，连MATLAB R Julia等语言表达都支持了。运行高效率。初期的情况下，实际上tf的运行高效率比许多框架都需要低一些的。安裝非常容易，客户上手简单，文本文档齐备，小区活跃性。这个是tf的一个比较大优点，尤其是小区层面，也就是人们常说的绿色生态优点。互联网技术头顶部集中化效用十分显著，反映在开源项目上也是一样。这也是我们觉得最高的一个优点。汇总起來，TensorFlow尽管每一个层面都没有肯定领跑的优点，但重在每一个层面都做的非常好，因而最后可以一骑绝尘，独领 ** 。
学习培训Tensorflow框架核心，可以了解前面插口语言表达的支持，session生命期，graph的搭建、瓦解和实行，operation的注册账号和运行，控制模块间数据通讯，当地运行和分布式系统运行方式，及其CPU GPU TPU等异构体机器设备的封装形式支持等。学习培训这种，针对实体模型的缩小 加快 提升等全是大有益处的。
2 TensorFlow系统架构图TensorFlow设计方案十分精致，根据分层次和智能化的设计方案观念开展研发的。框架如下图
全部框架以C API为界，分成前端和后端两绝大多数。
前面：给予程序编写实体模型，多语言的插口支持，例如Python Java C 等。根据C API创建前后左右端联接，后边详尽解读。后面：给予运行自然环境，进行计算图的实行。进一步分成4层运行时：分为分布式系统运行时和当地运行时，承担计算图的接受，结构，编辑等。测算层：给予各op算子的核心完成，例如conv2d, relu等通讯层：完成部件间数据通讯，根据GRPC和RDMA二种通信方式设备层：给予多种多样异构体机器设备的支持，如CPU GPU TPU FPGA等实体模型结构和实施步骤TensorFlow的一大特性是，图的结构和实行相分离。客户加上完算子，搭建好整图后，才逐渐开始开展培训和实行，也就是图的执行。大致步骤如下所示
图搭建：客户在client中根据TensorFlow的多编程语言插口，加上算子，进行计算图的结构。图传送：client打开session，根据它创建和 ** ster中间的联接。实行session.run()时，将结构好的graph实例化为graphDef后，以protobuf的格式传送给 ** ster。图修枝： ** ster依据session.run()传送的fetches和feeds目录，反方向解析xml高清图full graph，执行修枝，获得最少依靠子图图瓦解： ** ster将最臭小子图瓦解为好几个Graph Partition，并申请注册到好几个worker上。一个worker相匹配一个Graph Partition。图二次瓦解：worker依据现阶段可以用硬件平台，如CPU GPU，将Graph Partition依照op算子机器设备管束标准（例如tf.device('/cpu:0')，二次瓦解到不一样机器设备上。每一个测算机器设备相匹配一个Graph Partition。图运行：针对每一个测算机器设备，worker按照op在kernel中的完成，进行op的计算。机器设备间数据通讯可以应用send/recv连接点，而worker间通信，则应用GRPC或RDMA协议书。3 前面多语言表达完成 - swig包裝器TensorFlow给予了很多语种的前面插口，促使客户可以根据多语种来进行实体模型的锻炼和推论。在其中Python支持得最好是。这也是TensorFlow往往火爆的一大缘故。前面多语言表达是怎么完成的呢？这要得益于swig包裝器。
swig是个协助应用C或是C 撰写的手机软件能与其他各种各样高級计算机语言开展嵌 ** 接的开发环境。在TensorFlow应用bazel编译程序时，swig会转化成2个wrapper文件
pywrap_tensorflow_internal.py：连接顶层Python启用http://pywrap_tensorflow_internal.cc：连接最底层C API启用。pywrap_tensorflow_internal.py 控制模块被导进时，会载入_pywrap_tensorflow_internal.so动态链接库，它里边包括了全部运行时插口的标记。而http://pywrap_tensorflow_internal.cc中，则申请注册了一个函数公式符号表，完成Python插口和C端口的投射。运行时，就可以根据投射表，寻找Python插口在C层的达到了。
4 tensorflow 源代码构造TensorFlow源代码基本上也是依照框架分层次来机构文档的。如下所示
在其中core为tf的关键，它的源代码构造如下所示
5 汇总TensorFlow框架设计方案精致，编码量也非常大，我们可以从下列一部分逐渐学习培训
TensorFlow核心构架和源代码构造。先从整体上对框架开展了解。前后左右端联接的公路桥梁--Session，关键了解session的生命期，并根据有关源代码可以加重了解Python前面怎样启用最底层C完成。TensorFlow关键目标—Graph。图graph是TensorFlow最主要的目标，基本上全是紧紧围绕着它来开展的。graph的连接点为算子operation，边为数据信息tensor。TensorFlow图的连接点 -- Operation。operation是图graph的节点，承重了测算算子。TensorFlow图的边 -- Tensor。Tensor是图graph的边，承重了测算的数据信息。TensorFlow当地运行时。TensorFlow分布式系统运行时。和当地运行时有一些同用的插口，但差别也非常大。TensorFlow设备层。关键掌握设备层的界定标准，及其完成。TensorFlow序列和并行处理计算。TensorFlow中断点查验checkpoint，实体模型储存Saver，及其数据可视化tensorboard。这三个为TensorFlow关键的专用工具。文中创作者：扬易
全文连接
大量技术性干货知识敬请期待云栖社区知乎机构号：阿里云服务器云栖社区 - 知乎问答
文中为云栖社区原創內容，没经容许不可转截。
扫码咨询与免费使用
申请免费使用