用Python实现深度学习框架

图书信息

作者	张觉非 陈震 著
出版社	人民邮电出版社有限公司
ISBN	9787115548375
出版时间	2020-10-01
字数	22.8万
分类	科技,计算机,网络,程序设计

读书简介

本书带领读者用原生Python语言和Numpy线性代数库实现一个基于计算图的深度学习框架MatrixSlow（类似简易版的PyTorch、TensorFlow或Caffe）。全书分为三个部分。*部分是原理篇，实现了MatrixSlow框架的核心基础设施，并基于此讲解了机器学习与深度学习的概念和原理，比如模型、计算图、训练、梯度下降法及其各种变体。

目录

前言

内容概览

读者对象

代码资源

致谢

第一部分 原理篇

第 1 章 机器学习与模型

1.1 模型

1.2 参数与训练

1.3 损失函数

1.4 计算图的训练

1.5 小结

第 2 章 计算图

2.1 什么是计算图

2.2 前向传播

2.3 函数优化与梯度下降法

2.4 链式法则与反向传播

2.5 在计算图上执行梯度下降法

2.6 节点类及其子类

2.7 用计算图搭建ADALINE并训练

2.8 小结

第 3 章 优化器

3.1 优化流程的抽象实现

3.2 BGD、SGD和MBGD

3.3 梯度下降优化器

3.4 朴素梯度下降法的局限

3.5 冲量优化器

3.6 AdaGrad优化器

3.7 RMSProp优化器

3.8 Adam优化器

3.9 小结

第二部分 模型篇

第 4 章 逻辑回归

4.1 对数损失函数

4.2 Logistic函数

4.3 二分类逻辑回归

4.4 多分类逻辑回归

4.5 交叉熵

4.6 实例：鸢尾花

4.7 小结

第 5 章 神经网络

5.1 神经元与激活函数

5.2 神经网络

5.3 多层全连接神经网络

5.4 多个全连接层的意义

5.5 实例：鸢尾花

5.6 实例：手写数字识别

5.7 小结

第 6 章 非全连接神经网络

6.1 带二次项的逻辑回归

6.2 因子分解机

6.3 Wide & Deep

6.4 DeepFM

6.5 实例：泰坦尼克号幸存者

6.6 小结

第 7 章 循环神经网络

7.1 RNN的结构

7.2 RNN的输出

7.3 实例：正弦波与方波

7.4 变长序列

7.5 实例：3D电磁发音仪单词识别

7.6 小结

第 8 章 卷积神经网络

8.1 蒙德里安与莫奈

8.2 滤波器

8.3 可训练的滤波器

8.4 卷积层

8.5 池化层

8.6 CNN的结构

8.7 实例：手写数字识别

8.8 小结

第三部分 工程篇

第 9 章 训练与评估

9.1 训练和Trainer训练器

9.2 评估和Metrics节点

9.3 混淆矩阵

9.4 正确率

9.5 查准率

9.6 查全率

9.7 ROC曲线和AUC

9.8 小结

第 10 章 模型保存、预测和服务

10.1 模型保存

10.2 模型加载和预测

10.3 模型服务

10.4 客户端

10.5 小结

第 11 章 分布式训练

11.1 分布式训练的原理

11.2 基于参数服务器的架构

11.3 Ring AllReduce原理

11.4 Ring AllReduce架构实现

11.5 分布式训练性能评测

11.6 小结

第 12 章 工业级深度学习框架

12.1 张量

12.2 计算加速

12.3 GPU

12.4 数据接口

12.5 模型并行

12.6 静态图和动态图

12.7 混合精度训练

12.8 图优化和编译优化

12.9 移动端和嵌入式端

12.10 小结

作者简介

看完了