2.1.1向量空间
点空间中的每一个点与向量就建立了一一映射。因为向量与
点之间的这种一一映射关系，可以把向量转化成几何空间中
实在的点，利用点空间的方法来处理向量，这样处理就更加
直观；或者把点空间的概念和方法推P 广 到p1,向p2量T 中，例如：借
助几何中点空间的思路，我们把点空间的概念推广到向量中，
s
r
p bj p ai bj log p ai bj
j1
i1
sr
p ai bj log p ai bj j1 i1
21 of 44
全国高校标准教材《云计算》姊妹篇，剖析大数据核心技术和实战应用
第二章 深度学习的数学基础
2.1 线性代数 2.2 概率与统计 2.3 多元微积分


n

Px
i
Pi

i1 i1
i1
14 of 44
2.2概率统计
2.2.2贝叶斯理论
第二章 深度学习的数学基础
P
P X x,i P X x i Pi
P X x i Pi
Px i Pi
X x i
4 of 44Leabharlann .1线性代数2.1.1向量空间
第二章 深度学习的数学基础
5 of 44
2.1线性代数
2.1.1向量空间
第二章 深度学习的数学基础
6 of 44
2.1线性代数
2.1.1向量空间
第二章 深度学习的数学基础
7 of 44
2.1线性代数
2.1.2矩阵分析
第二章 深度学习的数学基础
8 of 44
11 of 44
2.2概率统计
2.2.1概率与条件概率
第二章 深度学习的数学基础
12 of 44
2.2概率统计
2.2.1概率与条件概率
第二章 深度学习的数学基础
13 of 44
2.2概率统计
2.2.2贝叶斯理论
第二章 深度学习的数学基础
P
X

x

P

n

xi


n
P xi
x x0 , y0
xz x0 x
f x0 x, y0 f x0 , y0
x0
x
27 of 44
2.3多元微积分
2.3.2梯度和海森矩阵
第二章 深度学习的数学基础
28 of 44
2.3多元微积分
2.3.2梯度和海森矩阵
第二章 深度学习的数学基础
2 f x x12 2 f x
2.3多元微积分
2.3.3最速下降法
第二章 深度学习的数学基础
30 of 44
2.3多元微积分
2.3.3最速下降法
最速下降算法的流程图
初始化参数
计算梯度▽f(x)
判断算法 是否结束
是
否 计算步长dk
计算下一个迭代点xk+1
31 of 44
第二章 深度学习的数学基础
判断▽f(x) 是否等0
是
输出解
高级大数据人才培养丛书之一，大数据挖掘技术与应用
深度学习 BIG DATA
刘 鹏 张 燕 总主编 刘鹏 主编
赵海峰 副主编
全国高校标准教材《云计算》姊妹篇，剖析大数据核心技术和实战应用
第二章 深度学习的数学基础
2.1 线性代数 2.2 概率与统计 2.3 多元微积分
2 of 44
2.1线性代数
第二章 深度学习的数学基础
P X x
PX x
n
P X x i Pi
n
Px i Pi
i1
i1
15 of 44
2.2概率统计
2.2.2贝叶斯理论
第二章 深度学习的数学基础


x

h x, m x

f x
f x d
否
结束
2.3多元微积分
2.3.3最速下降法
第二章 深度学习的数学基础
32 of 44
2.3多元微积分
2.3.4随机梯度下降算法
第二章 深度学习的数学基础
33 of 44
2.3多元微积分
2.3.4随机梯度下降算法
随机梯度下降算法的的流程图
初始化
第二章 深度学习的数学基础
判断算法 是否结束
是
否 生成随机数r
2.2概率统计
2.2.2信息论基础
第二章 深度学习的数学基础
rs
H XY p ai,bj log p ai,bj i1 j1
20 of 44
2.2概率统计
2.2.2信息论基础
第二章 深度学习的数学基础
s
H X Y p bj H X Y bj j1
y x

lim
x0
y f x0x f x0
x
25 of 44
2.3多元微积分
2.3.1导数和偏导数
常见函数的导数 序号
1
0
2
3
4
序号 5 6 7 8
26 of 44
第二章 深度学习的数学基础
2.3多元微积分
2.3.1导数和偏导数
第二章 深度学习的数学基础
lim lim z
22 of 44
2.3多元微积分
2.3.1导数和偏导数
第二章 深度学习的数学基础
23 of 44
2.3多元微积分
2.3.1导数和偏导数
第二章 深度学习的数学基础
P
P
P
Px00
x0+x
x0+x
x0+x
24 of 44
2.3多元微积分
2.3.1导数和偏导数
第二章 深度学习的数学基础
lim
x0
判断▽f(wk) 是否等0
是 否
输出解
计算梯度▽fr(wk) 计算步长dk
结束
计算下一个迭代点wk+1 34 of 44
2.3多元微积分
2.3.4随机梯度下降算法
第二章 深度学习的数学基础
35 of 44
习题：
1．请验证V = {0}和V = Rn是向量空间。 2．请证明V ={ λ =( 1, x2, x3,.., xi ,.., xn ) , xi ∈R} 是向量空间。 3．证明：定义域在D上的所有实函数在通常的函数加法和数乘运算下对实数域形成 向量空间。 4．请验证实数域中m × n阶矩阵的集合关于矩阵加法形成线性空间。 5．根据经验，某型机械设备能用10 年的概率是0.85，正常工作能超过15 年事件的 概率是0.6。现今有一该型设备已经用了10 年，请问其能再工作5 年的概率是多少？ 6．从一副新扑克牌中随意抽取一张，若已知某次抽取的牌是红心，求这张牌是红 心4 的概率是多少？ 7．假设一信源只发送26 个英文字母，并且每个字母都是等概率地发送，则求每个 发送符号包含的信息量和信源的信息熵。 8．大数据、云计算、人工智能之间有什么关系？ 9．现有一黑箱，其中有红球10 个，绿球20，蓝球40 个。每一次取出一个球，若 取出是红球，则通过电报发送字母R；若取出是绿球，则用电报发送字母G；若取出 的球是蓝球，则用电报发送字母B；请计算发送R、G、B 的信息量和该电文的熵。
2.1线性代数
2.1.2矩阵分析
第二章 深度学习的数学基础
9 of 44
全国高校标准教材《云计算》姊妹篇，剖析大数据核心技术和实战应用
第二章 深度学习的数学基础
2.1 线性代数 2.2 概率与统计 2.3 多元微积分
10 of 44
2.2概率统计
2.2.1概率与条件概率
第二章 深度学习的数学基础
就形成向量空间。
OP
Y轴
O 0, 0 X 轴
3 of 44
2.1线性代数
第二章 深度学习的数学基础
2.1.1向量空间
直观上，空间是一个几何的概念，但本质上，空间是由数据 的运算规则确定的。数学上，空间不仅意味着定义了集合、 集合成员、集合元素的运算及其运算规律；并且所有集合元 素（即运算对象）按照这些运算规律运算后，运算结果仍然 属于这个集合，即运算具有封闭性。空间就是由某些运算规 则规定下形成的封闭集合，集合中的元素无论如何运算，结 果仍然在该集合中。直观地看，就像密闭箱中的气体分子， 无论如何运动都超不出箱体的范围。

m x h x, d f x d


h x, f x
16 of 44
2.2概率统计
2.2.2贝叶斯理论
第二章 深度学习的数学基础
ˆ E
x



x
h x, d f x d
深度学习世界
微信号：dl-world
云创大数据订阅号
微信号：cStor_cn
云创大数据服务号
微信号：cstorfw
高校大数据与人工智能
微信号：data_AI
手机APP推荐
我的PM2.5
随时随地准确 查看身边的 PM2.5值
同声译
支持26种语言 互译的实时翻 译软件
我的南京
云创大数据为路 况大数据应用提 供技术支持
d mx
f x d

17 of 44
2.2概率统计
2.2.2信息论基础
第二章 深度学习的数学基础
18 of 44
2.2概率统计
2.2.2信息论基础
第二章 深度学习的数学基础
r
H X p ai log2 p ai i1 19 of 44