神经⽹网络与深度学习

N=64*64*3=12288

X y(0 or 1)f(x)X =

2552314222...

⎡

⎣

⎢⎢⎢⎢⎢⎢

⎤

⎦

⎥⎥⎥⎥⎥⎥

（⼆二分类）

构建映射

W =

w1w2w3...

⎡

⎣

⎢⎢⎢⎢⎢

⎤

⎦

⎥⎥⎥⎥⎥

σ(WTX+b) =y

激活函数：将z缩放⾄至(0,1)

⽬目的：找到⼀一个合适的向量量W，使得输⼊入对应的X，能够输出正确的Y (1 or 0)

构建损失函数

约定 样本真实值：y 模型预测值：

损失函数(Loss Function) : L(y, ) ⽤用于衡量量y和 的差别

if y==0if y==1

⼆二分类

最⼩小化损失函数m个样本下的损失函数

梯度下降法学习率(learning rate)

W =

w1w2w3...

⎡

⎣

⎢⎢⎢⎢⎢

⎤

⎦

⎥⎥⎥⎥⎥

对于每⼀一个W1,W2… 都需要⽤用迭代公式优化

迭代公式