1.梯度下降在什么情况运用？
①在深度学习中，构建模型时，需要寻求全局最优解时运用。
②但是由于梯度下降在出现鞍点的情况无法进行迭代，寻求最优解，故引入随机梯度。
③随机梯度指的是在N个样本中随机挑选一个进行梯度下降计算。
④在神经网络的过程中，需要考虑到性能和时间，因为梯度下降的性能低，但时间耗费页低，此时的随机梯度呈现相反的状态，
为了更好的综合二者的优缺点，引入batch批量随机梯度下降算法。
⑤需要注意的是，梯度下降的f(x)与f(x+1)不存在依赖关系，而随机梯度下降g(x)与g(x+1)是存在依赖关系的.
2.随机梯度如何迭代权重(w)？
①在一般情况的时候，进行前向反馈，一步一步进行计算，计算最后的loss(损失函数)，再通过对每一步的函数进行偏导数，从而
计算出对应的w，此时算出的w就是新的权重，只需要更新现在计算出来的值。
3.随机梯度的目的是什么？
整个随机梯度的目的就是为了对w(权重)，进行更新，最后使得loss的值变得最小。