一般回归问题的激活函数用的是恒等函数，二元分类问题用的是sigmoid函数，而多元分类问题可以使用softmax函数作为激活函数。

softmax函数式为：

softamx函数用Python实现：

import numpy as np
a = np.array([0.3,2.9,4.0])
exp_a = np.exp(a)
print(exp_a)
sum_exp_a = np.sum(exp_a)
print(sum_exp_a)
y = exp_a / sum_exp_a
print(y)

打印结果：