0
点赞
收藏
分享

微信扫一扫

神经网络参数初始化参数固定

最后的执着 2022-03-19 阅读 59
机器学习

一般来说,神经网络模型实验重复多次,但最终结果仍然有较大波动时,应该从三个方面结果:种子、初始点、优化器。

其中种子的固定尤为关键,应在代码中加入下列种子固定代码

def setup_seed(seed):
    random.seed(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    torch.backends.cudnn.deterministic = True
    torch.backends.cudnn.benchmark = False
    dgl.seed(seed)
setup_seed(seed)

举报

相关推荐

0 条评论