0
点赞
收藏
分享

微信扫一扫

AI的神经元规模,参数量


AI的神经元规模,参数量

什么是大模型的参数量,在说大模型前,先说一下人,人大脑由神经元组成,神经元数量的多少直接决定了一个人智力水平的高低,大模型就像一个电子大脑,人类的神经元在大模型内叫参数,参数状态和关系决定了AI智慧的程度,大模型内总的参数的数量就是参数量;参数量以B(十亿)为单位,比如deepseek的r1模型的参数量为671B,那就是671*10亿=6710亿的参数量规模

参数量的意义是什么,参数量的意义非常重大,人和动物的区别是什么,是智慧能力,智慧能力来自于大脑的区别,而大脑的区别来自于神经元数量的区别,越多的神经元就能组成越多的关系,就能处理越复杂的事项,人类大脑的神经元数量要比动物高出几个数量级,比如人的神经元数量约860亿个、狗只有五六亿、鸡更少只有两三亿的神经元,很明显人、狗、鸡的智慧能力差别与大脑神经元数据量差别成非常明显的正比例关系,大模型也一样,越多的参数量能够承载的智慧等级就越高

大模型的参数量越大越大好吗,这个问题没有固定答案,因为不同的角度得出的结论可能完全不同。如果不考虑资源消耗,参数量越大能承载的智慧能力越强;如果考虑资源消耗,那就需要在处理能力与处理成本间进行平衡,处理简单的事务,小规模参数量的大模型也可以胜任,比如文字识别;处理复杂的事务,就需要大规模参数量的大模型,比如分析动物的演化进程;如果用大规模参数的模型去解决小问题,那么就会造成资源浪费,熟话叫,杀鸡用牛刀

 

举报

相关推荐

0 条评论