经过在几个模型组件之间共享参数,咱们可以缩小神经网络的内存占用。当一些或一切层共享同一组权重而不是每层或组件都有共同的权重时,模型必定坚持的参数数量大大缩小。人们可以预先定义模型的架构,使其具备共享权重,或许在训练后将权重共享作为一种模型紧缩技术。例如,一种或许性是像上方的代码一样对权重启动聚类:
本网站的文章部分内容可能来源于网络和网友发布,仅供大家学习与参考,如有侵权,请联系站长进行删除处理,不代表本网站立场,转载联系作者并注明出处:https://duobeib.com/diannaowangluoweixiu/7700.html