金融界2024年9月26日消息，国家知识产权局信息显示，国能大渡河大数据服务有限公司申请一项名为“基于阶段训练和注意力融合的多出口架构自蒸馏方法”的专利，公开号CN 118690831 A，申请日期为2024年8月。
专利摘要显示，本发明提供基于阶段训练和注意力融合的多出口架构自蒸馏方法，涉及知识蒸馏领域，包括：根据深度将教师模型划分为多个出口分支，其中，教师模型和学生模型用于图像分类，多个出口分支中，深度最深的分支为教师模型，深度最浅的出口分支为学生模型，其余的出口分支为中间模型；建立总损失函数；基于多个出口分支及注意力融合算法，训练学生模型，基于总损失函数，计算总损失，基于总损失，优化学生模型，直至学生模型满足预设条件，具有提高知识传递的效率，改进知识自蒸馏框架的性能的优点。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
2024年已有12325名哈萨克族人回归哈萨克斯坦，45.6%来自中国
首批 iPhone 16 用户狂吐槽：触摸失灵、高刷受限、不如 iPhone 15 耐摔……“还是再等等吧”！
巴萨1-0赫塔菲！携7连胜4分领跑西甲 莱万制胜+7轮7球 亚马尔中柱
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律
给大家演示一下顺产宝宝是怎么出来的，首先母爱超级伟大，其次我是个孬种。
