Bendi新闻
>
NeurIPS 2023 Spotlight | 通过贝叶斯隐式表征实现数据压缩
NeurIPS 2023 Spotlight | 通过贝叶斯隐式表征实现数据压缩
10月前
©作者 | 郭宗昱
单位 | 中国科学技术大学
来源 | IMCL研习社
论文链接:
方法介绍
事实上,我们可以通过相对熵编码(Relative Entropy Coding, REC),在这里也是 A* Coding [2],来实现分布的一个近似采样 (a sample from the posterior distribution) 的传输。A* Coding 的具体算法流程如下:
实验结果
结论
在本文中,我们提出了 COMBINER,一种新型的神经网络压缩方法。它首先将数据编码为变分贝叶斯隐式神经表示(INR),然后通过相对熵编码传递近似后验权重样本。与之前的基于 INR 的神经编解码器不同,COMBINER 支持联合率失真优化,因此可以适应性地激活和剪枝网络参数。
此外,我们还引入了一种迭代算法,用于学习网络权重的先验参数并逐步精细化变分后验。这些方法显著提高了 COMBINER 的率失真性能。特别是,COMBINER 在低分辨率和高分辨率的图像及音频压缩方面都实现了强大的性能,展示了其在不同数据模态和场景下的应用潜力。
然而,正如我们原文中所讨论的,COMBINER 也存在一些局限性。首先,尽管解码过程快速,但编码时间相对较长。优化变分后验分布需要数千次迭代,而逐步微调这些分布也非常耗时。其次,贝叶斯神经网络在本质上对初始化非常敏感。为了实现训练稳定性和优越的率失真性能,确定最佳初始化设置可能需要大量努力。尽管存在这些挑战,我们相信 COMBINER 为 INR 压缩的联合率失真优化铺平了道路。
参考文献
更多阅读
#投 稿 通 道#
让你的文字被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。
总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。
📝 稿件基本要求:
• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注
• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题
• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道:
• 投稿邮箱:[email protected]
• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿
△长按添加PaperWeekly小编
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
微信扫码关注该文公众号作者
来源:PaperWeekly
相关新闻
性能大涨20%!中科大「状态序列频域预测」方法:表征学习样本效率max|NeurIPS 2023 Spotlight中科大联合华为诺亚提出Entropy Law,揭秘大模型性能、数据压缩率以及训练损失关系纯加法Transformer!结合脉冲神经网络和Transformer的脉冲Transformer | NeurIPS 2023NeurIPS 2023 & MICCAI 2023:可兼容软标签的语义分割损失函数NeurIPS 2023 | 港科大&华为提出CoDA:开放词汇3D目标检测新网络NeurIPS 2023 | 基于双重结构知识图的视觉语言模型高效迁移Linux 用户必看:通过文件压缩轻松创建高效 ZFS 文件系统的方法清华、哈工大把大模型压缩到了1bit,把大模型放在手机里跑的愿望就快要实现了!ICLR 2024 | 根据压缩比率控制生成样本难度,NUS等提出首个无损数据集蒸馏方法晚点财经丨小红书取消专业职级,压缩管理层级;阿里将完成一项延期两年的资本计划今日最佳:压缩包。70倍极致压缩!大模型的检查点再多也不怕NeurIPS 2024 Workshop征稿启动!科学基础模型:进展、机遇和挑战当Mamba遇上视觉压缩:首个具有选择性状态空间的视觉压缩网络CVPR世界第二仅次Nature!谷歌2024学术指标出炉,NeurIPS、ICLR跻身前十央行入场,债券收益率走陡,券商、基金压缩久期ICML 2024 | 大模型Checkpoint极致压缩,精度无损存储降低70倍传苹果提高自动化生产目标,压缩代工厂5成人力;曾毓群:宁德时代民用电动载人飞机合作项目取得进展丨智能制造日报大模型压缩量化方案怎么选?无问芯穹Qllm-Eval量化方案全面评估:多模型、多参数、多维度谢赛宁对话Sora 负责人:AI 视觉的基础是对压缩图像的学习多模态大模型不够灵活,谷歌DeepMind创新架构Zipper:分开训练再「压缩」顶刊IJCV 2024 | EfficientSCI++:高效的视频单曝光压缩成像重建框架CAA模式识别与机器智能专委会:首届深度学习模型压缩与部署技术会议Nginx静态压缩和代码压缩,提高访问速度!