Bendi新闻
>
优化算法:从手工定制迈向自动化设计 | NSR综述“Learn to Optimize”

优化算法:从手工定制迈向自动化设计 | NSR综述“Learn to Optimize”

6月前

海归学者发起的公益学术平台

分享信息,整合资源

交流学术,偶尔风月




南方科技大学唐珂教授、香港岭南大学姚新教授以“学习优化”(Learn to Optimize, L2O)为题在《国家科学评论》(National Science Review, NSR)发表综述文章,对“优化算法自动设计”领域的研究进行了系统的归纳和总结,该文将收录于NSR“机器学习自动化”专题。




基于L2O的算法自动设计方法

优化问题的求解是计算机科学、运筹学等领域的核心研究主题之一,也是人工智能的基石。由于在理论上不可能存在对任意问题均性能最优的优化算法,因此新问题的涌现必然伴随着对新型优化算法的需求,这一过程永无止境。

长期以来,人们普遍认为优化算法的设计是高度依赖人类智力的一项任务,需要针对具体问题进行定制化设计。然而,随着各行业对人工智能需求的不断扩大,新问题不断快速涌现,且问题复杂性显著增加,这种高人力成本的、手工定制的算法设计模式正面临巨大困境。如果机器能以某种方式自动或半自动地设计优化算法,不仅将极大缓解这一局面,还将显著拓展人工智能的边界。

近年来,已有大量研究围绕“优化算法自动设计”这一主题开展,逐渐形成了一套类似于机器学习的新型方法论,即以大量优化问题实例为输入,尝试在某个参数空间(甚至代码空间)训练具备泛化能力的优化算法。

在SAT、机器学习、计算机视觉、对抗样本生成等领域的研究结果表明,这一新模式所自动/半自动设计的优化算法,性能相当于甚至超越了人工设计算法的性能,标志着优化算法设计这一领域可能已迈入了“机器换人”的前夜。

在这篇综述文章中,作者将上述方向的研究进行了系统归纳和总结,探讨了各类训练方法、数学理论进展、算法泛化性能的评估与提升手段、以及成功的应用案例等。作者还进一步对L2O的下一步发展进行了展望和探讨,例如,以L2O为核心手段设计基座优化算法(优化大模型)的可能路径,为该领域的未来发展提供了重要参考。

该工作得到了国家重点研发计划、国家自然科学基金、广东省创新创业团队等项目的支持。


点击“阅读原文”阅读原文。

扩展阅读

 
无定形碳的非连续相图│NSR
类脑智能、自修复导线、食管鳞癌进化、有序介孔纤维、全金属纳米囊泡
NSR | 薄液膜沸腾的统一传热模型
武汉大学殷昊团队:倍数减少脂质投入的LNP剂型设计新策略 | NSR
本文系网易新闻·网易号“各有态度”特色内容
媒体转载联系授权请看下方

微信扫码关注该文公众号作者

来源:知社学术圈

相关新闻

仅用1年从0迈向规模化量产,大卓诠释奇瑞智能化“新灵魂”大批澳洲白领患上“职场病”,直言工作负担过重!专家:Ai自动化或成“解药”这款自动化工具,让广告投放从「玄学」变成「科学」“满清花盆底”勇闯巴黎时装周?设计师想做一个国际化的“中国设计师品牌”!网友:但这很难评!今日arXiv最热NLP大模型论文:NAACL24实锤语言学对大模型“负优化”,抽象语义表示+思维链有损表现爱安特戴远敏:放弃铁饭碗,我用10年做了一个工厂自动化版的“宜家” | OMEGA访谈录律师国际化:从不可预知的变局到“风险共担”HCSSA | 哈佛之声校友说: 朱杰伦:从投行banker到医疗行业CFO到连续创业者 – 一个HBS校友的“去金融化”蜕变橙子自动化邵勇锋:打破手机与汽车制造之间的“墙”|创业内幕用户说 | 从“跑断腿”到“云上飞”:锐捷云桌面助力盐城市第三人民医院信息化运维“轻装上阵”云天励飞余晓填:剖解大模型技术演进与挑战,算法芯片化突破大模型落地“三角约束”丨GenAICon 2024破茧成蝶:赋能精准诊疗的“利刃”NGS,揭秘临床下一代测序的自动化与常规35岁被“优化”,压力大到要崩溃...德勤报告 | 未来最大的两个确定性趋势:“数字化”和“国际化”脏污10秒自动“化水”!水垢、霉渍一喷脱落,浴室干净到反光~日志瘦身骚操作:从 5G 优化到 1G,牛逼!!著名学者马勇:中国“现代化”应该算是一个意外安省中学“技校”化:学理财、做饭、缝纫、换轮胎....头好痒,要长脑子了!独家对话喜茶和帕梅拉:「奶茶健康化」是一个营销噱头吗?产品经理:如何“化零散需求”为“高效解决方案”?从“以刑化债”到“小错不刑”,这四个月,贵州发生了什么?爱马仕沐浴香氛系列迈向“可持续”:升级可重复灌装包装里程碑!自动驾驶卡车“无人化”要来了?这家企业已商业化先行李飞飞揭秘创业方向“空间智能”:视觉化为洞察!看见成为理解,理解导致行动!
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。