摩尔定律见顶之后:一台在 FPGA 上"滚下山坡"的伊辛机

能写小说、能控飞船的模型,遇到物流路线、芯片布线这类组合优化就会卡住。华盛顿大学与印度理工科学研究所的团队把脉冲神经元自编码器和隧穿退火装进一块 FPGA,在 MAX-CUT 与 MAX-SAT 上拿到可比的最优解,还附带一条渐近收敛到基态的保证。
给一个物流网络排班、给一块芯片布线、或者把一条氨基酸链折成天然构象,都属于组合优化。这类问题的共同点是:方案数随规模指数增长,但每个方案都能打分。今天的模型在这类任务上表现并不好——它们擅长的是模式识别,不是在一个巨大的离散空间里搜。
过去几十年,对付这类问题的策略是"等更快的芯片"。摩尔定律见顶之后,这条路越来越窄,研究者开始改问另一个问题:能不能换一种计算方式,而不是换一块更快的芯片。

图1:组合优化的地形崎岖不平,坑的数量随规模指数增长
两个零件:自编码器和隧穿退火
圣路易斯华盛顿大学的 Shantanu Chakrabartty 组与印度理工科学研究所的 Chetan Singh Thakur 组牵头的国际合作,给出的配方只有两样东西。
第一样是脉冲神经元构成的自编码器。它的作用是把高阶相互作用拆开:把伊辛子句和伊辛自旋分别映射到编码器层和解码器层。好处是资源开销不再随相互作用的阶数上升——对稀疏问题而言,三体、四体耦合不会把电路规模撑爆。
第二样是福勒-诺德海姆隧穿退火。它不靠热运动翻山,而是让系统以一定概率直接穿过势垒。团队设计的退火过程在 O(1/t) 与 O(1/log t) 两种排程之间插值:前期快,尽快给出高质量解;后期慢,换取理论上的收敛保证。论文明确给出了渐近收敛到伊辛基态的证明。

图2:高阶项先由自编码器拆开,再由隧穿退火驱动收敛
拿什么证明它好用
团队用 MAX-CUT 和 MAX-SAT 两组基准题做了系统比较,对照组是采用同一套退火过程、但只处理二阶相互作用的伊辛机。结果显示新架构能稳定产出当前最好水平的解,且 time-to-solution 指标具有竞争力。
Chakrabartty 把机器分成三类:推理机(比如按训练过的步骤解魔方)、学习机(自己摸索出解魔方的步骤)、以及发现机(在万亿量级的可能性里找到最优那条路)。他说这项工作提供的是造第三类机器的配方,而且这个配方是通用的。
这项合作本身也值得一提:参与者来自 Telluride 神经形态工程研讨会、班加罗尔神经形态工程研讨会和 CapoCaccia 研讨会的常客,横跨美国、印度、德国的多个机构,硬件跑在标准 CMOS 工艺的 FPGA 上。团队列出的应用方向包括蛋白质折叠、物流网络、芯片布线和密码学问题。
关联推荐
- AI 搜索 1 亿种参数组合,40 次实验就找到 NASA 火箭合金的 3D 打印方案 — 用另一种方式啃搜索空间
- 时间复杂度 Big-O:一把衡量算法的尺子,以及它骗你的三个地方 — 评价"多快"之前先想清楚在量什么
- 分治思想:从归并排序到最近点对 — 经典算法面对组合爆炸时的取舍
评论 (0)
正文划词可点「问萝卜特」——自动发评论并由 AI 回复
加载评论中…