[LG]《Learningwithspringsandsticks》L

爱生活爱珂珂 2025-08-28 06:21:01

[LG]《Learning with springs and sticks》L M Calderón, A Aspuru-Guzik [University of Toronto] (2025)

学习是物理过程, springs and sticks (SS) 模型用弹簧和棍棒组成的动力系统,能通过最小化弹簧的势能实现对任意连续函数的分段线性逼近,具备普适逼近能力。核心亮点包括:

• 物理构造:SS模型在输入维度d和输出维度m的空间内,利用m·N个弹簧和∏(N_k-1)个棍棒组成格点结构,棍棒位置作为参数,弹簧势能对应均方误差损失,通过耗散机制收敛至最小能量状态完成学习。

• 动力学方程:模型基于拉格朗日量构建,加入朗之万热浴的摩擦和随机噪声,形成线性朗之万方程,模拟参数在热力学环境中的随机扩散,兼具跳出局部极小的能力,类似随机梯度下降。

• 性能表现:在二维回归任务上,SS模型与单层多层感知机(MLP)表现相当,学习速度受摩擦系数影响,摩擦足够大时可快速收敛。误差随棍棒数量呈二次倒数衰减,符合数值积分的梯形规则误差界。

• 热力学学习壁垒(Thermodynamic Learning Barrier, TLB):模型必须释放超过一定自由能阈值才能有效学习,低于此阈值时环境热涨落掩盖信号,导致无法收敛。TLB与模型表达能力(棍棒数)、环境温度及摩擦系数正相关,反映学习的最低能量需求,类比信息擦除的朗道尔定理。

• 应用与前景:SS模型为理解机器学习与物理过程的桥梁,启发能量高效AI算法与专用硬件设计,未来可扩展为深度结构,采用不同势能实现多样损失函数,甚至映射于量子计算框架实现加速。

详细阅读👉 arxiv.org/abs/2508.19015

代码资源👉 github.com/bestquark/springs-and-sticks

物理机器学习热力学学习普适逼近能量效率动力系统弹簧棍棒模型

0 阅读:0
爱生活爱珂珂

爱生活爱珂珂

感谢大家的关注