小误差可能隐藏未被确定的答案
AI模型接收测试信号,输出两项材料性质,并几乎完美重建信号。这是否意味着参数正确?不一定。若不同组合产生同一观测,问题先于算法存在:数据本身无法区分它们。本文构造并求解小型逆问题,再改变测量设计,区分降低残差、数值解唯一与识别物理原因这三件事。
摘要。使用无量纲线性模型,合成真值为(0.8,0.2)。只测总和会有无穷多解;最小范数最小二乘给出约(0.5,0.5),数值残差近零,参数误差却约0.4243。二次惩罚可选出唯一解,却不增加信息。第二次测量若近乎冗余,0.001扰动会被放大;换成更独立的测量,偏移减小。这里是实际执行的计算,不是真实材料测量或训练模型结果。
从预测到参数重建
正问题给定参数计算信号,逆问题观察信号重建参数。x=(x₁,x₂)为归一化贡献,y为归一化读数。y=x₁+x₂刻意简单,不是已验证光谱定律,也不把贡献声明为化学比例。可想象测试对两个相加效应敏感。假定已归一化后各量无单位,真实测试还需交代原始尺度与单位。
自行设定x*=(0.8,0.2),因此y=1。星号是真实问题通常不可得、仅在合成实验已知的真值,用于计算重建误差。若只评估能否复现y,就可能看不到参数错误。仅以信号重建奖励学习模型也有同样风险:信号目标良好并不保证隐藏效应唯一可辨。
x(t)族保持总和不变,一项增加多少另一项就减少多少。(1,−1)位于A的零空间,是传感器看不见的方向。即使要求非负,仍有−0.5≤t≤0.5整个区间。非负不等于唯一。(0.5,0.5)、(0.8,0.2)、(0.9,0.1)均产生1。这是模型结构不可辨识,不是求解器不收敛。
残差与参数误差回答不同问题
残差||Ax−y||₂衡量重建信号与观测之差,参数误差||x−x*||₂衡量距合成真值多远。(0.5,0.5)的数学残差为零,参数误差为√[(-0.3)²+0.3²]≈0.424264。二者不矛盾,因为衡量对象不同。数值残差约2.22×10⁻¹⁶来自舍入,不是物理测量精度。
最小范数求解选择对称解,因为||x(t)||²=0.5+2t²在t=0最小。它偏好小范数,并不知道真值(0.8,0.2)。网络可能从训练分布学到其他偏好,但本文没有训练或评估网络。逻辑重点是:测量不能区分的方向上,输出可能反映方法偏好。
让解唯一,并不会创造信息
加入二次惩罚,即这里采用的Tikhonov形式。一项要求符合数据,另一项惩罚较大参数,非负λ控制折中。归一化让项可比较;改变原单位却不缩放惩罚,会隐式改变偏好。λ不是物理常数或概率,而是需要记录与验证的方法选择。
两条件相减得2λ(x₁−x₂)=0,λ为正迫使相等,代回得(2+λ)x₁=1。λ=0.1时各为约0.476190,预测总和约0.952381,残差约0.047619。小系统中解唯一且稳定,但参数误差约0.425598,并未更接近真值。惩罚选择并收缩一个点,却没有观测缺失方向。
改用||x−x₀||²可进一步暴露偏好。参考点(0.5,0.5)和(0.9,0.1)本就符合测量;λ=0.1时,各自让两项为零并成为唯一解。两者残差都近零,参数却差异很大。这没有证明哪个先验正确,而是反驳“解唯一且拟合好,所以物理参数已识别”。
第二次测量可能几乎只是第一次
增加y₂=x₁+(1+ε)x₂。ε非零时,两读数之差为εx₂,在精确算术下可识别两个参数。但ε小意味着第二传感器几乎重复第一,区分信息藏在微小差中。干净读数为y₁=1、y₂=1+0.2ε。只向第二次加入确定性δ=0.001,不虚构噪声分布。
ε=0.01时,干净y₂=1.002变为1.003,重建得到x₂=0.3、x₁=0.7,而非0.2、0.8。测量只变0.001,各参数却偏0.1。扰动后的两方程仍可精确拟合,因此残差近零,无法揭示放大。参数误差约0.141421。这是归一化无量纲数,不是仪器分辨率。
ε=0.001时,同样扰动得到约(−0.2,1.2)。若贡献必须非负,这就物理不可接受,表明无约束解过度放大扰动。我们没有执行非负约束优化,也不给它性能结论。约束可能阻止负号,却不证明恢复了(0.8,0.2)。物理范围内的点也可能远离真值,如总和为一的解族所示。
改为ε=1,即y₂=x₁+2x₂。同样0.001扰动得到约(0.799,0.201),各参数偏0.001,比ε=0.01时小一百倍。没有降低噪声或改求解器,只改变了测量区分贡献的能力。实验设计关心的是可观测参数方向,而不只是读数数量,且应保持模型与尺度可比。
| ε | 条件数 | 估计x₁ | 估计x₂ | 参数误差 |
|---|---|---|---|---|
| 0.001 | 4002.000750 | -0.200000 | 1.200000 | 1.414214 |
| 0.01 | 402.007512 | 0.700000 | 0.300000 | 0.141421 |
| 1.0 | 6.854102 | 0.799000 | 0.201000 | 0.001414 |
奇异值告诉我们什么
奇异值分解SVD描述A如何伸缩正交参数方向。小奇异值意味着参数变化只产生微小信号变化,求逆时可能放大扰动。ε=0.01时奇异值约2.0050125与0.0049875,二范数条件数约402.0075;ε=1时约6.8541。这不是预测错误百分比,而是在给定范数与尺度下的最坏相对敏感性描述。
零先验下,二次正则把每个奇异方向的逆因子1/σ改为σ/(σ²+λ)。σ²远小于λ时该方向被削弱,可能降低噪声放大,也可能压掉真实参数差异。这是在变异与偏差间折中,不是免费获得缺失信息。单次测量中的精确零方向仍无证据,由先验偏好决定处理。
执行结果展示两面:ε=0.001时,无正则误差约1.4142,λ=0.01降至约0.4245,靠近对称估计。ε=1时测量已经能区分参数,同一λ却把误差从约0.001414升至0.038199。没有普适赢家。应用需要选择协议、噪声模型和独立证据,这里只展示实际计算案例的机制。

复现计算,区分数值约定与数据
程序使用NumPy2.5.3及rcond=None的lstsq。Tikhonov通过增加sqrt(λ)I行与sqrt(λ)x₀目标构造增广系统,避免显式求AᵀA的逆。官方文档说明多解时选最小范数以及奇异值截断规则。数值秩依赖阈值与精度,不等于噪声下的实际可辨识能力。
残差始终直接按norm(A@x−y)计算。求解器返回空residuals数组不证明零误差,文档规定某些形状或秩下该数组为空。脚本保存真值、矩阵、干净与扰动观测、奇异值和估计。扰动确定性,无需随机种子。平台舍入差异不改变代数反例,但版本和容差仍应记录。
重复相同敏感度的第一次测量,只增加成比例的行,不消除零方向(1,−1)。独立噪声下可能更准确估计总和,却不能单独分离贡献。这是代数推论,不是已执行重复测量实验。更大模型可包含额外知识,但不会让原本盲区的测量倒过来变得有信息。必须说明信息来自不同数据、先验、物理约束还是训练样本。
因此答案是否定的:复现测量本身不证明材料性质已识别。不可辨识时存在等价解释,近冗余时微小扰动放大,正则化通过偏好稳定,而非认证原因。能区分贡献的测量可能比新惩罚函数更关键。本练习验证这种区别,不把未执行的材料测试、专有模型、发现或实验归于EL-AI。
import numpy as np
from experiment import solve, TRUE
for eps in [.001,.01,1.]:
A=np.array([[1.,1.],[1.,1.+eps]])
y=A@TRUE+np.array([0.,.001])
print(eps,solve(A,y)['x'],solve(A,y)['residual_norm'])
代码、数据与说明 · JSON. 教学计算使用 Python 3.14.0,图使用 Matplotlib 3.11.2。分析由 AI 辅助,不声称经过同行评审或人工审核。原创 ImageGen 封面仅作示意,不记录 EL-AI 人员、场所或实际安装。来源查阅于 2026 年 10 月 16 日。

