昨日的“小编漫谈”中主要同大家介绍和分析了深度学习在管理学中的现状:深度学习与精确算法间的融合与对立。今天想同大家分享的是2021年来自Transportation Research Part B的一篇论文。本人在翻阅期刊时偶然发现这篇论文的背景表述与昨日的问题很契合,希望带给大家对昨天观点更深刻的看法,以及理论驱动方法(精确/启发算法)和数据驱动方法(深度/机器学习)间的一种经典融合方法。
原文链接:https://doi.org/10.1016/j.trb.2021.03.002
#深度学习 #优化算法 #管理学 #启发式算法 #物流

基于理论的残差神经网络:离散选择模型与深度神经网络的协同融合

一、问题提出:预测性与可解释性,模型发展中的一对“死敌”

在交通行为建模领域,学界和业界长期面临一个难以调和的张力:

  • 一类方法如离散选择模型(Discrete Choice Models, DCMs),起源于经济学理论,强调个体理性选择和效用最大化,模型结构简单、参数具有明确行为意义,解释性强、稳定性好,但预测精度较低;
  • 另一类方法如深度神经网络(Deep Neural Networks, DNNs),源自计算机科学,拥有强大的函数逼近能力,预测精度高,但其“黑箱”结构使得行为机制难以解释,且对输入扰动较敏感,鲁棒性较差。

这种方法上的对立,导致交通领域研究者在方法选择上进退两难:是追求行为解释的清晰性,还是接受深度模型带来的预测优势?是否存在一个方法框架,能够同时发挥两者优势,而非“二选一”?

二、关键问题:我们是否可以融合DCM与DNN,实现三重目标?

本文作者提出了一个核心问题:

既然DCM和DNN分别在解释性与预测性方面具有互补特性,是否可以将两者融合,形成一种兼具预测准确性、行为解释性与模型鲁棒性的新型方法?

为此,作者引入了一种创新性的神经网络架构:基于理论的残差神经网络(Theory-Based Residual Neural Network, TB-ResNet),其本质是一种通过行为理论“规训”深度模型的方式。


三、方法创新:TB-ResNet 的核心思想与结构设计

TB-ResNet的关键在于:将传统的离散选择模型作为“基础结构”,用深度神经网络对其“解释残差”进行补充。数学表达如下:

其中:

:基于理论的效用函数,例如MNL(多项Logit)或Prospect Theory;

 :深度神经网络学习得到的补充效用;

 :可调节的权重参数,控制DNN在整体模型中的影响力; 

最终通过 Softmax 函数转化为选择概率。

📌图示支持:

图1展示了TB-ResNet的网络结构:理论部分为一层浅层网络,数据部分为深层神经网络,两者共同输出效用函数,进一步转化为选择概率。

TB-ResNet的优势不仅在于结构创新,更在于它可以从六个互补视角理解与扩展:

视角
核心内容
架构视角
DCM 作为浅层网络,DNN 作为深层网络,组成残差结构
集成学习视角
可视为DCM与DNN的加权集成模型
梯度提升视角
类似Boosting方法,DNN拟合DCM的残差,提高拟合能力
正则化视角
小δ值对DNN的复杂性进行正则约束,防止过拟合
函数逼近视角
TB-ResNet可逼近复杂行为函数,避免理论模型的欠拟合
理论诊断视角
最优δ值可反映DCM模型的“解释完整性”,成为诊断工具

四、实证验证:三类理论模型的TB-ResNet实例与数据分析

为了验证TB-ResNet框架的有效性,作者构建了三种实例化模型,并在三个数据集上进行对比实验:

1. MNL-ResNet:用于出行方式选择(新加坡调查数据)

  • 交通方式包括步行、公交、网约车、私家车与自动驾驶;
  • 数据包含个人属性、出行时间、成本等;
  • 对比模型包括传统MNL模型、纯DNN模型与MNL-ResNet。

📌图2:展示效用函数对成本与时间的二维变化形状。可见MNL较为线性、DNN过度复杂,而MNL-ResNet在保留经济意义的同时具备更强拟合力。


📌表2:展示三种模型的弹性系数,MNL-ResNet在自弹性与交叉弹性上均优于MNL与DNN,展现更合理的行为解释力。

2. PT-ResNet:用于风险偏好建模(Tanaka数据集)

  • 被试需在不同获奖概率和金额的选项中做选择;
  • PT理论中涉及损失厌恶、概率加权等参数;
  • TB-ResNet加入DNN后能显著提升预测力并保留单调性(行为合理性)。

📌图3:PT-ResNet在保持“金额越大、概率越高越倾向选择”的单调性基础上,增强了对个体偏好的拟合。

3. HD-ResNet:用于时间偏好建模(未来/立即获得的金钱)

  • 采用超折扣(Hyperbolic Discounting)理论;
  • 模型加入了个体时间偏好(如立即满足 vs 延迟满足);
  • HD-ResNet成功避免了DNN预测中“等待越久效用反而上升”的荒谬问题。

📌图4:HD-ResNet实现了效用随时间推迟而下降、随金额上升而上升的合理行为模式。


五、性能对比:TB-ResNet实现三重优势

📌表3:在三个数据集中的对比实验表明,TB-ResNet模型在预测准确性、交叉熵损失(log loss)与F1得分方面普遍优于纯DCM和纯DNN。


模型
准确率提高幅度
解释性
鲁棒性
DCM
✗
✔(高)
✔(强)
DNN
✔(高)
✗(黑箱)
✗(易受扰动)
TB-ResNet
✔(显著)
✔(基于理论)
✔(结构稳定)

特别值得注意的是:

  • TB-ResNet的预测准确率高于DNN,说明合理的理论结构也能改善泛化性能;
  • δ值的选择具有诊断意义,能反映当前行为理论对数据解释的完整程度;
  • 在面临随机扰动与对抗样本测试中,TB-ResNet的稳定性优于DNN,表明其在实际政策模拟中更具可靠性。

六、总结与展望:迈向统一的“可解释机器学习”建模框架

本研究不仅提供了一个技术创新,更为行为建模与人工智能的融合提供了理论思路:

  1. TB-ResNet架构表明深度学习并不等同于“黑箱”,只要以理论为基础,就能实现可控可解释;
  2. 作为权重,不仅是技术超参数,更是理论完整性的度量工具;
  3. TB-ResNet模型适用于不仅限于交通领域,还可推广至金融、健康、能源等涉及个体决策的场景。

未来研究建议包括:

  • 将TB-ResNet拓展至嵌套Logit、混合Logit等复杂DCM模型;
  • 引入贝叶斯方法,为δ和参数提供先验;
  • 在多城市、多文化背景下测试TB-ResNet的稳健性与推广性。