(译)打开金融AI交易的黑盒子-可视化深度学习驱动的股市预测
摘要
在许多问题领域，深度学习已被证明优于传统的机器学习算法。然而，目前的深度学习算法本质上是不可理解的“黑盒”，没有任何与决策过程相关的解释。这是一个主要的缺点，它阻止了深度学习的广泛使用，以用于金融等复杂过程的场景中。因此，金融等行业必须依赖传统模型，如决策树，这些模型更易于解释，但比对复杂问题的深度学习效果差。本文提出了一个新的金融人工智能可视化框架CLEAR-Trade，用于深度学习驱动的股市预测，该框架减轻了深度学习的可解释性问题。特别是，CLEAR-Trade提供了一种有效的方法来可视化和解释由深市预估模型做出的决策。我们在标准普尔500指数预测的基础上进行了实证分析，显示了CLEAR-Trade在提高股市预测可解释性方面的有效性。结果清楚地表明，CLEAR-Trade可以为深入学习驱动的金融模型的决策过程，特别是监管过程提供重要的、可见的决策过程，从而提高它们在金融领域的广泛采用的可能性。
介绍
机器学习算法需要被解释吗？这是当今世界的一个重要问题，机器学习算法，特别是那些基于深度学习的算法，正在被广泛地应用于各种任务中，并在完成这些任务时显示出巨大的效能。深度学习被吹嘘为对许多部门，特别是金融部门非常不利。然而，深度学习在很大程度上基本上是无法解释的“黑匣子”，对于它们是如何达成决策的决定没有明确的解释[6].这是金融等行业普遍采用深度学习的一个主要障碍，因为这些行业的监管非常严格。在那些有严格监管程序的行业，所使用的人工智能模型必须是透明的、可验证的和可解释的。这些领域的许多专家认为，依赖这种“黑匣子”方法是一个日益严重的问题，由于这些交易中的监管程序，这个问题已经变得非常重要，而且在未来它将变得越来越有相关性。例如，在金融业，法律要求公司向其客户解释每一个决策背后的真实原因[3]因此，在这些情况下，目前利用深入学习的方法是不可行的。
深度学习在透明度和可解释性方面的局限性，迫使从事监管工作的行业使用相对简单的机器学习算法，如线性或逻辑回归、决策树，或诸如随机森林等的方法，这些方法在简单情况下更能说明问题，而且相当有效。然而，随着问题的复杂性的增加（这在金融领域是非常真实的），深度学习算法已经被证明在广泛的问题领域中远远优于传统的算法.因此，人们非常希望能够通过深度学习算法来解释决策的策略，以便使它们能够在具有强有力的管理过程的部门中广泛使用。
最近，人们提出了一些方法，以减轻深度学习中的可解释性和透明度问题。例如Zeiler & Fergus[7]提出了一种并行反卷积网络的形成方案，对不同单元的网络进行了研究。里贝罗[4]介绍了一种在局部精确的模型（即在输入数据样本附近）中建立信任的方法。Sel-varaju等人。[5]提出了一种名为Grad-CAM的方法，使用户能够从弱网络中分辨出“强”网络。上述方法虽然有希望，但仅限于确定感兴趣的区域及其对深神经网络决策的影响，从而限制了它们对决策过程的更详细的了解。为了解决这个问题，Kumar等人。艾尔。[1]最近提出了一种CLass增强注意响应（CLEAR）方法，它不仅确定了感兴趣的注意区域及其对决策的影响，而且更重要的是提供了与关注区域相关的主要类别。这种关于主导阶级及其对决策进程的影响的特殊信息导致了更高程度的人的可解释性，这使得它非常适合于需要监管过程的情景，例如金融.
基于此，本文提出了CLEAR-Trade，一种基于CLass增强关注响应的方法来解释和可视化深度学习驱动的股市预测。本文设计的CLEAR-Trade模型为深学习驱动的二元股票市场预测网络的预测决策提供了详细的解释，如图1所示。1.我们的目标是创建一个强大的工具，来窥探这些本来毫无新意的“黑匣子”金融人工智能模型的思想，以便更好地可视化和理解它们为什么以这样的方式做出决策。这样做将对金融分析师的日常工作产生巨大影响，帮助他们更好地了解这些深入学习驱动的财务人工智能模型，从而有可能引导透明金融人工智能的广泛采用。
image
图一 1：运用深度学习驱动金融人工智能模型进行股市预测的两种不同场景：(a) 股市未可解释性；(b) 可通过CLEAR-Trade进行股市预测。拟议的CLEAR-Trade可视化框架通过提供对决策过程的有效的可视化解释，提高了财务模型的可解释性。CLEAR-Trade允许可视化：(1) 负责根据金融AI模型（红色和绿色标记）作出预测决定的关注时间窗口；(2) 它们对股市预测决策的贡献程度（在这种情况下，股市指数上升（绿色）或股市指数下跌（红色））；以及(3) 与每一个临时窗口相关联的主导状态（上升或下降）。这种可视化使金融分析师能够更好地理解基于深度学习驱动金融人工智能模型的股票市场预测决策背后的理论依据
因简书的markdown，对图片和latex支持较弱，可以访问如下地址阅读完整文章。
http://note.youdao.com/noteshare?id=ace9548f0588cdefe85f8673963bd525
广告贴:
基于RPC的金融数据服务平台: http://chaostrade.net/
