陆军寻求AI地面真理

2020年4月3日

美国军事研究人员正在召集深度神经网络，以在战地物联网上封送新技术力量。

美国陆军和工业研究人员本周表示，他们已经开发出一种“置信度指标”，用于评估深度神经网络中使用的AI和机器学习算法的可靠性。该指标旨在通过严格基于系统的训练来限制预测来提高可靠性。目标是开发基于AI的系统，当系统提供超出其培训范围的信息时，它们不易被欺骗。

SRI International自2018年以来一直与陆军研究实验室合作，作为该服务的物联网战地协作研究联盟互联网的一部分。合作伙伴正在研究“强化”机器学习算法的方法，以使其不易受到研究人员认为将是AI对策的影响。

陆军科学家Brian Jalaian说，目标之一是创建“强大而有弹性的下一代算法”。Jalaian补充说，服务实验室的方法“可以使用现代机器学习算法作为陆军许多现代算法的附加模块，这些现代机器学习算法基于用于视觉图像的深度神经网络。”

研究人员希望将这一新指标应用于陆军指挥与控制，决策支持系统以及精确的火器。

陆军行业小组对他们的神经网络度发表的研究报告在这里。该方法被称为“基于属性的置信度指标”，它表征了深度神经网络输出和输入的组合是否值得信任。

研究人员指出，深度神经网络“在训练分布范围之外的输入上是脆弱的，因此容易受到对抗性攻击”。

他们补充说，该度量标准不需要访问训练数据，也不需要使用验证数据集训练校准模型。他们补充说：“因此，即使只有经过训练的模型可用于推断，新指标也可用。”

陆军研究人员还与AI社区合作开发容器化软件，以衡量对在多种应用中运行的算法的信心。

其中的应用是“战地物联网”，它将使用弹性神经网络模型来部署智能设备网络。这些战场设备必须经过加固才能抵御网络攻击和其他攻击。置信度指标被视为建立对陆军下一代基于AI的系统的信任的第一步。

Jalaian说：“我们没有办法检测到最强大的最新攻击，例如[对抗性]补丁，这些攻击会给图像增加噪音，从而导致错误的预测。”

提出的生成模型“在底层原始深度神经网络中调整原始输入图像的各个方面。” 他补充说，原始网络的“然后评估对这些生成的输入的响应，以测量模型的一致性。”