IBM Watson提出人机推理网络HuMaINs,结合人机两者优势

人机交互可以用机器的优势弥补人类决策的非理性缺陷。近日,IBM Watson 研究中心联合多家研究机构提出了人机推理网络 HuMaINs 架构,论文集中讨论了三个主要问题,即架构设计、包含安全性/隐私挑战的推理算法,以及应用领域/用例。

在传统的经济学、认知心理学和人工智能领域的文献中,问题求解或推理过程通常按搜索问题空间的方式描述,该空间由问题的多个不同的状态构成,从一个初始状态开始,最终达到所需的目标状态 [1]。以初始状态为起点的每一个路径代表一个可能的策略。这些路径可能走向目标状态,或其它的非目标状态。以初始状态为起点的走向目标状态的路径被称为解决路径(solution path)。在初始和目标状态之间可能存在多个这样的路径,这些都是问题的解决方案。换种说法,即有多种方法可以求解一个给定的问题。问题求解过程是指在多个解决路径中识别最优(在给定的约束条件下)的解决路径。

该搜索过程的第一步是确定可用策略的集合,即确定策略空间。第二步是评估这些策略以确定最优的策略作为解决方案。在传统的经济学理论中,会假定理性决策者具有可能策略的集合的知识,可以评估每一个策略的后果,并拥有一个效用函数,并最大化该函数以确定最优的策略 [2]。然而,人们普遍认为人类不是理性的,而是有限理性的智能体。在有限理性框架中 [2,3],决策者的认知、时间、信息和资源都是有限的。策略集合并不是完全先验地知道的,决策者也并不能完全知道选择特定策略的后果。因此,决策者可能无法总是为问题求解确定最优的策略。

另一方面,机器是「理性」的,因为它们有更强/更大的内存来存储替代方案,并有计算能力可以更精确地评估特定替代方案的结果。因此,机器可以帮助人类快速而准确地解决问题,因此出现了人机协作以解决问题的框架。在本论文中,通过定义 HuMaINs,作者探讨了用于推理的这一协作框架,以及与开发这一框架相关的研究挑战。该领域的三个基本研究思路已得到界定。

论文标题:Human-Machine Inference Networks For Smart Decision Making: Opportunities and Challenges



论文链接:https://arxiv.org/abs/1801.09626

人机推理网络(HuMaINs)的新兴范式以一种智能的方式整合了人类与机器的现代认知优势,从而解决不同的推理任务,表现要优于人类或机器单独执行的效果。尽管只针对于人类或传感器网络的推理性能优化技术已经相当成熟,HuMaINs 依然需要全新的信号处理和机器学习方案。在本论文中,我们概述了 HuMaINs 架构,并聚焦于三个主要问题,即架构设计、包含安全性/隐私挑战的推理算法,以及应用领域/用例。


图 1:概念性 HuMaINs 架构

图 1 展示了典型的人机推理网络(HuMaINs)。典型的 HuMaINs 由一个社交网络和一个机器网络构成。在社交网络中,人类互相交换主观观点;在机器网络中,机器互相交换客观度量。此外,通过社交网络和机器网络的交互,由人类行为特征决定的算法传递给机器,然后这些算法反过来影响人类的行为。因此,通过结合人类和机器的优势,人类和机器之间的智能协作可以提供更优的结果。

人机交互的架构可以分成三类:(1)人类直接控制自动化系统;(2)自动化系统监控人类,在必要时采取行动;(3)两者的结合。为了达到 HuMaINs 的目标,构建一个可以融合人类和机器的决策过程的架构是很关键的。文献 [6] 中宣称,为现代自动化系统创建顶尖的操作环境,需要在三个主要的领域持续开发新的技术:决策支持工具、人体工程和可视化工具、易用的复杂系统。


图 2:设计和分析 HuMaINs 的一般方法

HuMaINs 的关键研究领域是开发新的处理人类行为数据的算法。这个领域演变成了一种新兴研究领域的范式,称为行为信号处理(behavioral signal processing,BSP)[8]。BSP 处理的是人类行为的信号。它被定义为对人类动作和行为数据的处理,进行有意义的分析,通过人类专家和自动化处理的协作,以确保及时的决策和干预。其目标是支持人类,而不是取代人类 [8]。核心要素包括人类行为的定量分析,以及交互动力学的数学建模。Narayan 和 Georgiou 将 BSP 的要素描述为,利用语音和口语交流对人类行为进行度量和建模 [8]。

在 HuMaINs 中开发 BSP 算法有两个具体的研究方向:

1. 利用统计建模技术开发人类决策的数学模型,和认知心理学密切协作。

2. 设计鲁棒的融合算法以处理智能体提供的不可靠数据,这些数据由上述开发的模型建模。

理论
暂无评论
暂无评论~