KAIST开发出下一代脑机接口技术实现AI行为与人类意图的实时对齐

盖世汽车讯 未来，人工智能将能够通过脑信号识别出人类未言明但内心持有的“那并非我本意”这类反应，并据此自主调整行为——这一愿景正日益临近。据外媒报道，韩国科学技术院(KAIST)的研究人员开发出一种技术，可通过脑电波检测人类与AI之间的认知不匹配，从而使AI系统能够根据人类意图实时修正其行动。这一成果有望加速AI从“听从明确指令”向“能够推断人类意图”的模式转变。

KAIST宣布，由该校脑与认知科学系特聘教授兼“神经科学启发人工智能中心”主任Sang Wan Lee领导的研究团队，与微软亚洲研究院合作开发了一项名为“神经价值对齐”(Neural Value Alignment，简称NVA)的下一代脑机接口(BCI)技术；该技术利用人类脑电波，实现了AI行为与人类意图的实时对齐。

若要实现人工智能与人类的自然协作，AI必须准确理解人类的真实意图。然而，迄今为止，AI系统主要还是依据语音、动作或手势等外部可观察信息来推断人类意图。

其中的难点在于:同一动作可能对应不同的目标，而同一目标也可能通过不同的动作来实现。例如，当一个人拿起杯子时，外界往往难以判断其意图究竟是饮水还是将杯子递给他人。反之，如果一个人的目标仅仅是解渴，那么这一目标可以通过多种不同动作来实现——既可以是伸手拿杯子，也可以是拿起水瓶，还可以是请别人递来饮料。正是由于这种“目标与动作”之间双向的模糊性，一旦AI误解了人类意图，用户往往不得不通过额外的指令或动作来进行纠正。

为了解决这一问题，研究团队将重点放在了人们遇到意外情况时大脑中无意识产生的“预测误差”信号上。简而言之，当人工智能执行了错误动作或追求了错误目标时，该团队利用了大脑瞬间产生的“那并非我本意”的反应。

研究人员区分了两种类型的大脑反应。第一种是“奖励预测误差”，当人工智能误解了人的最终目标时，就会出现这种反应；第二种是“状态预测误差”(SPE)，当目标正确但行动过程或方法与人的预期不符时，就会出现这种反应。

研究团队记录了人们观察AI执行任务时的实时脑电图信号。他们发现，当AI误解了目标本身，与在追求正确目标的过程中选择了错误方法时，大脑会产生不同的信号；研究人员还识别出了这两种错误同时发生时所呈现的独特脑电波模式。

通过将深度学习技术应用于这些脑电信号，该团队开发出一种新技术，仅凭EEG信号就能判断一个人如何解读AI的行为。换言之，即便人们没有明确说出“那不对”，AI也能识别出人类大脑发出的信号究竟是在提示“目标错误”还是“方法错误”。

随后，该团队提出了一种基于“神经价值对齐”的人机协同算法，将这些解码后的脑信号实时反馈给人工智能，使其能够据此修正自身行为。

当人工智能检测到SPE信号时，它会将当前情况解读为“目标正确但方法有误”，并随之调整行动策略；而当检测到RPE信号时，它则会意识到“对目标本身的理解有误”，进而重新探寻使用者的真实意图。

仿真结果表明，即使在目标突然改变或部分人类神经反馈缺失等不确定情况下，该方法也比现有方法具有更快的适应能力。

这项研究的重大意义在于，它展示了人工智能系统能够通过解读人类无意识的“那不是我的本意”这一脑部反应来进行自我修正，而无需用户反复强调“要这样做”或“那不对”。

随着技术的进步，这项技术有望应用于家庭和工业环境中的实体AI机器人，使其能够更自然地理解用户意图并相应地调整行动。此外，它还可以扩展应用于能够迅速响应驾驶员判断的自动驾驶汽车、服务于语言或行动不便患者的医疗康复机器人，以及能够根据学生认知状态进行调整的教育类AI系统。

归根结底，这项研究提出了一种人机协作的新模式:AI不再仅仅在接收到明确指令时才采取行动，而是能够感知人类的反应并据此进行自我调整。

领导这项国际合作研究的Sang Wan Lee教授表示:“这项研究意义重大，因为它表明人工智能不再局限于仅根据可见的行为结果来推断人类意图，而是能够直接利用人类在与人工智能协作时大脑产生的认知信号。”他补充道:“该技术可广泛应用于人类判断与人工智能行为需紧密结合的领域，包括物理人工智能、脑机接口(BCI)、自动驾驶、精准个性化教育、医疗机器人以及人机交互等。”