2022/7/18 10:54   新华社      关键字：我国 科学家 人工智能

研究团队提出了一个基于即时双向价值对齐模型的可解释人工智能系统。在该系统中，一组机器人通过与人类的实时沟通来快速推断人类用户的价值目标，同时通过“解释”将其决策过程传达给用户，让用户了解机器人做出判断的价值依据。

　　我国科学家牵头进行的一项研究，在让人工智能快速识别人类的价值意图方面取得突破，可在复杂任务中提高人机协作的效率。研究成果日前已由国际学术期刊《科学·机器人学》在线发表。

　　该研究由北京通用人工智能研究院教授朱松纯带领的团队完成。研究团队提出了一种人机双向价值对齐的合作框架，并展示了机器人如何与人类用户通过实时沟通完成一系列复杂的人机协作任务。

　　科学家一直试图让人工智能学习人类的认知推理能力，进而学习理解人类的意图，并执行人类真正在意的价值需求。但目前广泛应用的人工智能系统，往往只能机械地按照人类给定的任务行事。

　　“如果一个任务的目标可以被清晰地描述出来，那么让人工智能理解任务背后的价值需求并不困难。”论文共同作者、北京通用人工智能研究院研究员郑子隆表示，然而生活中充满大量很难定义目标的任务。例如，一杯咖啡在不同人心中意味着不同的饮料，当人类用户跟人工智能说“我要一杯咖啡”时，需要人工智能搞清楚究竟要的是什么咖啡，也就是与人类“对齐价值”。

　　据介绍，研究团队提出了一个基于即时双向价值对齐模型的可解释人工智能系统。在该系统中，一组机器人通过与人类的实时沟通来快速推断人类用户的价值目标，同时通过“解释”将其决策过程传达给用户，让用户了解机器人做出判断的价值依据。此外，该系统通过推测人类用户的内在价值偏好，生成更容易理解的解释。

　　北京通用人工智能研究院是北京市政府、科技部支持共建的一所非营利性新型研发机构，由北京大学、清华大学等单位合作支撑。