科技日报|机器有了“心” AI能“读懂”人类价值观记者13日从北京大学人工智能研

采访人员13日从北京大学人工智能研究院获悉，由该院教授朱松纯领衔的联合团队取得一项重大研究成果，构建出一种机器实时理解人类价值观的计算框架，让机器人与人类用户通过实时沟通完成一系列复杂人机协作任务。这一研究可谓为机器立心，让AI（人工智能）赋能机器人读懂人类价值观。相关论文以实时双向人机价值对齐为题刊发在最新一期的国际期刊《科学·机器人学》上。
据了解，当今广泛应用的AI系统是一种被动的智能，只能机械地按照人类给定的任务行事，缺乏像人类一样的认知和推理能力以及情感和价值观。在缺心的情况下， AI很难理解人类真正的意图及价值需求，自然也就难以获取人类的信任、融入社会。
在发现之前的研究范式存在局限性之后，朱松纯带领研究团队转换赛道，让AI系统按照人的方式自主定义任务，学习人从自身的价值需求出发，由此为机器立心，让AI学会人的价值函数，具有实时对齐当前人类价值目标的能力，探索出小数据，大任务的范式。
【科技日报|机器有了“心” AI能“读懂”人类价值观】该研究团队提出一个基于即时双向价值对齐模型的可解释AI系统，让机器通过与人类的即时交互并通过相应反馈来推断人类用户的价值目标，并通过解释将其决策过程传达给用户，以了解机器人作出判断的价值依据。研究结果表明，该学习模型可在复杂协作任务中提高人机协作效率，进而提升人机信赖关系，实现真正自主智能，在迈向通用AI的道路上更进一步。