机器人的“好奇心”不能出离控制

机器人 | 2019-06-11 14:51:02
时间:2019-06-11 14:51:02   /   来源: 人民网-人民日报      /   点击数:()

拥有人类探索世界的好奇心,是让机器人变得更加聪明的关键因素之一。德国波鸿大学的人工好奇心专家瓦伦·康培拉指出,好奇的系统“不满足于只学习一种任务,而是希望同时学习多种技能”。法国国家信息和自动化研究所的机器人专家皮埃尔—伊夫·乌代耶强调,在算法中加入“内在动力”的想法,可以让机器在没有人类干预的情况下,自主学习各种各样的新任务。

此前,人工智能更多侧重的是人类左脑的能力,如理性能力、把握规则的能力;而目前研发关注的好奇心,则属于人类右脑的能力,与直觉、创造性等属性相同。目前的人工智能正开始向追赶人类右脑能力的方向大幅前进。

小到个人,大到社会,谈及聪明程度,都可从两个维度来衡量,即专业化和多样化。工业化时代,人类专注于提高完成某一项活动的能力,提高单位投入的产出量,这有利于公司做大做强。此前的人工智能主要模拟的是这种能力,例如通过把握下棋规则同人类竞赛。机器人因好奇心而变得更聪明,带来的将是多样化效率的提高,即同样投入,产出更多质的差异性。

美国经济学家鲍莫尔曾提出这样一个问题:音乐四重奏的效率是什么效率?显然不是小提琴脱离节拍拉得越快效率越高,其效率主要表现在对音质、音色的复杂辨析中。这就是多样化效率。人工智能最大的特点就是可以提高多样化效率,这些技术一旦应用于经济、社会,有可能大幅提高人类创新能力与体验能力,从而带来高质量的发展。

罗切斯特大学发展心理学家塞莱斯特·基德认为,新奇性和惊奇感是好奇心的两个关键参数。“孩子们更喜欢令他们感到意外的事物,或者是因果关系为他们所不知的事情。”这些参数若是转化为算法,机器人就能变身“好奇宝宝”。

不过,凡事都有两面性。我们乐于见到因为好奇而变得越来越聪明的机器人,但也要为它们的“好奇心”设限。俗话说“好奇害死猫”。如果机器人哪天不慎因好奇心按下了某个按钮,后果可能不堪设想。因此,人们要为机器人确立规则,包括设立伦理边界。人类需要告诉机器人,它可以做什么,不可以做什么。不管机器人如何“好奇”,都不能出离控制。(姜奇平)

(作者为中国社会科学院数量经济与技术经济研究所信息化与网络经济研究室主任)

标签:

最近更新