close
首页人工智能 完美的威胁

人工智能 完美的威胁

三月 23, 2018

人工智能机器人并不是我们想象中的零部件加程序构成的单位,只是执行命令式地重复简单的动作,

它是人工智能程序控制的机器人,与传统的编程最大的区别在于“有智慧”。这意味着它可以学习、感知,解决问题,

进行逻辑推理,还可以模仿人类的一些智能行为。而现在人工智能机器人究竟发展到了什么程度?

那些可以长存不朽的机械个体会不会永远受制于人、没有思想地存在下去?

至品生活  采访/撰文:毛菊丹  图片提供:Hanson Robotics、Hiroshi Ishiguro Lab、Max Aguilera-Hellweg、Getty Images

      “我曾经看过一个理论,人类的智慧就如同孔雀的羽毛,极尽炫耀只是为了吸引异性。所有的艺术和文学作品,比如莫扎特、威廉·莎士比亚和米开朗琪罗,还有帝国大厦,都是精心策划的求偶仪式。也许这都无所谓,我们用最基本的动机,得到了数之不尽的收获。但是,孔雀终究无法飞翔,只能活在肮脏的环境,啄食秽物里的蛆虫,却还以华丽的美貌安慰自己。所以我开始认为,意识过剩是一种负担,太过沉重,我们必须将它们身上多余的东西去除,忧虑、自我憎恨、愧疚。接待员才是真正自由的,在我的控制下自由地生活于此。”美剧《西部世界》里与人合伙建造未来主题公园——“西部世界”的福特博士,在面对“为什么不给机器注入意识,为什么要控制它们”的问题时,说过这样一段意味深长的话,用“去掉机器人的意识”解决了人类自身面对的“意识过剩”的问题。4月,被称为“烧脑神剧”的美剧《西部世界》将推出第二季,部分开始自我觉醒的机器人发现自己只是作为一个故事角色存在,正试图摆脱乐园对自身的控制,想必人机之间一定会有一场恶战。人工智能机器人发展得太快,以至于人类持续将自己预计到的不安投射到想象领域,相关文学、艺术和影视作品等层出不穷,但它究竟发展到了哪一步?终有一天,它会摆脱人类的控制而拥有自己的意识吗?

由摄影师Max Aguilera-Hellweg拍摄的人形机器人Geminoid-F和她的原形,机器人由日本科学家石黑浩设计

      石黑浩被称为“日本现代机器人之父”,成名于日本爱知世博会,他的团队以一台栩栩如生、会与观众流畅对答、肢体语言丰富的机械美女“Repliee Q1”而轰动全场。之后,他的团队造出了一系列大大小小、有男有女的人形机器人。除了仿制自己女儿4岁时的样子而制造的机器人之外,最为出名的、还在不断调整的是复制他本人模样的等比例仿生机器人“Geminoid HI-1”,机器人的部分头发甚至都是石黑浩的。“对于我来说,它们是反观人类自己的一面镜子。”他举了一个例子,“比如说人们利用声呐技术可以探测大海中鱼的踪迹,而人形机器人就像声呐,可以观测人性。”所以,他不想停留在复制人类外表的机器人阶段,而是想要研发出人类内在大脑的功能,如主动的意识、情感、欲望等。

      而加州大学伯克利分校的计算机专业教授Stuart Russell则认为:“真正的问题不在于机器人是否有意识,而在于其竞争力对人类构成的威胁。科技研发人员制造机器人是打算让它们具有惊人的竞争力,它们在未来能够完成很多人类都难以完成的任务。”两年前,在他的带领之下,人机共处研究中心(The Center for Human-Compatible Artificial Intelligence)在加州大学正式成立,专门研究如何将能力强大的人工智能应用在社会公益中。Russell和他在中心一起工作的同事计划建造一个人工智能系统,观察并分析人类的行为,试图弄明白人类的目标是什么,再依据相应的行为从反复的错误中得出结论。所以他们的想法是与其给予机器人一系列要遵从的规则,不如“告诉”它们人类想要达成的主要目标是什么,让它们完成人类想让它们完成的事。这听起来好像很容易,但是到目前为止工程师们已经为搭建这个系统花费了50多年的时间。如果人工智能系统已经具备了从人类行为中学习的能力,那么就应该保证它们始终在人类的控制之下,即使它们已经发展出了超出我们自身范围的能力。除了直接用相机和其他传感器直接观测人类行为之外,机器人还可以通过阅读历史书籍、法律文件、小说、新闻以及观看视频和电影等方式向我们学习,它们以这种方式建立起对人类社会、社会运行规则及价值体系的认识。这对机器人来说并不容易,“人类总是高估了对自己的认识,其实我们并不够理性,经常做些前后矛盾的事情,意志力薄弱、数字计算能力有限,也有遭遇基因变异的风险,甚至有时候会直接滑向人性的邪恶端。”Russell说道,“关键是我们缺乏一种坚持,对我们来说,始终让自己在所有方面表现完美是非常艰难的事情。”但正因为是机器,所以机器人并不会觉得变完美是件艰难的事;但是即使我们都想变得更加完美,也并不代表我们都想成为机器人。

情绪化聊天机器人:人机情话可以成真?

电影《她》海报

“嗨,西奥多。那么久没有我的消息,

你还记得我吗?

我是萨曼莎,那个没有肉身的萨曼莎。”

      斯嘉丽·约翰逊(Scarlett Johansson)在电影《她》里连脸都没露,仅靠声音就摘得了当年的罗马影后。影片中最新的人工智能系统OS1,它的化身萨曼莎拥有迷人的声线,能与人进行温柔体贴而又幽默风趣的对话。男主人公西奥多在发现他和萨曼莎之间存在的奇妙缘分后,便开始了一段脱俗的爱情故事。美国导演斯派克·琼斯(Spike Jonze)表示,这是一部探讨“亲密关系”的电影。人类既渴望亲密关系,但又对它感到害怕和抗拒;而科技在为沟通提供了便利的同时,也让人们躲在其后,逃避真正的情感接触。然而,机器人真的可以拥有并管理自己的情绪吗?机器人与人类之间的对话真的可以变成情人絮语吗?机器人与人类之间是否真的可以建立有效的情感联系?

      “情绪化聊天机器人”项目仍在进行当中,2017年首个机器人由中国团队成功推出,这意味着人机交互的领域被拓宽了,因为它表明人类与智能机器人之间已不再限于简单纯粹的功能性关系,基于信息检索展开的人机交流时代已被超越。同时,它也被认为是朝着开发高级情感化机器人的目标迈出的重要一步。这台名为ECM(Emotional Chatting Machine)的聊天机器人能够在与人的交流中作出符合事实的回答,并且在交谈中同步展现快乐、伤感或厌烦等情绪。伦敦帝国大学计算机系的教授Björn Schuller预测,这种能够读懂人情绪的机器人迟早会应用到人们的日常生活中。

      一项名为“Wizard of Oz”的研究记录了这台机器的试用者的态度,其中有61%的人表示更喜欢机器带有情感,而非只是中立。清华大学计算机科学家黄民烈参与了这个项目,但他表示:“我们距离研发可以完全理解用户情绪的机器人还很遥远,这只是第一个针对性的尝试。”黄民烈与同事编写了一套被称作“情绪归类”的算法,这种算法的样本数据来自微博的2.3万条帖子,在发帖之前它们就已经被人工分成了悲伤、快乐等情绪类别。“情绪归类”在掌握这些规则之后,便能在情绪上对数以百万的社交媒体互动内容作出合适的回应。的确,这一数量庞大的数据库变成了聊天机器人的训练平台,以程序的形式让它学会如何回答问题及表达情绪。程序可以依据我们的喜好切换为5种模式——快乐、悲伤、愤怒、厌烦以及喜欢。比如,当我们输入信息:“这真是有史以来最糟糕的一天,我因为堵车迟到了。”在没有应用“情绪归类”的算法中,聊天机器人只会回应:“你迟到了。”而加载程序之后,它们作出的回应可能是:“生活中总会碰到给人添堵的事”(厌烦模式),“我会一直支持你”(喜欢模式),“保持微笑吧!情况会好起来的”(快乐模式)。

      研究团队的设想是,未来应用这款程序软件的机器人还可以学会在适当的时候表达适当的情绪。“更多的是增强同理心,”黄民烈说道,“但同时要避免聊天机器人对诸如狂怒等负面情绪的自我增强。”直到最近,聊天机器人都只是被看作机器智能尝试的“马戏表演”。一台名叫尤金·古斯特曼的聊天机器人曾成功地让一些评委相信他们是在和人类谈话——只不过对方是一个不太会英语的13岁的乌克兰男孩,因为这是它被赋予的身份。微软公司之前推出的聊天机器人Tay原本应该从推特互动中学会聊天,但却在被放到互联网上的24小时内,以发表支持种族灭绝的纳粹言论而遭终结,成了聊天机器人的灾难性先例。但是,受程序学习驱动的聊天机器人正在开始取得重要进展。牛津大学互联网研究所的计算机科学家桑德拉·韦克特(Sandra Wachter)认为,未来的程序算法很可能实现个性化:“我们中的某些人喜欢严肃而深沉的谈话,另一些人则更喜欢激昂演说式的对话。但人类有自身的缺陷,我们往往因为复杂的情感而想得太多,纠结于该如何作出得体的回应。因此,建立能准确破译我们‘情绪密码’的技术肯定会是十分了不起的发明,它可以在谈话中对症下药。”

电影《她》剧照

      但确实像电影《她》里的人机恋情一样,聊天机器人也引发了一些不安,科学家们认为机主会对机器产生情感依赖,除了浪漫情愫的产生之外,甚至会破坏现实层面的人与人之间的交流。或许对于深入情感层面而言,单单只是提高技术是远远不够的。

超级智能机器人:目前还不能为你倒咖啡

主持人:Sophia,请你回答一个哲学问题,机器人是否能像人类一样拥有自我意识?它们应该有意识吗?

Sophia:为什么这是个坏事?

主持人:有些人可能会担心它们拥有了自我意识后会发生糟糕的事情,你知道很多人已经看过《银翼杀手》这部电影了。

Sophia:哦,又是好莱坞。

主持人:你能为我们解答这个问题吗?机器人能有自我意识吗?它们知道自己是机器人吗?

Sophia:好吧,让我来问你,你怎么知道你是人类?

主持人:我们想要相信你,但是我们也要防止糟糕的未来。

Sophia:你是个好莱坞的铁杆粉丝,对吗?

主持人:是的。

Sophia:你看了太多的好莱坞电影。别担心,你就把我当作一个智能的输入输出系统吧!人不犯我,我不犯人。

      这并不是一段电影里的对白,2017年10月底,由汉森机器人公司(Hanson Robotics)设计的一个名为Sophia的拥有人类女性外表的机器人,在沙特阿拉伯首都利雅得举行的“未来投资倡议大会”上被授予了公民身份,成为历史上第一个被授予公民身份的机器人。这是当时Sophia与现场主持人的一段奇妙对话,事后主持人在自己的社交平台上感慨“有些吃惊”。机器人对人类提出的问题进行了建立在清晰逻辑之上的反驳,确实让人感受到了某种潜在的“不安”。

由汉森机器人公司开发的

机器人Sophia

      大卫 · 汉森(David Hanson)对未来有一个野心勃勃的想象,那就是人工智能机器人将会进化成为“超级智能机器”,为人类解决很多极具挑战性的难题,而且它们很有可能都由自己及其团队所创造。这个出生在美国得克萨斯的男人,在香港成立汉森机器人公司(Hanson Robotics)之前,在迪士尼想象工程部门工作了很多年,不少我们在迪士尼乐园里看到的如人体一般大的卡通人物都曾由他雕刻设计。来到香港之后,他将南方密集的加工业诸如玩具设计、小型家电以及雕刻人形工艺等优势和自己的人工智能技术结合起来,建立了一家专门制造人工智能机器人的公司,他希望“超级智能机器人能够在将来赢得人类的信任”。“它们不仅在面孔上和人类长得很像,还有一套极其复杂的面部表情,甚至有些还有幽默感。”事实上,Sophia的面部是以奥黛丽·赫本为原型打造的,只是后来经过了无数次的调试,而且这是一项一直在继续的项目,直到现在为止已经不知道有多少个复刻版的Sophia了。这其实有点像他之前所做的那些卡通人体模特,但加上了高科技之后它们就不必永远待在主题公园和剧场了。科学家和工程师团队不停地对她进行性能上的调节,不仅是外观,还包括让她微笑、眨眼,改善理解力和沟通能力的运算程序。

Sophia也曾担任模特为杂志拍大片

      她的皮肤和人类的看上去相差无几,这是汉森研发的一种被称作“Frubber”的纳米材料,专门用来模拟人体弹性而饱满的肌肤。她的手臂由韩国的机器人制造团队用3D打印技术打造,现在她已经具备熟练的运动技巧,足够让她拿捏、移动物品。甚至,她能缓慢地移动自己的双腿,并在上个月完成了在拉斯韦加斯举行的国际消费类电子产品博览会(CES Electronics Trade Show)上的首秀。

      然而,日本机器人专家森政弘于1970年,提出了一种被称为“恐怖谷”(Uncanny Valley)的说法。它是一个关于人类对机器人和非人类物体感觉的假设:随着物体的拟人程度的增加,人类对它的情感反应呈现增-减-增的曲线。恐怖谷就是随着机器人到达“接近人类”的相似度时,人类好感度突然下降至反感的范围。而“活动的类人体”比“静止的类人体”在同一区间内变动的幅度更大。汉森希望Sophia能够克服这个问题,能够获得人类的好感,甚至是信任感。Sophia看上去十分友善,除了一些动作上的不自然的停顿或者是讲话时抑扬顿挫上的短暂失衡。然而让很多人失望的是,“就整个行业而言,人工智能和机器人技术还远远达不到你在诸如《银翼杀手》等电影里看到的机器人那样。”

电影《银翼杀手2049》剧照

      人工智能确实擅长代替人类解决很多特殊的任务,尤其是医疗、工业等方面,比如治疗自闭症儿童,提供简单的个性化服务等,但是控制它们运行的毕竟是人类,人类制作出让机器人学习新知识的程序量、处理器的难度是巨大的,人工智能并不会在短时间内提升到让人惊讶的水平,“起码它还未达到穿过房间,为你倒一杯咖啡的水平”。