上海汽车报电子报

2018年2月11星期日
国内统一刊号:CN31-0035

上海汽车报新知+|Wissen+ 当AI“站在桥上看风景”

按日期检索

12 2017
3
4

上海汽车报

电子报刊阅读器
放大 缩小 默认

当AI“站在桥上看风景”

□ 本报记者 李妍如

当“你站在桥上看风景,看风景的人在楼上看你”的时候,似乎也没有什么特别之处;但当“明月装饰了你的窗子,你装饰了别人的梦”的时候,隔岸而望的人与AI,哪个是“你”?哪个又是“看风景的人”呢?

作为理性的AI,是否一定能把人类非理性的一套心理表征学个差不多?在物理环境变成了智能产品的天下之后,人类又该如何自处?

《人之彼岸》

作者:郝景芳

出版社:中信出版社

出版时间:2017年11月

创业者任毅把自己分成多个相同的“自己”,他就可以同时兼顾多场活动和约会;有一天,钱睿回到家里,发现他刚刚在医院服侍的形容枯槁的母亲,竟然健朗地站在自己的面前;名为陈达的智能管家,“目睹”了主人林达被谋杀……智能产品正在变得更加智能,如果把时间线拉得很长很长,一直到未来人类出生后,植入的人工芯片仿佛出生证明一样成为标配,你就再也无法分辨谁是人,谁是AI化的人了。

郝景芳构思了六个关于人与AI的科幻故事。故事结束之后,她又用两篇非科幻思考文章回答了我们关于AI的所有困惑。

去年8月,英国《太阳报》报道了一个让人毛骨悚然的“趣闻”:脸书(Facebook)的研究员启动了两个聊天机器人,一个叫爱丽丝,一个叫鲍勃,主要是为了考察在社交网络里,机器人可不可以自主交流。比如说,机器人之间交易物品,甚至是讨价还价。然而,爱丽丝和鲍勃聊着聊着出事儿了,它们为了更方便交流,把英语转换成了只有它们自己能懂的暗号和重复。

英国学者凯文·华威说:“这在人工智能的发展道路上是一个非常重要的里程碑,但同时也很危险。我们不知道机器人之间在聊什么,万一这是一些军用机器人,将带来致命的风险。万一有人将其应用到军用机器人上面,那对人类将是灾难。这是第一条被记录的机器人之间的沟通,不过肯定也有没被记录到的事件。现在的智能设备有能力彼此沟通,但人类却未必有能力监控到这些变化。霍金和我都已经警告过人们人工智能会带来的风险。”

同样担心人工智能的还有“硅谷钢铁侠”埃隆·马斯克,他警告扎克伯格说:“你对人工智能的认知有限。”马斯克认为,这(指人工智能)是人类文明的危机。而他应对危机的方法非常牛掰,即组织大伙移民火星。

关于人工智能的讨论,目前分成了泾渭分明的两派,即“马上来临派”和“永不到来派”。这倒有点像抗日战争时期的“速胜论”和“亡国论”,后来中国走上了持久战的道路。那么,人工智能与人类的博弈会不会也是一场“持久战”呢?也就是说,超级人工智能也许会到来,但这个过程会十分漫长。要我说,这事儿都多余地去想,以人类的智力去思考神出现的可能性,有点夏虫不可语冰。

科幻作家郝景芳并不太担心未来人工智能会和人类全面对抗,也不担心人类文明受到根本威胁。可以说,她是“持久战”的支持者。她担心的是人类自身的异化,担心人类越来越不重视自身的情感化特征,将自己的一切都划归到数字世界,将自己彻底数字化。

这也是历史学家赫拉利的担忧,他在《未来简史》里提出了同样的问题。未来,人类将失去自主性。现在,人工智能还只是我们的助手,而随着我们越来越依赖人工智能,它们最终将成为我们的主宰。特别是《人之彼岸》收录的两篇关于人工智能领域的“非虚构思考”,深入浅出地表达了郝景芳同样的担忧。

最后,这位科幻作家的理性让位给了一位年轻母亲的感性:“彻底数字化往往让我们忽略面对面相处,忽略眼神沟通,忽略泪水,忽略身体的拥抱,忽略失败的痛苦。但实际上,这些都是我们智能系统的一部分,是最珍贵的一部分。如果不能再通过眼神交流,不再懂得数据之外的情感,不认为人生有比利益优化更重要的意义,不再感受到伟大艺术家给人传递的震撼,那我们也就称不上万物之灵,而是把这个位置拱手让人了。”

没有任何物种能毁灭我们的精神世界,除非我们自己放弃。

书评

郝景芳的小说有很多有思想性的追问,构造出的世界也有着对人类的关怀。

——《三体》作者 刘慈欣

郝景芳小说《北京折叠》已经预测了机器人取代人类劳动造成的社会影响。这一部小说里,作者展现了对人工智能更深层次的思考和判断。我尤其赞同作者关于人类相比人工智能具有两个突出的核心能力的观点——常识,以及其升级后的世界观和创造力。这些能力是人类文明延续辉煌的根本动因。

——红杉资本全球执行合伙人 沈南鹏

本书以专业的技术视角完整地阐述了当前人工智能技术的发展现状以及未来发展方向,深刻探讨了智能技术发展对未来人类社会的影响。之后娓娓道来的几个科幻故事沿用之前讨论观点的主线,精彩至极。

——IBM中国研究院认知计算方向首席科学家 苏中

摘要

大多数人对AI感兴趣,多半是因为两种原因:一些有关AI的影视作品深入人心,例如曾经的经典电影《终结者》,或者这两年很火的美剧《西部世界》;另一个原因是AI的发展速度,这两年的围棋大战以及日常生活中AI的应用,让很多人惊呼人工智能时代到了。无论是出于对影视剧的好奇,还是出于新闻热点,我想说的是,人工智能和我们生活的距离真的没那么遥远。

对人工智能的讨论,最热的话题无疑是两个:人工智能会不会毁灭人类,以及人工智能会取代多少就业机会。

对于第一个问题,我在科普文章《离超级人工智能到来还有多远》中有一些讨论。总体而言,我觉得人工智能会变得非常强大,但并不意味着它们会毁灭我们。它们的威胁性其实和原子弹一样:能毁灭所有人,但按钮掌握在人类手里。最有可能出现的不是它们毁灭我们,而是我们毁灭我们。

对于第二个问题,其实我在《北京折叠》中有所涉及。《北京折叠》是我四年前发表的作品,讨论的是当机器大量取代工人,冗余的劳动力如何生活?小说给出的黑暗解法是:把多余的人们折叠进夜里。现实中,我自然不希望看到这样的事,于是一直非常关注这方面的问题。

国际上有一些评估,好几项权威研究都得出大致相似的结论:在未来二十年,现有工作的一半左右都会被人工智能取代。国内尚没有这样大型而完整的报告出炉。但据我所了解,有几项研究正在开展,估计明年会陆陆续续公布评估结果。如果在短时期就有大量工作替代,而被替代的工作者又不能快速找到新工作,那就有可能造成显著的社会冲击,无论对福利,还是对社会稳定都是挑战。

人工智能时代,对于每一个普通人来说,可能最重要的就是两点:了解它们、了解我们。只有了解它们才可能与之同行,只有了解我们自己,才能知道人类有什么优势。我们要回到对人本身的信仰,以人为理想,才能在未来拥有自己的空间。

人之彼岸的意涵其实很简单:

人在此岸,AI在彼岸,对彼岸的遥望让我们观照此岸。

郝景芳的科幻世界

在后“三体”时代日渐浮嚣的中国科幻中,郝景芳的作品并不大张旗鼓地吆喝,但总是吸引你去聆听。郝景芳的科幻作品往往给人一种踮起现实的脚尖去看更远世界的感觉,其间所饱含的人文关怀以及思想性,在许多科幻作品中并不多见。

《孤独深处》

《孤独深处》收录了郝景芳在2010年至2016年间发表的一些科幻小说,其中就包括郝景芳的雨果奖提名作品《北京折叠》。书名也是源于作者对科幻小说的感觉,她认为写作是生活中最重要的快乐源泉,也是孤独深处最重要的情感力量。

《去远方》

在郝景芳摇曳多姿、细腻唯美的感性笔触下,有着对世界的冷峻洞察和理性思索,而更深处是一种坚定的力量感。这并非单纯是科技发明的力量,而是精神追求自身的完满、充沛与坚韧。

《流浪苍穹》

《流浪苍穹》作为郝景芳的首部科幻长篇小说,它向读者展示了一个瑰丽而又崭新的世界。

书中描述的故事发生在若干年后,移民火星的人类爆发了反叛地球的独立战争,战争的结果是形成了两个互不来往的世界。一直到战后100年,地球和火星才开始交往。

本书首次出版就获得刘慈欣、韩松等著名作家的高度赞赏。刘慈欣曾在接受《人物》杂志采访时盛赞此书。韩松也表示,因为《流浪苍穹》非常优秀,他将不再涉足火星题材的作品。

放大 缩小 默认
关于我们 | 企业公示 | 手机版
主办单位:上海汽车报社有限公司 备案号:沪ICP备16052313号-2