点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:人类将如何面对自己的创造物?
首页> 光明文艺评论频道> 文艺观察 > 正文

人类将如何面对自己的创造物?

来源:文汇报2021-07-20 09:16

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:江晓原

  中国近年来的影视作品,从各方面看进步都非常快,包括以往国内较少尝试的科幻题材,也有了不少值得称道的作品。中国的科幻创作曾长期处在“科普纲领”的强烈影响之下,许多人,包括相当多的创作者,习惯于将科幻视为科普的一种形式,而且还是以青少年为读者对象的低幼形式。当国内科幻小说作家整体上在20世纪90年代完成了“和国际接轨”的转变之后,影视作品仍然滞后。直到最近几年,在优秀作品带动下,在相关政策引导下,情况才有了较为明显的改变。影片《流浪地球》的成功,真正开启了中国影视的“科幻元年”,信非虚语。

  在告别了“科普纲领”之后,这绝不意味着优秀的科幻作品不会在客观上继续发挥科普的实际作用,科幻作品最值得重视的价值就是它的思想性,而思想性恰恰是国内科幻作品的短板。这块短板亟需有作品开始将它补起来。今年,一部30集科幻剧集《你好,安怡》(以下简称《安怡》)在这方面做了相当成功的尝试。

  虽然《安怡》有着一般青春剧的形式,主要是一群青春靓丽的年轻人的故事,用亲子关系、爱情等辅线来帮助推进情节,但编剧看来对人工智能问题做过不少功课,对于当下有关人工智能的几乎所有重要争议和思考,剧中都有所表现或回应,这在以往的国产科幻影视作品中比较少见。

  机器人的人权、三定律、图灵测试

  首先是机器人——可以平移为克隆人、复制人、人造人……在《安怡》中是“芯机人”——的人权问题。在无数涉及人工智能题材的科幻作品中,机器人的人权问题经常被作为主题或主题之一。《安怡》中那些已经有了自我意识的机器人,希望得到人类的平等对待,它们痛恨人类将自己看成一台机器,特别痛恨人类在挽救一个人类生命时,可以毫不犹豫地牺牲机器人的生命。这其实也就是希望获得人权。在《安怡》中,正面角色都认同了这一点,这可以理解为剧集主题赞成承认机器人的人权——如果它们的自我意识已经具备或觉醒,并且在各方面足够优秀的话。

  阿西莫夫在他的小说中提出了著名的“机器人三定律”。国外一些涉及人工智能的早期作品中,还要郑重其事地找机会将这三定律宣示一番。《安怡》中也对“机器人三定律”有所宣示,但安排得比较自然。值得注意的是,电视剧对违反三定律的现象有所思考。剧中出现了受罪犯操控的机器人杀手,而剧中人物明确指出,这样的机器人直接违反三定律中的第一定律“机器人不得伤害人类”。这个情节背后的道理虽然简单,却可以直接推论出:任何军事用途的机器人都是直接违反三定律的。事实上,根据“机器人不得伤害人类”,我们甚至不可以让机器人来对一个死刑犯人执行死刑。死刑必须由人类来执行。

  著名的“图灵测试”,是国外一些科幻影视作品中喜欢表现的内容,比如影片《机械姬》(2015),详细展示了反人类的机器人如何通过测试,而《安怡》将这个问题直接转换为机器人和人类的识别问题。在电视剧设想的情节中,机器人通过“图灵测试”早已不是问题,杨小兰长期隐瞒自己的机器人身份,在政府部门担任公务员;文浩康甚至一直在机器人专家程世光身边担任助理和亲信,也没有让程世光发现他其实是机器人。这表明主创并不认为机器人通过“图灵测试”有什么划时代的意义。

  奇点和自我意识

  在《安怡》中,最重要的悬念是“奇点”。类似科技狂人的机器人专家程世光,以及心怀深深怨念潜伏在程世光身边后来凶相毕露的机器人文浩康,都心心念念要“开启奇点”。但是,“奇点”如何开启?开启之后意味着什么?这两个角色都没有想明白。事实上,主创对这两个问题显然也没有想明白——眼下谁能将这两个问题想明白?

  “奇点”之说的流行,源自库兹韦尔写于2005年的畅销书《奇点临近》。书中鼓吹,到2045年,人工智能将超越人类,那时就是“奇点”的到来:“奇点涉及很多方面,其发展速度是近似垂直的指数增长,技术的扩展速度也几乎是无限的。”书中还明确预言,2020年之前人工智能将通过“图灵测试”,现在看来至少是估计得过早了。

  库兹韦尔的书虽然总体上有呼唤“奇点”的姿态,但他书中论述给人的印象,“奇点”是一个亦正亦邪的时刻,虽然激动人心,却也充满风险。而《安怡》对待“奇点”的态度也是相当暧昧的:不顾一切要开启“奇点”的,是两个反面人物,剧中的正面人物都在奋不顾身地阻止“奇点”的开启。但“奇点”到底意味着什么呢?根据剧中人物的对白,似乎主要是这一点:有自我意识的机器人大量出现。至于“奇点”如何开启,在此基础上也就不难想象了:程世光和文浩康都打算将能够产生机器人自我意识的程序上传到网上去,让千千万万机器人能够自我升级,这样“奇点”就能够开启。

  于是我们就进入《安怡》中最基本的设定之一,即机器人的自我意识问题。这个问题是国外许多作品喜欢浓墨重彩去描写和想象的,比如剧集《西部世界》,几乎整个第一季都在表现机器人自我意识的萌生或觉醒。而《安怡》则采用了简洁明了的方式,一上来就指明了四个有自我意识的机器人,后来又追加了两个潜伏的。这些机器人的自我意识,也不是自动萌发的,而是它们的“父亲”、人工智能专家李建维直接赋予它们的。

  其实人类的意识到底是什么,心理学家、脑科学家、科幻作家、人工智能专家都会关心这个问题。一些脑科学家试图将人类意识还原或理解为人脑某种物理运动的产物,这虽然具有哲学上的诱惑性,但迄今仍缺乏实证。

  而《安怡》将自我意识想象为某一段神秘的代码或程序,李建维将它写入了姜离、叶坤、曲思家、小马、李遥(他们的大脑是电脑)、杨小兰乃至文浩康的脑中,它们就都是一出场即具有自我意识的机器人。程世光、文浩康为了开启奇点,不顾一切想要获得的也就是这段代码或程序。电视剧的这个想法,有可能得到一部分人工智能专家的赞成,尽管这样神奇的代码或程序迄今在现实世界中尚不存在。

  人类打算如何与机器人相处

  关于机器人的自我意识,有必要顺便提到今年引进出版的石黑一雄的最新小说《克拉拉与太阳》。因为大多数涉及人工智能的科幻作品,显然都更愿意设想机器人自我意识的萌发或觉醒,因为这种自我意识必将与人类的意识冲突,这样才容易往下编故事,但石黑一雄反其道而行之,塑造了一个彻底“无我”的机器人形象,这也相当罕见。

  克拉拉是一个专为陪伴少年而设计的机器人,买下她的家庭对克拉拉也非常尊重,机器人科幻作品中常见的机器人的人权问题,在这个家庭里根本不存在,或者说被石黑一雄简单回避了。克拉拉真正做到了毫不利己专门利人,为了它负责陪伴的乔西,克拉拉可以做任何事情,甚至不惜损害自己的健康。这和《安怡》中文浩康因为李建维要用自己的脑去挽救儿子李遥的生命而生出无穷怨念,造成鲜明对照。

  几年后,乔西考上了她这个阶层的孩子应该上的大学,克拉拉的陪伴使命宣告终结。尽管母亲对克拉拉是满心感激的,但克拉拉仍不能免于被废弃的命运,这表明人类没有承认它们的人权。克拉拉在废弃机器人的堆场上,平静地、无怨无悔地接受了自己的命运——为人类付出了自己的一切,被人类用完之后却弃若敝屣。再想一想,人类对于生活中使用的许多器物,不也有这种薄情寡义的态度吗?

  和国外许多电视剧一样,《安怡》的结尾也是开放的:有了机器人的未来世界,既可能鸟语花香,也可能腥风血雨。人类打算如何与机器人相处呢?这取决于我们赋予机器人怎样的自我意识。

  (作者系上海交通大学讲席教授江晓原)

[ 责编:李浩巍 ]
阅读剩余全文(

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 曹雪盟:动人的女性故事,从真实描绘困境开始

  • 《叛逆者》:真实的生活焊接革命的支点

独家策划

推荐阅读
无论是中部地区还是各大区域重大战略都不能够固步自封,应该在内部“抱团取暖”的基础上,进一步秉着“一体化”的理念,将内部优势产业、元素延伸到其他区域,不断加强不同城市群之间的合作。
2021-07-27 11:05
科技创新是系统工程,人是其中最重要的变量,只要把人的作用发挥好,我们就把握住了创新的脉搏,就有了推动我们国家更好更快发展的最大动力来源。
2021-07-17 09:26
国家关键信息基础设施规模建设和信息技术创新能力持续提升,为以数字化转型整体驱动生产方式、生活方式和治理方式变革,为数字经济、数字社会、数字政府高质量建设奠定了坚实的发展基础。
2021-07-15 17:31
加强高校科技治理制度体系化建设,强化高校科技发展与立法互动,促进国家科技治理相关政策的修订与完善。完善激励高校科技创新的政策法律制度、促进科技成果转化等法律法规机制。
2021-07-09 14:42
面向未来,应当遵循创新、协调、绿色、开放、共享的新发展理念,更好统筹国内国际两个大局,促进民间友好事业不断发展,努力塑造可信、可爱、可敬的中国形象。
2021-07-05 14:54
百年征程之后的新征程上,我们必须进一步强化“以人民为中心”这一立场,始终站在最广大人民之中,凝聚起推动中华民族伟大复兴的磅礴力量,实现新的更大发展。
2021-06-29 16:32
今天,我们要结合新的时代条件,坚持坚定执着追理想、实事求是闯新路、艰苦奋斗攻难关、依靠群众求胜利,让井冈山精神放射出新的时代光芒。
2021-06-19 09:40
全过程民主最大限度地调动人民群众的积极性、主动性、创造性,以广泛持续的参与保证选贤任能和事业发展的连续性,有效避免了“人民只有投票时被唤醒,投票后进入政治休眠期”的局面。
2021-06-16 09:32
漫长行政链条所带来的基层政策执行偏差一直与国家治理的历程相伴,农村地区政策执行中长期存在着“最后一公里”困境,乡村示范项目评比则可以帮助打通“最后一公里”。
2021-06-07 17:29
科技投入和科研项目不是科技成果,不应将其作为科技成果评价的“分子”或加分项;恰恰相反,要将其视为科技成果的“分母”或减分项。
2021-05-26 16:23
要根据最新人口发展特点,构筑与大国人口数量、结构、分布特点相适应的高质量社会治理新格局,为推动经济高质量发展、创造高品质生活,让全体人民过上幸福美好生活提供强有力的制度保障。
2021-05-20 14:21
物质生活的富裕是共同富裕的基础,但共同富裕不仅指经济上共同富裕,也包括人民对政治民主、文化繁荣、社会道德、生态文明等方面的追求。
2021-05-17 09:44
每一种精神的形成,背后都有着深厚的理论渊源,其既是马克思主义中国化的理论成果之一,也是中华优秀传统文化的弘扬光大,是中国共产党革命文化的一个真正体现。
2021-05-12 10:15
将节粮减损、制止餐桌浪费等纳入“粮食安全保障法”并加快立法进程,建立爱粮节粮检查、投诉、宣传和志愿者服务等制度,并列入粮食安全省长责任制考核,不断完善反粮食浪费法律法规体系。
2021-05-02 09:58
进入新发展阶段、贯彻新发展理念、构建新发展格局,依托超大规模市场优势,中国经济稳中求进、稳中向好的基本面是没有任何改变的,中国经济持续稳定恢复是有基础有条件的。
2021-04-26 15:40
发挥数字经济优势,以经济、社会、治理为重点,全方位推动数字化转型,是我国经济实现高质量发展、创造高品质生活、实现高效能治理的题中应有之义。
2021-04-17 09:28
将区际利益协调过程按顺序分解为一系列小程序,并构建适合中国国情的机制,细化机制的构建使得利益协调有章可循,从而保障利益协调过程的规范性及最终的有效性。
2021-04-13 17:51
走向共同富裕,需保障农民收入增速持续快于城镇居民收入增速。促进生产要素的有序流通、进一步合理改革收入分配制度,是缩小城乡居民之间、城市和农村居民内部收入差距的重要路径。
2021-04-10 14:01
信息高速公路可以促进经济欠发达地区与全国乃至世界各地的信息联通,信息进村入户打破了城乡间的“数字鸿沟”,从多个方面带动农村经济发展和农民脱贫致富。
2021-04-07 17:48
党的十八大以来,自然资源管理领域一直在推进系统性的重大改革。耕地保护的治理体系属于其中重要一环,需要在价值内涵、体制机制、治理工具等层面响应新时代的要求。
2021-03-15 15:32
加载更多