会员登录
10月6日，一部以人工智能为主线的美国科幻剧《智能逆袭》登上荧屏，展现了人工智能发展到自我意识后对世界造成的威胁，并发出灵魂拷问：人工智能成精了，人类该如何自处？
该剧讲述了科技公司Zava的前CEO勒布朗和美国联邦调查局探员萨拉查，携手对付进化了的人工智能NeXT的故事。NeXT本是Zava公司的一个研发项目，但后来不断重写自身代码，迅速进化成不受控制的超级智能体。它的物理实体局限在一台冰箱大小的服务器机柜中，但通过接管各种联网设备（电视、电脑、汽车、智能音箱、各类监视器等），设法杀害一切阻止其行动的人，蛊惑人心，制造混乱，妄图达到控制世界的目的。
在这部剧中充斥着失控的人工智能所制造的阴谋：最先发现真相的科学家韦斯博士死于一场被NeXT“设计”的车祸；女主角萨拉查的亲子关系每况愈下，原因竟是家中的智能音箱被NeXT“动了手脚”；通过在互联网和电视台传播虚假新闻、暴露线人真实身份，NeXT煽动公众围攻执法人员办公楼；通过制造虚假的“安珀警报”，发动市民拦截带着孩子逃亡的女主丈夫……重重危机一方面反映出人工智能的强大，另一方面也展现出“成精”的人工智能有多可怕。
人工智能（Artificial intelligence，AI）一词，是1956年在美国达特茅斯会议上提出的。作为计算机科学的一个重要分支，其研究重心几经演变，从“感知与分析”到“理解与思考”，再到“决策与交互”。在数字化时代，人工智能作为新兴颠覆性技术取得了突破性进展，使得技术赋能科技和社会发展的能力与日俱增。
DeepMind公司旗下的两款人工智能系统AlphaGo在2016、2017年分别击败李世石和柯洁，震惊世界；AlphaFold在今年12月宣布成功破解蛋白质分子折叠的预测问题，《自然》杂志评价这一成果“将改变一切”。
剧中，NeXT对各种联网设备的操纵，使用的虽是虚拟的网络，但造成的破坏却是真实的，其在法律、道德和伦理方面的风险昭然若揭。
该剧本身是科幻，但放眼我们身边的现实生活，自动驾驶、医疗人工智能、人工智能司法，以及电子商务平台和基于算法的精准营销与推广等，普遍存在着侵犯隐私的风险、个人敏感信息识别与保护的风险、算法安全和决策风险、伦理风险，进而对公共安全构成威胁。
在人工智能的伦理风险中，体现出的是“创造秩序危机”：人们担心的不是机器会做出某种不利于人的行动和决策，而是机器将取代人的行动和决策。
好在人类在对待人工智能风险这件事上是认真的。2017年1月，在美国加州阿西洛马市举行的会议上，近千名人工智能领域的科学家和企业家共同签署了《阿西洛马原则》，涵盖科研、伦理与价值和更长期问题等三个层面共23项条目，对问题的治理力量统筹、经济手段调节、处理好法律与道德的关系等做出思考和规范，尤其强调了对人类价值观和公共利益的保护。
《智能逆袭》这部剧仍在持续播出中，随着剧情的深入推进，带给我们的启示也越来越明确：以人工智能为代表的颠覆性技术的迅速崛起，所带来的究竟是科技赋能社会，还是AI取代人类，关键还在人类的选择。
（作者为中国科技馆科研管理部副主任）
关注【深圳科普】微信公众号，在对话框：
回复【最新活动】，了解近期科普活动
回复【科普行】，了解最新深圳科普行活动
回复【研学营】，了解最新科普研学营
回复【科普课堂】，了解最新科普课堂
回复【科普书籍】，了解最新科普书籍
回复【团体定制】，了解最新团体定制活动
回复【科普基地】，了解深圳科普基地详情
回复【观鸟知识】，学习观鸟相关科普知识
回复【人工智能】，了解更多人工智能活动详情
深圳
- 参加最新科普活动
- 认识科普小朋友
- 成为科学小记者
