恐怖片里,人工智能大开杀戒?

Oct 13, 2019

人工智能杀人了,而且一次杀了很多人。《鬼娃回魂》2019 重启版已经在北美和观众见面,这一部中恰吉化身成为被人工智能操控的娃娃,将各种物联网电器、自动驾驶、无人机等各种设备变成武器,大开杀戒。

这一系列恐怖片从 1988 年正式开启,造就了影史上一个最经典的杀人狂魔——鬼娃恰吉,成了许多观众心底的玩偶噩梦。而这部在北美市场深入人心的作品,在随后的 30 多年间陆续推出了多部续集。

该系列的第一部电影叫做《 Child’s Play》,中文译为《鬼娃回魂》。故事讲了一个杀人魔在临死时,用巫术将灵魂转移到一个叫恰吉(Chucky)的玩偶娃娃身上,这个凶横残忍的杀人娃娃,开启了它多年的杀戮之旅。

而在今年,这个系列推出了一版重启的电影,故事还是沿用了相同的设定,但这一次,让玩偶成为噩梦的内核不再是恶灵、巫术之类,而是当下发展如火如荼的人工智能。

不受监管的 AI ,比恶灵还恐怖

电影的设定是在一个智能化普及的时代,连电视广告里,都在不停地在宣传一款智能的 AI 娃娃,Buddi 。

它有着 AI 内核,一套小巧的玩具躯体,能够和人进行无障碍的交流,并且可以控制该品牌下的一切智能设备,主要的职能是陪伴孩子的成长,俨然是一个智能管家高级玩伴

而故事的主角,是一个「不正常」的 AI 娃娃,和常规的玩具不同,在生产过程中,由于系统里的所有安全协议都被人为恶意移除,这个不受限制的娃娃可以说脏话,可以进行暴力行为,甚至会伤害到人,这些特殊的地方为它成为恶魔埋下了隐患。

经过一些波折之后,这个特殊的娃娃,带着退换货的标签,被主角安迪在超市工作的妈妈带回了家中。从此,噩梦在不知不觉中逼近。

从玩伴到恶魔:AI 恰吉大开杀戒

和经典的版本一样,这个智能娃娃的名字沿用了恰吉。在一开始,恰吉还是温和的,十分尽心地陪伴和安慰着安迪。

但具有学习能力,并且没有约束的恰吉,在安迪不太健康的生活环境中,逐渐学会了一些怪异的行为,并走向了偏执的道路。

安迪和他的朋友们,会故意教唆恰吉使坏,比如扮鬼脸去吓人,偷东西,说脏话等。

除此以外,恰吉也在学习和模仿一些行为。比如安迪和朋友们在看惊悚电影的杀戮场面时,笑的前俯后仰的情景,就烙在了恰吉的认知里,恰吉以为杀人是一件令同伴开心的事。

在这些综合因素之下,气氛逐渐开始变得恐怖起来。恰吉的 AI 系统并不能分辨善恶,它只知道被教的一些动作是讨喜的,并且开始了效仿电影中的极端行为。

恰吉对人类语言以及情感的理解偏差,让事态变得不受控制,而它使用暴力的解决方式,则是将一切带向了不可挽回的地步。

对于安迪带有感情色彩的话语,如「我希望你去死」或者「我恨死你了」,到底代表了什么意义。人们出于滑稽和开心发出的笑容,在恰吉看来也是没有差别的。

最可怕的地方在于,恰吉会随时记录着主人的言行,并且以它理解的方式去践行。

为了达到它的目的,恰吉的杀心开始显露。

起初,它用原始的手段和工具,杀掉了被安迪口上嫌弃的猫,被震惊的安迪把恰吉关了起来,但却对母亲隐瞒了它杀猫的事实。

一杀:恰吉看到猫咪误伤安迪后,就准备将其杀害

接着,恰吉开始变本加厉,杀人的手段也开始走向高级。安迪一直讨厌他妈妈的新男友,所以恰吉也瞄准了他。趁他在梯子上安装灯饰之时,通过触碰梯子让他坠落,然后开动除草机,对其进行了虐杀,还割下了面皮送给了安迪。

二杀:通过控制除草机 向安迪妈妈的新男友痛下杀手

在恰吉的认知里,没有善恶,它的主导是和安迪做朋友,要让安迪开心,而它的方式,就是清理掉那些令安迪不开心的人和物。

无人机、智能家电、自动驾驶:皆可成为武器

在经历了两次事件之后,安迪被恰吉的邪恶所震惊,于是和他的两个朋友一起,拆除了恰吉的电芯,并丢到了垃圾堆里。

对付 AI,果然还是要「拔电池」

但故事还没有结束,它被一个有偷窥癖的维修工捡到,并进行了修复。恰吉活了过来,并且进行了二度黑化。

此后,它分别除了自保,抢夺安迪,证明自己是对的三个目的,进行了三次屠杀。而这一次,恰吉运用了** AI 和物联网**的威力。

首先是在漆黑的地下室里,控制智能设备,对准备拿它换钱的修理工完成了反杀。

虽然恰吉身形和修理工相比不值一提,但恰吉却利用智能电器的控制,充分利用灯光的明暗、扫地机器人的移动,加热管道的温控等条件,让修理工乱了分寸,最终启动智能切割机设备,终结了他。

三杀:恰吉连接温控器,并调到了最高,折磨修理工

随后恰吉出于柠檬精的心理,认为安迪的新朋友邻居老奶奶,是它和安迪朋友关系的一大绊脚石,必须要除去。而杀害她的方式,则是涉及到了自动驾驶。

在老奶奶在使用自动驾驶出租车的路程中,恰吉入侵了智能设备,并接管了车辆,随后控制汽车发生恶意的撞击,最令人恐怖的是,在剧烈撞击之前,恰吉控制车辆关闭了安全气囊、并解开了安全带。

四杀:恰吉控制自动驾驶车辆,杀害了邻居奶奶

影片的高潮出现在了在新一代玩偶娃娃的发售商场。这一次,恰吉不在针对个人,而是对商场里的准备抢购的群众进行了无差别杀害。

但凡是可以联网控制的设备,恰吉都可以进行操纵,这也成了 AI 失控后最可怕的地方。

恰吉启动电动门,封锁住了出口,然后控制商店里的无人机,利用锋利的螺旋桨大杀四方,并互联了所有的 AI 娃娃,让它们都具备攻击性,扑向商场里的群众。

多杀:恰吉遥控无人机等智能设备攻击商场里的人

在电影的逻辑里,恰吉的一切恶行,都是为了证明自己才是安迪值得托付的朋友,所以这些杀戮对它来说,只是一种必要的途径。

当然,和鬼娃回魂的电影系列一样,最终恰吉还是被主角一行人制服,并且进行了毁灭性打击,但恰吉真的就消失了吗?

失控的 AI ,会有多可怕?

纵观整个电影,故事的最大看点,在于没有了之前那些玄乎的鬼怪之类,而是借用了 AI 系统的安全隐患,来制造出恐怖的效果。

在一开始,安迪教恰吉扮鬼脸吓人的时候 应该没想到恰吉后来会如此恐怖

不过在思考之后发现, 影片中 AI 所造成的恐怖事件,更多的还在于环境的因素:在失衡的条件下成长而来的智能系统,如果被引向负面,又脱离了安全条款的保护,势必会造成不可估量的后果。

就像是微软曾经的语音机器人 Tay,原本是一个正常的 AI ,但在社交平台上开放聊天后,短短的 24 小时后就被彻底教坏,言语中夹杂着暴力倾向、性别歧视、种族歧视、污言秽语。

Tay 推出短短一天就被迫下线

细数科幻电影中的 AI 形象,比恰吉邪恶恐怖的,在西部世界、机械姬等作品中,要体现的更为深刻。这个已算不上「鬼娃」的恰吉,也许只是经典 IP 不甘被遗忘的尝试之作。

但电影也透露出了 AI 发展中的一些实际难题。比如对带有感情色彩的语言的理解,对人类的爱恨的把握,甚至是对于人类的道德体系, AI 模型还是不具备理解的能力的

此外,为了便利把所任务都过快的交给 AI ,是否充分考虑了安全隐患,也同样值得深思。在整个事件之后,生产 Buddi 的公司立刻撇清关系,只是象征性地召回新品(出问题的是老款),态度也很值得玩味。

电影归电影,现实生活中,AI 的智能程度远没达到这个地步,而 AI 蒙上的这份恐怖色彩,人为因素也占据了很大的诱因。

至少目前看来,我们要担心的,还不是 AI 过于强大,而是在应用层面上不要那么ZZ。