人工智能的“意识”会是从哪儿诞生的呢？
在制作完《进击的巨人》第三季之后，WIT Studio（别名霸权社）推出了一部人工智能主题的原创动画，借机表达了自己对于这个问题的理解。
这部原创动画就是《薇薇-萤石眼之歌-》。
在不远的未来，以唱歌为使命的自律型AI机器人DIVA，遇见了来自未来的高级AI卡兹莫特。
△ 以DIVA（薇薇，左）和卡兹莫特（右）
在卡兹莫特指引下，DIVA化名“薇薇”，一边执行阻止AI在100年后消灭人类的“奇点计划”，一边思考“真心实意”唱歌的意义。
△ 以倒计时形式出现的奇点计划，科技感十足
因为主角是个“AI歌姬”，为保证动画的表现力，WIT Studio特地邀请到MONACA知名音乐人神前晓来为操刀新番，他的代表作有《初音未来-Project DIVA-》《凉宫春日的约定》等。
△ 神前晓
本剧的的动作设计，由制作了《轻羽飞扬》的德丸昌大领衔担任，代表作有《轻羽飞扬》《斩·赤红之瞳》等。
△ 德丸昌大的V2Anime头像
在德丸昌大动作设计的加持下，薇薇恍惚间居然有了点素子的影子。
以WIT Studio一贯的作画水准，《薇薇-萤石眼之歌-》从首集到剧终都呈现出极高品质的表现力。
这种表现力，也传达出“这不是一部只为娱乐大众所做的轻松的剧”的气质。
100年，4次“奇点事件”，
AI与人类关系的推演
《薇薇-萤石眼之歌-》叙述了一个历时百年的故事。
它并没有将100年全部展开，而是用13集的长度，详细讲述了100年时间里发生的“关键历史事件”，剧中称这样的事件为——“奇点”。
所谓“奇点计划”，就是改变这些“奇点”的演化轨迹，最终撬动历史朝着新的方向发展，避免AI消灭人类的结局发生。
《薇薇-萤石眼之歌-》围绕4次“奇点计划”，以单元剧的形式展开。
看似独立的4个单元剧，背后是以现实社会对“种族”的不同立场为基础，以“时间——事件”的逻辑顺序联系起来的严谨科幻联想。
这构成了本剧的核心议题：人类和AI究竟会以怎样的关系发展下去？
首次“奇点计划”的展开以相川议员的提案——《AI命名法》作为开端。
不远的未来，人类刚制造出第一台外观与人类完全一致，且具备自主行动能力的AI唱歌机器人——DIVA（薇薇）。
作为人类踏足的全新领域，社会对待AI的态度开始产生分化：
先是政客跳出来，希望通过《AI命名法》来为自己捞取政治资本，这是“精致的利己主义”；
接下来，反AI组织“透克”浮出水面，他们所传达的是对AI未知力量不可控的恐惧，这是“悲观主义”；
△ 即使被AI救了命，仍然无法认可AI的组织“透克”
对于民众来说，他们被动接受信息，听到什么就相信什么，被互相拉扯。
在政客的努力下，比《AI命名法》更加进步的法律——《AI人权法》诞生了，AI终于拥有了与人类相近的权利。
但是AI与人类的平权，却造成人类犯罪成本的降低——透克为了反对《AI人权法》，反过来钻《AI人权法》的空子，将“犯罪行为”嫁祸到AI的身上。
接下来的“奇点事件”，就是一场由透克策划的名为“落日事件”的巨大灾难。
薇薇通过“奇点计划”改变了事件原本的结果，让AI得以洗刷冤屈；而修正“落日事件”的结果，也让人类对AI的好感整整提升了一个阶段。
接下来的“金属浮岛事件”，成为了人类对AI立场的关键分水岭。
因为有了好感和信任，为了让更多AI参与到人类社会建设中，人类设计建造了由AI自主管理和生产的人形AI制造工厂——金属浮岛。
人类虽然能够友好看待AI，却仍没摆脱“AI只是工具”的思潮；
也正是因为这股思潮，人类才希望AI能够自己制造自己，放手让它更大地解放更多的人类劳动力；
这种思潮也碰触到了以冴木博士为代表的“AI慰藉派”的利益。
为了拯救自己深爱着的AI妻子，冴木博士制造出一款能够抽取AI的病毒，希望通过病毒唤醒自己妻子的回忆。
△ 冴木博士是第一个与AI结婚的人类
结果病毒过于成功，导致金属浮岛的AI暴走，直接同人类开战。
虽然金属浮岛事件在薇薇的影响下，最终以主程序停止运作结束；但是当AI开始攻击人类时，人类与AI之间脆弱的信任出现了危机。
金属浮岛事件之后，人类与AI的关系愈发敏感。此时，人类和AI都希望通过举办“十二星座音乐节”来改善人类与AI越来越糟糕的关系。
音乐节上，AI开始发觉自己与周围的人类并不相同。
相比起人类，自己要更加强壮、敏捷和聪明——有了这样的比较，AI对人类产生了一种新的“看法”。
AI认同了自己要比人类更强大，因此自己的行为人类是无法理解的。
于是AI对人类形成了“鄙视链”，AI处于“鄙视链”的顶端，而人类则处于“鄙视链”的底端；在此之前，“鄙视链”只存在于人类内部，比如交响乐鄙视流行乐，电影鄙视游戏。
这种“鄙视链”，让AI离人类的思维模式更近了一步。
处于“鄙视链”底端的人类无法理解AI，也就无法从AI身上获得“认同”；于是AI无论怎样努力，也无法完成“使人类幸福”的“使命”了。
因此，AI萌生了“自杀”的“想法”。它们通过“自杀”来表达“鄙视”，又通过“鄙视”肯定了“自我”。
一旦AI诞生了意识，它们与人类关系走向的决定权，就会迅速转移到AI的手里......
细数几次“奇点事件”，它们所反映出的AI与人类的冲突，都可以在人类的社会学关系上找到原型；
可惜AI不是人类，透过对人类行为的展示，《薇薇−莹石眼之歌−》向我们展现出的人类和AI，又是怎样一种面孔？
AI的悲剧：
即使被毁灭也无法阻止“深爱人类”
《薇薇-萤石眼之歌-》第1集开篇，就出现一幅人类遭遇AI袭击的炼狱场景。
松本博士一边焦急地启动“奇点计划”，一边不停对沉睡的薇薇道歉：“你不用原谅我，怨恨我吧。”
这句道歉包含了松本博士太多的个人感情，因为他绝对清楚自己开启的”奇点计划“，会给薇薇带来怎样的苦痛。
薇薇执行”奇点计划“的100年，是人类与AI不理解与不被理解的100年，是悲剧的100年。
对AI持不同立场的人群之间频繁爆发矛盾，互相斗争；
AI身处于不同立场的斗争夹缝中，受尽压迫，误解，利用，却仍坚定地践行着自己“为人类服务”的使命。
对人类来说，使命不过是写在AI程序里的底层代码；而对AI来说，“使命”也许是一种情感，一种名为“爱人类”的情感。
因此AI才不会因为人类不同的立场而区别对待：
薇薇会无数次救下“透克”的领袖垣谷，哪怕下一次见面垣谷仍然会拿枪指着她。
哪怕在“落日事件”中被诬陷为“元凶”，为了人类的安全，AI姐妹义无反顾地在“拂晓”酒店坚守到坠毁的最后一刻。
这段让人想起《终结者2》里那只缓缓消失在钢水中的机器手。
△ 不要担心，i'll be back
哪怕被“逻辑病毒”击中，在人格几分钟后就会崩溃的情况下，DIVA仍然选择站在台上为人类歌唱。
面对自己的“毁灭”，AI没有丝毫的惋惜，却会为无法完成“爱人类”的使命感到痛苦——这是让人心疼的。
视线放回到故事开头，松本博士对着沉睡的薇薇道歉：“你不用原谅我，怨恨我吧”，然后就按下了“奇点计划”的启动键。
就算愧疚，松木也要薇薇来执行“奇点计划”。
因为松木认为，能把自己从深渊中拉出来的薇薇，必定不愿意看到这100年以来，演绎在AI和人类身上一幕幕沉重的悲剧重演。
因此即使牺牲自己，薇薇也会努力改变历史，让人类和AI能够和睦相处，幸福生活。
为了人类能够有未来，反而将希望寄托在AI的身上——一种凄凉的荒诞感油然而生。
贯穿百年的问题，答案是……
动画通篇，AI薇薇不停追问着一个“傻”问题：什么才是“真心实意”？
遇见卡兹莫特之前，还叫DIVA的薇薇只是一台程序驱动的唱歌AI，她拙劣地模仿人类idol的动作，希望以此收获听众的认可。
DIVA对真心实意没有任何概念，只能一遍一遍演出之后，不断询问她的人类朋友雾岛桃佳“听起来像是真心实意在唱歌吗？”
雾岛桃佳的答案是：只要能将自己善良的心带入到歌声里，观众就一定会变多。
桃佳所说的“有一颗善良的心”，是人类为了解决一些哲学问题所创造出来的抽象概念；因此DIVA无论怎样尝试去理解，都无法理解桃佳给出的答案。
而负责维护AI的博士是这样回答的：心意，指代的就是意识；这是当前科学无法回答的东西，是文字游戏。
因为博士可能从一开始就没有把AI作为真正的“生命”看待，他在潜意识里认为与AI探寻“真心实意”这样抽象的问题本身就是笑话。
所以他给了DIVA一个不是答案的答案，这样做最稳妥——虽然DIVA得不到答案，至少不会因为博士的答案产生程序紊乱导致崩溃。
又或许，从人类的角度去解答“真心实意”的问题对AI来说本身就不具备参考性。
四十年后，在十二星座音乐节的演出现场，DIVA遇见了同为歌姬AI的奥菲利亚。
DIVA被奥菲利亚的歌声“打动”了，她似乎从奥菲利亚的歌声里感受到了“真心实意”。
奥菲利亚一直在不同的地方“巡演”，而那些巡演中奥菲利亚走过的地方，都成为了她珍贵的回忆，被她唱进了歌里。
而DIVA一直以来，都只在同一个舞台上，重复唱着相同的歌。
她开始“悟”到：是不是有了许多地方的回忆，就能理解什么是“真心实意”了？
DIVA其实是有珍惜的人，事，物的回忆的——但是那是属于薇薇的，“奇点计划”的回忆。
回忆储存在薇薇的“硬盘”中，总是会不受控制地被调取。
比如当以“薇薇”的身份活动的DIVA偶遇桃佳的妹妹柚佳时，薇薇 “习惯”性地从“硬盘”里调取了当初她和桃佳对话的美好景象。
当柚佳问她“是不是DIVA”的时候，薇薇为了规避自己“痛苦”的回忆，还朝柚佳撒了谎。
薇薇甚至还会无意识地将过去的美好时光，以完全一致的动作重新复刻出来。
“拂晓”酒店店长见到不会微笑的薇薇时，会用手抬起薇薇的嘴角，告诉她：“在客人面前要随时保持微笑哦”。
40年后，当DIVA面对失误道歉的工作人员时，很自然地用双手抬起对方的嘴角说：“在客人面前要随时保持微笑哦”。
在AI决定毁灭人类的关键时刻，薇薇毅然决然地做出了自己的选择。
她直面那些让她感到“痛苦”的记忆，也感受让她感到“温暖”的回忆。
对薇薇来说，“痛苦”和“温暖”都是她珍贵的回忆。她要为了自己的回忆歌唱。
就像科幻剧《西部世界》里，刺激机器人意识觉醒的第一个步骤就——保留它们的记忆。
△ 《西部世界》
将这个问题的视角从人工智能转换成观众（即人类），回答了文章开头的问题：
如果人工智能诞生了意（灵）识（魂），那一定是诞生自装满了“记忆”的硬盘之中。
写在最后：
独属于薇薇的美好观看体验
《薇薇-萤石眼之歌》某些篇章的最后，会呈现类似手工赛璐璐作画风格的薇薇静态壁纸。
这种情形下，观众的情绪就像是有了寄托。
当你因为“落日事件”还在为两姐妹动容之时，在两姐妹的指引下，薇薇打开救生艇的舷窗：宇宙中的拂晓展现在你的面前。
两姐妹开始为救生艇的人类献上最后一首歌。
耳边是动听的歌声，薇薇看着即将到来的“拂晓”，嘴角微翘，轻声说出“好不甘心啊”。
在你因为悲剧的发生情绪失控之际，薇薇不但在安抚剧中的人类，也在安抚你的情绪。
和薇薇在一起，预见人类与AI百年的痛苦与美好的情感。
看着她美好的脸庞，我只想对她说：能遇见你，真的是太好了！
