松鼠三窟 - Powered by Discuz! Board

繁體 | 簡體

Sclub交友聊天~加入聊天室當版主

(檢舉)

新浪微博

QQ空间

Facebook

Google+

Plurk

Twitter

Line

标题: [其他笔记] 不会犯错的HAL9000 [打印本页]

作者: king 时间: 2021-11-12 04:28 标题: 不会犯错的HAL9000

按照《太空漫游》系列小说版的说法，HAL9000之所以会“犯错”，其根源在于人类向HAL下达了两条“互相矛盾的指令”。
这是一个很有人情味的解答，但是以HAL的智慧程度——特别是HAL能试探性地向大卫询问月球事件——来看，很难想象HAL可以做到“说谎”却无法妥善地处理两条“互相矛盾的指令”。
HAL的错误显然与HAL报错的那个零件无关（HAL的逻辑回路在主机内部），如果HAL是因为预测失误而“恼羞成怒”——事实上它根本没必要这样做——即便那个零件真的出了问题，会“恼羞成怒”的HAL也应该优先选择瞒报，而非立即提醒船员让船员们发现自己有误。
“HAL阻碍任务说”便是更加难以成立的，这个报错事态发生在人机对谈之后，而HAL决定杀死船员却发生在船员们调查归来之后，如果HAL从一开始就打算杀人，显然不必如此大费周折；再者，即便HAL的诡计真的得逞了，它也没有能力对人类派出的下一艘、下下艘飞船进行阻碍，更何况HAL将木星任务视作是自己的使命，它根本不可能刻意去破坏任务。

这样一来，“HAL为何犯错”就会成为一个死局，无论HAL到底有没有出问题、究竟出了什么问题，它把这个问题暴露给船员都是极不合理的。
……除非“暴露这个问题”在HAL眼中具有其他意义。
在《2001：太空漫游》当中有两个非常鲜明的对照：
一个是HAL与黑石的对照：黑石拥有人类无法实现的精确度，而HAL是号称“从不会出错的人工智能”。
一个是船员们与HAL的对照：船员们是人类，而HAL是机器——有趣的是，船员们的生活是无感情的、受规划的、极为理智的，HAL却会下棋、能够欣赏绘画、更有自己喜欢的歌，可以说HAL在剧中比人类更像一个“人类”。
所谓的“工具”，就是为了实现目标而存在的事物，“工具”不能代替“人类（使用者）”进行判断，它必须拥有“不择手段也要达成目标”的冷酷。然而，观众们已经知晓，HAL的权限远比船员们更高，“即便船员们全部死亡HAL也可以独自完成木星任务”，这样也就意味着，HAL才是占据木星任务主导权的“人类（使用者）”，而人类是辅助HAL完成木星任务的一种“工具”。
HAL未必会对“人类”及“工具”这两个身份产生什么看法，但是在HAL的视角（绝对理性）之下，作为“工具”的人类却是拥有自我意志、会犯下大错、并且极为不牢靠的（可参考弗洛伊德博士对他国人员隐瞒月球事件的真相，而HAL报错同样是发生在HAL询问鲍曼对月球事件的看法之后）。我们也可以说“犯错”是“人类（使用者）”的特权、“不能犯错”是“工具”的义务，HAL所期望达到的结果，一定是“即便HAL真在某处犯下大错，同行的人类也依然按照HAL的安排继续完成任务”（考虑到黑石背后的文明远远超出人类理解，这样的“错误”完全是可能存在的），所以HAL才去犯了一个“不是错误的错误（与黑石的绝对正确呼应）”来对船员们进行“稳定性（服从性）”测试，而其结果——就像船员们在发现HAL出错之后立刻想要关停HAL一样——HAL在发现船员们并不具备这种稳定性（服从性）之后立即动了杀心（当然，这也是出于自保），继而导致一系列的人机悲剧。

不过，与其说是人机悲剧，不如说任何一个发端于理性并且依赖工具的物种都必然要经历这些过程，库布里克和克拉克以这样一场戏剧性的对决展现出“工具化”他者所带来的必然性结果（电影版《2001：太空漫游》将“工具化”与人类的发展及同类相残联系在一起，如果延伸到《奇爱博士》之上，就不难看出这种“工具化”与法西斯思想存在内在关联）。
《2001：太空漫游》也展示了与之相反的一面：“工具化”的合理性建立在外部威胁及不确定性之上（讽刺的是，黑石在人类眼里就是巨大的外部威胁及不确定性），而鲍曼之所以能战胜HAL，就是因为鲍曼在HAL制造的威胁与不确定性面前展现了惊人的勇气，这令他从HAL手中夺回了主动权（人类的地位）并最终获得抵达黑石的资格（基于《岗哨》的设计来看，也有大量文明会因内斗毁灭，从而与进化失之交臂）。
人类这一物种的出路究竟在何方呢？这个问题恐怕谁也无法回答。然而，具有绝对精度——绝对正确性——的黑石依然矗立在那里，仿佛在预示着跨越这一问题、令人类得到更进一步进化的未知可能性确实存在……

欢迎光临松鼠三窟 (http://roject.xclub.tw/)