AI Game06-AI能从现实中学会价值观吗
大家好,我是你们的朋友。最近我一直在思考AI Game这个宏大的命题,前面我们聊了涌现、聊了控制;至于世界真能不能崩溃,留到下一篇再谈。今天,我想和大家探讨一个更深、也更棘手的问题:AI的价值观,到底从哪儿来?
在之前的讨论里,我们得出了一个结论:无论AI多么强大,最终都需要人类来定义“什么是好玩”、“什么是美”、“什么是有意义的”。但一个激进的想法总是在我脑中挥之不去:我们能不能干脆让AI自己去学习人类的价值观呢?
想象一下,我们创造一个AI,就像一个“数字人类学家”,把它接入互联网,让它去观察、分析、学习海量的现实世界数据——社交媒体的热点、电影的叙事模式、书籍的文化思潮——然后,它自动总结出了一套属于我们这个时代的价值观和审美模型,并把它应用到游戏世界里。
这个想法听起来是不是特别酷?它试图一劳永逸地解决那个“人类定义,AI执行”的繁琐流程。但每当我深入思考这个可能性,总会发现一些难以逾越的障碍,而《刀剑神域》的故事,恰好为我们提供了一个绝佳的思辨案例。
观察 ≠ 理解:仅凭亮色穿搭,能确定一个人的动机吗?
首先,AI可以轻而易举地捕捉到浅层的审美和趋势。比如,它能通过分析数据发现,最近“废土美学”很火,或者某种叙事结构在电影里大受欢迎。Netflix的推荐算法其实就在做类似的事情,它通过“观察”你的行为,来“学习”你的审美偏好。
但问题在于,AI看到的是现象,却很难理解现象背后的动机。
举个例子,AI可能会观察到,在某个时期,“多巴胺穿搭”(高饱和度的鲜艳服装)突然爆火。它能总结出“亮色系受欢迎”这个结论,但它很难理解这背后的深层原因:也许是社会经历了长时间的压抑后,人们渴望一种情绪上的释放;也许是对极简主义的一种反叛;也许是某种寻求简单快乐的社会心态。
AI看到了我们在做什么,也可以尝试推测我们为什么这么做;但仅凭行为,往往无法确定真正的动机。价值观和审美,恰恰与那些复杂的“为什么”有关。
价值观的“洋葱结构”与AI的困境
人类的价值观,就像一个层层嵌套的洋葱。
- 最外层:我喜欢某个游戏角色。
- 往里一层:因为他代表了自由和对权威的反叛。
- 再往里:因为这满足了我在现实生活中被压抑时的一种心理代偿。
- 核心:这最终指向了人类对“自主性”的根本渴求。
AI能捕捉到哪一层呢?即使是最外层的“偏好”,行为数据也只能提供线索;至于更深层的动机,AI可以提出解释,却不能仅凭表面行为确定哪一种解释正确。真正驱动一部作品的情感与价值,需要结合个人经验、交流和具体情境去理解。
《刀剑神域》Underworld的警示
聊到这里,我就不能不提《刀剑神域》Alicization篇里的“Underworld”(UW)世界了。这个例子简直就是为我们今天的讨论量身定做的。
UW项目试图培育自下而上的“人工摇光”(人工智能),让他们在虚拟世界中成长,通过与环境和彼此的互动形成社会。这个世界并不是没有人为设置的边界:环境、规则以及后来形成的制度,都影响着他们能够如何生活和选择。
这个构想,和我们前面提到的“AI自动学习价值观”何其相似!结果呢?
1. 环境与制度如何限制选择
UW居民成长于一个受到环境和制度共同塑造的世界,禁忌目录也是其中重要的约束。制度对行为的限制,与观察数据不完整或有偏是不同的问题,但它们都提醒我们:一个系统所处的环境,并不是价值中立的。
这就像让AI只学习互联网上那些经过筛选、甚至充满偏见的数据。AI可能会把网络上的“回音室效应”当成世界的真相,把某些偏激的观点放大,而忽略了那些沉默的、但同样真实的声音。它学到的,可能不是人类真正的价值观,而是“网络喷子”的价值观。
2. 遵守规则,不等于规则已经得到充分反思
在UW的故事里,禁忌目录拥有极高的权威。一个人遵守规则,可能出于认同,也可能受到制度和环境的约束;仅看表面行为,很难判断其动机。
当规则本身不可质疑、权力又缺乏制衡时,即使系统看似稳定,也可能难以纠正不公。这提醒我们:从行为中学到某种规律,不等于已经解决了价值判断的问题。
3. “超越”来自外部影响与内部行动
UW世界最终迎来改变,桐人这样的外部变量起到了重要作用;与此同时,生活在这个世界中的人物也有自己的经历、情感与选择。变化并非只能归功于一方,而是在外部影响与内部行动的交织中发生。
这个情节让我想到:创新和超越,往往需要对既有规则提出挑战。 AI可以从已有材料中学习、组合,甚至提出新颖的想法,但仅凭现有数据,并不能自动决定哪些传统值得保留、哪些规则值得挑战。
结论:AI应该是“望远镜”,而不是“自动驾驶”
所以,回到我们最初的问题:AI能从现实世界学会“什么是好”吗?
我的答案是:它可以发现模式、推测动机,也可能提出新颖的表达;但观察到人们做了什么,并不能自动回答我们应该创造什么、又该为此承担什么责任。
但这并不意味着AI没有用。我认为,更现实、也更具建设性的路径,是把AI当作一个“文化智能助手”。
- AI负责观察:利用其强大的算力,去为我们抓取文化脉搏,分析数据趋势,提供我们可能忽略的洞察。它就像一个超级灵敏的望远镜,让我们看得更广、更远。
- 人类负责判断:基于AI提供的信息,由我们来做最终的价值判断和创新决策。我们来选择要走的方向,我们来定义什么是我们想传达的“好故事”。人类之间也会有分歧,因此这种判断同样需要倾听、讨论和持续修正。
游戏,不仅仅是现实的镜子,它更应该是塑造现实的锤子。它承载着我们的思考、我们的情感和我们对更美好世界的向往。把“定义价值”这么重要的事情完全交给AI,既是对创作者责任的放弃,也是对游戏这种艺术形式潜力的浪费。
最终,最好的AI Game,它的灵魂深处,一定闪耀着人性的光辉。而这束光,只能由我们亲手点燃。
本文写作中使用了 AI 辅助。文字采用 CC BY-NC-SA 4.0 许可。