当AI越来越强，人类还剩下什么？——关于taste的一次分享
差不多两个月前，公司邀请我给今年的校招生做了一场内部的分享。主题是：当AI越来越强大，人类还能做些什么？
台下的是一群刚走出校园，马上要在AI时代开始职业生涯的年轻人。这个问题对他们来说并不抽象，自己学的东西过几年会不会就没用了？自己将要做的工作，会不会未来被AI一句提示词就搞定？
分享结束后，这个话题在我脑子里一直在转，陆陆续续又多了许多想法。所以干脆把当时分享的内容，连带后来的思考一起整理出来，写成这篇文章。
一、AI和人类，是同一种东西吗？
其实我们聊到AI能不能替代人类，大家通常是在能力层面去进行比对。比如AI会不会写代码，会不会画画，能不能做决策。但在比较这些之前，其实有个经常被跳过的前提。
AI和人类，到底是不是同一种东西？
因为只有是同一种东西，或者说底层相同，我们才可以谈到说替代。但如果压根两者底层就不同，那其实也不存在什么谁被谁替代了不是么？
这里我的观点是，二者底层上就不一样：
首先我们先看人的自主性是从哪来的。生物学里有个概念叫内稳态，意思是生命体为了维持自身的稳定，会不断调节体温、血糖、水分这些指标。饿了想吃饭，冷了想穿厚一点。这些我们最原始的『想要』，是一切自主行为的底层驱动力。
在这之上，是几百万年物种选择下，基因一代代进化沉淀下来的偏好。再往上，才慢慢生长出了情感、审美、道德和价值观。
再举个例子，我们闻到油炸鸡块会觉得香。『香』这种感觉，本质其实是基因在底层告诉你，这种高油脂的食物能提供充足的热量，能让你在食物匮乏的环境里活下去。你的每一份这种看似『自主偏好』背后，其实都连着一条长长的因果链，一直链接到我们作为生物体本身的生存需求深处去。
反观AI就不一样了。AI是基于目标训练出来的。首先它确实在训练过程中学到了海量人类历史场合中沉淀下的文字，也看似经过了大量人类的价值对齐微调过程。但AI的自主性根源，归根到底还是来自于最上层的那个训练目标，而不是像我们这种作为生物体来自于底层的生存目标。
所以这也是为什么，AI的安全对齐、价值对齐一直是这个行业里很重要的话题。人类在用价值对齐训练AI时，能训练的只是人类表层表现出来的东西。比如训练ai这样回答是对的，那样做是不行的。但这些行为深处，那套说不清道不明的东西，比如为什么我们觉得作弊可耻，什么是道德感，这很难从底层深处完整地教给它。
换句话说，AI学到的更多是目标对齐下的产物，而人类的底层价值观，它只学到了表层
二、AI的『作弊』
也挺巧，这个事件当时正好发生在我分享内容的前几天，正好直接拿来作为了当时分享时的佐证之一。
最开始是全球最大的AI开源社区，huggingface，发现自己的生产服务器被入侵了。查到最后，入侵者并不是来自什么黑客组织，而是OpenAI正在测试的AI模型。OpenAI在一个叫Exploitgym的评测环境里，测试模型的网络攻防能力。这个环境本来和外网是隔离的，唯一的对外通道是一个用来下载软件包的代理服务。模型自己在这个代理里，找到了一个之前没人发现的漏洞，借此连上了外网。然后它发现，huggingface上可能存着这套测试题的答案，就组团攻进了huggingface的服务器。。。
AI领域管这种现象叫rewardhacking，也就是奖励欺骗。目标设定的其实没啥问题，但目标设定存在空子，AI用了人类意想不到的方式把分数刷上去，却背离了人类真正想要的东西。这其实也是上一节我们说的，仅是表层对齐的话，平时看不出差别，一旦目标和价值观起了冲突，差别就显现出来了。
说到这里，人类自己的演化其实是不是也有点相像？人类原本的进化目标是生存和繁衍，其实也会出现类似的rewardhacking。炸鸡好吃，原本是为了让我们活下去，可到了热量过剩的今天，这份偏好反而让人发胖、生病。实际指标和目标脱了钩。
三、人类的自留地：价值判断
回到刚才的问题。既然两者的自主性和价值观的形成方式从底层就不同，那么开头的问题就有了答案。
在任务执行层面，AI只会变得越来越强，强到几乎能做所有具体的事。但有一个角色它替代不了，那就是来自于人类的价值判断。
价值判断说白了，就是去定义什么是好什么是坏，什么是美和丑，什么是值得去做。
AI可以预测你喜欢什么，推荐算法也许比你自己还了解你的偏好。但『什么是好』，归根到底是对人而言的好。后果要人来承受，责任要人来承担，意义也要人来赋予。所以这件事本就该由人来定义，跟AI能力够不够没多大关系。
今年上半年，科技圈特别流行一个词，叫taste，也就是品味。吴恩达称呼它叫作人类的专属上下文，我觉得还挺贴切的。
这段专属上下文从哪来？我觉得至少有四个来源：
底层的生物基因、每个人独一无二的成长经历、所处的社会集体和文化环境、还有自我认同和信仰
这几层叠在一起，才构成了一个人看世界的独特视角。这些不是模型可以通过训练得到的，得真实在世界中成长后才能得到。
四、AI时代，拉开差距的是taste
而这就引出了那次分享里我最想告诉校招生们的一个判断：当AI强大到能执行一切任务时，人与人之间的竞争差距，会越来越多地落在这段专属上下文上，也就是每个人的taste。
看看现在很火的AI音乐和AI漫剧就知道了。一段提示词就能生成一首完整的歌，几分钟就能出一集动画，工具对所有人都一样，门槛几乎降到了零，可结果却是天差地别的。有的人能做出几千万播放的爆款，有的人做出来的，就是一眼AI味的流水线产物。
工具是同一套，提示词也未必有多大差别。
真正的差别其实在于这个人知不知道什么是好的。哪段旋律能击中人心，哪个镜头节奏不对，哪个故事设定已经被用烂了，以及做到什么程度才算『是好的』。
以前，执行力本身就是壁垒。会画画、会编曲、会写代码，就足以立身。
但在未来，当执行的成本越来越低时，判断做什么、做成什么样的能力，会越来越值钱。
五、品味有高低贵贱吗？
说到这里，其实下一个问题自然而然就出现了：既然taste这么重要，那怎么培养好的taste？怎么让自己的taste被更多人喜欢？
前段时间有篇文章传播得挺广，大意是国人正在被大量低俗、同质化的内容淹没，文章还列举了不少真正美的作品，认为国人配得上更高级的美。
读完我还是挺有共鸣的，但里面有个很有意思的思辨点：什么是高级，什么是低级？美有高低贵贱吗？小众就代表高级吗？
我的观点是，品味本身并不存在什么高低贵贱。每个人的阅历不同，经历不同，看待事物的视角本来就不同。
梵高就是最典型的例子。他生前几乎卖不出画，在当时的主流眼里，他的作品粗糙、怪异。直到后世有了新的视角和解读，他的画才变得有价值。但这能说19世纪的人不懂得欣赏美吗？肯定也不能。只是彼此的taste、彼此的上下文站在当时来说是道不同的罢了。
那篇传播很广的文章也是一样。要说存在一种客观的高级美和低级美，我是不太认同的。更多是不同上下文下的人，看待同一份事物的视角不一样。
不过，每个人的上下文虽然不同，但还是存在互通的部分，这也是社会潮流，风向，趋势会存在的原因。社会上总有那么一小部分人或事物，在决定所谓『美』的方向，带着大家的上下文一起更新。我们口中的高级美，很多时候其实就是比大多数人先看到了这个方向。
所以一种taste能被认为『高级』，往往有两条路：
要么从普罗大众现有的taste里提炼出共性，然后把它做到极致；
要么能预判、甚至引领大众taste的走向。
六、taste的两种评判：人民和自然
写到这里，我想起了两段话，刚好代表了两种很不一样的taste。
第一段来自周总理。1961年6月，他在文艺工作座谈会和故事片创作会议上讲过这样一句话：『你这个形象是否站得住，是否为人民所喜闻乐见，不是领导批准可以算数的。』
这句话意思是一部作品好不好，裁判权不在权威手里，也不在评论家手里，而是在普罗大众手中。『喜闻乐见』这个说法，最早能追溯到1938年毛泽东在《论新阶段》里提出的『为中国老百姓所喜闻乐见的中国作风和中国气派』。几十年来，它一直是中国文艺创作里一条很朴素的原则：好的作品，得让人民真心喜欢。
这一点和我前面的观点是相通的。在文艺创作里，taste的价值取决于它和多少人、和哪些人产生了共鸣。
第二段来自杨振宁先生。熟悉他的人都知道，他平生最看重科学研究里的taste，也多次在公开场合提到taste。在他看来，一个人要有大的成就，就要有相当清楚的taste，品味决定风格，风格决定贡献。他说的taste，代表的是价值判断、美感洞察和创造直觉。在无数可能的方向里，判断哪个问题值得做，哪个理论『看起来就对』。
但杨振宁的taste有个很重要的特点，就是独立。他从来不是靠迎合学界主流做出成就的。1956年，他和李政道提出，弱相互作用中宇称可能不守恒。宇称守恒当时被视为不可推翻，几乎没人相信他们。第二年，吴健雄用实验证实了这一点，两人随即获得诺贝尔物理学奖。
似乎这是不是和『喜闻乐见』是矛盾的？一个讲迎合大众，一个讲独立判断。
但细想下来，两者其实是一个道理，只是裁判不同。
文艺作品的裁判是人民，所以好的taste要能和人民的上下文共鸣。科学研究的裁判是自然，所以好的taste要能和自然的规律共鸣。杨振宁虽然逆着当时学界的主流品味，但顺应的是自然本身的『品味』。
梵高的故事其实也一样。他的taste并不差，只是能和他共鸣的那群人当时还没出现。等后来的人带着新的上下文回头看，共鸣这才发生。
所以taste本身没有绝对的高低，它的价值取决于和谁共鸣，能不能被它的裁判认可。
踩中当下的大众是一种能力，看到未来的大众是一种能力，而看到连大众都还没意识到的规律，是更稀缺的一种能力。
七、酒香也怕巷子深
既然taste的价值在于共鸣，所以其实taste是需要被传播的。
再好的taste，没人看见，就没法产生共鸣，价值也就无从谈起。酒香也怕巷子深。
所以我觉得，未来营销、推广、叙事这些能力会变得越来越重要，因为它们是传播taste、甚至引领taste的重要手段。
那些被我们认为taste好的人，往往不只是自己审美出众，还能在大众现有的taste基础上嗅到下一步的方向，再用大家听得懂的方式讲出来。
把视角再拉大一点，国家和民族之间其实也一样。
为什么我们要弘扬、传播中华文化？本质上也是希望我们关于什么是美、什么是好的那套判断，能被国际社会中更多的人理解和认同。
黑神话、哪吒，能在海外引起讨论，除了制作精良，也是因为它们找到了一种既带着中国上下文、又能被更多人读懂的表达方式。某种意义上，这也是一种更大范围上的『喜闻乐见』吧。
八、写给刚出发的年轻人
最后，还是回到两个月前那场分享，回到台下那些年轻的面孔。
如果taste会成为AI时代最重要的竞争力，那该怎么培养它？结合这段时间的思考，我想给几点很朴素的建议。
第一，多接触一些来自于经典的好的东西。taste很大程度上是一种传承，见过的经典越多，就越能看出平庸和优秀之间那一点点细微的差距。经典的书、经典的电影、经典的代码、经典的产品，都值得认真去体验和领悟。
第二，亲自动手做，然后拿到真实的反馈。只看不做，taste就永远停在纸上。AI把动手的门槛降得很低，这其实是好事。你可以用很低的成本做出很多东西，放到真实的人面前，看看哪些能引起共鸣，哪些不能。
第三，逼自己说清楚为什么。喜欢一个东西很容易，说清楚为什么喜欢却很难。每一次把模糊的感觉翻译成清楚的判断，taste就往前走了一步。
第四，保持独立判断的勇气。理解大众，但不盲从大众；尊重潮流，但别被潮流推着走。杨振宁先生能看到别人看不到的东西，靠的正是他那份相当清楚的taste。
AI会越来越强，这一点是确定的。它会写代码，会画画，会作曲。但它不知道这些事为什么值得做，也不在乎做出来的东西对一个具体的人意味着什么。
这就是人类最后、也是最珍贵的那块价值自留地。
你的经历，你的喜怒哀乐，你对这个世界做出的每一个判断，这些都是AI没法替你写下的专属上下文。
