最近听了Sam Harris 对 Tristan Harris的一期关于AI的采访，这期采访很有价值，所以这几天一直在整理里面的内容 https://www.youtube.com/watch?v=90irsXaKxZA
Tristan Harris曾经是谷歌工程师，在了解行业内幕后选择成为一名whistle blower，揭露社交媒体和科技公司用于让用户上瘾的心理基础和操控技巧，他在2020年推出的Netflix纪录片《智能社會：進退兩難》（英語：_The Social Dilemma_）引发了广泛的讨论。他同时也是Center for Humane Technology（人道科技中心）的联合创始人。最近他参与制作了一部新纪录片，叫做[The AI Doc: Or How I Became an Apocaloptimist (2026) IMDb](https://www.imdb.com/title/tt39150120/) 展示了人们AI的前景的看法，AI带来的一些令人担忧的趋势，以及值得乐观的积极面
在Tristan看来，当前人们对AI存在一种根本的误解，即未来是不确定的，你无法知道科技会怎样发展，因此与其担心科技的后果，不如尽可能加速其发展。
但事实并非如此，技术的应用，并非是某种“自上而来、无可改变”的力量，而是背后有真实的人在做选择和决策。社会朝什么样的方向发展，很大程度上取决于这些选择和决策背后的incentives（激励机制）是什么样的。
查理·芒格（沃伦·巴菲特的商业伙伴）有句名言，_if you show me the incentives, I'll show you the outcome._（“如果你把激励机制展示给我，我就能告诉你结果。”）
以社交媒体为例，社交媒体的激励机制是什么？
社交媒体的激励机制是争夺注意力和提高参与度。
而注意力持续时间缩短、短时视频盛行、内容愈发极端和惊世骇俗、年轻人的性商品化、政治的极端化，等等，便是这一套激励机制的逻辑产物，这一切在现实中都发生了。Tristan Harris 本人在社交媒体快速兴起的热潮（大约 2012、2013 年）期间就在谷歌任职，他是这一切的亲历者，他当时目睹的种种趋势也确实一一变成了现实。
因此，当你了解背后的激励机制后，或许无法预测每一个具体细节，但从整体方向上你可以看出事态的发展轮廓。
问题在于，我们沉迷并被新技术的“可能性”所诱惑，却不去审视激励机制和可能发生的后果。社交媒体的“可能性”看起来是好的——让每个人随时获取信息、与朋友连接，能产生有史以来最不孤独的一代、最开明的信息社会。但现实却完全相反。社交媒体系统并未以减少孤独或创造最有见识的社会为优化目标；它优化的是如何呈现下一个完美的帖子、视频或推文以让你不断刷屏——午夜孤独时无休止的“刷屏”。这就是我们今天所处世界的成因。
在Tristan看来 ，社交媒体就像一只“婴儿型 AI”，社交媒体对当代社会的影响，就好比是AI主导的社会的一种预演：如广泛的焦虑、抑郁；共同的现实认知基础被破坏（所谓的后真相时代）、政治的两极化；等等，这些在趋势在社交媒体时代已然明显，而AI则近一步加速了这个进程。
Tristan认为，面对 AI，我们有两种选择——一种是经历类似切尔诺贝利那样的灾难性事件，迫使我们被动收紧并改变；另一种是以足够清醒的智慧、辨识力和远见，预先看清趋势并主动建立防护措施，避免灾难发生。
当然，这部影片并非是单方向的，而是展现了两种不同的观点。一种是非常担忧、悲观的观点；另一种则是非常乐观的论调，认为对AI的恐惧是不理性的。
首先是偏悲观的观点，Tristan认为，有一种很不好的做法就是给担忧AI技术的人贴标签，称其为“AI末日论者”（Doomers），因为它把一种不太健康的标签固化了，比如，关心核电站风险的人并不是“末世论者”，而是关心核电站安全、不希望发生熔毁事故的安全专家。
很多时候，关于AI好坏的讨论其实非常地抽象，我们总是再说，AI对人类未来如何如何，但这部影片的设定是，导演要生孩子了。所以他问了所有在AI行业工作的这些人：现在是生孩子的好时机吗？ 这其实把关于我们正走向何种未来的问题具象化了。因为抽象地讨论并不能打动人心。把话题放到我和我的孩子身上，这让关于人工智能的讨论有了落脚点——围绕人们最关心的事情，即他们的家庭。
在收到很多悲观的答案，被各种担忧冲击后，导演转而去访谈那些人工智能乐观主义者。片中有人物如Peter Diamandis， Guillaume Verdon等被称为科技加速主义者的人，他们认为我们最大的风险是进展不够快：想想那些因病无法治愈的患者，如果我们不让 AI 更快发展，就无法拯救这些生命。
对于科技加速主义者，Tristan的看法是，AI的好处和坏处存在一种不对称性：好处并不能避免坏处。坏处可能会破坏能够支撑这些好处的世界。
例如，再好的抗癌药也不能阻止一种被设计用来毁灭人类的新型生物病原体；而能毁灭人类的病原体又会摧毁一个让抗癌药有意义的世界。人工智能带来 10% 或 15% 的 GDP 增长——因为它在自动化所有科学、所有技术发展、所有军事发展，带来物质充足——听起来很棒。但如果同样的人工智能也能产生足以瘫痪整个金融系统的网络武器，那哪件事更重要？是那 15% 的 GDP 增长，还是那个可能连货币和 GDP 基础都被破坏的东西？
这点非常重要，可是影片并没有真正提出这一点，这是Tristan感到比较遗憾的地方。
这里我联想到了《商君列传》中商鞅和反对变法的大臣的辩论，其中杜挚有这样一句话：
利不百，不变法；功不十，不易器。法古无过，循礼无邪。
如果没有百倍的利益，不要改变法度；如果没有十倍的功效，不要更换使用的工具。
这句话在国内的教育中经常被当成因袭守旧的反面典型，但是我认为这句话才代表真正的智慧。因为商鞅变法式的进步对任何人都没有好处，变法使普通人沦为国家的工具，国家本身成为一个监狱，即便貌似从中变法中获益的君主和商鞅本人，在长期来看也自食其果，这种毁灭社会底线的社会工程学没有赢家。而杜挚这句话背后的原则，反而是一个理性的社会应有的自我防卫机制。一个在技术，经济，力量上相对落后，但能够理智，审慎地调节选择自身发展路线和速度的社会，比一个看上去很先进强大，但无法控制自身方向，仿佛被一只脱缰的野马拽着奔跑的社会，更能实现长治久安。
由于公开表达对AI技术的担忧，Tristan经常被错误地当成悲观论者，但如Tristan本人所言，这一切正是来自最深层的乐观：充分意识到问题有多糟、比多数人想象的更糟，但仍然每天起床努力让情况不一样，变得更好。
两年前不存在但现在成立的一点是，人们常质问批评社交媒体的人：“既然你那么在意，为什么不自己做一个替代平台？”过去确实有很多人试图做，——但这些尝试几乎都失败了，原因有两点。一是梅特卡夫效应（网络效应）：大家都在现有平台上，很难把用户从那里迁移走。二是融资问题：如果你要长期运营另一个社交产品，通常需要风险投资，这就要求给投资者特定回报，从而产生Eric Weinstein所说的“嵌入式增长义务”——需要无限增长，进而引入有毒的商业模式，必须最大化参与度，服从那些扭曲的激励以实现投资回报。
现在不同的是：你可以用代码快速搭建一个完整的社交网络，使用像Claude这样的工具，运行成本低到每用户每年不到一美元。这很惊人——意味着你不必靠风投就能建立一个不以参与度为导向的健康社交网络。你需要做的是组织一次大规模迁移——比如“一键导出我的数据并迁移”的功能（这类功能应该被立法保障，就像换手机时能一键转移电话号码一样）。有了这样的工具，人们可以集体迁往一个没有有害激励驱动的健康网络。
所以到2026年，实际上有更多机会把现有社交媒体的有毒商业模式，转变为完全不同、不会被那些激励所驱动的模式。人们开始觉醒，认识到把我们带到现在这种状况的糟糕激励机制，随后自主组织、用代码去实现替代方案。有人在用AI来“vibe code”治理解决办法；有人用AI审查旧的城市法规，找出不再相关的条款，指出哪些需要剥离、废除，以及如何用新的方式重新体现这些法律的精神。这样一来，AI不是递归自我强化，而是增强我们自我改进的治理能力。
这些例子说明我们完全可以用另一种方式来处理这一切、以不同的方式应用这项技术，但必须把当前的激励机制如何导向反人类的未来讲得非常清楚，以激励每个人做出更好的选择
Tristan 认为，如果有一个项目能促成某种关于如何前进的共识—比如把主要负责人召集到一次会议上，那将很有意义，比如特朗普和习近平将在5月14、15日会面。如果人类要对此有所作为，就应该把这类议题提上日程。
关于美中关系这一点：我们都知道两国历来在表面上声称以善意合作，实则常在背后相互违约、互相伤害。这种情况确实存在。2014年，据说习近平曾与奥巴马签署过不进行网络攻击的协议，但随后就发生了大规模的OPM泄露之类事件。因此完全可以理解两国互不信任的理由，在推动国际合作时必须为最坏情形保留例外和应对预案。
不过一个积极的方面在于——在2024年，前任总统白的与习近平最后一次会面时，临时加入了一项议题，而且是由习近平个人请求加入的：两国同意将AI排除在核指挥控制系统之外。这说明存在一个可行的先例：在某些明确影响人类存亡的狭窄领域，我们或许能够达成协议；尽管我们可能无法通过法律完全阻止自主武器的发展（因为这条路已经走得很远），但至少在明确的生存风险领域已有合作的可能性。
有人曾说，只有外星文明攻击才能让全人类同时解决这些协调问题，但现在我们在自己建造那个“外星人”。这有点像一颗会摧毁地球的小行星——具有讽刺意味的是，我们自己在创造它。设想如果地球上每个人都决定不让这颗小行星存在并都把手从键盘上拿开——原则上小行星就会消失。不是说这会发生，但这个比喻说明问题：你可能看不到完整的路径，但如果你认定一切不可避免并因此助长这种不可避免性，你就永远找不到其他道路。唯一的办法是把自己定位为相信存在另一条道路并真诚寻找那条路的人，用全部诚意去寻求解决方案。
Tristan和成千上万名真正希望AI发展向好的从业者，每天都在从这个立场出发做出努力，并邀请世界其他人一起寻找那条可供转向的替代道路——Tristan坚信如果我们真诚且坚定地想要找到别的道路，我们就能把方向盘扭向别处。
