今天和前同事打电话聊到了ChatGPT，突然想起来大约是在17年左右获得的一个“启示”。当时整个AI领域还在野蛮发育的阶段，尚未有类似今天Dall-E / GPT这样直白的力量展示，不过已经有很多名人在呼吁警惕人工智能。大致的理由基本上都是：强人工智能最终会强大到“人类无法理解”的地步，并因此失去控制。

当时很精彩的论据有两个：

第一个是时间机器的故事。如果我现在有时间机器，穿越回50年前，给生活在七十年代的A看现在已经普及了的智能机和VR头盔，会把A震惊到尿裤子。
假如我把时间机器送给A，A想穿越回过去，用七十年代的科技把下一个人震惊到尿裤子，可能需要穿越到100年前的1873年——因为如果只像我一样穿越50年的话，即便七十年代比二十年代先进，但是没有发展到令人尿裤子的阶段，所以需要去到更古早的年代。
以此往复接力这个时间机器，我们会发现下一个人想要震惊前人的话，需要穿越的年代时间就越长。反推之，如果未来有人乘坐时间机器来震惊我们，可能这个未来离我们连五十年都不到，也许只有二十五年甚至更短。这正是科技奇异点会带来的变化，而人工智能正是可能的奇异点之一。

第二个是蚂蚁，鸡，猴子和人的比喻。把智能强度看做是一个阶梯，我们可以尝试把蚂蚁，鸡，猴子，和人放在这个阶梯上比较：
- 蚂蚁的脑容量比鸡小太多了，所在智能阶梯的位置基本处于底部。对鸡来说，蚂蚁几乎是不值一提的虫子。
- 鸡虽然脑容量比猴子小，但相比于蚂蚁与鸡的差距，还是比较接近的。即便如此，猴子还是比鸡聪明太多了，在智能阶梯的位置上，猴子比鸡还是高了不少级。对猴子来说，鸡是食物链在它之下的动物，当兴趣来了，抓一只吃不成问题。
- 我们继续往阶梯上走，会发现一件很恐怖的事情：人类和猴子的脑容量几乎是一模一样，只是大了一点点而已。在智能阶梯上，人类基本上就站在比猴子稍微高那么一到两级的位置。但是问题来了：即便人类在阶梯上只比猴子高那么一级，总体实力对于猴子来说，仍然是处于统治地位的。一只最聪明的猴子，可能也无法读懂最俗气的小报新闻。人类的智谋相比于猴子，根本不在一个维度上，即便我们仅仅只站在猴子背后一级的智能阶梯上。
- 这个比喻说明什么？说明有一种可能：人工智能如果打算发展到人类无法理解的维度，甚至
不需要在智能阶梯上比人类超出多少天文数字的级别。人工智能只需要在不经意间，站到人类身后的一级，两者的关系就会像猴子与人一样，人类就无法理解任何人工智能的决策与谋略了——事实上在一些领域也的确如此，alpha go在围棋领域恐怖的统治力就是这个比喻的一个现实例子。