人工智能无法取代人类的创造力

看到半杯水，乐观者认为杯子里的水是半满的,悲观者则认为是半空的。这句老话在生活的许多领域都是一个绝妙的比喻。但有时候,它未能完全呈现出种种交替现实的全貌。

如今谈到股市,乐观者相信上涨的股票会持续带来回报。悲观者则担忧,上涨势头面临重重风险。如果你一直在关注我们的观点,就会知道我们坚定地站在悲观者一边。但我们认为,事情已经远远超出了"半满还是半空"这种非此即彼的讨论范畴。

我们更倾向于认为,这只杯子本身，也就是市场正在桌子边缘摇摇欲坠。它或许还能摇晃一阵子,但最终必然会倒下摔碎,碎片四散飞溅,伤及所有未能及时抽身的人。

我们看到了什么乐观者没看到的东西？我们之所以悲观,原因之一在于:驱动市场乐观者的,很大程度上是是他们对AI无限前景的信仰。他们押注AI会带来巨大回报，会充分证明围绕它的炒作以及企业投入的巨额资金都是值得的。AI显然是当今市场的核心叙事，那些在AI领域大举投资的大型科技公司,贡献了市场涨幅的相当大一部分,也占据了GDP增长的重要份额。它们基本上是支撑市场的柱石，但一旦这些柱石崩塌,市场将失去一切支撑。

我们已多次撰文指出，当前市场对人工智能能力的普遍预期显著偏离其实际技术边界与现实应用水平。但努力去理解为什么许多投资者仍然坚持这些预期,是有启发意义的，尽管这令人沮丧。我们认为,很大程度上可以用每天大量涌现的宣传来解释,这些宣传近乎幻想,却让这些投资者相信自己站在历史正确的一边,并将获得丰厚的回报。当看似权威的信息源告诉你一切都好时,人们很容易信以为真。遗憾的是,如今无论你看向哪里,都能看到助长不切实际预期的错误信息。

一个误导性的说法
一个典型的例子是《华尔街日报》八月刊登的一篇文章，该文大肆颂扬人工智能令人兴奋且看似无限的潜力。任何读过这篇文章并且只从表面理解的人，都可能有充分理由急切地投身其中、大举投。却没有意识到这篇文章的报道掩盖了一个巨大漏洞。事实上，一旦你更仔细地审视，这篇文章所证明的恰恰与它表面上要展示的内容相反。

标题写道：“第37步，人工智能改变一切的时刻到来，如今这正在全球各地突然发生。”随后文章宣称：“十年前，一台计算机做出了一项人类无法做到的事情，这被视为人工智能的重大突破。而如今，这样的事已遍布全世界。”

这是一个引人注目的标题，立刻吸引了我们的注意。“第37步”指的是十年前，人工智能程序AlphaGo在与当时世界顶尖棋手李世石对弈围棋时所走出的一步棋。围棋是一种复杂的两人对弈游戏，常被拿来与国际象棋相提并论，但围棋可能产生的棋局数量远远超过国际象棋。据《华尔街日报》文章所述，第37步是一个极为非传统的走法，任何人类棋手都不可能下出这样的棋，起初人们认为这是一次巨大的失误。但结果证明，这是一招妙手，令李世石目瞪口呆、深感震撼。

根据该文章的说法，AI如今在人类研究了几个世纪的领域中不断提出原创、出人意料且才华横溢的想法，并取得一个又一个突破。

然而文章没有提到，在AlphaGo第37手大获全胜的几年后,一款更先进的围棋AI程序KataGo,被一位业余围棋爱好者用一种巧妙的策略彻底击败,让这台计算机束手无策。

这位人类棋手名叫Kellin Pelrine，2016年,他是一名热衷于围棋的业余棋手。无论当时还是现在,他的水平都不及人类顶尖高手。当时还是学生的Pelrine知道自己想从事学术研究,但尚未确定具体方向。观看AlphaGo在2016年的比赛中击败李世石,激励他将研究重心转向数据科学与AI。到2023年,他带领的团队借助计算机开发出了一套策略，被称为"循环"策略，他们相信这套策略能够击败最强的AI围棋系统。这是一套任何具备一定实力的人类棋手都能轻松理解并运用的策略,Pelrine凭借它在与KataGo的15局对弈中赢得了14局。

盲点与创造力
自三年前Pelrine获胜以来,研究人员对KataGo进行了反复训练,重点针对Pelrine所用策略核心的循环组。然而他们毫无进展,因为掌握了该策略知识的强力人类棋手依然能够持续击败这台机器。我们认为,机器持续失败的唯一合理解释是:这一策略虽然人类很容易理解,但在组合层面上对机器而言过于复杂,难以处理。任何计算机的能力，无论是运行Claude或Gemini等大型语言模型(LLM),还是专门用于某款游戏，都取决于它能够识别或创造的组合数量。相比之下,人类能够找到富有创意的变通方法,不受问题或任务中可能组合数量的限制。

如果你认为随着AI持续发展,它终将能够突破这些限制,那几乎是不可能的,除非人类发现了新的物理或计算定律。请记住,潜在的国际象棋对局数量大约等于宇宙中原子的数量。而围棋的可能对局数量，则大致相当于三个我们这样大小的宇宙中的原子数量总和。

AI自身也印证了这一根本性弱点。我们向领先的大型语言模型Gemini的最新版本提出了以下问题:为什么KataGo和其他围棋AI无法被训练成在面对使用循环策略的人类时取得胜利?在其回答中,它提到了"现代AI学习方式中的根本性缺陷",并提出了"盲点"，指AI擅长观察单个局部结构,却无法退后一步,把握庞大的全局结构。

与其说第37手是AI改变一切的时刻，我们认为更准确地说，第37手是一个人类意识到他们必须努力才能击败AI的时刻，而人类确实做到了。虽然我们在这里聚焦于围棋，但你可以把同样的思考延伸到大模型LLM上，而LLMs正是人们寄望于AI真正能够改变一切的核心所在。

这与我们在之前文章中提到的语法和语义之间的区别有关。语法指的是语言的结构层面，即语法规则、词性、词序。这些在很大程度上受基本原则支配,虽然可能涉及范围广泛,但都是固定的,相对容易掌握。

但语义，意义的细微差别和复杂性则是完全不同的故事。这并不是因为新词总在被创造出来，而是因为在英语或任何其他语言中，可以创造的句子数量是无限的。再加上任何一个词的意义总是在变化，而且同一个词对不同的人可能意味着不同的东西。像“I love music”这样简单的陈述，有多少人，就可能有多少种含义。而对任何一个人来说，同样的词语和句子的意义也会随着时间而改变。

这其中有一层含义是,那些认为AI能够取代人类的人,实际上是在主张所有人类本质上都是一样的。他们抹杀了个体差异,这无异于扼杀人类个体的创造力，而创造力正是人类进步的驱动力.

语言的复杂程度远超象棋和围棋这类极为复杂的游戏。象棋和围棋的走法组合数量,再多也还是可以用数字来表示。但语言学界的普遍共识是,可能存在的句子数量根本无法计数。这也是大型语言模型中出现的幻觉及其他缺陷,并非一次性问题、无法在未来版本中修复的原因之一。这些缺陷是AI整体架构的根本性问题。

关于这些话题还有很多可以探讨,但眼下我们只想说,市场上AI热潮所折射出的那种对AI的狂热期待,并非建立在对AI真实能力的理性认知之上。AI可以成为一种极为有用的工具,用以增强人类的创造力,正如它在帮助Pelrine及其团队制定围棋制胜策略中所发挥的作用。但它无法取代人类的创造力,试图让AI主导人类的活动与事业、将人类边缘化,最终将被证明是一条自我毁灭之路。更大的风险在于,如果AI最终压缩了人类创造力发挥的空间,它可能会中断未来的进步。而创造力,正是自人类踏上这片土地以来,推动人类文明不断前行的不可或缺的力量。