来自降临派的温柔情书
这篇书评可能有关键情节透露
作为技术绝缘体,当然也没能赶得上AI的潮流,比如对AI的确切定义和实现逻辑茫然未知,比如在50块钱抛售了中芯股票(现在90多了),比如与AI的联系只停留在用deepseek替代百度搜索。
如果你像我一样,作为一个赶不上趟的普通人,还是想知道最前沿,风口最大的AI究竟意味着什么,那这本书非常适合作为科普读物。
首先,是张笑宇的文笔,像是饭局上的闲聊,混合着那些熟悉的人名、八卦,不知不觉就把AI的前世今生、发展历史、目前哪些人/公司比较牛逼、他们分别是什么理念想法,讲得清清楚楚。
(题外话,我国庆第二天,看完第一章的故事,终于知道了芯片之于AI的重要性,准备把我的中芯买回来,但当天就涨了10%,至今追悔不已……
其次,是书中讨论的问题,并不一直围绕AI圈的八卦,或是枯燥的技术发展,而是把重点放在讨论AI对于人类的未来意味着什么。
作为一个普通人,可以跟随作者一起畅想文明的大趋势——比如作者断言AI必定超越人类智能,产生新的文明,那时候社会的样貌会是如何?也能在此中看到个体发展可能遇到的机遇与问题——AI智能时代,哪些领域将快速被AI替代?普通人会面临什么?
注意,这不是科幻,也不是“我死之后,哪管洪水滔天”,而是极有可能在我们有生之年就能见证的现实。了解AI可能影响的趋势,和了解老龄化社会、社保医保改革一样,与我们日常生活息息相关。
然后,我喜欢作者在“前言”里的直接坦荡。前言部分直接抛出了这本书最核心的四个概念——涌现、人类当量、算法审判、文明契约。全书围绕这四个概念逐步推进展开。如果实在不想读,读完前言也能了解个大概。不过我猜读完前言的人,肯定迫不及待想翻到正文继续读下去。这也许就是作者骄傲的小心思。
最后,围绕这四个概念简单记录下看完的感受。
先说下“涌现”和“人类当量”。
“涌现”,简而言之就是,在一个规模巨大的系统/环境中,会产生很多新的“可能”,开创性的“创新”突变就会在其中孕育而生。只要这个环境/系统足够大,足够持久,创新一定会产生。比如宇宙大爆炸后生命的诞生,物种的进化都是这个原理。如此类比,AI智能也必定在庞大的数据和算法中涌现出来,这只是重复了宇宙发展的过程而已。涌现的角度看,AI智能必定会产生。
“人类当量”,在书中接触到的新概念,指的是“AI在生产智能方面,其效率和成本相当于多少人类”,根据作者的计算,“基于目前AI的算力和价格,它大概能够以人类1%的价格和1000倍的效率量产智能”。虽然“人类当量”的概念,没有考虑产生AI与人类产生智能是否有质量上的差距,但结合“涌现”,如此巨大的数据差异,AI智能碾压人类只是时间问题,且根据目前的发展速度,这个时间会快速到来。
这两个概念,是作者论证AI形成新的“物种”和“文明”的核心。所以标题里说,作者是彻底的“降临派”——智能远超于人类的AI新物种必定产生,AI文明时代必定到来。
“涌现”和“人类当量”,是已经发生、正在发生的事实概括与总结。我完全认同作者至此的推导与总结,我们已经有幸见证了一个新的文明最初的诞生,说不定还能有幸见证它如何迅速长大并开始与人类文明势均力敌。
在对未来的畅想上,作者抛出了“算法审判”和“文明契约”。
“算法审判”,作者认为算法审判是对人类最正义的审判,推荐算法是给每个人他应得的结果。比如你是外卖骑手,你愿意遵守算法推荐去抄捷径,那最后算法就会把“捷径”变成“正常”,你只能越来越快,越来越卷。比如你是HR,你用算法最大化员工效率,最后你也会被要求最大化的效率,甚至被优化掉。因为你遵守/引导了算法,所以这个结局是你“应得的”。
首先在个体讨论的层面上,我不认同作者的想法。甚至感觉这种想法有点“社达”。个人在平台、系统面前,选择权是很少的,获取的信息也是非常片面的。在互联网庞大的数据和平台算法面前,普通的个体,未获得在这个新时代如何独立思考的基础培训、未获得足够可以做出决策的数据与信息,但他们的任何一次点击、任何一次行动又都变成了数据汇总到算法面前,变成新的趋势,去引导、去审判这些本来就是半盲的普通人,这种结局真的是普通个体应得的“正义”吗?
如果没有掌握更高级数据、信息、智能的人类,被更高级的智能诱导、牵引而做出了不太好的决策,那他们就要被审判、被奴役、承担坏的结果。如果这称之为应得的正义,那AI文明会认为,惩罚智能不足的人类将是理所当然的正义之举。
其次, 作者将“算法审判”扩大到AI文明:“当某天它涌现出自我意识时,我相信它对我们的理解就是我们公正地为自己赢取的应得之物。若我们相信我们该剥削和压迫同类,那么它就会认为人类应该被剥削和压迫;若我们相信我们该对同类喊打喊杀,那么它就会认为人类应该被暴力对待;当然,若我们相信每个人都值得被爱,那么它就会认为人类是值得被爱的。”
我对这个上升到物种对物种的审判,也表示怀疑。看这几句话的感觉,就像是作者口中碾压人类的AI智能,突然就降智成了小学生一样,没有任何自己的思考,只会在学习了人类的语料素材后,总结结论并沿用?人类对同类喊打喊杀,或者宣称团结友爱,是基于人类的利益。那AI如何对待人类,难道不是应该基于AI的利益吗?人类在统治地球后,文明摇身一变为“人类中心主义”,人本位,那AI统治地球后,会不会首要也考虑自身物种的利益,开始“AI中心主义”呢?在“AI中心主义”的指导下 ,人类的语料库要如何运用,恐怕不是人类如何对待人类,AI就如何对待人类这么简单的事。
就好像,人类在发展出文明以后,也不会考虑尊重草履虫的尊严与生命。
因此,用人类政治的“社会契约”去想象我们与AI签订“文明契约”,恐怕也是一厢情愿的空想。作者也提到,霍布斯的社会契约前提是,人与人的力量相对平等,谁都可以干翻谁,所以大家缔结契约,让渡权利形成公共权威。且这种社会契约依然是目前人类文明中大部分受益的核心基础。反观人类与AI呢?如果AI已经成为碾压人类的物种,他们和人类签订契约的基础是什么呢?如果 按照作者说的“时间序列”,人类在AI尚未脱离控制时,和他们签订契约,要求保证未来人类文明的生存权利,这种契约又是否真得可靠呢?AI是否会感激人类当年的“手下留情”,在成长为超级文明后,依然愿意与人类共享资源,协同发展呢?这个“愿意”的基础是什么,是人类的怜悯之心、道德正义和契约精神?恕我直言,这种高尚的文明道德在人类身上都不一定能兑现,更妄论去要求另外一个强大得多的超级物种呢?
因此我说,这是作者作为降临派的温柔情书,乐观地畅想着日后主宰对我们的怜悯与感恩,对弱势物种的保护。但可惜情书中对未来的承诺,本就不应当真。我相信人类不至于天真到,到时候拿着情书去找AI对质,当初说好的海誓山盟呢,怎么失去了法律效力?
但我更欣赏作者另外一面的温柔,在书中呈现不多,但在播客《心与芯:不要将人的价值锚定在智力和优绩上,它终将瓦解》里面阐述得更直白一些。在技术进步主义的潮流下,我们习惯了“卷”智力,只要努力卷智力(其实是智力的标签,比如学历),我们就能进步,就能成为人上人。但在数千倍人类智能的AI面前,我们的努力和进步可能过于可笑了。
所以放弃固有的进步思维吧,别卷智力了,回归人类生活的“具身体验”,也就是尊重你作为碳基生命,享受这副肉体对世界的觉察、感受。也许这就是我们最大的“躺平”,也是人类末世的存在意义。