（2024亚布力中国企业家论坛第二十四届年会）

张洪涛（主持人）：今天的主题是“科技与人性”，在生成式AI时代，丁健、田溯宁（丁健合伙人）依然领先，所以丁健先和大家分享分享你这些年对AI探索的体会吧？

我第一次接触AI几乎是在十年以前，第一次我跟溯宁、张首晟，还有陆奇聚，陆奇当年一直在微软负责AI，他是OpenAI创始人萨姆·奥尔特曼非常要好的朋友。一几年的时候，有幸我们4个人在一块聚，我第一次听到Deep learning这两个词，从那以后我印象特别深。我记得后来没两三年我就在亚布力做了一个闭幕演讲，标题非常耸人听闻，叫《人工智能：下一场核战争》，那时候我估计所有人都觉得我太夸张，但今天大家就已经看到了，实际上它的力量和威力已经远远超过了核武器，现在全世界都在因为AI震惊。今天我们的主题是“科技与人性”，我估计一会敏洪主席一定会提到AI。

此外，手机可以说已经代替了我们的思考功能，也代替了我们真正面对现实世界的情绪发泄功能。比如我去年被网暴了很多次，那些网暴我的人，其实并不了解我，也不理解我，也没有跟我接触过，他们为什么骂我呢？我后来明白，他们其实并不是在骂我，他们只是要通过这样一个事件来发泄他们自己的情绪，他们的情绪可能是对我某个言论的不满，但他也有可能是对其他东西不满，但他利用这个方式来表达。

当我理解这一点以后，我对所有骂我的、黑我的人都无比心平气和，因为我知道我们之间其实并没有什么联系，大家只是想借助这么一件事情来表达。这样的表达方式也牵出了一个问题，如果他要在现实世界中骂你，他需要跟你面对面，这时候他会遵循社会的传统习俗、社会礼仪，包括人性善良的一面的体现，所谓人有见面之情，他可能就不会那么直接地表达。但现在他在虚拟世界之中，他不需要跟你有见面之情，所以他在表达的时候会无所顾忌，因为这对他来说没有任何成本。

当然，上面是一个个人案例，我对此没有正面评价，也没有负面评价。但我前面说，我们如果弄丢了手机，会比丢了命还要着急，其实这意味着，科技在某种意义上参与了人性的重建，而我认为，科技参与人性重建，一方面，它当然会弘扬人性中善的一面，但另一方面，它也会无限扩大人性中恶的一面，而我们又生活在一个时而虚拟时而现实的世界中，这可能会使我们不再能那么真实的生活在现实世界中。

所以我对于科技如何引导人往更温暖、更善意、更合作、更宽容的方向去发展是特别在意的，尤其是那些对科技有掌控能力或者应用能力的人，既然科技给了我们这样的力量，就必须把人类社会往好的方向去引导，这就是我们天然的责任。包括我在这一两年发的每一个视频，每一段文字，都希望能做到这点，因为我知道我建不了这些像微信、抖音这样的平台，但我有能力在这些平台上发声。

可以看到，中国社会部分意义上是在发生这样的事，在中国古代，哪会有老头老太太躺在马车上碰瓷？我不相信有这样的人，除了极个别的无赖，《水浒传》里杨志卖刀，把牛二给杀了，牛二就是碰瓷。现在碰瓷的人很多，是因为什么呢？因为环境改变了，现在人与人之间互相不认识，因此不需要再遵循传统的习俗、道德，你做了坏事也不会被千夫所指、万人所骂，为什么？因为现在是一个人与人之间互相冷漠的社会，如果我能通过碰瓷敲你一笔钱，无非我就是丢掉了一点做人的资格而已，但得到了利益，那有人就会选择这么做。为什么会有不法商人？也是因为这个原因。所以我觉得，不管是科技还是人性，它们都是中性的，而我们要做的是如何让科技掌握在真正为人类造福的人手里，以及如何让一个社会环境能够通过科技引导人向善，而不是作恶。这就是我对“科技和人性”的一些想法。

但我总体感觉，当贫困压制着人的时候，实际上产生的问题或者恶会更多，比如当人连下一顿饭都不知道怎么办的时候，其实犯罪率是会迅速提升的。所以为什么小平同志说发展才是硬道理，经济发展才是最重要的，是让人向善的很重要的基础。总体来讲，科技一直在推动着人类社会的进步，所以我们还是要相信科技的力量，科技才是第一生产力。

今天上午我们在讨论人工智能的时候就说，以前说一个人工智能可以取代掉40个、50个编程工程师，大家都觉得很可笑。包括埃隆·马斯克说，很多人问他，他们的孩子在AI时代是不是应该去学计算机，他说千万别去，第一个被取代掉的岗位就是软件工程师，那时候大家都觉得不可思议，但这就是今天在硅谷真实发生的事情。

问题就在于，科技的不停发展一定会给我们带来越来越多的问题，比如今天我们讲AI，我记得陆奇跟我讲过一句非常重要的话，微软研究过很多关于人工智能出现以后的事情，其中一个场景是说，这个世界最终只需要5%的人口就能够满足全部人类的物质需要，因为其他事，AI都全干了。那其他95%的人干嘛？他说叫Entertain each other，即互相娱乐，所以他们开始进入游戏领域。这其实说明，以前所讲到的所有科学对人类社会的影响，在AI给人类所带来的影响前，绝对是小巫见大巫。因为之前我们不停地在被各种科技、工具取代，我们的手被取代，我们的脚被取代，但我们从来没想过我们的大脑会被取代。就像软件工程师这个例子，软件工程师算是人群里比较聪明的一波人，工资也相对较高，他们却是会被AI首先取代掉的那波人。所以我觉得大家不管是从事哪一个行业，面对AI都要做好一定的心理准备。但另一方面，如果这个社会有足够多的物质财富能让95%的人都闲着，肯定比95%的人都快饿死要强很多。当人和人之间不再需要为了生活、为了物质需求天天焦虑的时候，我相信犯罪率总体来讲是会降低的，因为他们已经有足够的东西可以吃喝了，还有什么必要去碰瓷呢？

前段时间OpenAI内部也分成了两派，一派认为应该合理加速，另一派认为要超级对齐，意思是不能让它发展太快，我们必须控制它的发展，怕它有一天会给我们带来糟糕的影响。但总体上来说，我是站加速派的，我们认为AI现有的发展还远远没到那个程度，应该让它适当地加速。当科学和人性之间出现矛盾的时候，我觉得我们要相信科学的力量，而且我特别相信科学是中性的，当有了“矛”，我们就可以造“盾”去制约它，然后这个世界永远就在“矛”与“盾”的过程中不断发展。当年核武器出现的时候大家也觉得人类的末日马上就要来了，但今天发现，正是因为核武器的出现，让我们和平了60年，因为核武器太凶残了，它能够让双方都有把握摧毁对方，就是所谓的Mutual assure destruction，也就是说，当互相都能够摧毁对方的时候，谁也不敢用，于是大家就和平了，特别是超级大国之间，谁也不敢打仗了。当科技发展到一定程度的时候，其实人性还是会自行制约的。

总体来讲，我对科学发展一直持比较乐观的态度，相信人性在这个过程中、在科学的发展过程中是会越来越好的。

今天科技发展到这么一个高的水平，它带来了各个方面的影响，这种影响的确值得认真研究，而且这方面的研究应该还不太够。一方面，对于已经发生的事，我们这种追踪研究不够，大家都在急着奔跑，继续让我们的科学走得更快。另一方面，预先性的研究可能就更难了，比如Open AI未遂的“政变”，也是有两派，大家有不同的观点，其实大家都是一帮好人，都是一帮科学家，每一个名字拿出来都是鼎鼎大名的。

当然，科学发展到今天，也处在一个非常关键的时刻。今天丁健组织了一个小范围讨论，我们也都在热切地谈论到底多少人真的懂transformer（谷歌云TPU推荐的参考模型）？我听专家说，不超过200个人，可能就100多个人。所以这也是我们现在面对的一个现实，当发生剧烈变化的时候，一些顶尖科学家在掌握着人类的未来，但我相信这些顶尖科学家不仅仅是智商高、创新能力强，他们的道德水准应该也是很高的。所以我们还是应该对科技向善、人性向善有信心，而且在这个过程中，大家也会不断探索更有效的办法让我们科学技术的创新与发展能够为我们人类更好地生活、更有尊严地生活、更高质量地生活创造条件。这一点也是咱们三个的共识。

其实某种程度上讲，你要看这个世界的规律。比如科学家张首晟曾经有句话让我印象特别深，他说有人说上帝不是有创造论嘛？说上帝创造了人，这和进化论是矛盾的。但张首晟说，在我们看来，它并不矛盾，因为上帝创造这个世界的时候就说，让万物进化吧。他创造了一些规律和元素，然后上帝觉得这个会进化到人，他可能就在整个设计过程中做了这样一个安排。我为什么会讲这样一句话呢？因为我们有时候会过于操心我们自己完全控制不了的东西。埃隆·马斯克在接受采访的时候就说，他说我相信我们99.999999%生活在一个虚拟世界里面。我们以为我们生活在一个真实世界，但实际上我们就是被编程的那个机器人，就是生活在被编程的那个虚拟世界里。我为什么把这个话题扯这么远呢？因为当我们去担心有些东西会不会失控的时候，其实有一点点太着急了，这个世界离失控还很远很远，或者反过来讲，可能我们从来就没有真正控制过自己。

AI也好，科学也好，让我们逐步地去逼近真理，当这条路让我们离真理越来越近，离对上帝的理解越来越近的时候，那我们就去拥抱这样一个事实，而不要过于的担心。这不是说不担心，而是不要过于担心，就像马斯克，尽管他天天这么说，但他还天天想着把人类送上火星，对吧？这听起来是矛盾的，但当他看穿了这个世界的本质之后，他也许就会有另外的想法——我就顺应这个虚拟世界的设定往前走吧。

这个话题稍微扯远了一点点，但我觉得其实跟这个宇宙的规律、神性相比，人性还是一个相对低一点层次的东西，不是一个更加形而上的东西。所以我觉得可能很多时候我们需要站在一个上帝视角去看这个世界才会更加中性，我认为这个世界没有像我们想象的这么需要去焦虑担心，而是更加需要一个乐观向上的氛围。

不过我倒是想顺着丁健的话做一点补充。在座的各位很多都是企业家，也有科学家、工程师，我们是不是也应该怀敬畏之心，对我们所做的事有更多思考，有更深层次的分析、研判，总之，在做一个事之前尽可能多想一想。我很少看电影，但我前不久把一个电影看了两遍，就是《奥本海默》。大家都知道，奥本海默是上个世纪最伟大的科学家之一，他主导了曼哈顿工程，他在当时就花了十几亿美元造出了原子弹，估计换成今天的钱至少得两百亿美元。他动员了美国所有的科学家和这个相关领域的科学家，但他每走一步都怀有敬畏之心，比如这个炸弹该不该做出来了，做出来了该不该用？他也是有很多很多的忧虑、思考。这个炸弹用了，长崎、广岛被炸平了，所有人都欢欣鼓舞，觉得我们取得了伟大的成就，结束了二次大战，但他还在想，这件事情到底会产生什么效果还很难说，这真的是表现出了一个科学家的良心。此外，当时美国要不要搞氢弹，他作为原子弹之父，旗帜鲜明反对搞氢弹，后来因为这件事，他受到了麦卡锡主义对他侮辱性的迫害，居然吊销了他阅读机密文件的资格，当然最后他的名誉还是恢复了，但我觉得，就这样一个人才真正有着科学家的敬畏之心。其实今天企业家也都在引领创新，某种程度上也需要承担这样一种责任。

所以人自以为自己能够掌控一切，但其实人能够掌控的东西少得可怜，人也自以为自己什么东西都能做决定，但其实你能真正顺着天性也好，本能也好，意志也好，去做决定的事情也是非常少的。因为你在做任何一个决定之前，你已经考虑到了各种综合因素，比如你到了穆斯林为主的国家，你肯定不会吃猪肉，为什么呢？不是你不想吃，而是因为有环境和传统的影响。比如我春节去乌兹别克斯坦，8天都没吃猪肉，等我回国第一天，我就开始吃猪肉了。再比如，我们现在的思考和讲话，你讲的话真的是你心里想说的话吗？就算是你想说的，你也只是把你想说的内容中比较安全稳妥的部分说出来了而已，在这背后其实也是有控制的，这是因为环境的控制、公共场合的控制，因为在公共场合中，你说错了一句话，可能就会遭到误解甚至网暴。

其实分析到最后，不管从科学方面，从环境方面，还是从其它方面，最后都会发现，我们之所以做这个决定，是受到了诸多因素的控制，换句话来说，我们一直是在被控制之中生活的，不管有没有科技，都是如此。但没关系，只要我们感觉自己在对自己的命运做主，也非常OK，即使这是一种虚幻的乐观、积极、自信的感觉。人本就是活在一种虚幻的自信和自我意志的表达之中，所以我觉得不管未来科技多么发展，无论人类是否会被未来的人工智能所控制，只要人类能保持这种我们自认为自己在主宰自己的命运的感觉就行。

其实我觉得人作恶的可能性是远远多于AI作恶的可能性的，而控制AI，特别是让AI相互之间去制约反而是容易的，比让人去控制另一个人要容易得多。所以我个人觉得，在这个方面，我们远远不用担心AI的问题，我更担心人的问题，因为人不好控制。

此外，人类的寿命已经发生了根本性的变化，现在这个寿命还在继续延长，现在也确实就在这个大道上不断地往前前进。所以我觉得总的方向是毫无问题的，但对于出现的问题，我们也的确要去正视，就像我前面提到的奥本海默一样。比如现在这么多电子设备，无论是iPad、电脑，还是手机，它们的确有积极作用，但也有很多副作用，比如孩子，甚至还有很多成年人，都沉溺于游戏之中，这永远是一个要解决的问题。

但就像丁健所说，如果这个核武器连试爆都没有爆，其实是很难去衡量这个问题的，当时没有人知道核武器爆了之后到底会有多大的能量，甚至奥本海默这样的科学家都认为有0.0001的可能，这个核武器一旦爆了会毁灭人类，但其实爆完之后才知道它的威力相当于2万吨TNT的当量。我觉得现在我们就是要抓紧用技术去解决、规范技术所带来的问题，这也是道高一尺、魔高一丈的事情。我想，只要我们有这个目标，这件事情总会比原来控制得更好，当然完全控制可能也比较难，这还是牵扯到人性的问题了。

（罗伯特·奥本海默）

很早之前，张维迎教授就不停地在讲私有财产的重要性，这实际上是在调用人性里自私的那个部分，然后通过市场竞争，把它引导成为这个社会谋利的方向。这个逻辑其实不难理解，而且现在的事实证明，的确如此。但反过来的这个逻辑听上去好像也成立，就是为什么你们非要去允许这样的贫富分化出现，而不是大家干脆平分了就行？但大家突然发现，如果是这样，又会把人类的另外一个人性的恶给调动起来，觉得我多干活也不多得，那我干嘛要多干？这种人性的恶被激发起来之后，结果就又会变成共同贫穷。

所以，无论往哪个方向走，人性的恶都会出现，但是你要设计一个制度，把人性的恶引导到最终是去产生善的结果。我们今天至少已经开始看到有一些制度确实给人类社会带来了很大的进步，在这个过程中，也的确慢慢在往追求平等的方向去走，尽管仍然还是会存在一定的贫富分化。比如我们会看到美国贫富分化很严重，但它的社会保障，它的最低工资等等问题，都在随着社会的发展慢慢纠正。再比如北欧，它们能做到一方面鼓励大家市场竞争，同时还能实现很多的高福利。

所以我觉得我们永远可以去讨论如何在社会生产发展过程中进一步保证分配的合理性，实现共同富裕，这些都是非常重要的事情。但前提是，所有的这一切不能阻碍经济的发展，不能阻碍做大蛋糕，一旦阻碍做大蛋糕，人性就开始往另一个方向走了，就会开始想，为什么我要去干活？社会的运行其实是一个很复杂的逻辑，我们需要深刻地理解这个平衡。乌托邦式的逻辑很简单，也很容易被欢呼，但往往它造成的后果可能是很惨的。

实际上，科技发展到今天，它很大程度上利用了人性中的竞争也好，自私也好，但无论如何，它最终产生了对人类整体有益的结果，比如给人类带来了寿命的增长，财富也不知道比之前增长了多少倍。我们都经历过贫穷的时代，也知道这种贫穷的原因是什么，所以我们今天去想这些事情的时候，更需要有一个更高的高度、更深的深度去思考，我们应该大胆地推动市场经济的发展，不要被简单的、乌托邦式的平等所蒙蔽眼睛，我们还是应该要鼓励人性中那些对于美好生活的追求和向往，同时要把这种竞争慢慢形成一个合理的机制，最终效果是要让财富进一步地扩大。就像小平同志说的，发展才是硬道理。

其实我个人认为，人性是固定的，也就是说，人性在几万年前，人真正变成了人以后，尤其有了人类社会文明以后，人性本身其实就不存在进步和退步一说。我们常常一讲到回到古代社会就会想到陶渊明的《桃花源记》，但那只是一个幻想，而且是一个小范围的、在一个山里面的村庄的幻想。包括老子所说的 “小国寡民，鸡犬之声相闻，老死不相往来”，也是人类的一种美好幻想。当人出现在地球上之后，人作为一种动物或者是一个部族，互相之间就要争夺资源，这个争夺资源的过程就是展示人性的过程。互相之间的敌对引来了互相残杀，而这种残杀本身会让人感觉毫无人性。孟子都说过“人皆有恻隐之心”，可是成吉思汗的队伍打到中亚的时候，杀了几千个儿童，一个不留。那都是孩子呀，那他为什么这么做？就是为了抢夺资源，抢夺生存的余地，抢夺统治地位，而这就带来了巨大的人性的恶。同样，在今天这个世界，如果没有一套国际社会互相平衡的运营规则，这种互相残杀会依然存在。当然，现在在国际上，因为国与国之间有了相互之间的威慑力，以及国际规则的建立等等，使得成吉思汗那样的互相残杀在二战以后就没再真正大面积出现过，所以这在某种程度上也是人类制度的进步。

科技的发展也绝对不是今天才发展的。青铜器是源于科技的发展，铁器的产生是科技的发展，战车的发明是科技的发展，连一个马镫的出现都是人类创造的结果，更不要说火药、造纸、指南针、印刷等等，古登堡发明的印刷机在某种意义上直接影响了欧洲的文艺复兴以及工业革命。所以整体来说，科技本身是不断发展的，它确实在造福于人类社会，但科技本身并不能决定这个人类社会中的人到底是过得平等还是自由、幸福还是不幸、苦难或是悲惨，这些是在科技和社会中的人来决定的。

所以今天我们的美好生活，一部分是科技带来的，更重要的是科技背后的社会制度、分配体制、发展机制的相互作用。所以人类社会更好地对于某种可能产生恶的东西的制约能力也在不断加强，而且这不仅仅是在族群之内或者是在一个国家之内的制约，而是还要考虑到国际因素等其他因素的制约。就像，如果在古代的时候，我作为一个商人跑到中亚去做生意，有可能在一个荒山野地就被人干掉了，但在今天，比如说我去乌兹别克斯坦旅游，很多网友都会为我担心，说俞老师你怎么在那儿还发短视频宣传乌兹别克斯坦的文化、文明、古城啊？那个地方不会把你给绑了吗？我说不可能。因为大家到了这个地方就会看到，这个国家的制度已经让你知道你是处于一种比较安全的状态，这是人类之间互相达成的一种契约——一个国家想要发展，就得保证任何来到你这里的人的安全，否则这个国家就会被孤立。所以人性并没有变得更好，是科技的发展加上制度的建设，使我们越来越活得像个人，我觉得这是人类最伟大的地方。当然丁健也说了，后续怎么能够让人类活得更好，那是一个我们要不断去根据科学的规律或者根据常识去思考的问题。

前两天我读了经济学家陆铭的书《大国大城》，在我们的常规概念中，一个国家得平衡发展，比如上海太大了，北京太大了，你得发展二、三线城市，沿海地区太发达了，你就得把资源往大西南、大西北投入，总之得让整个国家平衡发展。但在他那本书中，他提出，这个世界上的国家，越是往大城市集中，资源越集约，效率越高，全国老百姓就会生活得越好。因为在大城市里，那些经过资源的集约和效率的提高所带来的财富是可以经过国家之手进行再分配的。即使是那些在偏远地区，甚至一辈子连大城市都看不到的人，都可以走进这些大城市来谋取更好的生活，只是在这个过程中，国家应该用怎样一种调配机制去做好大城市地区和偏远地区之间的平衡。

在书中，他举了韩国的例子，一个首尔市就装下了韩国的一半人口，日本的东京等几个大城市也装了一亿多人，所以他的结论是，北上广深等等这些大城市还发展得不够大，还应该吸纳更多的人，给他们创造在城市生活、工作的机会，这样城市的运营效率才会进一步提高，能源才会集约，资源才会集约。当然，这个观点到底对不对我不太了解，我只是用这个例子来表明，有时候我们凭着直觉去判断我们所面对的现实情况，有可能是错的，这也是为什么丁健所说的这种乌托邦会那么受人追捧，就是因为，从普通的直觉来说，有这么一个美好的社会，为什么不去追求呢？但他们忘了，社会的运行是一个复杂的体系，真正单纯的乌托邦是不可能实现的，社会的运行需要考虑到人类互相之间的竞争、人类能力的不同、区域的不同、人与人之间面对某种事情的心态不同……最后达成一个既能制约人性的恶，又能充分发挥人性中的善的这样一套制度和体制，再结合上科技的发展，才能使人类社会真正进入到理性的、和平发展、共享财富、幸福生活的状态中去。

所以这是一个比较现实的事儿，我们一定要保持开放，这是重中之重。此外，我们也要去相信，科学的标准是全世界共同的，最终能不能真正解决问题，比如生物的创新，化学的创新，医学的创新，最后能不能把人的病治好，能不能控制住农作物中的各种病虫害且还不遗留有害成分，这些都是硬碰硬的标准。我就举这么一个例子，其实我核心强调的就是两点，一个是开放，一个是标准。

今天时间差不多了，我们几个在这儿胡说八道了一个半小时，就不要再占用大家时间了（笑），谢谢大家。