The following article is from 参考音信智库 Author 参考音信智库色人阁

在近日举办的中国发展高层论坛 2025 年年会上，东说念主工智能（AI）普惠包容发展成为焦点话题。闻明历史学家、形而上学家、英国剑桥大学特聘询查员、畅销书《东说念主类简史》的作家尤瓦尔 · 赫拉利出席年会，并围绕 AI 本事的发展讲演见地。赫拉利在北京接受记者专访时暗示，AI 不单是是器具，更是不错自主念念考和创造新东西的智能体。东说念主类创造 AI 并不难，难的是怎么涵养它，使其成为"有益的 AI "。为幸免 AI 时间的"硅幕"落下、东说念主类社会堕入"数字冷战"，列国需增强互信，让天下保持相对怒放，接续激动 AI 海外治理与和洽。

东说念主类怎么与超等智能共存

《参考音信》：AI 是中国发展高层论坛 2025 年年会的一个热点话题，国表里企业都很看好中国 AI 本事为经济增长带来的新能源。四肢参会嘉宾，您从学者的角度在现场有何不雅察？

赫拉利：此次会议令东说念主印象尽头长远。我在这里看到，东说念主们不仅存眷东说念主工智能的短期经济后劲，还存眷东说念主类将怎么应酬比咱们更理智的事物这一问题。

在东说念主类历史上，从未出现一个本事较低的物种能够截止一个本事更高的物种的情况。要是咱们创造出比东说念主类更理智的物种，比如超等智能 AI，天下会发生什么？也许在短期内，这将故意于民众经济增长和振作。但几十年后，全天下可能存在数百万个超等智能 AI，它们照拂着咱们的金融系统、军事系统、文化系统，届时东说念主类将怎么与这个全新的超等智能物种共存？

中国发展高层论坛能够关注这一高大主题，而不单是是东说念主工智能的顺利经济影响，这令我印象长远。中国和好意思国事 AI 界限的两个卓著国度，全天下都在关注这两个国度的发展，以了解 AI 的发展标的。举例，中国初创公司深度求索（DeepSeek）发布的 AI 模子激勉民众关注，每个东说念主都知说念它将产生影响，不单是是对中国，对非洲、中东和好意思国亦然如斯。

《参考音信》：但在您的新著《智东说念主之上》中，您总体上对 AI 持悲不雅气魄，并对其发展提倡警示。咱们应该积极拥抱其带来的变革，照旧严慎截止其发展？

赫拉利：我并不反对 AI。我不合计咱们不错或应该住手 AI 的发展。我只是合计咱们需要在 AI 安全方面干预更多，要愈加严慎。我倾向于更多挑剔 AI 带来的风险，而很少谈迥殊积极影响，是因为面前照旧有弥散多的东说念主在挑剔它的发展后劲。

他们往往是对的。AI 不错为东说念主类作念许多灵验的事情，比如改善医疗保健、擢升涵养水平、匡助应酬表象变化等。但它也会带来危急。四肢别称历史学家和形而上学家，我合计我的使命等于通过强调风险来均衡东说念主们对 AI 的见地。咱们正在开拓一种可能比东说念主类更理智的东西，咱们要怎么与它共存？

AI 是一个智能体，不错我方作念决定，甚而不错我方发明新的办法。我最近翻译了一首 AI 创作的诗歌，内部充满创造性的隐喻，其遣意造句之优好意思令我感到惊诧。几千年来，从竹素、诗歌到通盘经济体系，咱们周围的一切都是来自东说念主类的贤慧。要是天下上大多量东西都是由外部智能、非东说念主类智能创造出来的，咱们活命在这样的天下里意味着什么呢？

▲《智东说念主之上》一书封面

AI 界限存在"信任悖论"

《参考音信》：中好意思两国的科技公司在 AI 界限都取得不少着力，这会给天下带来什么变化？

赫拉利：我合计最大的危急是中国和好意思国公司之间，或者中国和好意思国政府之间，会出现一种访佛武备竞赛的 AI 竞赛。但在 AI 界限的竞赛，终末的赢家不会是中国或好意思国，而是 AI 自身。咱们能真确截止 AI、开拓出一种不错与东说念主类共存的 AI 的唯独契机，是通过民众东说念主类和洽来达成。

我遍访天下各地，与 AI 蜕变的提醒者、AI 本事的开拓者交谈。我常常会问他们两个问题。第一个问题是，"你们为何走得如斯之快？"简直每个东说念主的回应都一样。他们说，"咱们知说念开拓比东说念主类更理智的东西是有风险的，咱们也但愿减速脚步，在安全方面干预更多，作念得更严慎。但咱们操心，要是咱们减速脚步，而竞争敌手却不愿减速脚步，他们就会赢得竞赛"。

然后我问他们第二个问题，"你信任你正在开拓的超等智能 AI 吗？"那些刚刚向我证实说他们不确凿任东说念主类竞争敌手的东说念主却告诉我，他们合计不错信任超等智能 AI。我合计这简直无法厚实，要是你不确凿任东说念主类色人阁，你凭什么合计你不错信任正在开拓的超等智能异类物种呢？

天然东说念主与东说念主之间树立信任并阻扰易，但至少咱们有这方面的教授。然则，咱们莫得与 AI 树立信任的教授。咱们发现，即使是处于领先发展阶段的 AI 也会有撒谎和支配行径，作念出一些出东说念主猜度的事情，那么当咱们向这个天下开释数百万个超等智能 AI 时，谁也不知说念会发生什么。

应该创造"有益的 AI "

《参考音信》：中国照旧在 AI 治理界限发起多项海外提议，您合计中国还不错在哪些方面作出孝顺？

赫拉利：我但愿中国四肢民众卓著的东说念主工智能强国之一，不错尽最大奋力驻防天下出现 AI 武备竞赛的局面，并探索出怎么让 AI 更安全或怎么涵养 AI 的方法。

咱们不错把 AI 的发展想象成一个小孩的出身。只是把一个腾达儿带到这个天下是不够的，还需要涵养他。

在儿童涵养中，孩子往往不会听从父母的提醒，但会不雅察父母的行径，然后师法他们。通常，要是咱们试图涵养 AI 不要贪心权利、不要竞争、不要撒谎、不要支配，但当东说念主类为了权利而竞争、撒谎和支配时，AI 就会师法这些行径。是以不是说咱们松懈找几个形而上学家和想象机科学家一说念列出 AI 价值不雅的清单，然后将其编入 AI 就行了。怎么创造出 AI 只是最容易的部分，艰巨的是怎么涵养它成为一个"有益的 AI "。

《参考音信》：您建议必须让 AI 对皆东说念主类价值不雅，确保它的演化和使用合适东说念主类长久利益。但民众价值不雅存在巨大不对，咱们应以何种机制开拓对皆的基准？

赫拉利：天然东说念主与东说念主之间存在许多名义上的各异，但当咱们更深入不雅察时，会发现悉数东说念主都具有调换的生物学特征，调换的基本需求、感受和脸色。不管是活命在哪种文化中，莫得东说念主可爱晦气，莫得东说念主合计撒谎是一件功德。

在 21 世纪初的天下，尽管存在文化各异，但东说念主类告成树立一个相对踏实的海外次第，列国政府将更多的预算用于医疗保健，而非军事。每个东说念主都但愿活命在一个医疗保健比军事赢得更多资源的天下。

列国不错我方出台一些规矩，即使其他国度有不本旨见。举例，一项很垂危的规矩是防止 AI 伪装成东说念主类，就像防止东说念主类伪造货币一样。但在其他一些界限，只须海外契约才能发达作用。最显着的例子是军事界限，AI 不错开拓全自动火器系统。要是只须一个国度防止 AI 火器，而其他国度却在开拓这种火器，那么这个国度在军事上就会落伍。因此，除非其他国度都本旨防止 AI 火器，不然莫得哪个国度好意思瞻念这样作念。但要达成它并阻扰易，因为即使东说念主们签署了契约，怎么保证契约得到现实亦然个大问题。

《参考音信》：AI 的出现对服务阛阓产生巨大影响，有些使命可能被 AI 取代。您对年青东说念主在奇迹遴荐上有何建议？

赫拉利：这是东说念主类历史上第一次咱们不知说念 10 年或 15 年后服务阛阓会是什么花样。大约有东说念主合计这是想象机时间，应该学习编程，但 AI 的编程本事照旧开动超越东说念主类，十几年后公司可能不再需要东说念主类本事员。东说念主们应该学习什么？咱们无法得知确切谜底。

我能给出的最佳建议是，要掌执无为的技巧，而不是忐忑的技巧。东说念主类具备四种基本本事。咱们有本事、酬酢本事，还有畅通本事和脸色本事。咱们必须均衡好这四项本事。

我建议年青东说念主不要只关注本事，很快东说念主类将领有超等智能 AI，大多量仅靠本事的使命都将被自动化。要是你考试出一套属于我方的无为技巧，它将在改日更好地为你所用。

▲尤瓦尔 · 赫拉利接受记者采访（王大禹 摄）

从"网"到"茧"的隐喻

《参考音信》：您在著述中提到"硅幕"的风险。东说念主类应怎么幸免堕入"数字冷战"，加强东说念主工智能海外治理与和洽？

赫拉利：当互联网在 20 世纪 90 年代初度出当前，互联网时间的主要隐喻是"网络"，就像蜘蛛网一样。这张漂亮的网络将全天下的每个东说念主都拯救在一说念，这等于万维网。

面前主要的隐喻是"茧"。这种茧就像一张网，将咱们包裹起来或者终止咱们。咱们以为我方看到了通盘天下，但骨子上咱们只看到了我方被包裹在其中的茧。即使彼此交谈，咱们也无法厚实对方，因为咱们构兵到皆备不同的信息、笃信皆备不同的东西。这等于我所说的另一个隐喻——"硅幕"。

在冷战时期，东说念主们挑剔的"铁幕"是用钢、铁制成的栅栏和注释工事，将不同的国度分开。面前，民众将会有一说念"硅幕"，你的智高手机或电脑上的信息、代码将决定你属于"硅幕"的哪一边。要是发生这种情况，东说念主类在职何事情上的和洽契机，比如表象变化、AI 治理，都注定会失败，因为东说念主类将无法彼此厚实和交流。

咱们需要让天下保持相对怒放。面前的好意思国政府，极端是特朗普政府，它对天下的愿景是什么？它把天下想象成一个堡垒的蚁集，合计每个国度都应该有很高的墙，结巴番邦商品、念念想和东说念主员进入其中。要是真的如特朗普政府所想，通盘天下只是堡垒的蚁集，那么最大的问题等于怎么照拂这些堡垒。历史上，每个堡垒天然都想赢得更多的疆域、安全和振作，然后就会产生碎裂。要是莫得任何共同价值不雅、莫得任何海外机构、莫得任何协议，唯独能处罚堡垒之间不对的等于干戈。咱们需要驻防这种情况发生。

《参考音信》：您怎么看待好意思国对中国实施的本事禁闭？

赫拉利：我不是买卖方面的众人，但咱们确乎看到许多国度面前都在领受关税步伐，同期实施禁令和禁闭。许多时候，一个国度使用的本事在另一个国度会被防止。天下正在造成这样的堡垒网络。

天然，他们老是有很好的原理来证实为什么需要保护我方的产业。但咱们最终看到的场景是这些堡垒在彼此争斗。咱们怎么创造一个愈加怒放的天下，这才是问题场所。一个怒放的天下并非乌托邦，因为二三十年前的天下就尽头怒放。这是东说念主类的决定。

这亦然为何咱们要在不同国度之间树立信任，不单是是为了驻防干戈，亦然为了驻防 AI 竞赛。在这场竞赛中，AI 将得手，东说念主类将失败。这是一项大工程，我合计民众提醒东说念主都应该担起这个遭殃。

《参考音信》：岂论身处"硅幕"哪一边，咱们都会际遇算法，尤其是在酬酢平台或一些新闻推送中。咱们该怎么应酬？

赫拉利：在新闻行业，最垂危的变装是剪辑。但今天的酬酢平台越来越多地被 AI 剪辑截止，而它们往往不存眷真相，也不介意社会遭殃。它们只存眷所谓的用户参与，让更多东说念主花更多时期在平台上。它们发现，达成这一规画的最浅陋方法是发布危言耸听的故事、狡计论和假新闻，基本上等于按下东说念主类大脑中的仇恨、大怒或怯怯按钮。

要改变这一景色，咱们需要政府层面的监管，比如条目 AI 不可伪装成东说念主类。在个东说念主层面，咱们要学会"信息节食"。信息是念念想的粮食，但信息太多不是一件功德。想想看，要是你整天都在吃东西，没无意期让胃进行消化，你就会生病。通常，要是你只是握住摄入信息，从不花时期来消化、反念念和冥想，你的念念想就会生病。

咱们还需要涵养东说念主们怎么别离可靠和不可靠的信息。这应该是学校的一项主要任务。

本文刊于《参考音信》2025 年 4 月 3 日第 10 版，原题为《对持怒放和洽，幸免 AI 时间"硅幕"落下——专访英国剑桥大学特聘询查员尤瓦尔 · 赫拉利》，记者是何娟、苏佳维、王大禹。

开头 | 参考音信智库

审核   | 陈鹏

剪辑   | 郭庆娜色人阁