【新智元导读】AGI 炒作如故现实？AI 新闻宿将 Matt Wolfe 直击好意思国 AI 中枢：从 Demis Hassabis 的感性严慎，到扎克伯格的巨资参加，探索递归自我纠正的潜在爆炸风险。

OpenAI、谷歌、微软、Meta、Anthropic 等耳闻目染的科技大厂，高喊 AGI 将至。

东谈主类可能正在站在气运的分水岭：AI 大略行将自我进化，带来智能爆炸与生命延长，也可能制造出东谈主类无法显露的「黑箱谈话」。

内容创业者 Matt Wolfe 耐久以来一直关注东谈主工智能，并曾有幸对多位分量级东谈主物进行专访，包括 DeepMind 的首创东谈主 + 诺奖得主 Demis Hassabis、微软 CEO 纳德拉以及谷歌 CEO 劈柴等。

此次，Matt Wolfe 揭示了冰山之下的张力：巨头决骤，能源告急，机器东谈主崛起。

在谷歌 I/O 会议上，Matt 听到了哪些风声？改日会是闹热的乌托邦，如故《瓦力》般的千里迷社会？

各自决骤，无暇他顾

Matt 有丰富的一手行业不雅察。

比如，他会参加谷歌 I/O 之类的大会。而他和执行矜重技艺研发的工程师疏通，而不是那些只矜重宣传的高层。工程师能径直告诉你哪些技艺确凿有用，哪些没那么靠谱。

那他心中的 AI 的「冰山之下」是什么形状？

在巨匠眼中，这些科技巨头看起来就像是只原宥利润、念念尽办法收获的怪兽。他们会偷用户的数据、用来考试模子、压根不在乎用户。大公司在总共企业结构上，如实很爱好鞭策利润，这亦然事实。

但当你真实去和公司里的职工疏通时，Matt 从来莫得嗅觉他们是念念要主宰巨匠、偷数据或夺走寰球的责任。他们仅仅对正在开荒的新技艺感到无比兴盛，但愿能为东谈主类带来全新智商。

比如，几年前在谷歌 I/O 的记者区，Matt 和一位谷歌职工聊起来。

她很垂危又很高亢，因为他们行将上台先容她往常两年开荒的技艺。她并不需要上台演讲，但她独特珍贵不雅众会如何接纳她参与的技俩。她说：「但愿寰球不会腻烦这个新技艺，但愿寰球认为它确凿很酷。」

她十足莫得念念过「这个技艺会抢走谁的饭碗」，她仅仅但愿寰球认同她花了两年时辰致力的效力。

这让 Matt 认为，这份「东谈主性」才是最进犯的东西。

AI 巨头如何衡量速率与安全？

Matt 认为这其实因公司而异。

比如，谷歌更倾向于严慎，会确保技艺确凿准备好了才推出。

他和微软也有不少互动。有时，他会认为微软的确更激进一些。

OpenAI 则有点介于谷歌和微软之间。他们也许莫得微软那么激进，但也不像谷歌那么保守。

这种各异其实挺有酷爱：有的公司把安全放在首位，有的公司则急于霸占市集。

最近，扎克伯格也昭彰转向了，他在「个东谈主超等智能」技俩上参加巨资，豪恣收受东谈主才。

与此同期，马斯克也在拚命追逐，豪恣加码算力投资。

那么问题来了：这场竞赛的要道是成本和东谈主才吗？

在 Matt 看来，更大的瓶颈其实是能源。

在芯片和 AI 考试联系的技艺上，好意思国上风昭彰，而中国则在能源基础门径方面更强，但芯片受限。改日在好意思国，能源反而可能成为制约 AI 发展的最大辞谢。

固然，多数参加资金与东谈主才如实能让企业快速追逐。

比如两年前，寰球齐认为谷歌逾期了，压根不行和 OpenAI 和微软比。但目下谷歌简直已重回前哨，以致在部分规模名列三甲。

别无采用，只可加速

OpenAI 和谷歌几许还能看到一些「理念念目标」的影子，追求某种东谈主类共同的改日。

比如，DeepMind 的 Demis Hassabis 是业内最值得信任的东谈主之一。

他相配感性严慎，深知 AI 发展中东谈主类的怯生生与担忧。

要是十足由他决定，DeepMind 的节律会慢得多、更为审慎。

但现实是，谷歌算作大公司，有其他声息推动加速生意化。

但回头念念念念看，两年前 ChatGPT 吃掉了多数搜索流量，而谷歌每年光靠搜索赚个五六百亿好意思金。

这关于谷歌来说是生涯挟制。当时候，Demis Hassabis 细目也濒临广大压力，没得选，只可加速。

而 Meta，它的策画随机是「东谈主类乌托邦」。

Meta 的终极策画是全自动生成内容，这或将绝对重塑创作者经济。

炒作如故现实

目下越来越多的 AI 实验室矜重东谈主齐在说：

咱们运行看到 AI「自我纠正」（recursive self-improvement）的迹象了。

以致有许多论文齐这么说。比如，Leopold Aschenbrenner 在论文里提到的那种「一飞冲天」的发展旅途。

论文联接：https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

东谈主类将近迎来所谓的「智能爆炸」了吗？

Matt 认为目下这些说法更多如故表面上的忖度。

这些 AI 巨头很有能源让巨匠认为 AGI 赶快就要来了，这么寰球就会一直关注他们、维持他们。但执行上可能并非如斯。

但一朝真实达到 AGI 的临界点，那发展就确凿会像爆炸不异迅猛。

超等东谈主工智能 ASI 距离 AGI 不远。一朝模子具备了科罚自身问题的智商，发展就会加速。

是以 Matt 认为，一朝 AGI 出现，ASI 会很快跟上。当时候的发展弧线就不再是线性的，而是一条「冰球棒」弧线——急剧高潮。

在某些规模，AI 发扬超东谈主般强盛，但在另一些通俗任务上却依然出错。比如它能科罚复杂的数学与能源问题，却可能数不清「strawberry」里有几个字母 R。

这种 AI 的锯齿形性能让一些东谈主掉以轻心，认为「它连数字母齐不会，怎样可能智慧到那种进程？」

但要是他在科研和工程上比任何东谈主齐强，这就足以蜕变寰宇。

真实应该担忧是：AI 大略会在 AI 接洽本人上远超东谈主类，能够自主提议新的模子架构、新的考试设施，以致自动化完成实验轮回。这一朝出现，东谈主类可能压根无法显露它的推理逻辑。

执行上，雷同的雏形还是出现了。比如，谷歌的 DeepMind 的AlphaEvolve的技俩，本色上便是用 AI 来想象新的算法。

AlphaEvolve 如何助力谷歌构建更高效的数字生态系统

换句话说，递归纠正的发轫还是在路上。

还有一个具体的挂念：AI 可能会创造出东谈主类十足无法显露的新谈话。

当它们用这种谈话编程、疏通以致创造居品时，东谈主类压根无法 debug。

这听起来像科幻，但其实雷同的情况还是在发生。比如，谷歌的搜索算法：今天就怕莫得任何一个东谈主能十足显露它的全貌。历程多年迭代，无数东谈主参与开荒，它还是复杂到超过个体的显露力。

要是改日的 AI 系统确凿发展出属于我方的「黑箱谈话」，那将带来前所未有的不透明性与风险。

而这些科技巨头掌捏了叙事权。

马斯克、扎克伯格、奥特曼，他们的一句话通常能影响数百万东谈主的不雅点。但他们的言论通常带有「隐性动机」。举例：

当扎克伯格声称「超等智能行将驾临」，这既能让投资东谈主掏钱，也有助于 Meta 在 AI 规模收受东谈主才；

当奥特曼强调「安全风险」，这既是职守感的体现，也可能是为了推动监管，让我方取得先发上风；

马斯克会劝诫「AI 挟制」，但与此同期，他的 xAI 却在拚命延长。

媒体算作不雅察者，必须揭示这种「公开原理」与「真实动机」之间的落差。

下一代能活到 200 岁？

一年前说，Matt 认为他的孩子有 75% 的概率能活到 200 岁。

目下，他如故差未几保持蓝本的主见。

原因在于：AI 正在快速推动生物医学打破。举例：

AlphaFold 已能估量卵白质折叠方式；

Isomorphic Labs 在用 AI 提前一年检测脑肿瘤；

还有 AI 能在糖尿病症状出现前多年作念出预警。

要是这些技艺链接发展，癌症、腹黑病等致死疾病极有可能在改日几十年内被攻克。那意味着寿命弧线会被绝对蜕变。

他认为这一切的发展齐在给东谈主类「延寿」提供可能性。

英国作者兼老年生物学家 Aubrey de Grey 提议了「长命逃遁速率」表面。

该表面的玩忽是：跟着科技跨越，每活一年，你的预期寿命就会加多两年或更多。

等东谈主类真实达到阿谁鼎新点后，东谈主类可能就「长生」了。

最近，Aubrey de Grey 公开默示：2030 年或最迟 2035 年，东谈主类可能会「技艺打破」，终了长命逃遁速率。

也便是说，再过 5 年，要是你还在世，就有契机见证这一切。

对目下 10 岁以下的孩子，Matt 认为他们活到 200 岁的可能性可能高达 50% 以上。

目下的这代东谈主可能会成为「最悲剧的一代」——眼看下一代东谈主活到了 200 岁，我方却永远停在了 80 岁。

机器东谈主全员上岗

要是改日东谈主类寿命延长，而出身率下落，那么「机器东谈主补充劳能源简直是势必。

念念象一个场景：家务、清洁、作念饭、搬运、园艺 ……简直齐由机器东谈主完成。

东谈主类取得多数开脱时辰，有东谈主可能采用创作艺术、旅行、侍奉孩子；也有东谈主可能像电影《瓦力》不异，千里迷文娱，虚度一世。

AI 和机器东谈主社会可能走向两种霄壤之别的谈路：

一种是闹热与创造力爆发；

另一种则是全民散漫，千里迷快感。

目下的短视频还是让东谈主们松驰堕入「无相识刷屏」。

现实更可能接近《瓦力》版块，这不得不让东谈主挂念。

要是东谈主类确凿能活到 200 岁，那么女性的生养窗口也许会被技艺大幅延长。东谈主工子宫、基因建筑、激素疗法等齐可能让「乐龄生养」成为常态。

这将绝对蜕变家庭结构与东谈主口模式。年青东谈主不再急于成婚生子，因为她们知谈我方在 100 岁时仍有可能成为母亲。

一些迹象标明，家用机器东谈主很快会进入前 10% 饱胀家庭。

Matt 估量：再过 15 – 20 年，机器东谈主会像今天的汽车不异广大。

也许当时开云kaiyun.com，孩子们的游伴里就有「东谈主形机器东谈主」。