通信人家园

标题: Hinton发2024末日预警：10年内人类灭绝，奥特曼预言18个月ASI降临 [查看完整版帖子] [打印本页]

时间: 2024-12-30 16:58

作者: tayun 标题: Hinton发2024末日预警：10年内人类灭绝，奥特曼预言18个月ASI降临

2024年，注定是AI历史上浓墨重彩的一年。

站在2024年的尾声，各位大佬也给出了自己对于未来的预测。

OpenAI CEO奥特曼看来，我们即将迎接超级智能的到来，而且很快了！2026年夏天，我们或许就会见证奇迹的出现。

Meta首席AI科学家、图灵三巨头之一的LeCun，跟奥特曼对此意见不同，他强调，AGI在未来两年内不会发生。

获得今年诺奖的人工智能教父Hinton则坚信，AI的进步会很快，但已经到了一个可怕的地步——

10年内，AI可能会导致人类的灭亡！

奥特曼：ASI即将到来，想象18个月后

在圣诞节前夕，外媒记者Bari Weiss采访了OpenAI CEO奥特曼。

在他看来，超级人工智能ASI，已经离我们很近了！

奥特曼让我们想象一下，18个月后，2026年夏天即将到来时，AI会是什么样子？

ASI会如何出现？

在今年9月，奥特曼罕见地发出长文预言：深度学习已经奏效了，ASI即将在几千天内降临。

奥特曼强调，我们必须关注科学进步的速度，它不会改变人类深层的基本驱动力，但我们生存的世界将会发生很大的变化。

在他看来，有AI帮我们干活，人类就可以从工作的繁重负担中解放出来，尽情娱乐和游戏了！

人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会，我们将回到一个不断扩张的世界，处于一种正和博弈。

正和博弈是指总收益大于总损失，所有参与者都获得净收益的情况

奥特曼认为，我们今天从事的许多工作，在几百年前的人们眼中可能显得微不足道，甚至是浪费时间。

但没有人会回头怀念过去，渴望自己成为一名点灯人。

如果一个点灯人能够看到今天的世界，他会觉得眼前的繁荣完全超乎想象。

而如果我们能够快进到一百年后的未来，那时围绕人类的繁荣，同样会让我们难以想象。

奥特曼预测到来，ASI将引发10倍的科学AI突破，每一年的革命性都会像十年一样

当被问到，如何衡量我们世界中AI的总体影响时，奥特曼回答说，这些AI产品被人们快速采用，吸引更广泛的受众的过程，已经令人印象深刻。

我从未见过，一项技术能如此迅速地被大规模使用。

那么，奥特曼本人是怎样使用AI的呢？

他表示，自己早已将默认搜索改成了ChatGPT。

他经常用ChatGPT从网络上获取实时信息，而不是依赖过去那种传统的超链接流程——如今看来，那种方式简直像蜗牛爬行一样缓慢。

所以这种方式仍然被称为「搜索」吗？奥特曼说，自己仍称之为搜索，不过年轻人们会这样描述：我刚刚「聊」出了这个信息。

Hinton：AI可能会在10年内让人类灭绝

今年刚获得诺贝尔物理学奖、77岁高龄的Hinton同样认为，AI技术的发展速度比自己预期的要快很多。

这让他感到恐惧，并且发出警告：AI可能会在10年内，让人类灭绝。

作为深度学习之父，Hinton对自己在创造这项技术中所扮演的角色表示遗憾。

AI的迅疾发展已经如同一次全新的工业革命，但不同的是，这次，机器可能会掌控一切。

因此，政府务必加强对AI公司的监管。

此前，Hinton曾预测，AI有10%的可能性，会在30年内导致人类的灭亡。

而最近，他的说法又提前了。

在BBC广播4台的《今日》节目中，主持人问Hinton他的看法是否有所改变。

Hinton再次强调说没有。甚至他表示，AI让人类灭绝的时间可能是10到20年，因为，我们从未遇到过比我们更聪明的事物。

「你知道多少例子，是由不聪明的一方控制更聪明的一方？少之又少」。

人类是3岁孩童，AI是成年人

1972年，Hinton在爱丁堡大学首次开始研究神经网络。当时少有研究者相信，神经网络可以通过分析数据来学习技能。

在20世纪80年代，他发明了可以自主查找数据属性、识别图片中特定元素的方法，奠定了现代人工智能的基础。

2012年，Hinton和两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络，可以分析数千张照片，并自学识别花、狗和汽车等常见物体。

但现在，AI技术的发展已经远比他预期的快得多。导致的后果就是，人类如今只是3岁孩童，但AI却已经长成了成年人。

Hinton表示，这就像工业革命一样。

在工业革命中，人类的体力不重要了，因为机器更强大——如果你想挖一条沟，用机器就可以了。

如今的AI，已经在取代人类智能。最前沿的不再是普通的人类智能，而是机器。

狄更斯式的变化

「现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿，而是机器将成为前沿。」

Hinton预测，AI将极大地改变普通人的生活，就像查尔斯·狄更斯所记载的工业革命一样。

而AI将如何走向，很大程度上取决于我们的政治制度会如同利用这项技术。

而Hinton担心的是，尽管AI会带来生产力的大幅提高，但所有好处都会流向富人，很多人会因为失业而变得更加贫穷，最终这对社会就是不利的。

在工业革命中，机器没有机会仅仅因为自己更强大而取代人类，因为我们有智能，所以事情仍在掌控之中。

但现在，情况已经不同了，AI很可能会掌握一切。

而对领域内其他知识渊博的专家对AI未来的乐观看法，Hinton表示，希望他们是正确的。

政府必须监管

然而，Hinton补充道：我担心，这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力，并不足以确保他们安全地开发这些技术。

唯一能迫使这些大公司在安全方面进行更多研究的，就是政府监管。

Hinton呼吁，政府必须在这方面担起责任。

此前Hinton就表示，自己痛悔向世界介绍AI。

「后悔有两种。有时候，你会因为做了一些你知道不应该做的事情而感到内疚、后悔；还有一种，是你在同样情况下还会做一样的选择，但最终结果可能并不好。」

「我的后悔属于第二种。在同样的情况下，我会再次做同样的事情，但我担心这样做的后果，就是比我们更智能的系统最终会占据控制权。」

毕竟此前，我们从未经历过拥有比我们更聪明的东西，是什么感觉。

纳德拉：OpenAI已成为巨头

在与知名投资人Bill Gurley和Brad Gerstner深度对话中，纳德拉分享了自己对OpenAI独到的见解。

他表示，「从某种意义上，OpenAI就是这个时代的谷歌、微软或Meta」。

这番话暗示着，OpenAI可能会像这些科技巨头定义了此前几代计算技术一样，塑造了AI领域的格局。

显而易见的是，微软与OpenAI的早期合作，为其在AI竞赛中带来的巨大的优势。

纳德拉称，「我们基本上获得了两年的领跑期，不过这样领先优势可能不会再出现了」。

这种战略合作已经开始显现成效，包括Shopify、Stripe和Spotify等大型云客户，已经从AWS或谷歌转战微软阵营。

而OpenAI本身，也早已成为了微软云服务的重要客户。

AI无限复制，取代人类在即

o3发布之后，Quora联创Adam D'Angelo曾表示，「令人疯狂的是，o3的测试结果已经公开了，但市场仍然没有将AGI的可能性计入定价之中」。

对此，马斯克回应道，「市场声称会向前看，但实际上只是关注过去。AI最终会让金钱变得毫无意义」。

马斯克的这句话在全网掀起了巨大风暴。AGI时代，金钱真的不再重要了吗？

最近，AI圈大佬Rudolf发表了一篇文章对此做出了回应：

默认情况下，AGI之后，资本比以往任何时候都重要。

文章中，他提出了几个重要的观点：AI取代人类劳动力，将从根本上改变生产关系，同时现有的权力结构将更加稳固。

许多人对这个帖子的理解出现了偏差：

(a) 将「资本」仅理解为「金钱」，而不包括工厂和数据中心等实物资本

(b) 主要关注人与人之间的差距，而不是更广泛的社会问题，如人类的整体地位、社会变革的可能性和人类能动性

业内著名AI咨询师Luke Hornof总结道，「当能替代人类劳动的AI出现后，拥有资本的人将获得永久性优势。

这是因为资金将能更有效地购买成果，由于AI可以被复制，且不像人类具有复杂的偏好，这将导致权力进一步集中在资本持有者手中。

同时，人类劳动力将失去其价值和影响力，削弱人们影响国家的能力和实现卓越成就的可能性」。

一起来看看这篇文章具体讲了什么。

首先，需要明确两个概念：劳动，是指人类为创造价值而付出的体力和脑力努力；资本，是指人类建造的用于生产商品和服务的东西，比如工厂、数据中心、软件等等。

作者表示，文中提到的「资本」（capital）用来指资本货物存量，以及用来购买资本品的货币。另外，提到的「资金」（money），专指金钱本身。

AI的核心经济效应在于，它使「资本」成为越来越普遍的劳动力替代品。

后果就是，支付人类劳动时间的需求将大幅减少，因为运行软件的数据中心直接可以替代人类的脑力劳动！

而这个数据中心的规模，仍在不断扩大。马斯克的20万块超算已经在紧锣密鼓建设中了。

xAI研究员Guodong Zhang表示，自己在半年前参观时还是空的，再看现在，简直太酷了！

足见，世界数据中心规模只会越来越大，不断推向取代人类劳动力的极限。

重金招募顶尖人才

随着AI逐渐取代人类，如何雇佣最合适人才的深层问题，就迎刃而解了。

对于企业来说，可能无法去判断AI的才能。即便是一些领先的AI评估生态系统，也可能难以正确评判。

但真正的区别在于，AI可以被克隆。

目前，大量资金往往追逐，少数取得突破性成果的明星研究员。他们的才能得到了资本市场的认可，最重要的是，他们的能力是不可被复制的。

但如果顶尖研究员是AI，将从根本上改变了游戏规则。

这意味着，未来每个人，或者至少是那些有足够资金购买GPU的人，都能获得这个AI明星研究员。

这就是为什么，一旦我们拥有能替代劳动力的AI，金钱就能更容易找到顶尖人才的主要原因。

当然，人才的价格也会大幅下降，因为AI比同等水平的人类劳动力更便宜。再加上AI可以被克隆，市场的竞争会更加激烈。

另外，将资金转化为人才的最后一个重大瓶颈是：许多顶尖人才都有复杂的个人偏好。

顶尖艺术家对自己的艺术愿景有着真诚的执着；顶尖数学家对优雅和美有着深深的热爱。

相比之下，AI的存在就是为了能够被轻易地收买（至少在其安全训练的范围内）。

从2024年这个时间点回望，AI发展轨迹确实远超所有人的想象。

这一刻，也许是我们驻足思考的最佳时机：当AI真正超越人类，我们该何去何从？

参考资料：

https://www.telegraph.co.uk/news/2024/12/27/godfather-of-ai-says-it-could-drive-humans-extinct-10-years/

https://x.com/kimmonismus/status/1873462709091443113

https://the-decoder.com/microsoft-ceo-satya-nadella-sees-openai-as-the-google-microsoft-or-meta-of-this-era/

https://x.com/jam3scampbell/status/1873229165388050627

来源：36kr

时间: 2024-12-30 17:27

作者: mushroom177

人类会自己把自己玩死！

通信人家园 (https://test.txrjy.com/)