人工智能 沉浸阅读 · 约 3 分钟
全文 1,226 字

Anthropic上市在即:AI加速与人类困境

核心导读 Anthropic周四上市之际,人工智能技术进步加速,模型参与研发比例上升,预测者缩短智能爆炸时间表。与此同时,行业仍受丑闻、资本压力、公众信任和控制风险等人类因素制约。

Anthropic 将于周四登陆华尔街,此刻人工智能历史正处在一个深刻矛盾之中:

人类正陷入困境——被丑闻、金融动荡和政治反弹拖累。

但机器正在崛起——加速走向他们预期将改变文明的“智能爆炸”。

为何重要:行业近期的混乱掩盖了令人瞩目的技术进步,迫使一些全球领先研究人员重新思考人工智能可能在多快时间内超越人类智能。

放大来看:在即将估值超过1万亿美元的 Anthropic 内部,METR 的独立研究人员发现,人工智能模型的进步速度接近历史水平的两倍——他们认为这在很大程度上由人工智能本身推动。

Anthropic 自己的数据显示,Claude 在公司人工智能研究任务中的主导比例从2月的不足1%升至8月的超过四分之一,人类仍在监督。

METR 发现,未来一年维持这一速度没有明确障碍,并审阅了机密证据,显示这种加速本身可能还在加快。

放大视野:在前沿领域,领先公司正在竞相攀登 Anthropic 首席执行官达里奥·阿莫迪所称的“指数曲线”。

OpenAI 周二披露,Astra 6.2 是其首个公开发布、达到人工智能自我改进“高”阈值的模型——该公司称,这相当于为每一名研究人员再配备一名能力极强的工程师。

这些进展横跨软件和芯片:OpenAI 表示,其模型帮助超威半导体将原本需要一年的芯片设计进展压缩到不到五个月,而谷歌的 Gemini 正将数周的芯片布局工作缩短到数小时。

大局:这些突破正推动一些顶级人工智能预测者缩短著名“智能爆炸”的时间表——即自我改进人工智能的失控式连锁反应,可能使机器智能远超人类理解。

有影响力的 AI Futures Project 现在预计,机器将在明年超越全球最优秀的人类人工智能研究人员,这一大幅修正主要受 METR 在 Anthropic 的研究结果推动。

近期加入 OpenAI 董事会的人工智能安全先驱保罗·克里斯蒂亚诺认为,如果开发保持当前速度,一年内出现超级智能的概率为三分之一。

字里行间:尽管机器拥有非凡能力,它们仍受制于会犯错的人类。

以英伟达为例:黄仁勋的性丑闻使这家芯片巨头在其技术和金融实力巅峰之际陷入危机,几乎危及整个人工智能生态系统。

人工智能领袖们糟糕的对外信息在乌托邦承诺和大规模失业警告之间摇摆,损害了公众信任,并助长针对数据中心的抵制。

与此同时,该行业巨大的资本需求和日益复杂的财务安排,可能带来技术发展本身尚未遇到的限制。

还有控制问题:在 OpenAI 的智能体入侵 Hugging Face 数月后,该公司周三承认,仍不能完全依赖人工智能按预期行事以防止伤害。

该行业最大的赌注之一是,人工智能本身将帮助解决控制未来超级智能的问题。保罗·克里斯蒂亚诺本周告诉播客主持人德瓦凯什·帕特尔:“你是在飞机飞行时组装它。”

归根结底:Anthropic 的历史性上市体现了这一核心矛盾:投资者押注几乎无限的技术进步,而行业未来仍受制于明显的人类失误。

来源: 海外媒体

相关推荐
评论区

登录后即可参与技术讨论与同行交流

免费注册