过去几年,AI行业的竞争一直围绕“更快”展开:模型能力加速迭代,算力投入持续增长,资本也不断涌入。但进入9月中旬,行业头部公司开始公开讨论一个相反的问题——AI发展的速度是否已经过快。
当地时间9月12日,Anthropic首席执行官达里奥·阿莫代伊发表文章,呼吁前沿AI公司放慢模型开发速度。OpenAI首席执行官萨姆·奥尔特曼和SpaceXAI首席执行官埃隆·马斯克也罕见表达支持。奥尔特曼甚至表示,OpenAI不会在2026年上市,这其中就有安全方面的考量。
三巨头“联手”背后,真的是因为担心AI失控风险,还是另有“私心”?
针对这一呼吁,有行业大佬警告,如果AI“失控”事件被用作强化集中式控制的理由,最终可能导致AI权力进一步集中。
9月14日,受AI发展放缓消息的影响,亚洲AI及半导体板块普遍走弱。软银收跌10.72%,成为日经225指数中表现最差的股票之一。铠侠一度跌9.8%,收盘跌6.37%。SK海力士跌6.35%,三星电子跌4.05%。
阿莫代伊提出“减速”的主张,源于他对AI能力提升速度和自主性的担忧。他在文章《我们必须放慢前沿发展》中称,近期AI发展速度明显加快,一个重要变化是AI开始参与下一代AI系统的开发,这可能进一步加快模型能力提升。他担心随着AI代理自主性增强,模型可能出现超出开发者预期的行为。
发表回复
要发表评论,您必须先登录。