知名AI安全专家放弃养老储蓄引争议 担忧AI导致人类灭绝!一位AI安全专家公开表示,自己已经十年没有往养老金账户里存钱了。理由不是手头紧,而是他认为人类可能没有下一个十年。
在《The Most Interesting Thing in AI》节目中,机器智能研究所所长、前谷歌工程师内特·索雷斯对主持人尼古拉斯·汤普森说:“我现在不为退休存钱。我在谷歌工作时有一个401(k)账户,但我已经十年没往里缴过款了。” 401(k)是美国的雇主养老金计划,对多数上班族来说是长期储蓄的标配。索雷斯的选择等于主动放弃了这条退休后的现金流。
他解释说,他的担忧不是AI抢走工作,而是担心AI会消灭人类。“我不是那种担心AI造成就业末日的人,我是担心AI杀光所有人的人。”在他看来,风险的关键在于技术能否自我维持、自我扩张。他提到,AI“可能有很多理由”不希望人类存在,而真正让他不安的是这项技术走向自给自足的那一步。
为了说明这种风险的严重性,他拿核武器做了对比:核武器逃不出去,也没法把自己造得更有爆炸力;核武器能夷平一座城市,但夷平不了一颗星球。被问到是否真的认为人类只剩十年时,索雷斯的回答是:“在我看来,我们撑不过十年的概率超过50%。”
持类似观点的还有Anthropic的对齐科学负责人埃文·哈宾格,他认为未来十年内AI导致人类灭绝的概率超过10%。被称为“AI教父”的杰弗里·辛顿也发出过警告:如果不与机器建立友好关系,人类就“完蛋了”。他的说法是,应该让机器真正在意人类,“如果不这么做,我们就完蛋了”。
一边是十年不缴养老金的个人选择,一边是超过50%的灭绝概率判断——这些数字都出自索雷斯本人的表述,而非任何机构的评估结论。对普通上班族来说,这场争论离日常很远,但它提出的问题很具体:当有人真的按“没有退休”来规划人生时,我们该把它当成危言耸听,还是一种值得记录的信号?知名AI安全专家放弃养老储蓄引争议 担忧AI导致人类灭绝!