AI真能毁灭人类吗 末日预言引争议

　　AI圈里有些人认为，人工智能可能在十年内导致人类灭绝。上周，Anthropic员工Jacob Coxon因担心公司工作过于危险而辞职。政客、新闻媒体甚至歌手Sheryl Crow都对此表示震惊。随后，Anthropic另一名员工Evan Hubinger声称，未来十年内AI导致人类灭绝的概率超过10%。机器智能研究所所长Nate Soares更是直言，这关乎地球上每一个人的存亡。

　　然而，质疑声也不少。有人认为这种观点缺乏细节支持。马斯克曾说SpaceX将在五到七年内送人上火星，但人们马上追问：你有能飞火星的载人飞船吗？没有。你有火星着陆器吗？有火星基地吗？都没有。AI Now研究所的首席AI科学家Heidy Khlaaf指出，科学结论需要能够被证伪，否则与宗教无异。

　　末日派提出一种假设：足够强的AI可能会利用生物武器消灭人类。不过，目前AI主要是在虚拟世界中搞破坏，如何跨越到现实中制造和散播病毒仍是个谜。前MIRI员工Thomas Larsen认为，超级智能AI或许能说服某个人帮助它制造致命病毒。Anthropic报告也显示，已有研究员用Claude进行病毒和毒素研究。Soares则更极端地认为，一个自我升级的AI可能直接在自动化实验室中合成生命。

　　然而，要制造出致命病毒并不容易。卡内基梅隆大学教授Eric Xing将这一过程比作没有说明书拼乐高，每一步都需要精确控制。此外，AI还需克服现实中的种种障碍，如法律监管等。化学武器图纸虽公开，但实际操作困难重重。