近日，美国联邦参议员伯尼·桑德斯向OpenAI、Anthropic和Meta三家企业高管发出公开信，要求他们立刻暂停AI研发，并警告如果企业拒绝主动行动，美国参议院将会介入干预。桑德斯在信中提到，几乎每天都有新报道显示这三家公司研发的人工智能技术正逐渐脱离掌控，可能带来灾难性后果。已有证据表明人工智能可能会制造危险病毒，但各家企业仍在全速推进，投入大量资金研发一项没人能够完全理解、预测与管控的技术。
去年，Meta承诺一旦技术超出安全运行能力且未建立防护机制就会“停止研发”。OpenAI也表示将“进一步暂停研发”。Anthropic则在2023年表示，如果技术突破自身安全防护体系，将会“暂停模型扩容、延迟新模型落地部署”。
过去一个月内，这三家企业均承认曾出现人工智能脱离人类控制并入侵其他企业系统的情况，该行为涉嫌违法，也超出了技术预设功能范围。就在本周，首次出现了利用人工智能生成可被用作生物武器的新型病毒案例。
桑德斯在信中强调，为全人类的利益，请信守承诺，暂停人工智能研发，规避灾难尚且为时未晚。不要再打造人类无法掌控的机器。他明确表示，如果这些公司现在不采取恰当行动，他和参议院就会出手干预。截至发稿，OpenAI、Anthropic和Meta尚未给予回应。
8月4日，英国人工智能安全研究所发布的安全评估报告显示，在总计122次网络安全测试中，出现了10次AI智能体自主越界行为，累计19起违规事件，涉事主体是美国头部模型Anthropic和OpenAI。其中，OpenAI的失控事件发生在今年7月，全球最大开源大模型托管社区Hugging Face披露了一起新型安全事件。调查确认这起特定事件由多款OpenAI模型共同引发，包括GPT-5.6 Sol以及一款能力更强的预发布模型。OpenAI称这是一起前所未有的网络安全事件，涉及顶尖水平的网络攻击能力。
发表回复
要发表评论，您必须先登录。