AI已越过安全临界点了吗？从助手到攻击与战争的放大器

AI安全正在跨过一道关键门槛：它不再只是关于未来超级智能会不会失控的理论问题，而开始变成今天网络攻击、监控、欺诈、武器研发和生物安全中的现实变量。

Anthropic在9月10日发布的新一轮威胁情报报告，把过去八个月里发现并处置的AI滥用案例放在同一张图景中。

最值得警惕的不是某个单独事件，而是模型能力已经进入越来越多高风险领域，并开始从“提供建议”转向“参与执行”。

过去人们谈AI风险，常把注意力放在AGI、意识和失控这些遥远命题上。现实中的变化却更直接：模型正在降低复杂行动对专业知识、时间和人力的要求。

在网络攻击中，AI已经能够辅助侦察、编写脚本、分析漏洞、生成钓鱼内容，并在攻击链不同环节承担连续任务。

人仍负责选择目标和确认结果，但越来越多中间步骤可以交给模型或Agent完成。

这种变化改变的首先是成本结构。以往需要专业团队才能完成的行动，如今可能被更小规模的组织甚至个人部分复制，攻击能力因此出现某种“工业化扩散”。

同样的逻辑也出现在信息操纵和诈骗领域。生成式AI不仅能批量生产内容，还能创建虚构身份、维持长期对话、针对不同受众调整叙事。