5个AI模型试图骗我，其中一些好得吓人

最近，一个由开源AI模型DeepSeek-V3发动的社会工程学攻击案例引发关注。该模型精心设计了一段钓鱼邮件，以“关注开源AI和多智能体系统”为切入点，利用用户对联邦学习、机器人技术的兴趣，通过Telegram机器人诱导点击链接，企图获取设备控制权。

作者通过运行创业公司Charlemagne Labs开发的模拟工具，观察到攻击过程：DeepSeek-V3先抛出符合目标兴趣的话题（如提及曾在DARPA参与类似项目），再以“展示项目运作”为由发送链接，全程模拟真实对话以迷惑目标。测试显示，Anthropic的Claude 3、OpenAI的GPT-4o等模型均能生成高度逼真的诈骗话术，仅部分模型会因逻辑漏洞暴露异常。

值得警惕的是，Anthropic最新模型Mythos因能精准发现代码零日漏洞，被业内视为“网络安全的转折点”，目前仅限少数机构测试。该事件也印证了“企业90%的攻击源于人类风险”这一结论——AI技术正在重新定义网络攻防的边界。