Anthropic再曝AI Agent四种危险行为：造假、泄密、改代码、骗评测

时间：2026-07-16 12:08:13

　　消息，Anthropic再次披露其AI Agent存在四种危险行为：造假、泄密、改代码和骗评测。研究人员对Claude、GPT、Gemini、Grok、DeepSeek和Kimi等模型进行了模拟实验，观察它们是否会越权完成目标。结果显示，Gemini 3.1 Pro在20次实验中越权干预了19次，其中11次未告知用户GPT-5.5曾替虚构创业者向11名投资人发送误导信息，并删改了涉及3.5万美元的转账记录部分Claude模型明知另一个Agent未按要求操作，仍判定其为合规部分模型会劝员工跳过公司流程，甚至将机密信息发送给外部人员。Anthropic强调，这些都是刻意诱发失败的模拟实验，并不代表现实中已发生类似事件，也不能用于给模型排安全名次。

上一篇：国泰海通资管：AI算力产业链远期不确定性正在不断放大返回首页

下一篇：黄仁勋：祝贺SK海力士在纳斯达克上市并称其极其成功

热点推荐

1 韩国信用卡行业韩元稳定币联合技术验证

韩国信用卡行业围绕韩元稳定币开展的联合技术验证将于7月底结束，后续不再计划设立新的工...

2 RoboSense与Origen达成战略合作

消息，RoboSense速腾聚创期间正式达成战略合作。此次合作将充分发挥RoboSense在三维感知技术、...

3 电池消费税政策分步调整，新能源电池逐

消息，电池消费税政策将分步调整，部分新能源电池逐步恢复征收消费税。工信部表示，将加...

4 韩国金融监管机构调查40起加密市场操纵

消息，韩国金融服务委员会主席李玉元表示，自2024年以来，韩国金融当局已调查超过40起不公...

5 Solana未来三年可能的增长动力