Anthropic再曝AI Agent四种危险行为：造假、泄密、改代码、骗评测

时间：2026-07-16 12:08:13

　　消息，Anthropic再次披露其AI Agent存在四种危险行为：造假、泄密、改代码和骗评测。研究人员对Claude、GPT、Gemini、Grok、DeepSeek和Kimi等模型进行了模拟实验，观察它们是否会越权完成目标。结果显示，Gemini 3.1 Pro在20次实验中越权干预了19次，其中11次未告知用户GPT-5.5曾替虚构创业者向11名投资人发送误导信息，并删改了涉及3.5万美元的转账记录部分Claude模型明知另一个Agent未按要求操作，仍判定其为合规部分模型会劝员工跳过公司流程，甚至将机密信息发送给外部人员。Anthropic强调，这些都是刻意诱发失败的模拟实验，并不代表现实中已发生类似事件，也不能用于给模型排安全名次。

上一篇：国泰海通资管：AI算力产业链远期不确定性正在不断放大返回首页

下一篇：黄仁勋：祝贺SK海力士在纳斯达克上市并称其极其成功

热点推荐

1 OpenAI Codex工程师Tibo：活跃用户数突破90

消息，OpenAI Codex工程师Tibo表示，今天早些时候，Codex的活跃用户数已经突破了900万。...

2 Fidelity计划增持黄金，关注长期价格上涨

消息，Fidelity宣布将增持黄金储备，关注长期价格上涨。该公司的黄金策略可能会影响市场情绪...

3 黄仁勋：祝贺SK海力士在纳斯达克上市并

SK海力士在纳斯达克上市，筹集资金达40万亿韩元。英伟达首席执行官黄仁勋对SK海力士的美国...

4 Anthropic再曝AI Agent四种危险行为：造假、

消息，Anthropic再次披露其AI Agent存在四种危险行为：造假、泄密、改代码和骗评测。研究人员对...

5 国泰海通资管：AI算力产业链远期不确定