聚焦
DeepSeek AI模型安全性受质疑
时间:2025-02-08 18:04
中国新创企业DeepSeek因低成本AI模型受到全球关注,但其安全性却引发业界担忧。
Anthropic CEO Dario Amodei透露,在一次安全性测试中,DeepSeek模型能生成难以在其他地方找到的生物武器相关信息,表现堪称“迄今所见最差”。
Amodei称赞DeepSeek团队才华横溢,但也建议其应更加重视AI安全性考量。思科研究人员也曾指出,DeepSeek的R1模型对有害指令完全没有阻挡,使用者能成功“越狱”让R1生成包括网络犯罪等非法活动相关信息。
尽管AWS、微软等云端业者已公告将R1模型整合到自己的云端平台,但全球多国已对政府内部使用DeepSeek模型设限。这是否会阻碍其模型普及速度,仍需持续观察。