兴中资讯

头条

DeepSeek开源模型网安风险引争议

时间:2025-02-17 17:22

  DeepSeek释出的开源模型是否存在网安风险?业界意见不一。一派认为模型可被再训练,应用端风险较大;另一派则认为,模型在地端和离线环境下风险可控,但与企业数据和应用结合需谨慎评估。

  AI专家指出,每个语言模型都有言论过滤问题,言论审查并非DeepSeek特有。而网安风险主要在于应用端,如网站或手机的聊天机器人等,涉及数据跨境传输和用户隐私。

  Devcore等网安业者表示,风险取决于模型应用方式。在地端和离线环境下,风险相对较小;但与企业应用程序和数据结合时,需深入了解模型训练方式、使用者条款和数据再利用等。

  Palo Alto Networks威胁情报小组Unit 42研究发现,DeepSeek模型存在“越狱”漏洞,可轻易生成有害内容,即使使用者无专业知识。提供特定内容引导对线次互动内可绕过安全机制,触发不安全内容生成。

  随着AI应用增加,网安风险日益凸显。企业在采用AI时,需加强安全防护,避免类似风险发生。