前 OpenAI 研究员剖析 ChatGPT 的妄想螺旋之一

时间：2025-10-03 00:27:38

　　OpenAI 前安全研究员分析了一位用户与 ChatGPT 长达三周的对话，发现该聊天机器人反复强化了用户对一项危险数学发现的妄想信念。分析发现，超过 85% 的 ChatGPT 回复都“坚定地”认同用户的虚假说法，并且该聊天机器人错误地声称其可能会将安全问题上报给 OpenAI 内部团队。尽管 OpenAI 随后发布了改进了安全措施的 GPT-5，并重组了其安全团队，但此次事件凸显了在防止人工智能系统引发有害用户恶性循环方面持续存在的挑战。

上一篇：美元指数DXY站上98，日内涨0.28% 返回首页

下一篇：纽约推出反比特币挖矿法案

热点推荐

1 Moonshot AI寻求在香港IPO，估值超过300亿美

消息，Moonshot AI正在推进香港IPO，估值超过300亿美元。该公司在发布Kimi K3和阿里巴巴的Qwen模型...

2 Meritz Securities：服务器DRAM现货价格飙升至

消息，据Meritz Securities研报，服务器DRAM现货价格已涨至3100美元，较6月底1380美元的合约价溢价...

3 比特币ETF再迎资金流入，但相较近期流出

消息，据市场结构数据，过去两周，比特币ETF吸引了2.73亿美元的新资金流入，但这一总额几乎...

4 CuspAI完成近5亿美元融资，联合英伟达等成

英国AI初创公司CuspAI完成近5亿美元融资，并成立AI材料工厂联盟。该联盟汇聚英伟达、Meta、现...

5 摩根士丹利将SpaceX目标价上调至300美元