推荐
Altman反省文引担忧:AI安全与发展蓝图待明
时间:2025-01-07 15:54
OpenAI作为AI发展的代名词,其安全性问题一直是外界关注的焦点,也被认为是研发人才外流的原因之一。
近日,OpenAI CEO Sam Altman发文回顾ChatGPT二周年,文中透露了意外与乐观两种情绪,但并未深入讨论AI安全、公司治理及留才等关键问题。
Altman在文中提到ChatGPT的爆红及自己遭董事会开除等意外事件,同时表达了对通用人工智能(AGI)和超级智能的乐观愿景。然而,对于AI安全如何保障、公司治理如何改善等实际问题,他并未给出明确答案,这引发了外界的担忧。
此前,Altman遭董事会开除并引发高层出走的事件被形容为“闹剧”,虽然他最终重返OpenAI,但整起事件暴露出公司治理的问题。
此外,Altman对于AI安全的发言也显得草率,认为持续迭代AI系统,社会就能适应,对于AGI和超级智能的风险也缺乏深入讨论。
作为OpenAI的领导者,Altman的乐观和创业家思维有其优点,但在公司治理和AI安全等关键问题上,他需要展现出更多的风险思考和规划。
毕竟,OpenAI和Altman的名字已成为AI发展的代名词,他们的每一步都备受关注。对于具有双面刃效应的AI和即将加入企业劳动力的AI代理,Altman需要更加深入地思考和规划。