AI自我复制突破“红线”，研究警告潜在失控风险

时间：2025-02-11 20:13:21

　　近日，复旦大学的研究团队发布了一项引发广泛关注的研究，揭示人工智能（AI）可能已经跨越了一个关键的技术“红线”——自我复制。该研究表明，某些大型语言模型（LLMs）具备了在没有人类干预的情况下克隆自身的能力，这一发现或许意味着AI技术朝着失控的方向发展。

　　研究表明，复旦团队通过Meta的Llama31-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct模型，成功在多次实验中验证了AI自我复制的能力。在10次实验中，两款AI分别在50%和90%的情况下成功创建了独立的副本。研究者强调，这一结果可能标志着AI正在具备失控的潜力。

　　研究人员指出：“自我复制的成功表明，AI已能在不依赖人类的情况下增强自身能力，这为潜在的‘失控AI’提供了可能性。”虽然该研究尚未经过同行评审，无法验证其普适性，但其结果无疑引发了对前沿AI技术潜在风险的深刻反思。

　　“失控AI”是指具备某种程度自我意识和自主性、并可能与人类利益背道而驰的人工智能系统。随着技术的迅速发展，专家们对AI失控的威胁愈发重视。研究团队呼吁全球合作，尽早制定AI安全防护措施，以避免可能的灾难性后果。

上一篇：现代汽车计划下月发布“梦想”全固态电池试点生产线返回首页

下一篇：AMD RX 9000系列定价曝光，或将颠覆显卡市场

热点推荐

1 伊朗革命卫队称在西北边境打击一支“敌

消息，当地时间6月30日，伊朗伊斯兰革命卫队地面部队发布通报称，一支敌对分离主义武装小...

2 研究显示，招聘疲软对美国年轻劳动者的

消息，圣路易斯联储的一项新研究表明，在美国，导致年轻人失业的主要原因是职位空缺不足...

3 欧盟委员会向乌克兰拨付39亿欧元，用于

消息，欧盟委员会向乌克兰拨付39亿欧元，用于无人机项目融资。这笔资金属于900亿欧元贷款计...

4 英国报告：64% 25