当前位置:主页 > 动态 >

阿里巴巴推出更高效的Qwen3

时间:2025-09-12 07:32:14

  阿里巴巴旗下通义千问发布了下一代基础模型架构Qwen3-Next,并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。该结构相比Qwen3的MoE模型结构,进行了以下核心改进:混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化,以及提升推理效率的多token预测机制。基于Qwen3-Next的模型结构,阿里训练了Qwen3-Next-80B-A3B-Base模型,该模型拥有800亿参数仅激活30亿参数。该Base模型实现了与Qwen3-32B dense模型相近甚至略好的性能,而它的训练成本 仅为Qwen3-32B的十分之一不到,在32k以上的上下文下的推理吞吐则是Qwen3-32B的十倍以上,实现了极致的训练和推理性价比。

热点推荐
1 BIT称贪婪与恐惧指数改善,比特币具备反

消息,据A早期发行in监测,BIT表示,尽管市场空头仓位较重且交易量低迷,但其贪婪与恐惧指...

2 Solana链上非USDCUSDT稳定币供应量达48.1亿美

消息,据Solanafloor监测,Solana链上非USDC/USDT稳定币供应量达到48.1亿美元,创下历史新高,由U...

3 海湾基石石油公司因安全局势变化暂时停

消息,海湾基石石油公司宣布,鉴于地区安全局势变化,作为安全防范措施,已暂时停产。公...

4 LBBW:外国私营投资者再次成为美国国债的

消息,LBBW高级固定收益分析师Elmar Voelker在一份报告中表示,来自私营部门的外国投资者显然已...

5 阿里巴巴推出Qwen3.8 Max AI模型,全球排名

消息,阿里巴巴近日推出了Qwen3.8 Max AI模型,声称在全球范围内仅次于Anthropic的Fable 5。这一进...

6 英国将伊朗革命卫队纳入国家安全法,最

消息,英国自7月17日起将伊朗伊斯兰革命卫队纳入《2023年国家安全法》附表6a。相关个人或企...

7 OKX宣布上线KAITOUSD UM(X

消息,OKX宣布将KAITOUSD UM添加到多个服务中,包括多项交易服务,预计于2026年07月20日19:00正式...

8 Jason Yanowitz:全球约有800家加密流动性基

消息,据A早期发行in监测,知名交易员Ansem询问加密领域流动性基金数量及规模,Blockworks联合...

9 比特币开发者推出BIP

消息,比特币开发者近日推出BIP-361提案,旨在保护钱包免受未来量子计算风险。该提案将阻止...

10 Coinbase CEO:AI或长期吸引比特币挖矿能源

消息,Coinbase CEO Brian Armstrong在X平台回应Chamath Palihapitiya关于比特币市场变化的观点。他表示,...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。