阿里巴巴推出更高效的Qwen3

时间：2025-09-12 07:32:14

　　阿里巴巴旗下通义千问发布了下一代基础模型架构Qwen3-Next，并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。该结构相比Qwen3的MoE模型结构,进行了以下核心改进：混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化，以及提升推理效率的多token预测机制。基于Qwen3-Next的模型结构，阿里训练了Qwen3-Next-80B-A3B-Base模型，该模型拥有800亿参数仅激活30亿参数。该Base模型实现了与Qwen3-32B dense模型相近甚至略好的性能，而它的训练成本仅为Qwen3-32B的十分之一不到，在32k以上的上下文下的推理吞吐则是Qwen3-32B的十倍以上，实现了极致的训练和推理性价比。

上一篇：美国参议院预计将在下周一对美联储理事提名人米兰进行确认投票返回首页

下一篇：Bittensor比特币 (TAOBTC) 市场概览

热点推荐

1 华泰证券：黄金中长期资产再配置逻辑仍

消息，华泰证券指出，近期金价下跌主要受流动性挤兑影响，中东地缘冲突加剧与市场担忧滞...

2 3.87亿USDC在未知钱包间转移

消息，据Whale Alert发推称：一笔价值约 3.87 亿美元的 USDC 稳定币从一个未知钱包转移至另一个未...

3 连续多月自动扣费神秘保单浮出水面

消息，互联网保险平台频现来历不明保单，消费者常在不知情下被自动扣费。业内人士指出，...

4 Niels Rogge 分享使用 Codex 为 Transformers 库贡

消息，ME News 消息，3 月 31 日，近日，Hugging Face 作者 Niels Rogge 发布了一篇博客文章，详细介绍...

5 1000枚BTC转入Coinbase