让大模型「分工读写」：英伟达双塔架构TwoTower并联两座30B模型，无损换取2.4倍提速

时间：2026-07-02 16:37:57

　　消息，英伟达推出双塔架构，并联两座30B模型，实现无损换取2.4倍的生成速度提升。该架构旨在解决大模型生成速度瓶颈，采用双塔解耦设计，冻结自回归大模型作为「只读上下文塔」，并单独训练「去噪写字塔」，通过交叉注意力读取上下文信息。写字塔采用「置信度去掩码」机制，优先写下高置信度词，逐步填补剩余空白。在30B级别的混合架构模型上，该设计仅用1/12的数据量进行适配，保留了98.7%的质量，并将生成速度提升2.42倍。

上一篇：KuCoin将下架XEM和NRN代币返回首页

下一篇：AI论文首发站arXiv宣布独立运营，与康奈尔分家

热点推荐

1 AI论文首发站arXiv宣布独立运营，与康奈尔

消息，AI论文首发站arXiv宣布独立运营，正式结束在康奈尔大学长达25年的托管生涯，成为独立...

2 让大模型「分工读写」：英伟达双塔架构

消息，英伟达推出双塔架构，并联两座30B模型，实现无损换取2.4倍的生成速度提升。该架构旨...

3 KuCoin将下架XEM和NRN代币

消息，KuCoin宣布将于2026年7月2日08:00下架两种项目代币XEM和NRN。下架后，用户在灵活储蓄中的本...

4 Bitget上线TENCENTUSDT、XIAOMIUSDT等7只股票永续

消息，Bitget宣布已于2026年7月2日上线TENCENTUSDT、XIAOMIUSDT、SMICUSDT、POPMARTUSDT等7只股票的永续合约...

5 Forward Industries在2026财年第三季度增持50万