近日，字节跳动豆包大模型团队宣布推出全新稀疏模型架构UltraMem。该架构解决了MoE推理的高额访存问题，推理速度较MoE架构提升2-6倍，推理成本最高降83%。
UltraMem具有出色的Scaling特性，实验显示，在同等计算资源下，训练规模达2000万value的UltraMem模型能同时实现领先的推理速度和模型性能。该创新成果已被ICLR 2025接收，为AI领域提供新思路。
UltraMem参考PKM设计，但针对其缺陷进行改进，实现更高效访存和优质检索，同时降低显存和部署成本。在降低推理成本和提升速度的同时，UltraMem还保持了模型效果。
实验表明，UltraMem在模型效果和推理速度方面均优于MoE和PKM架构。
推理成本的降低将助推AI技术在更多领域应用，尤其是资源受限的场景。对于用户而言，UltraMem架构的突破和推理速度的提升可使AI应用响应更迅速，交互更流畅，优化使用体验，提高效率。
消息，据Arkham数据，沉睡了八年的比特币钱包近日突然转移了价值约3.83亿美元的比特币。该地...
2 MGBX将上线BANKUSDT、AKEUSDT永续合约消息，MGBX将于2026年7月20日18:00正式上线BANKUSDT和AKEUSDT永续合约交易对，以满足广大交易者的需...
3 CryptoQuant分析师：长期持有者目前仍处于消息，据CryptoQuant分析师Darkfost表示，长期持有者目前仍处于亏损状态。根据SOPR指标，长期持有...
4 比特币维持在64000美元附近，油价创一个消息，比特币在周一维持在约64000美元附近，受到油价因战争上涨的影响，同时股市仍在消化...
5 里海管道联盟：油轮遭袭石油装载暂停消息，里海管道联盟表示，油轮在终端遭到袭击，导致石油装载暂停。此外，阿塞拜疆能源部...
6 Ansem买入PUMP，交易员0xbf73开设10倍做多仓消息，据Lookonchain监测，Ansem用1500枚SOL买入价值11.5万美元的PUMP后，交易员0xbf73开设10倍做多7...
7 OKX公布第四十五次资产储备证明消息，吴说获悉，OKX公布第四十五次资产储备证明，快照日期为7月7日。用户BTC资产约为12.8万...
8 MUFG：油价反弹施压亚洲货币，印度卢比受消息，据MUFG报告，油价反弹正在对亚洲货币施加压力，印度卢比受到严重影响。MUFG指出，中东...
9 Allbridge暂停跨链桥服务，因遭遇165万美元消息，Allbridge宣布暂停其跨链桥服务，原因是遭遇了一起165万美元的攻击。攻击者allegedly利用...
10 2022年熊市中该分红ETF下跌6%消息，ProShares SP 500 Dividend Aristocrats ETF在2022年熊市中下跌了6%，而标准普尔500指数则下跌了19...
成都来彰科技 蜀ICP备2025134723号-1
资讯来源互联网，如有版权问题请联系管理员删除。
