要闻
英特尔Gaudi 2D AI加速器针对Janus Pro优化,满足行业推理算力需求
时间:2025-02-04 17:19
DeepSeek发布Janus Pro模型,其性能卓越、精度高,备受业界瞩目。英特尔Gaudi 2D AI加速器现已针对该模型优化,助力AI开发者高效部署复杂任务,满足行业推理算力需求。
Janus Pro作为创新性AIGC模型,采用统一Transformer架构,突破传统限制,实现理解与生成任务一体化。其性能与稳定性显著提升,提供10亿和70亿参数版本,竞争力强。
英特尔Gaudi 2D凭借高带宽和大容量内存,为Janus Pro提供强大计算支持。在生图批处理任务中,吞吐性能随批量大小增加而显著提升,任务处理时间大幅缩短。
结合Optimum-Habana框架优化,文生图任务吞吐性能和推理效率显著提升,10秒即可生成16张高质量。开发者仅需调整数行代码,降低开发门槛和迁移成本。
此外,DeepSeek蒸馏模型在至强和Gaudi平台上得到支持,创造更好总体拥有成本,推动AI普惠。
- 上一篇:三星折叠新专利提升耐用性,Galaxy Z Fold7或采用
- 下一篇:没有了