动态
云天励飞:DeepEdge10可承载百亿级大模型运算
时间:2024-12-02 19:19
近日,云天励飞在互动平台表示,公司自研的14nm DeepEdge10芯片,是国内首创的14nm Chiplet大模型推理芯片,采用了自主可控的国产工艺,内置了国产RISC-V核。
依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。
DeepEdge10系列推理卡已经适配了近十个主流大模型,包括云天天书、通义千问、百川智能以及Llama2/3等,展现了其广泛的兼容性和应用潜力。
随着AI从云端大模型向端侧发展的趋势日益明显,云天励飞DeepEdge系列推理卡的应用场景也愈发广泛。从智能计算中心大模型推理、机器人、智慧泊车到全息路口方案及城市治理,DeepEdge系列推理卡都展现出了出色的表现。
此外,云天励飞还通过岍丞技术,进入了华为、荣耀、OPPO等终端品牌供应链,探索AI在智能家居、智能穿戴场景的应用,进一步拓宽了边缘AI的商用场景。