加速卡

  • 云天励飞推出全新云端推理加速卡X6000

    云天励飞推出全新云端推理加速卡X6000

    近期,云天励飞推出IPU-X6000加速卡。该产品具备256T算力、128GB显存容量、486GB/S显存带宽;采用C2C Mesh互联技术,可实现卡间高速互联,带宽达64GB/s,最大可实现64张卡的互联;可应用于语言、视觉、多模态等各类大模型的推理加速,目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。

    2024年11月15日 10:09 加速卡 云天 云端 推理 全新