推理_标签云_安防资讯网

云天励飞推出全新云端推理加速卡X6000

近期，云天励飞推出IPU-X6000加速卡。该产品具备256T算力、128GB显存容量、486GB/S显存带宽；采用C2C Mesh互联技术，可实现卡间高速互联，带宽达64GB/s，最大可实现64张卡的互联；可应用于语言、视觉、多模态等各类大模型的推理加速，目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。

2024年11月15日 10:09 加速卡云天云端推理全新

英特尔第五代至强可扩展处理器发布：AI推理性能提升42%！

12月15日下午，英特尔在中国北京召开了主题为“AI无处不在，创芯无所不及”的2023英特尔新品发布会暨AI技术创新派对，正式发布了代号为“Emerald Rapids”的面向服务器、数据中心的第五代至强可扩展处理器，相比上代至强平均性能提升了21%，能效提升了36%，AI推理性能提升了42%，总拥有成本降低了77%！

2023年12月18日 17:00 英特尔推理处理器性能强可

谷歌发布人工智能大模型Gemini：包含三个版本，擅长数学和物理推理

12月7日凌晨，谷歌宣布推出谷歌自己的人工智能模型Gemini。谷歌首席执行官桑达尔·皮查伊表示，“这是谷歌人工智能新时代的开始”。

2023年12月8日 17:55 人工智能推理模型物理三个

Meta 工程师：明年全球 AI 推理用电量仅需新增两座核电站即可满足

Meta 生成式人工智能工程总监谢尔盖・埃杜诺夫近日在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为，明年全球新增的人工智能应用推理需求，如果使用合理规模的语言模型，仅需两座核电站的发电量就可以满足。

2023年11月15日 11:20 用电量核电站仅需推理工程师

英伟达发布 L40S GPU：AI 推理性能较 A100 高 1.2 倍

据悉，这款 L40S GPU 搭配最新发布的 OVX 服务器，可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途，相比 A100 GPU，这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力，并满足不断增长的算力需求”。

2023年8月11日 10:02 英伟推理性能

电信携手华为发布基于昇腾的星河AI统一推理框架

世界移动通信大会(MWC 2023)期间，中国电信&华为2023云网核心能力创新成果全球发布会上，中国电信携手华为发布星河AI统一推理框架。星河AI统一推理框架，专注AI算法开发和性能提升，实现底层异构算力协同，带来效率和性能大幅提升。

2023年3月2日 11:43 华为布基星河推理框架