安防资讯网

首页 > 新品 耐能推出最新款 AI芯片KL730,驱动轻量级 GPT解决方案的大规模应用

耐能推出最新款 AI芯片KL730,驱动轻量级 GPT解决方案的大规模应用

解决了人工智能模型落地方面最大的瓶颈--能源成本,与行业及以往耐能的芯片相比,KL730在能效方面的提升达到了3到4倍。

KL730芯片提供每秒0.35-4tera有效计算能力,支持最先进的轻量级GPT大语言模型,如nanoGPT等。

2023年8月15日,总部位于美国圣迭戈,以开创性的神经处理单元(NPU)而闻名的AI公司耐能,今日宣布发布KL730芯片。KL730集成了车规级NPU和图像信号处理器(ISP),并将安全而低能耗的AI能力赋能到边缘服务器、智能家居及汽车辅助驾驶系统等各类应用场景中。

KL730作为耐能最新款芯片,从设计之初就以实现AI功能为目的,并突破了多项节能及安全的技术创新。该芯片具备多通道接口,可无缝接入图像、视频、音频和毫米波等各种数字信号,支持多类行业的人工智能应用开发。

该芯片还解决了目前人工智能的广泛瓶颈之一:普遍的低能效硬件导致的系统高成本。

在该芯片的研发上,KL730在能效方面取得了极大的进步,能效比相较于耐能过往的芯片提升了3至4倍,且比主要行业同等产品提高了150%~200%。

耐能创始人兼CEO刘峻诚表示:“运行AI功能需要专用AI芯片,其体系架构与我们以前了解的芯片完全不同。简单地重新使用相邻技术(如图形处理专用的GPU芯片),并不能很好地胜任这项工作。KL730将会是边缘AI的革新者。凭借其前所未有的效率和对Transformer等框架的支持,我们正在为千行百业提供强大的AI能力,在极具安全性和保护数据隐私的情况下充分发挥人工智能的潜力。”

耐能长期专注于边缘AI,并研发了一系列轻量且可扩展的AI芯片,以安全地推动AI能力的发展。

2021年,耐能发布了首款支持Transformer神经网络架构的边缘AI芯片KL530。而Transfomer神经网络架构是所有GPT(Generative Pre-trained Transformer)模型的基础。

KL730芯片进一步丰富该产品系列,提供每秒0.35-4tera有效计算能力,扩展了支持最先进的轻量级GPT大语言模型(如nanoGPT)的能力。

KL730具有独特的定位,可以改变AIot领域的安全性,从而使用户能够部分或完全离线地在终端运行GPT模型。该芯片配合耐能的私有安全边缘AI网络Kneo,让AI运行在用户的边缘设备上,从而让他们更好地保护数据隐私。

这些应用遍及全行业:从企业服务器解决方案到智能驾驶车辆再到以AI驱动的医疗设备。所增加的安全性允许设备之间进行更大的协作,同时保护数据的安全。例如,工程师可以设计新的半导体芯片,而无需与大型云公司运营的数据中心共享机密数据。

自2015年成立以来,耐能以可重构的NPU架构获得诸多行业内认可,并获得奖项。例如IEEE Darlington Award。使用耐能芯片的终端产品已进入多个行业领域,从AIoT到智能驾驶及边缘服务器,包含丰田、广达电子、中华电信、松下、韩华等诸多企业。

文章来源:http://www.anfangnews.com/2023/0815/8696.shtml