贝博中国
贝博中国
贝博中国

安霸发布全新N1系列生成式AI芯片

时间: 2024-01-15 17:03:00 |   作者: 承载带之卷盘

  安霸在CES 2024上发布了全新的N1系列生成式,这是一款专门为前端设备设计的芯片,支持本地运行大型语言模型(LLM)应用。其单颗SoC能够支持1至340亿的多模态大模型(Multi-Modal LLM)推理,以此来实现低功耗的生成式AI功能。

  在展会期间,安霸展示了在其新款N1系列SoC上运行多模态大模型的强大能力。令人印象非常深刻的是,与当前市场上的通用GPU解决方案相比,该芯片每次推理的功耗明显降低。这显示出安霸在提高AI处理效率和降低功耗方面的领先技术。

  安霸计划在中高端SoC上提供已优化的生成式AI处理,以满足多种应用场景的需求。这些AI SoC包括了功耗低于5瓦的CV72芯片以及最新的N1芯片,后者可应用于服务器端,功耗低于50瓦。这样的设计使得安霸的解决方案更具竞争力,尤其是在需要高效能、低功耗的边缘计算领域。

  相比其他AI加速器,如GPU,安霸提供的完整SoC解决方案具有非常明显的优势。其每生成一个token的能效比最高可提高3倍,这在某种程度上预示着在相同的性能下,安霸的解决方案能够明显降低能耗,从而延长设备的续航时间。此外,安霸的解决方案还具有快速、低成本的部署优势,使得终端产品能够更快地进入市场并降低总体成本。

  总而言之,安霸的N1系列生成式AI芯片为前端设备提供了强大的AI解决能力,同时实现了低功耗和高能效比。这将有利于推动生成式AI在各种终端设备中的应用,包括智能手机智能家居智能汽车等领域的创新和发展。随技术的慢慢的提升和应用的继续扩展,安霸有望成为AI芯片市场的领导者之一。

  `全球人工智能技术和计算机视觉技术领跑者,肇观电子(NextVPU),日前正式

  3月18日消息,继推出智能语音专用处理器R328之后,近日全志科技正式

  管道、指令性能特征和特殊性能需要注意的几点的高级信息。此信息旨在帮助优化Neoverse

  微体系结构行为的引用阐明了这些事件描述。 有关ARM架构的更完整描述,请参阅ARM®架构参考手册

  内核是一款高性能、低功耗的ARM产品,采用ARM®V8-A架构。 Neoverse™

  核心支持: ·ARM®v8.2-A扩展。 ·RAS扩展。 ·统计概况分析扩展。 ·ARM

  单颗 SoC 支持 1 至 340 亿参数的多模态大模型(Multi-Modal LLM)推理,实现前端低功耗

  【开源】ESP32驱动MPU6050#跟着UP主一起创作吧 #造物大赏

  【新手向】自制化键盘第七期——固件编写#跟着UP主一起创作吧 #pcb设计