首页>商情资讯>行业新闻

边缘AI芯片市场升温!英特尔、AMD出大招,本土芯片厂商争发新品

2024-8-1 9:07:00
  • 边缘AI芯片市场升温!英特尔、AMD出大招,本土芯片厂商争发新品

边缘AI芯片市场升温!英特尔、AMD出大招,本土芯片厂商争发新品

边缘 AI 是指在边缘设备(例如智能手机、物联网设备和嵌入式系统)上实现 AI 算法,而不是依赖于基于云的基础设施。AI手机和AI PC等边缘AI主力应用,被视为是2024年整个电子供应链在云端AI以外,最有能力带动整体出货动能的关键应用。

IDC数据显示,中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。根据全球技术市场咨询公司ABI Research的数据显示,预计到2025年,边缘AI芯片市场的收入将达到122亿美元,云AI芯片市场的收入达到119亿美元。边缘AI芯片市场有望超越云AI芯片市场规模。

目前,AI正在重塑全球科技产业,以微软、谷歌为代表的国际巨头加紧布局多模态大模型,以英伟达、AMD为代表的芯片巨头主导云端AI算力芯片市场。边缘AI终端有哪些类型?国际大厂、国内芯片公司在边缘AI芯片公司有哪些旗舰产品?本文进行汇总。

未来边缘AI落地产品形态,3+N成为可能

近日,在科创板开市五周年峰会上,云天励飞董事长兼CEO陈宁表示,今后,大模型的参数规模会越来越大,且AI能力会无线提升,直至突破通用人工智能(AGI)。边缘AI未来几年落地的产品形态是“3+N”,3即人形机器人、无人驾驶汽车、低空的无人机三大硬件产品形态;“N”即各类AI硬件产品,包括AI PC、AI手机、智能眼镜等。

海通证券的研报显示,小模型展现性能,边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型的局限,尽管云端大模型在性能上全面超越小模型,但是存在三大局限,包括较高的成本、运行速度以及对互联网连接的依赖。相比之下,小模型允许用户在没有网络的情况下与虚拟助手进行互动,能够解决AI领域的一部分弊端。未来这类模型有望与智能手机集成,甚至内置在家电中,还有IoT终端设备,为用户提供个性化建议。

英特尔推出边缘AI芯片和平台,助力客户终端产品落地

近日,在北京举办的2024年英特尔网络与边缘计算行业大会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti表示:“英特尔专注于帮助企业简化在PC、边缘和数据中心部署AI的复杂流程,以实现让‘AI无处不在’的愿景。英特尔具备全面广泛的芯片基础。从凌动到至强,我们推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向边缘的Arc GPU以及IPU E2100网络适配器。通过

以英特尔酷睿处理器为例,酷睿处理器不仅技术含量高,还集成了图形处理能力和AI功能。这使得每一个应用案例都能充分利用多用途处理器(MPU)的优势。酷睿产品的设计非常出色,结合了GPU和客户的需求,以及大模型应用需求等。客户可以利用CPU和GPU,结合英特尔的OpenVINO工具套件,更容易地在平台上运行AI应用。

例如,科东LLM机械臂控制方案基于LLM推理部署在Intel Core Ultra平台上,同时集成了机械臂的控制系统,还有伺服器驱动机械臂本体。这款方案基于科东的机器人操作系统和语言类大模型结合的案例,案例体现了基于AI大模型的视觉识别和运动规划的能力,AI大模型加快了开发层面的高效率,满足了工业场景中轻量化本地部署需求,同时做到数据不出厂。这款方案已经应用在智能工厂。

此外,记者看到宝德AI数字人解决方案基于Intel至强处理器和采用Intel CPU的宝德服务器和工作站为AI算力底座,可以广泛应用于智能语音助手、网络直播、线上教育、零售等。英特尔的多款芯片把 NPU 概念下放到边缘的物联网应用上,使物联网也能在作业时有人工智能的功能。

AMD发力边缘AI市场,推出第二代Versal自适应SoC

今年,继第一代VersalI AI Edge自适应SoC之后,AMD又发布了第二代Versal自适应SoC。在AMD第二代Versal自适应SoC媒体发布会上,AMD自适应与嵌入式计算事业部(AECG)Versal产品营销总监Manuel Uhm表示:“现在的边缘也在发生一场革命,也有越来越多的挑战,因为边缘会面临更多限制,例如功耗和尺寸。”

AMD新发布的第二代Versal 自适应SoC系列为嵌入式系统带来了单芯片的智能性。两款芯片分别是面向AI驱动型嵌入式系统的第二代Versal AI Edge系列和面向经典嵌入式系统的第二代Versal Prime系列。

据悉,面向通用嵌入式领域的第二代Versal Prime系列则着重于将高性能标量计算能力与灵活可编程逻辑相结合,着眼于视频处理、工业控制、软件无线电等对算力和适配性要求极高的场合。相较上一代产品,该系列的CPU性能实现多达10倍的大幅跃升,而继承自Xilinx的可编程逻辑架构则为适配不同接口和加速需求提供了充分保障。

据AMD官方消息,第二代Versal系列芯片的工程样片预计最快将于2025年上半年面世,届时还将推出配套的评估板和系统级模块;而规模化量产也有望在年底实现。

意法半导体推出第二代STM32 MPU和边缘AI套件

意法半导体(ST)推出了边缘AI加速微处理器——第二代STM32 MPU。该处理器提高了工业和物联网边缘应用的性能和安全性,预计在2024上半年批量生产。

7月8日,在慕尼黑上海电子展上的AIoT创新应用论坛上, 意法半导体中国区微控制器、数字IC与射频产品部市场经理丁晓磊分享了ST Edge AI套件的最新进展。ST Edge AI套件,帮助嵌入式开发者优化机器学习模型,帮助数据科学工作者在嵌入式设备上运行机器学习模型,以及帮助产品设计师和创客重新定义产品的重要特性。

本土芯片公司争夺边缘AI市场机会,新品加速上市

近期,两家物联网芯片公司公布上半年业绩报告,乐鑫科技2024年上半年实现营收9.2亿,同比增长37.9%,净利润1.52亿元,同比增长134.85%。除了传统的Wi-Fi芯片产品线带来营收增长外,乐鑫科技推出的ESP32-S系列是边缘侧AI应用芯片,增加了用于加速神经网络计算和信号处理等工作的向量指令,并且已可对接OpenAI的ChatGPT或百度“文心一言”等云端AI应用。

乐鑫科技表示,计算“边缘化”趋势将更多AI和计算能力赋予边缘设备,为SoC设计公司提供更多机会,但同时也提出了更高的PPA要求。

晶晨股份预计2024年上半年实现净利润3.62亿,同比增长95.98%。晶晨股份在业绩预告中显示,晶晨股份基于新一代ARM V9架构和自主研发边缘AI能力的6nm商用芯片已成功流片,并已获首批商用订单。

上海为旌科技成立于2020年8月成立,这家公司的市场总监黄智向业界展示了最新的海山VS839系列及其在智能机器人领域的应用潜力。海山VS839系列芯片是专为AIOT和智能驾驶设计的高性能智慧视觉芯片。该系列芯片采用12纳米工艺,具备四核A55 CPU、双核DSP和4TOPS的NPU算力。海山VS839系列支持星光全彩、红外热成像、3D视觉和环视摄像头等功能,能够提供专业级的图像处理效果,并支撑复杂的AI计算。

7月30日,此芯科技聚焦AI PC领域,发布首款异构高能效SoC此芯P1。此芯科技创始人、CEO孙文剑表示:“此芯科技致力于以高能效算力解决方案,推动端侧AI生态发展,通过AI技术应用,让生活、学习、工作变得更智能、高效、人性化。”

此芯P1使用6nm制造工艺,提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s。

小结:

边缘AI终端市场迎来发展的热潮,但现在也面临三重挑战:一、芯片和硬件选择,企业要根据具体需求做出决定;二是部署和管理的边缘装置规模从 50 台至上万台不等,且要运行不同模型,管理上不易;三是模型迭代,企业需要花费心力进行更新。

随着算力从云端向终端的转移,边缘AI设备的急速增加给芯片厂商带来市场增长机会。哪些芯片厂商能抓住AI PC、智慧工厂、智慧城市、自动驾驶领域等细分市场的增长机会,我们将拭目以待。