AI持续发热Arm新一代Neoverse CSS V3和CSS N3为客户释放最优性能_极速体育nba直播吧_极速体育nba直播吧免费
欢迎光临极速体育nba,极速体育nba为您提供极速体育nba直播吧/极速体育nba直播吧免费系列

全国400客服热线:

400-9904-119

极速体育nba直播吧

首页 > 新闻资讯 > 极速体育nba直播吧

AI持续发热Arm新一代Neoverse CSS V3和CSS N3为客户释放最优性能

发布时间: 2024-03-01 04:39:36   来源: 极速体育nba

  AI热潮不仅没有熄火,反而愈演愈烈。2024年,由于市场对AI硬件的需求永不满足,计算处于变革阵痛中。随着人工智能 (AI) 渗透到教育、就业、制造、医疗和交通等领域,AI 正在改变经济发展和我们的日常生活,而 Arm 是这一切改变的基石。

  5年前,Arm 宣布了针对服务器、云和基础设施 CPU 内核的 Neoverse 计划。彼时,Arm制定了一项雄心勃勃的计划,计划开发V、N、E三个CPU内核系列新产品,以满足市场的不同细分市场。虽然后续发展与Arm最初预测略有不同,但基于 Neoverse内核定制CPU的设计已经慢慢的变成为云服务商采用的风潮。

  Neoverse V系列是强调性能优先的一个系列,拥有最高的单线程性能,也是Arm“秀肌肉”的战场。去年,Neoverse V3在Arm的路线图中被列为V-Next,代号Poseidon。

  CSS V3针对3nm级工艺,并带有支持的平面图和实现流程,以最大限度地降低物理设计风险。

  从核心功能上来看, V3基于Arm®v9.2-A A64指令集、支持AArch64 所有异常级别的执行状态(EL0 到 EL3)、拥有48 位物理地址 (PA) 和 48 位虚拟地址 (VA),实现具有 128 位向量长度的可扩展矢量扩展 (SVE) 和可扩展矢量扩展 2 (SVE2)。

  从部件构成上来看,V3内核包括一个将内核连接到DSU-120的CPU桥接器。DSU-120将内核连接到外部存储器系统和SoC的其余部分。

  Neoverse N聚焦于能效,是Arm比较均衡的系列。与CSS N2相比,CSS N3每核心的每瓦性能提升20%。

  此外,从核心的性能上来看,与Neoverse N2相比,Neoverse N3在机器学习和数据分析工作负载上的性能提高了约3倍,在SQL数据库上提高了1.3倍,在选定的压缩应用程序上提高了1.2倍,在整数性能上提高了1.1倍——在同一技术节点上,与Neoverse N2的面积和功耗大致相同。

  根据Arm 基础设施事业部产品解决方案副总裁 Dermot O’Driscoll的介绍,Arm对CSS N3进行了调优,以填补市场的空缺,提供满足基础设施性能要求的高效计算。

  其可扩展性非常强,可覆盖电信、网络和DPU等一系列应用。同时Arm考虑横向扩展云配置。

  CSS N3基于新的Neoverse N3 IP平台打造,为新的N系列引入了Armv9.2功能,能为每个核心提供2MB的专用L2缓存。

  AI飞临,除了加速器,很多工作负载也会落到CPU头上。Arm展示的数据则显示,Neoverse V3和N3内核在AI数据分析方面的性能分别比其前代产品提高了84%和196%。

  更重要的是,如今,人们常常忽视的一点是,有多少计算周期最终被用于压缩和协议转换等后台任务。而N系列在压缩方面取得了性能优势,可降低云服务运营商的成本,并最终降低云服务客户的成本;同样,V系列明显提高了协议缓冲区的性能,这是在数据中心内传输数据的一项关键功能。

  去年,有关 AI 的讨论焦点主要集中在于生成式 AI 和大语言模型 (LLM) 。目前行业重点更多放在训练LLM上,但随着生成式AI大范围的应用于实际业务场景,其工作重点将转向推理。

  这一转变意味着要找到比较合适的模型和模型配置,并加以训练,然后将其部署到更具成本效益的计算基础设施上。吞吐量是其中一部分考虑因素,而在当今广泛部署的基于 Arm架构的芯片上,Token生成吞吐量表现相当优异。

  据最近统计,全世界打造AI加速器的企业已超越80家,每一家都在加大自己的投入,但事实上,这些加速器也需要与CPU紧密耦合,才能发挥最佳功效。

  比如说,NVIDIA不仅利用其领先的Hopper GPU,同时也使用了基于Neoverse V2平台的紧耦合计算芯粒Grace。NVIDIA Grace Hopper的一大关键创新在于内存容量和共享内存模式。这种紧耦合的CPU加上加速器配置,对大参数LLM非常有益,对检索-增强-生成 (RAG) 等新兴方法也很有帮助。

  “Neoverse CSS是专为帮助客户在基于Arm领先的CPU平台上,快速打造通用计算芯粒而推出的产品。它能提供客户所需的所有接口,以便选择耦合自身的加速器。这种方法既可以在需要CPU时提供CPU,又可以在需要AI加速器时提供AI加速器,做到两全其美。”Dermot O’Driscoll如是说。

  这一次,V3和N3都有一个前缀CSS。所谓CSS全称是Compute Subsystem,能够理解成Arm把一切都打了个包,包括core、CMN mesh、系统IP、系统管理、电源管理、软件和开发工具等。更通俗点的理解,就是半预制菜。

  如今,AI行业加快速度进行发展,芯片制程提高,成本不断攀升,芯片设计制作缓慢,但是需求并不缓慢,慢慢的变多的公司开始定制化自己的芯片。此时,CSS就能省略很多开发步骤,包括IP选择、系统配置、布局规划、验证、确认、第三方IP和晶圆厂集成等。

  根据Arm的分享,有客户使用CSS后,芯片开发从启动到流片,总共可以只花9个月。

  不止如此,Arm一直在将更多半导体力量汇聚在一起,以此形成更好的Neoverse CSS服务——即Arm去年10月宣布的“Arm全面设计”。

  该项目汇集了半导体领域的各路领先企业,囊括了芯片设计合作伙伴、IP 供应商、EDA 工具提供商、代工厂和固件开发商等,共同加快并简化基于 Neoverse CSS 的系统开发。

  目前,在推出后短短四个月内,Arm全面设计已经有20多家成员加入。这中间还包括新的 EDA和配套IP提供商,和来自包括韩国、中国台湾、中国大陆和印度等战略市场的芯片设计合作伙伴,这些市场存在巨大的发展潜力。

  其中,云豹智能是 Arm 全面设计生态项目在中国市场的首家合作伙伴。云豹智能是一家专注于云计算和数据中心数据处理器芯片 (DPU) 和解决方案的领先半导体公司。Arm 全面设计正帮助云豹智能将业务拓展到其他领域,并有助于其开发别的类型的基础设施系统级芯片 (SoC)。

  此外,Arm正在与台积电、三星代工厂、英特尔代工服务三家主要代工厂合作,以确保CSS产品能在其先进工艺节点上来优化。定制芯片离不开可靠供应链的支持,唯有Arm可提供多样的技术和选择。

  Arm 基础设施事业部营销副总裁 Eddie Ramirez表示,三个典型案例揭示了合作伙伴能借助Arm全面设计设计何种类型芯片:

  去年十月,Socionext 成为首家宣布计划在台积公司领先的2nm工艺上开发基于CSS芯粒的合作伙伴,这款设计基于Neoverse CSS V3打造,配置32核的芯粒可与其他芯粒结合使用,提供可扩展且经济高效的计算解决方案;

  智原科技也在构建基于芯粒的服务器芯片,该芯片将搭载64颗N系列核心,并基于英特尔代工服务的18A工艺节点进行生产制造;

  此外,ADTechnology将提供高性价比的16核CSS N系列边缘服务器平台。他们将与三星代工厂合作,为边缘计算释放更强大的算力。

  当前 AI 计算领域火热,芯片技术方面的要求一直在变化,Arm高级副总裁兼基础设施事业部总经理Mohamed Awad认为,Arm独特的优势,就能赋能广泛的生态系统进行创新。正因如此,Arm汇聚高性能计算的形式,能为合作伙伴带来十足的灵活性,帮他们打造新的设计,进行创新。

  通过诸如Bfloat16、MatMul、SVE和SVE2等架构功能,以及微架构的优化,持续提升运行在CPU上的机器学习 (ML) 计算的表现;

  通过支持最新的行业标准接口,以及提供用于一致性高带宽连接的CHI协议,为定制 AI加速器与Arm Neoverse平台和Arm Neoverse CSS的紧耦合提供无与伦比的灵活性;

  为自研定制AI加速器的合作伙伴提供我们行业领先的系统互连技术,以实现与主机计算的紧密耦合链接,并提供CPU来处理AI工作的编排,同时支持利用Arm基础设施软件ECO的云原生软件,以便最佳地运行在Arm平台上。

  总结来说,Arm Neoverse CSS能够在一定程度上帮助合作伙伴在构建芯片时,进一步简化流程,进而加速产品上市时间。而Arm全面设计重要意义在于,现在Arm有许多不同的ECO合作伙伴共同投资于Neoverse CSS,使得设计能够更轻松地推向市场,并能很容易地在Arm Neoverse CSS上取用到先进的技术,进而加速产品上市时间,并降低构建新芯片的成本。最终,合作伙伴可以将构建芯片的投资重点放在创新上。关键字:引用地址:AI持续发热,Arm新一代Neoverse CSS V3和CSS N3为客户释放最优性能

  下一篇:晶心科技与元视芯打造全球首款采用RISC-V的车规级CMOS图像传感器

  边缘人工智能来真的了,TI芯科技赋能中国新基建之人工智能 1956年,当斯坦福大学的麦卡锡提出“人工智能”时,他一定没想到这个概念会在几十年后的中国如火如荼。人工智能不仅仅在引发新的产业革命方面被寄予厚望,更是融入到了每个人的日常生活中,并且正在触发社会变革。事实上,2020年4月,国家发改委在确定新基建的3个方面时,在信息基础设施、融合基础设施中均提及人工智能,也仅仅是把正在发生的变革明确地告知大众。 伴随算力、数据、互联网的发展,人工智能正处于从量变到质变的节点,尤其边缘端呈现出爆发式的发展。Gartner预测,到2025年,至少会有75%的数据处理将会在云端或者数据中心之外的地方进行。人工智能大潮对于半导体

  来真的 /

  网易科技讯 11月21日消息,据国外新闻媒体报道,今年7月份中国政府出台了一项新战略,其目标明确:三年内在人工智能技术发展方面赶超美国,到2030年变成全球领先者。而上月科技部明确了政府计划的一些细节。这样一来,作为机器学习芯片的领先供应商,硅谷的英伟达成为了中国在AI领域的超越目标。 科技部发布的文件列出了13个“转型”技术项目,计划在未来几个月内投入更多政府资金,到2021年完成项目交接。其中一项是开发运行人工智能神经网络的新型芯片,其软件开发与谷歌等大科技公司在AI领域的规划不谋而合。 在硬件方面,该项目的一个标准专对于英伟达:科技部表示,在芯片性能和能效方面,它希望可以开发出比英伟达M40芯片功效高20倍的芯片,此类

  2019年3月18日,NVIDIA在2019GTC上宣布推出Jetson Nano——可创建数百万个智能系统的人工智能计算机。这款外观小巧但功能强大的CUDA-XTM人工智能计算机为运行现代人工智能工作负载提供472 GFLOPS(每秒十亿次浮点运算)的计算性能,并且具有高能效,但耗电量仅为5瓦。 NVIDIA创始人兼首席执行官黄仁勋在GPU技术大会上宣布推出两个版本的Jetson Nano—为研发人员、创客和技术爱好者提供售价为99美元的开发者套件,以及为希望面向大众市场创建边缘系统的公司可以提供售价为129美元的生产就绪型模块。 Jetson Nano支持高分辨率传感器,可以并行处理多个传感器,并且可在每个传感器流上运行多个现代

  深圳狗尾草智能科技有限公司(Gowild,以下简称“狗尾草智能科技”)今日宣布完成1.5亿元A+轮融资。本轮融资由全球服务机器人领导者科沃斯战略投资,苏州市姑苏区国资委全资控股的名城创投领投,前海禹舟基金等进行跟投。 据狗尾草智能科技团队透露,本轮融资将大多数都用在进一步建设核心技术壁垒,加大投入发展Gowild AI Lab,扩大品牌影响力等,以逐步推动“人工智能虚拟生命”的大战略。 同时,狗尾草智能科技还宣布了与金科地产集团、一汽集团以及天音新零售等不相同的领域巨头的战略合作,将共建 “人工虚拟生命+”的开放生态。 狗尾草智能科技于2013年由若干位连续创业者创办,专注于人工智能技术探讨研究,并透过AI虚拟生命技术链接个人、家庭与社会。

  盖茨基金会邀请高晓松在不久前访问基金会西雅图总部,与比尔盖茨就今年的“盖茨年信”进行对话,除了介绍基金会如何用好巴菲特的投资,盖茨还谈了他对中国的印象,高晓松还帮中国网友问了盖茨一个问题。 据了解,10年前,巴菲特将自己大部分的财富捐给了盖茨基金会,用来抗击疾病,减少不平等现象。去年底,巴菲特致信盖茨基金会,敦促基金会回顾自己的工作。于是,盖茨基金会通过这封公开信对巴菲特进行了回应,发布了巴菲特10年前那笔特殊“投资”所产生的收益。高晓松先生与比尔盖茨先生的谈话就此展开。 高晓松与比尔盖茨在专访时多次谈到人工智能,比尔盖茨表示,AI将运用在社会的所有的领域,能够在一定程度上帮助小孩挖掘智力潜能等等,当高晓松问到怎么样看待谷歌阿尔法狗横扫中日

  近日,美国国防部高级研究计划局(DARPA)发起名为“教人工智能利用被忽视的数据错漏”(TAILOR)的新项目,试图利用人工智能根据每位士兵的特点,制定精准匹配每个人的最佳干预方案。 干预手段包括饮食、锻炼、脑刺激等等,以此来实现“人员绩效最优化”,提高部队战斗力。在发布“智能神经接口”(INI)项目和“人工智能科学和开放世界新奇学习”(SAIL-ON)项目仅仅两个月后,DARPA又提出了这一看似有趣的“量身定制”项目,背后蕴藏着怎样的奥秘? 实际上,TAILOR项目的核心目标在于,借助科学技术手段来实现单兵战斗力的最大化。以往由于物资、经费、装备、训练手段等多方面的限制,士兵需要具备强大的适应能力,必须及时作出调整自身状态以更好地完成作战

  高通推出全球首个由5G和AI赋能的无人机平台,开启自主飞行无人机新时代 — Qualcomm Flight TM RB5 5G平台助力无人机制造商加速规模化开发,打造强大的企业级和工业级专用5G无人机 — 2021年8月17日,圣迭戈——继Qualcomm Flight平台助力 “机智号”直升机 在 火星 成功完成无人飞行的关键突破之后,高通技术公司继续强化其在无人机领域的领导力,推出全球首个由5G和AI赋能的无人机平台和参考设计——Qualcomm Flight RB5 5G平台。该全新解决方案可助力加速消费级、企业级和工业级无人机的开发,助力计划采用无人机解决方案并发挥智能边缘优势的行业拥抱创新机遇。Qualco

  赋能的无人机平台 /

  【EV视界试驾】记得我们小时候因一部“霹雳游侠”而开始对搭载了人工智能的汽车产生了无比想象,而如今当然真的走进了现实,那会是个啥样子呢?今天我们就有了答案,它就是极越01。 说到极越01这个车型或许您对它还很陌生,但是一谈到它背后的“势力”,也许您就能对它有所侧目了。作为吉利与百度联合打造的极越品牌旗下首款车型,它不仅拥有吉利SEA浩瀚架构的镀金,其被百度所赋能的纯视觉智驾方案,也成就了它作为自主品牌在该技术领域实车运用的先行者之一。那么,关于这套智驾方案,在实际的体验中究竟有着怎样的感受呢?EV视界有幸近距离接触到这款新车,通过短暂的试驾来好好地体验了一把。 智驾体验 先来了解一下极越01的这套百度赋能

  大模型智舱,极越01要重新定义智能汽车了? /

  (蔡红霞, 周传宏)

  伦理 (于江生)

  直播回放: 英特尔 FPGA 可编程加速平台介绍,走近 AI、数据中心、基因工程等大咖工程

  报名赢【养生壶、鼠标】等|STM32 Summit全球在线大会邀您一起解读STM32方案

  MPS电机研究院 让电机更听话的秘密! 第一站:电机应用知识大考!第三期考题上线,跟帖赢好礼~

  有奖直播 同质化严重,缺乏创新,ST60毫米波非接触连接器,赋予你独特的产品设计,重拾市场话语权

  梅开二度续写合作新篇章,聚力迈向数字化转型未来2024年2月29日,中国上海 日前,全球领先的国际化功率器件品牌瑞能半导体(以下可简 ...

  一年以来,半导体行业发生了翻天覆地的变化,为了适应外部变化,许多公司选择改变方针或打法,换帅、重组……这些事件在最近一段时间内频繁发生。...

  2024年2月29日【山东,济南】2月29日,美的光伏以“光生万物、智慧未来”为主题亮相亚太地区最具影响力的分布式能源全产业链行业盛会,2024 ...

  2 月 29 日消息,英特尔 CEO Pat Gelsinger 最近在接受 TechTechPotato 采访时,毫不掩饰地表示:“我将整个公司都押注在了 18A ...

  欧洲四大机构联手成立RTO联盟,斥资1.56亿欧元推动300毫米代工技术

  欧洲四家顶尖的深度技术探讨研究机构IMEC、Leti、Fraunhofer和VTT,已共同成立名为RTO的联盟,并计划投入1 56亿欧元,以协调和互补的方式推 ...

  晶心科技与元视芯打造全球首款采用RISC-V的车规级CMOS图像传感器

  AI持续发热,Arm新一代Neoverse CSS V3和CSS N3为客户释放最优性能

  Deyisupport博文阅读季:推荐你喜欢的放大器博文,抢楼赢好礼!

  站点相关:市场动态半导体生产材料技术封装测试工艺设备光伏产业平板显示EDA与IP电子制造视频教程