亚马逊云科技和 NVIDIA 将供给 200 万个新增 GPU 和
|
亚马逊云科技正取 NVIDIA 合做,将基于 Vera CPU 的根本设备引入亚马逊云科技,为那些需要加快根本设备取高机能 CPU 计较协同运转的智能体 AI 工做负载供给额外选项。Vera 专为下一代 AI 量身打制,它进一步完美了亚马逊云科技供给普遍计较选择的计谋 —— 从亚马逊云科技自研芯片到合做伙伴供给的最新加快器和 CPU 都能够笼盖。
为了满脚来自前沿尝试室、全球企业、草创公司和机构不竭增加的需求,亚马逊云科技和 NVIDIA 基于长达 16 年结合立异,进一步扩大 AI 计较能力,并更快地为客户供给全新结合打制的处理方案。做为扩展合做的一部门,两边正努力于?。
摘要:跟着客户需求的加快增加,两边深化了正在整个 AI 手艺栈的整合,将 NVIDIA Vera CPU、高机能收集?。
● GPU 加快的数据处置和向量索引 —— 跟着数据量的增加,特征工程、大规模 ETL 和及时阐发等工做负载对处置速度的要求不竭提高。亚马逊云科技正正在和 NVIDIA 合做,通过 Amazon EC2 G7 实例和 NVIDIA cuDF 库正在 Amazon EMR 上实现 GPU 加快的数据处置,取基于 CPU 的设置装备摆设比拟,处置速度可提拔至本来的 3。7 倍,性价比提高 30%。别的,跟着 AI 使用、检索加强生成工做流和语义搜刮将向量数据库推向数十亿笔记录,索引建立和优化成为瓶颈。Amazon OpenSearch Service 上的 GPU 加快向量索引功能可将索引建立使命卸载大公用 GPU 上,以四分之一的成本实现高达 9 倍的向量索引速度提拔。该功能正在托管集群和 Amazon OpenSearch Serverless 中均可利用。
为建立 AI 工场,包罗正在亚马逊云科技平安的根本设备上摆设 10 万个 GPU,用于运转国度级平安工做负载!
亚马逊云科技和 NVIDIA 将供给 200 万个新增 GPU 和新一代根本设备,帮力代办署理式 AI 和物理 AI 成长。
机构需要平安的 AI 根本设备,以满脚需求。亚马逊云科技和 NVIDIA 打算为成立 AI 工场,供给 NVIDIA 的 AI 手艺栈,并打算正在亚马逊云科技的平安根本设备上为国度级平安工做负载供给 10 万个 GPU。此次合做使亚马逊云科技和 NVIDIA 成为鞭策 AI 成长的焦点力量,帮力机构大规模摆设 AI,用于处置影响级别 6 (IL6) 及以上的秘密工做负载。
以下新许诺成立正在亚马逊云科技和 NVIDIA 深度手艺集成的根本之上,相关手艺集成曾经为客户带来切实成效,包罗。
文章题目!亚马逊云科技和 NVIDIA 将供给 200 万个新增 GPU 和新一代根本设备,帮力代办署理式 AI 和物理 AI 成长。
● 面向机械人的物理 AI —— Amazon Robotics 正取 NVIDIA 展开合做,加快开辟集成 NVIDIA 全栈物理 AI 平台的新一代机械人,涵盖 NVIDIA Jetson™ 平台、NVIDIA Omniverse™ 库和 NVIDIA Isaac™ 机械人开辟平台。此次合做的范畴包罗仿实、合成数据生成、机械人锻炼、线优化、功能平安和从现实到仿实验证,所有环节都运转正在 GPU 加快的 Amazon EC2 实例上。亚马逊云科技和 NVIDIA 配合帮力提拔大规模机械人工做负载所需的能力:大规仿照实、多样化锻炼数据和持续的现实世界验证。
亚马逊云科技首席施行官 Matt Garman 暗示:“客户但愿可以或许选择适合其 AI 工做负载的东西,并确保所有东西可以或许无缝协做。因而,我们取 NVIDIA 展开了深切合做,使亚马逊云科技成为运转 NVIDIA AI 手艺的主要平台,从收集、平安到摆设,全面优化我们根本设备的机能。此次扩展合做将为前沿尝试室、企业和供给更多正在亚马逊云科技上建立和摆设 AI 的体例。”。
ICC讯亚马逊公司 Inc。,纳斯达克股票代码:AMZN) 旗下的亚马逊云科技 (AWS) 和 NVIDIA (纳斯达克股票代码:NVDA) 颁布发表大幅扩展计谋合做,以应对全球对 AI 根本设备日益高涨且不竭加快的需求。基于客户对亚马逊云科技上的 NVIDIA 加快计较的快速采用,两边打算正在亚马逊云科技的全球根本设备中新增摆设 200 万个 NVIDIA GPU,并正在 AI 工场、CPU、收集、模子、数据处置和机械人范畴深化合做,供给配合打制的 AI 处理方案,帮力客户以史无前例的规模加快 AI 开辟和摆设。
● 借帮亚马逊云科技 Nitro 系统和 EFA 加强平安性取靠得住性 —— 正在此次扩展合做中,所有基于 NVIDIA GPU 和 Trainium 的 EC2 实例,包罗采用 NVLink Fusion 的实例,都基于亚马逊云科技 Nitro 系统建立,并通过 EFA 进行互连。基于 GPU 加快和 Trainium 的 EC2 实例将继续基于 Nitro 系统建立,并依托 EFA 进行横向扩展。Nitro 和 EFA 配合确保了正在亚马逊云科技扩展 NVIDIA GPU 集群并集成新互连手艺的同时,客户仍可以或许连结其正在大规模量产级 AI 工做负载中所依赖的平安性、靠得住性和收集机能。
NVIDIA 创始人兼首席施行官黄仁勋暗示:“NVIDIA 和亚马逊云科技配合打制了 AI 时代最强劲的增加引擎之一,且需求量曾经超出了所有预测。过去 16 年来,我们配合正在云端扩展 NVIDIA 的计较能力。现正在,我们正将合做拓展至整个手艺栈,包罗 GPU、CPU、收集、模子和软件,以只要亚马逊云科技和 NVIDIA 才可以或许供给的空前速度和规模,让代办署理式 AI 和物理 AI 成为现实。此次扩展反映了客户对于正在亚马逊云科技上利用 NVIDIA 平台的需求。”。
AI 工做负载正正在敏捷扩展,从模子的锻炼和运转体例,到数据处置、索引和用于驱动智能使用的体例均正在快速演进。客户正正在从试点阶段转向出产阶段,并正在代办署理式 AI、科学发觉、企业从动化和机械人范畴扩展工做负载。他们需要更普遍的模子选择、更快速的数据管线以及针对物理 AI 等新兴用例的新功能。他们还需要确保底层根本设备可以或许跟上他们本身的立异能力,同时为环节使命工做负载连结高程度的平安性取靠得住性。
亚马逊云科技供给了所有云办事商中最普遍的基于 GPU 的实例,以支撑各类 AI 和机械进修工做负载。正在 NVIDIA GTC 2026 上,亚马逊云科技颁布发表打算从 2026 年起头,将添加跨越 100 万个 NVIDIA GPU。需求从那时起曾经跨越了预期。亚马逊云科技打算于 2027-2028 年间,正在其包罗 AI 工场正在内的全球根本设备中摆设别的 200 万个 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU。这些新增的算力将支撑客户从智能体 AI、科学发觉到企业从动化和物理 AI 的各类工做负载。此外,亚马逊云科技将扩展 NVIDIA Blackwell 的算力容量,取上一代 G6 实例比拟,G7 实例的 AI 推能提拔了 4。6 倍,图形机能提拔了 2。1 倍。亚马逊云科技也是首家供给由 RTX PRO 4500 加快的计较实例的次要云办事商。同时,亚马逊云科技和 NVIDIA 正正在 NVIDIA Spectrum-X™ 以太网收集方面展开合做,以进一步优化跨 GPU 集群大规模 AI 锻炼工做负载的收集机能。
● 亚马逊云科技上的 NVIDIA Nemotron 模子 —— 做为亚马逊云科技向客户供给更普遍 AI 模子选择许诺的一部门,NVIDIA 的 Nemotron 系列模子可正在 Amazon Bedrock 上做为全托管无办事器模子供给,同时也可正在 Amazon SageMaker 上供给,供但愿正在自有根本设备上摆设和微调的客户利用。通过这种集成,客户能够操纵亚马逊云科技的平安性、可扩展性和运营东西,拜候 NVIDIA 最新模子。 |
