华秋PCB

高靠得住多层板制造商

华秋SMT

高靠得住一站式PCBA智造商

华秋商城

自营现货电子元器件商城

PCB Layout

高多层、高密度产物设计

钢网制造

专注高品质钢网制造

BOM配单

专业的一站式采购解决方案

华秋DFM

一键阐发设计隐患

华秋认证

认证检测无可置疑

近日，美光团队在 NVIDIA GTC 年夜会上展现了业界前沿的 AI 内存和存储产物组合。这些产物引发了参展商和预会者的极年夜爱好和普遍存眷，本博客介绍了此中的一些细节。美光内存正在鞭策和引领面向将来的 AI 手艺，我们来一路领会下吧。

助力将来 AI 手艺更壮大、更智能

人类正在进入一个新的时期：虚拟世界和真实世界的鸿沟日益恍惚，且深度交叉。将来，鞭策世界向前成长的不但包罗当下热点的 CPU 和 GPU 算力，还包罗默默无闻的幕后英雄：内存和存储芯片。这些器件彼此共同，配合加快人工智能 (AI) 的成长，使 AI 融入人们平常糊口的各个方面。此中内存更是 AI 加快的要害，不但可以或许帮忙 AI 从海量数据集中进修，还将使将来人类与手艺的交互加倍直不雅、顺畅，显著提高 AI 的智能。

全球各经济体正在竞相追逐手艺立异和新手艺的利用。以美光为例，从业界前沿的 232 层 NAND 手艺和 1ß (1-beta) DRAM 立异，到 NVIDIA H200 Tensor Core GPU 中摆设的美光 HBM3E 内存，我们见证了手艺前进若何助推半导体系体例造和进步前辈封装范畴获得诸多成绩，并鞭策 AI 迈向超等互联的将来。美光 AI 产物组合中的每次立异和冲破，都让我们向着加倍智能的 AI 时期迈进了一步，这标记着内存将成为将来 AI 革命的基石。

将来的 AI 不但可以或许模拟实际，还能进一步加强实际，内存和半导体则是这一进程的硬件根本。这是一段立异之旅，过往经验证实，要想冲破现有 AI 的局限，硬件手艺成长必不成少。领会硬件的要害感化，有助在我们进一步鞭策手艺成长，为将来缔造更多的可能性。

我之所以写这篇博客，是由于我曾有幸带领美光的企业营销团队，在 20 个月内推出了一些冲破性产物，年夜幅加快了 AI 的成长。我们与产物负责人、发卖人员、工程师和营业司理联袂合作，一向位在产物开辟的最前沿，直至推出这些立异产物，并环绕这些产物睁开了会商。这段履历让我深入理解了若何营销业界前沿的产物，和美光的手艺若何塑造 AI 的将来。

AI 条理布局：架构智能

信息图表：AI 内存和存储手艺条理布局

在 AI 相干硬件中，内存和存储条理布局并不是仅是 GPU 和 CPU 的弥补，更是决议 AI 能力和潜力的要害。近内存位在顶部，包罗美光的高带宽内存 (HBM) 解决方案 HBM3E 等手艺。该层用在直接高速处置与 CPU 或 GPU 相邻的数据，可年夜幅削减延迟并增添带宽。借助近内存硬件，AI 可以或许之前所未有的效力履行复杂的计较并处置年夜量数据，对及时阐发和决议计划利用相当主要。

近内存层下方是主内存层，首要包罗美光单颗粒年夜容量 DDR5 DIMM 等产物。这一层是 AI 计较的主力，除出众的速度以外，还需要有治理年夜量数据的能力，以供 AI 算法阐发利用。美光的高速度、低功耗 DDR5 为 AI 系统的运行供给了壮大的平台，撑持快速履行 AI 模子和摹拟。

扩大内存层包罗各类可扩大系统内存容量的解决方案，例如美光的 CZ120，采取 Compute Express Link (CXL) 手艺，可供给远超传统内存的容量。这一层知足了 AI 利用不竭增加的内存需求，可以或许练习和履行范围更年夜、复杂度更高的 AI 模子。扩大内存是一项要害立异，降服了传统内存架构的物理限制，使 AI 系统可以或许在不下降机能的条件下扩年夜处置能力。

扩大内存层下方是 SSD 数据缓存层，这是一种主要的中心存储解决方案，旨在让利用快速拜候经常使用数据。数据缓存层可以或许加快数据检索进程，确保 AI 利用不会因数据拜候时候太长而卡顿。美光的旗舰 SSD（如 9000 和 7000 系列）可用在数据缓存层，其快速存储能力可年夜幅缩短 AI 利用的响应时候，提高效力。

金字塔的底部是数据湖，也称为根本数据存储层。数据湖中包括多个庞大的原始数据池，可为 AI 算法供给练习和阐发所用的数据。高效存储和治理这些数据的能力，对 AI 成长举足轻重。美光 6000 SSD 系列等进步前辈存储解决方案可用在该层，以应对 AI 生态系统中呈指数级增加的数据。在这类 AI 驱动的利用场景中，传统的机械硬盘 (HDD) 早已过时。

这些层慎密连系，配合组成了撑持 AI 革命的底层布局，彰显出内存和存储手艺在充实实现 AI 潜力方面不成或缺的感化。美光的行业前沿立异笼盖了这一条理布局中的每层，让我们可以或许领会每层在鞭策 AI 成长方面的怪异感化。这些立异产物相互共同，让 AI 加倍智能，更深切地融入人类的数字糊口。

近内存：基在美光 HBM3E 的 AI 加快引擎

信息图表：美光 HBM3E 近内存的机能和功耗优势。

美光 HBM3E 是近内存立异的典型代表，可供给史无前例的速度和效力，对年夜说话模子 (LLM) 和 AI 利用相当主要。HBM3E 可以或许降服内存瓶颈，让 AI 系统充实操纵处置器的机能。跟着 LLM 和相干数据集的范围呈指数级增加，近内存将愈发主要。

美光致力在冲破内存容量和带宽的限制（供给 8 层堆叠 24GB HBM3E 和 12 层堆叠 36GB HBM3E 等解决方案）并实现业界前沿的能源效力，在近内存范畴具有较着的优势地位。与竞品比拟，美光 HBM3E 的功耗下降 30%，可以使 AI 利用更具可延续性，这是手艺开辟中日趋存眷的一个方面。

HBM3E 的推出，特别是与 NVIDIA H200 Tensor Core GPU 的集成，标记着内存机能的划时期奔腾。HBM3E 可加强 AI 计较焦点，并可以或许以更节能的体例实现 AI 加快。美光 HBM3E 为 AI 利用高效运行年夜模子奠基了根本，将来的 AI 可以冲破当前内存限制，充实扩大。这些能力还助在数据中间节俭运营本钱，减轻对情况的影响。

美光 HBM3E 的低功耗优势，对将来年夜型 AI 数据中间的可延续成长相当主要。这类对将来需求的提早存眷，展现了美光彩用的前瞻性方式，即在知足 AI 研究和开辟相干紧急计较需求的同时，优先斟酌可延续性和运营的本钱效益。经由过程集成美光的低功耗 HBM3E 解决方案，AI 数据中间可节俭年夜量运营本钱。这一节俭行动十分要害，由于高机能计较资本将耗损年夜量电力，意味着不菲的运营支出。对年夜型云办事供给商而言，优先斟酌能源效力可显著下降电力耗损和运营本钱。是以，在年夜范围扩大 AI 根本举措措施的进程中，选择准确的内存手艺很是主要。

另外，这一旨在晋升 AI 计较可延续性的计谋行动也合适全部行业的成长趋向，即慢慢减轻年夜范围计较对情况的影响。美光在内存手艺上的前进，不但为前沿 AI 利用加快带来了所需的计较能力，还展现了手艺立异若何与情况可延续成长方针连结一致。

这一改变反应了全部行业在寻求更高机能的同时，加倍重视能效和可延续性。美光今朝正在送样 12 层堆叠 36GB HBM3E 解决方案，可为 AI 平台供给更高的容量。作为鞭策 AI 根本举措措施成长的明星产物，美光 HBM 将手艺立异与重视环保的设计相连系，将在将来的 AI 时期年夜显身手。

主内存：美光单颗粒年夜容量 DDR5 助力 AI 办事器晋升“年夜脑处置器”的计较能力

信息图表：美光 DDR5 主内存的机能和功耗优势。

美光的年夜容量 DDR5 主内存供给史无前例的速度和效力，已成为 AI 处置进程中不成或缺的构成部门，将来将继续引领 AI 加快。128GB DDR5 RDIMM 速度高达 8000 MT/s，采取美光业界前沿的 1ß 节点手艺，位密度提高了 45%以上。该产物具有划时期的机能和能源效力，可知足 AI 利用严苛的数据阐发和处置需求。另外，该产物还可年夜幅晋升 AI 系统的响应能力和决议计划速度，并将延迟下降 17%。

美光的 LPDDR5X 和 LPCAMM2 产物进一步丰硕了 DDR5 生态系统，增强了 AI 的成长势头。LPDDR5X 的峰值带宽高达 9.6 Gb/s，较前代产物晋升 12%，功耗下降了 30%，彰显出美光在低功耗内存立异范畴的优势地位。美光 LPCAMM2 则为 AI PC 和数据中间的主内存带来了新典范。该产物速度高达 9600 Mb/s，功耗年夜幅下降，具有更紧凑的模块化外形尺寸，可助力实现更高效、更壮大的 AI 计较能力。

美光的年夜容量 DDR5 和立异的 LPDDR5X 和 LPCAMM2 内存模块可以或许知足 AI 和机械进修工作负载不竭提高的需求，标记着美光在内存手艺上的庞大奔腾。这些立异手艺提高了内存的速度和效力，下降了内存的功耗，这些特征对全球首要云办事供给商相当主要。

当前，数据中间日趋成为 AI 云办事的要害根本举措措施，在连结机能的条件下优化能源利用，比以往任什么时候候都加倍主要。经由过程集成美光的前沿内存解决方案，年夜型云办事供给商可以或许以加倍可延续的体例扩大其 AI 能力，同时确保更低的总具有本钱，并揭示出他们的许诺：积极拥抱立异手艺，鞭策全部科技行业迈向更高效、更壮大、由 AI 驱动的将来。

扩大内存：美光 CZ120 助力冲破内存限制

信息图表：美光 CZ120 扩大内存的机能优势。

扩大内存是 AI 内存和存储条理布局中的要害桥梁，帮忙 AI 系统在不下降速度或效力的条件下处置更加复杂的工作负载。CXL 扩大内存模块位在主内存层和数据缓存层之间，是扩大内存层的立异产物，所供给的可扩大内存解决方案可以或许知足复杂 AI 利用的需求。该手艺可在各类用例中实现无缝扩大和机能晋升，展现出扩大内存手艺在更普遍的 AI 手艺开辟范畴发生的变化性影响。

美光 CZ120 内存扩大模块采取 CXL 手艺，可知足 AI 和高机能计较对内存容量愈来愈高的需求，从而年夜幅晋升了数据中间的 AI 撑持能力。这些模块的速度高达 36 GB/s，供给 128GB 和 256GB 容量选择，可为复杂工作负载供给所需的内存容量和带宽，以此晋升办事器的机能。扩大内存对 AI 练习、软件即办事 (SaaS) 和内存数据库等利用相当主要，有望将计较效力晋升到新程度。

为知足数据中间不竭增加的需求，美光联袂 Intel、AMD 等行业知名厂商，合作开辟和测试了采取 CXL 手艺的 CZ120 内存扩大模块。这一计谋合作火伴关系旨在增进 CXL 手艺的普和，将办事器内存的效力和机能晋升到新程度。美光经由过程手艺撑持打算，为合作火伴供给普遍的撑持和资本，确保基在 CXL 手艺的内存扩大模块立异可以或许显著提高全球数据中间的数据处置能力和本钱效益。

SSD 数据缓存：美光 9000 和 7000 系列数据中间 SSD 加快数据拜候

信息图表：美光 7500 和 9400 SSD 展现。

在 AI 计较框架的条理布局中，当地 SSD 数据缓存层旨在快速拜候寄存在年夜容量存储装备上的海量数据信息。传统的 HDD 存储解决方案凡是需要额外的装备协助，才能知足数据密集型 AI 工作负载所需的吞吐量，从而致使呈现数据传输瓶颈，严重影响 AI 利用的机能。

假如这一瓶颈呈现在数据中间内，后果尤其严重。赶快度较慢的存储介质中获得数据时的延迟，可能会显著影响 AI 模子在及时决议计划进程中的效力。美光 9000和 7000 系列 SSD 旨在解决这一挑战，其高速数据拜候能力可毫无延迟地供给 AI 算法所需的数据，并确保全部 AI 计较进程顺畅高效。这些 SSD 具有出众的效力和速度，可确保数据密集型 AI 利用（例如机械进修模子和复杂的阐发）流利运行，在削减延迟的同时提高 AI 利用的机能。

美光 9000 和 7000 系列 SSD 进一步提高了 SSD 数据缓存在 AI 工作负载中的主要感化，是消弭数据拜候瓶颈的要害解决方案。特别是美光 9400 SSD，与主流竞品比拟，其夹杂工作负载机能可提高 2.3 倍，能源效力晋升高达 77%，为 PCIe 4.0 存储建立了新的机能基准。该系列 SSD 的容量高达 30.72TB，可为数据中间带来更高的存储密度和运营效力。这些优势可确保 AI 算法快速拜候所需数据，加快及时处置和决议计划的进程。

凭仗出众的机能和容量，美光 9400 SSD 已成为进步前辈医疗诊断和 AI 加强客户体验等现实利用中的要害器件。该款 SSD 在 100% 4K 随机读取时每秒可完成 160 万次输入/输出操作 (IOPS)，在夹杂读写工作负载中一样表示超卓，可应对要求严苛的数据中间使命。美光 9400 SSD 不但可以缩短机械进修和模子练习的时候，还可为高频买卖和在线买卖供给所需的速度和效力，是现代数据密集型工作负载的抱负选择。

另外，美光 9400 SSD 的能源效力一样出众，可知足现今时期数据中间严酷的功耗要求，晋升高机能计较的可延续性。美光 9400 SSD 具有更高的每瓦 IOPS，可为数据中间带来更高的能源吞吐量，下降数据中间的运营费用和对情况的影响。美光致力在鞭策存储手艺成长，以知足 AI 和云计较愈来愈高的要求。作为美光推出的主要解决方案，美光 9400 SSD 实现了机能、容量和功耗的均衡，可以或许解决 AI 情况中持久存在的存储挑战。

收集数据湖：美光 6000 系列数据中间 SSD 为 AI 奠基根本

信息图表：展现美光 6500 ION SSD 的机能、速度和存储密度。

数据湖是 AI 生态系统中不成或缺的一部门，用在存储 AI 利用所需的海量数据。数据湖是 AI 利用的基石，它供给庞大的存储空间，可以或许确保数据随时可用，可供很多 AI 处置流程同时拜候。数据湖以原生格局聚合来自分歧来历的数据，供 AI 利用进行更周全的数据阐发和机械进修，并为 AI 猜测性洞察和决议计划供给所需的原始材料。

数据湖可存储和治理年夜量非布局化数据，对但愿操纵 AI 手艺取得竞争优势的企业而言，数据湖是必不成少的存储根本举措措施。美光 6000 系列数据中间 SSD 确保数据可以或许平安存储并易在拜候，进一步加强了这一根本层，撑持动态 AI 计较所必须的快速数据检索能力。

美光 6500 ION 系列数据中间 SSD 供给相当主要的解决方案，让 AI 利用可以或许快速靠得住地拜候底层的数据存储库。6500 ION 系列是全球首款 200+ 层 NAND 数据中间 NVMe SSD，具有远超前代产物和竞品的机能、平安性和能效，为数据存储建立了新尺度。

机能基准测试显示，6500 ION 具有出众的效力，在处置分歧的工作负载时均表示出显著优势。例如，在 Ceph 对象存储工作负载中，6500 ION 的挨次写入机能比同类产物超出跨越 3.5 倍，随机读取机能超出跨越 49%。另外，6500 ION 也合用在 Cassandra 等 NoSQL 数据库利用法式，在读取密集型使命中，峰值机能比同类产物超出跨越 2.6 倍，是数据中间的抱负选择，可帮忙治理要求严苛的复杂工作负载。

美光 6500 ION 在机能、效力和可延续性方面均表示超卓。凭仗高达 30.72TB 的容量，和在功耗和散热方面的晋升，6500 ION 可年夜幅提高办事器的存储密度，从而削减本钱支出、运营支出和碳排放。6500 ION 兼具高机能、年夜容量和高效力，彰显出美光的许诺：晋升数据中间的能力，确保知足 AI 和机械进修手艺不竭增加的需求。

内存对 AI 加快相当主要：美光对立异和将来的愿景

信息图表：美光 AI 内存和存储产物组合（HBM3E、GDDR6X）。CXL、年夜容量 DIMM、DDR5、LPCAMM2、UFS 4.0 和数据中间 SSD。

内存对 AI 的成长举足轻重，决议了 AI 进修、演进和融入人们糊口的速度。在内存和存储条理布局中，每层都阐扬着要害感化。例如，近内存负责高速数据处置，主内存负责治理海量数据。一样，扩大内存可供给更多容量，SSD 数据缓存有助在快速拜候，数据湖则供给根本的存储装备。所有这些层配合确保了 AI 利用的无缝运行。将来的 AI 将更加智能，而内存和存储将在 AI 成长进程中起到不成或缺的感化。为加快 AI 成长，必需延续立异并投资这些要害的半导体手艺。

从 1978 年博伊西一家牙医诊所地下室里的草创企业，到现在内存和存储解决方案范畴的全球知名厂商，美光揭示了对立异和出色的不懈寻求。在跨越 45 年的立异过程中，美光不竭冲破手艺边界，包罗开辟全球最小的 256K DRAM、业界前沿的 1ß 内存节点和业界首款 232 层 NAND。

这些里程碑不但是半导体系体例造范畴的主要成绩，也是鞭策 AI 革命向前成长的要害时刻。瞻望将来，我们认为，延续聚焦并投资内存和存储手艺，对充实阐扬 AI 的潜力相当主要。美光对立异的许诺强调了这些手艺在 AI 成长进程中的主要性，鼓励我们心怀礼让、连结好奇心和弘远方针，鞭策 AI 向前成长。美光的将来愿景是经由过程 AI 手艺改良全部世界并丰硕所有人的糊口。这一愿景基在我们的价值不雅：关切员工、立异为先、坚持不懈、精诚合作、客户导向。我们深信，手艺可以或许并且该当成为带来积极改变的气力。我们将秉承这一信心继续前行。

本文作者

Rahul Sandil

Vice President of Corporate Marketing

原文题目：打破鸿沟：为什么美光内存对 AI 加快相当主要

文章出处：【微旌旗灯号：gh_195c6bf0b140，微信公家号：Micron美光科技】接待添加存眷！文章转载请注明出处。

**十万级白话辨认，离线天然说手艺，让智能照明更懂你** 天然说手艺，用户不消死记硬背，供给了更天然、更矫捷、更智能的语音交互体例。在方案设计上，启英泰伦充实斟酌了产物功能、复杂水平和制造本钱等身分。经由过程将语音芯片作为主控，内置在 颁发在 04-29 17:09 将来，IPv6将带来更壮大的新兴变化和利用 最近几年来，跟着科技的前进，中国IPv6市场蓬勃成长。将来，IPv6财产将冲破传统，给人们带来更壮大的新兴变化和利用。起首，就手艺角度来看，中国IPv6市场将进入下一个阶段的亚新体育成长。将来，I 颁发在 04-02 11:15 •202次浏览 NanoEdge AI的手艺道理、利用场景和优势 NanoEdge AI 是一种基在边沿计较的人工智能手艺，旨在将人工智能算法利用在物联网（IoT）装备和传感器。这类手艺的焦点思惟是将数据处置和阐发从云端转移到装备自己，从而削减数据传 颁发在 03-12 08:09 苹果正尽力为下一代iPhone搭载更壮大的AI手艺 苹果公司正致力在鄙人一代iPhone上实现更壮大的当地人工智能手艺。近日，苹果收购了一家专注在AI视频紧缩手艺的草创公司WaveOne，此举进一步证实了苹果在 颁发在 01-25 16:46 •510次浏览 AI若何助力我们构建更智能的空间？操纵AI构建智能空间的5种体例 当下业界都聚焦在生成式 AI 若何鞭策将来变化，但我们也无妨回首一下曩昔的一年，AI 若何助力我们构建更智能的空间。 颁发在 01-24 18:19 •839次浏览 助力全球硬件立异让硬科技创业更简单，华秋硬创年夜赛全国三强降生 V、OpenHarmony和 NearLink等手艺生态也是一个可不雅的标的目的。将来，华秋将继续践行“让硬科技创业更简单”的初心，延续赋能硬科技创业者，搀扶、孵化优异团队，助力全球硬件 颁发在 11-24 17:02 助力全球硬件立异，让硬科技创业更简单，华秋硬创年夜赛三强降生 V、OpenHarmony和 NearLink等手艺生态也是一个可不雅的标的目的。将来，华秋将继续践行“让硬科技创业更简单”的初心，延续赋能硬科技创业者，搀扶、孵化优异团队，助力全球硬件 颁发在 11-24 16:59 手艺筑生态 智联赢将来，第二届OpenHarmony手艺年夜会美满进行 操作系统十年夜手艺挑战标的目的”的年度进展，为智能终端操作系统的将来成长指了然进步的道路。开源共建，OpenHarmony夯实数字经济成长底座华为常务董事、终端BG CEO、智能汽车解 颁发在 11-04 14:59 AI手艺助力收集改革，让企业更智能 代表了收集通讯的将来。它是一种专门为知足企业需求而设计的收集毗连，操纵AI手艺来供给更智能、更高效的收集办事。这些办事包罗主动化收集优化、及时数据阐发让用户体验的显著改良。 2、 颁发在 10-27 17:56 •364次浏览 华邦推出为边沿AI带来超高带宽内存的CUBE架构 全球半导体存储解决方案带领厂商华邦电子本日公布推出一项壮大的内存赋能手艺，可助力客户在主流利用场景中实现经济实惠的边沿 AI 计较。 颁发在 09-27 10:49 •1604次浏览 AI智能呼唤中间 跟着科技的飞速成长，人工智能(AI)已成了各行各业的要害手艺，此中，AI智能呼唤中间的呈现，给传统的呼唤中间带来了庞大的改变与立异，本文 颁发在 09-20 17:53 【直播合集】HDC.Together 2023 出色回首！保藏勿错过~​​不雅看直播回放​​鸿蒙生态智能装备开辟新手艺面向智能硬件开辟者、解决方案合作火伴，深切介绍支持鸿蒙生态装备高效开辟的新手艺，包罗驱动扩大框架、内核 颁发在 08-17 17:21 高通表态世界人工智能年夜会，描画夹杂AI赋能的智能将来 赋能等多个角度，描画了夹杂AI赋能的智能将来。同期，第二代骁龙8移动平台所集成的高通AI引擎取得年夜会最高奖项——SAIL奖（出色人工智能引领 颁发在 07-07 18:55 •549次浏览