近日,在GTC 2025大会上,美光科技公布了自家的SOCAMM内存模块,将用于英伟达最新发布的Blackwell Ultra GB300产品线。
SOCAMM并非传统内存条的简单升级,而是将HBM3(高带宽内存)与AI加速单元集成于同一基板,形成“存算一体”的革新架构。其核心技术亮点包括:通过12层HBM3堆叠,单模块带宽较上一代提升3倍,足以支撑万亿参数模型实时训练;采用美光独有的低功耗电路设计,在满载运行时功耗降低至225W,显著低于同类方案;内置硬件级数据调度器,自动优化张量传输路径,减少GPU闲置等待时间。
英伟达GB300系列作为面向AI数据中心的旗舰产品线,对内存子系统提出三大极限需求:需容纳百万级上下文长度的LLM(大语言模型)参数;自动驾驶等场景要求响应延迟低于1ms;企业级训练任务需保持99%以上的GPU利用率。
SOCAMM通过NVLink-C2C直连技术与GB300 GPU核心互联,实现内存带宽的“零损耗”传输。实测数据显示,在ResNet-50训练任务中,GB300系统吞吐量提升2.7倍,推理能效比达15.8 TOPS/W。
此次合作暴露了AI芯片竞争的下一战场——内存架构创新。传统冯·诺依曼架构下,数据在内存与计算单元间的“搬运”已成为算力瓶颈。SOCAMM的存算融合设计,为突破“内存墙”提供了新思路。
Previous:永磁同步电机的结构和优缺点
Online messageinquiry
model | brand | Quote |
---|---|---|
RB751G-40T2R | ROHM Semiconductor | |
BD71847AMWV-E2 | ROHM Semiconductor | |
CDZVT2R20B | ROHM Semiconductor | |
MC33074DR2G | onsemi | |
TL431ACLPR | Texas Instruments |
model | brand | To snap up |
---|---|---|
BU33JA2MNVX-CTL | ROHM Semiconductor | |
TPS63050YFFR | Texas Instruments | |
IPZ40N04S5L4R8ATMA1 | Infineon Technologies | |
STM32F429IGT6 | STMicroelectronics | |
ESR03EZPJ151 | ROHM Semiconductor | |
BP3621 | ROHM Semiconductor |
Qr code of ameya360 official account
Identify TWO-DIMENSIONAL code, you can pay attention to
Please enter the verification code in the image below: