郑州万能胶生产厂家 告别HBM：新型M3D芯片Sophon以低能耗重塑AI训练理格局

款名为 PFG-1 "Sophon" 的新型单芯片正在挑战传统 AI 加速器的架构边界。这款集成训练与理能力的芯片，基于 750 mm ²、32 层二维过渡金属硫族化物 ( TMD ) 单片三维 ( M3D ) 平台构建，其核心突破在于消除了对片外带宽内存 ( HBM ) 的依赖。

据媒体报道，Sophon 通过将权重、梯度和优化器状态驻留在片上 2T0C 2D-TMD 增益单元 DRAM 中，实现了 330 GB 的大片上容量。这种纯数字存内计 ( CIM ) 架构不仅支持 BF16 格式的全流程训练，还能以的能提供小批量解码服务。在 7.5 cm ² 的占地面积内，其力可达 4,200 TFLOPS ( FP8 ) 和 2,100 TFLOPS ( BF16 ) 。

架构革新：2T0C DRAM 与 M3D 堆叠

Sophon 的物理堆栈由 28 nm Si CMOS 基础层和 32 层交错排列的 2D-TMD 逻辑与存储双联体组成。每个存储层嵌入于后端工艺 ( BEOL ) Metal-3 层，采用特的 2T0C（双晶体管电容）增益单元 DRAM。

得益于 TMD 晶体管低的关态电流（约 1 fA/ µ m），该单元需传统 DRAM 的电容器即可保持数据数秒，单元面积缩小至 8 F ²。这种设计使得芯片在 25 ° C 下仅需每 1.0 秒刷新次，整个 330 GB 芯片的刷新功耗仅约 0.08 W。重要的是，由于存储节点在每个周期都可写，Sophon 支持限耐久的原位梯度累积，实现了同硬件在训练和理模式间的缝切换。

芯片内部包含 131,072 个 CIM 模块，每个模块配对个二进制灵敏放大器与个 8 加法树。权重通过垂直单片层间通孔 ( MIV ) 直接从存储层传输至逻辑层，层内权重带宽达 4.2 PB/s，且不占用片上网络 ( NoC ) 资源。NoC 仅用于传输激活值和部分和，聚带宽达 18,560 TB/s。

能对标：碾压 HBM4 带宽瓶颈郑州万能胶生产厂家

在小批量理场景下，传统 GPU 往往受限于 HBM 带宽。Sophon 的架构优势在此刻显现：其提供的权重带宽是 NVIDIA Rubin ( R200 ) 的约 191 倍，是 AMD Instinct MI455X 的约 214 倍。

数据显示，在处理 800 亿参数 ( 80B ) 模型时，Sophon 的表现远预期：

理能：原生 BF16 格式下解码速度达 7,219 tokens/s，FP8 模式下翻倍至 14,438 tokens/s。若结 INT4 量化与投机解码，有吞吐量可飙升至 72,188 tokens/s。

能优势：每瓦令数达 38.7 tokens/s/W，约为 NVIDIA Rubin 或 AMD MI455X 的 174 倍。后者受限于 HBM4 带宽，泡沫板橡塑板专用胶小批量下能仅约 0.22 tokens/s/W。

训练能：80B 模型训练吞吐量比 Rubin/MI455X 出 2.7 – 3.1 倍，单流 FP8 解码吞吐量出 48 – 53 倍。

尽管在峰值密集 FLOPS 上，Sophon 的 BF16 力仅为竞品的 0.21 – 0.24 倍，但在决定实际体验的小批量场景中，权重内存带宽而非峰值力才是决定因素。

经济益：BOM 成本降低近个数量

消除 HBM 带来了显著的成本优势。摩根士丹利估，单个 NVIDIA VR200 ( Rubin ) NVL72 机架成本约 780 万美元，其中 HBM 内存成本达 200 万美元。相比之下，Sophon 的硬件 BOM 成本仅为 8,358 美元，比 Rubin 和 MI455X 低约 9.9 倍至 11.6 倍。

在热管理面，Sophon 采用液冷设计。在标准液冷冷板下，即使在全负载训练（平均 564 W）或峰值突发（1,362 W）情况下，结温均控制在 105 ° C 的安全阈值内。堆栈内部的垂直温差小（≤ 1.7 K），主要热阻来自封装而非 M3D 堆栈本身。

Sophon 的出现表明，通过材料创新与架构重构，AI 芯片可以摆脱对昂贵 HBM 的依赖，在大幅降低成本的同时，解决大模型理中的内存墙问题，为数据中心提供种具弹且经济的训练即服务 ( Training-as-a-Service ) 解决案。

【星途科讯 图文丨伊贝 发于 ZAKER 科技，转载请注明出处】相关词条:玻璃棉毡     塑料挤出机     预应力钢绞线    铁皮保温    万能胶生产厂家

奥力斯    PVC管道管件粘结胶价格     联系人：王经理    手机：18231788377（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区/p>

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。