AI芯片

微软CEO纳德拉透露，AI算力扩张面临新瓶颈——电力短缺。数据中心供电和空间已达极限，大量AI芯片无法投入使用。行业专家警告，能源基础设施升级迫在眉睫。#AI算力##电力短缺#

这一架构以 3D DRAM 为核心，首创 3.5D 异质异构集成方案，可基于国内领先供应链规模化量产。

短期内 RNGD 将从初版的 48GB HBM3 升级到 72GB HBM3E，从内存侧增强推理性能。而迭代产品将于 2028 年面世。

AI6 芯片配备 LPDDR6 内存，在与 AI5 相似的面积内提供 2 倍性能；AI6.5 的性能将进一步提升。

有消息人士称这笔交易将帮助字节跳动将已完成的内部芯片设计转变为生产就绪的半导体。

LPX 的设计目标是低延迟和高 Token 速率，但吞吐量和容量都比较低，更适合软件编程场景的上下文处理。

Mistral 目前在算力上高度依赖英伟达，不过也在进行一些自研芯片探索。

Pinterest 计划在 2031 年前在 AWS 云服务上投入 40 亿美元，并将更大比例的计算基础设施运行在 AWS Graviton 系列 Arm CPU 上。

FuriosaAI 表示其芯片架构针对 AI 计算的数学核心进行了优化，将内存访问视为首要任务，专注于高带宽数据传输和大规模张量运算。

该产品支持从原生 FP4/MXFP4 到 FP64 的各种数据类型与变体，整卡采用 350W 功耗 PCIe AIC 设计。