
为处置东谈主工智能(AI)芯片所靠近的“内存墙”这一永恒挑战,凭据韩媒zdnet报导,内存封装边界正在商榷收受新一代AI芯片假想,将图形处理单位(GPU)或ASIC缱绻单位和高带宽内存(HBM)拆分开来进行孤苦封装,然后通过“光学互联”本事来连络它们,不错将现时8颗HBM的安设数目栽培到咫尺的数倍。
尽管每一代GPU性能齐在大幅栽培,但存储数据的供应速率远远跟不上,HBM固然提供了更宽的数据通谈,但面对AI运算需求的爆炸式增长,带宽和传输速率仍然不及。格外是跟着高带宽内存(HBM)堆叠层数从12层、16层向20层以上迈进,垂直堆叠本事已走到临界点——不仅工艺难度呈指数级高潮,JEDEC以致已放宽HBM高度次第,但更大的瓶颈在于:GPU芯片周围的容纳HBM的空间已破费,无法再横向加多HBM数目。

夙昔,HBM一直紧贴在GPU摆布,这是为了最小化数据传输蔓延的势必遴荐。然则,在2.5D封装结构下,GPU芯片的“海岸线”——边际的长度严格松手了可容纳的HBM数目,山猫2026世界杯赛事直播入口GPU芯片周围的现存空间一经无法安设更多HBM。
一位韩国大型存储厂商的讨论东谈主员向ZDNet表现:“咫尺,咱们正尽力膨胀HBM的带宽和容量,但咱们正在与客户商榷何如通过光连络克服GPU的‘海岸线’松手,不错安设更多的HBM。”
乐竞体育LJSPORTS中国官网具体而言,HBM可能被安置在距离GPU数厘米的位置,围绕GPU环形胪列,或在电路板中央竖立孤苦的HBM区域。由于光信号传输速率远快于电信号,物理距离的加多不会变成明显的蔓延吃亏,世界杯压球官网却不错透彻开脱GPU边长对HBM数目的松手。

这意味着,AI芯片厂商不需要内存厂商拚命堆高HBM层数,就不错将HBM水平铺展,在兼并块基板上搭载比咫尺无数倍的容量,从而将通盘AI加快器系统的内存容量和数据带宽推上前所未有的水平。
“统共可能性齐摆在桌面上商榷,”上述讨论东谈主员示意,“从充分讹诈GPU相近空间的决议,到将HBM绝对窒碍到GPU基板下方的决议齐有触及。后者需要权贵膨胀主板尺寸和更正举座口头,咫尺已与GPU厂商张开商榷。”他强调,这些还属于下一代AI加快器的先行讨论,尚不决案。
讹诈光学互连本事来连络GPU和HBM的设思并非空中楼阁。在2025年的Hot Chips大会上,Celestial AI已展示了其光子互联模块,该本事使用光来连络下一代大范围GPU与加快器中的芯片,并可将光学接口交代在ASIC芯片中间,将相近空间留给HBM的电接口。
从产业化角度来看,天下OSAT厂商的一位高管对ZDNet示意:“光学互连已是明确的趋势,问题只在时机。”他权衡,本事落地将按范围由大到小鼓励——先在机架与机架之间、事业器与事业器之间收受光学连络,然后再过问单板里面的芯片间光互连。但他同期指出,咫尺光学讨论速率相配快,芯片间光互连的时间点可能不会太远处。
一位韩国CPO器件开发企业的关系东谈主士指出2026世界杯中国压球官网,GPU与HBM之间的光学互连,与数据中隐衷业器间的光通信旨趣疏导,但必须将正本用于大型开采的光电调节本事减轻到芯片级别,“光学元件需要作念得更小、集成度更高,本事难度更大。”
