Rohan Sonecha

ホーム

GPUインフラnvidia

一台 NVL72 机柜,顶部搁着一顶机长帽,右侧是渐变的浅色背景

Grace Blackwell には新しいスケジューラが要る、同じラックで使える GPU が 27% 増える

NVL72 はラック内の 72 基の GPU を 1 つの NVLink ファブリックにつなぐが、その帯域を使えるのは同じラックに収まったジョブだけだ。SkyPilot はトポロジーを意識した配置、故障時のインプレース交換、自動デフラグでマルチノードの学習と推論を NVLink 上に留める。