NVIDIA
กำลังจะมาNVIDIA B300
288GB HBM3e Blackwell Ultra — กำลังจะมาที่ TATC bare metal
NVIDIA BLACKWELL Series
ข้อมูลจำเพาะ (ตัวอย่าง)
B300 ยึดหลักรุ่น Blackwell Ultra ของ NVIDIA — HBM3e 288GB ต่อการ์ดพร้อม Tensor Cores รุ่นที่แปด TATC กำลังจัดเตรียมโหนด B300 สำหรับลูกค้าที่ต้องการความจุ HBM สูงสุดบนสแต็ก CUDA; ข้อมูลจำเพาะโดยละเอียดกำลังอยู่ระหว่างการยืนยันกับ NVIDIA
ตัวเลขที่ทำเครื่องหมาย TBC / est. กำลังยืนยันกับ NVIDIA และจะได้รับการยืนยันเมื่อประกาศอย่างเป็นทางการ จองตอนนี้เพื่อล็อกราคาเปิดตัว
สถาปัตยกรรม
Blackwell Ultra
VRAM ต่อการ์ด
288GB HBM3e
แบนด์วิดท์หน่วยความจำ
8 TB/s
FP16 / BF16 tensor
TBC (8-GPU)
FP8 tensor
TBC (8-GPU)
FP4 tensor
TBC (8-GPU, FP4)
TDP
~1400W
การเชื่อมต่อ
NVLink 5 (planned)
เหตุใจจึงสำคัญ
- หน่วยความจำรวม HBM3e 288GB ความจุสูงต่อตัวเร่ง
- การขยาย NVLink 5 รุ่นใหม่ (ข้อมูลจำเพาะ TBC)
- ระบบนิเวศ CUDA เต็มรูปแบบพร้อมการให้เหตุผล TensorRT-LLM
สร้างสำหรับ
- การฝึก LLM ระดับ frontier (100B+ พารามิเตอร์)
- การให้เหตุผลบริบทยาวพิเศษ
- การให้บริการ MoE ขนาดใหญ่ในระดับสเกล
สแต็กซอฟต์แวร์
CUDA 12.9+
PyTorch
Triton
vLLM
TensorRT-LLM
อยู่บนแผนงานด้วย
AMD MI35X Series — AMD Instinct MI355
ล็อกตำแหน่งของคุณในคิว
บอกเราขนาดโมเดลเป้าหมายและความยาวบริบทของคุณ — เราจะจับคู่คุณกับโหนดแรกที่เหมาะกับคุณ