NVIDIA

NVIDIA RTX PRO 6000

96GB GDDR7 Blackwell — รูปแบบอ้างอิงสำหรับงานที่ใช้หน่วยความจำสูง

อัตราอ้างอิงต่อ GPU-ชั่วโมงสำหรับการเช่าเซิร์ฟเวอร์ทั้งเครื่อง

$1.95/GPU-hour

อัตราอ้างอิงเท่านั้น รูปแบบจริง วิธีคิดค่าบริการ และราคารวมกำหนดในสัญญากับลูกค้า

รูปแบบอ้างอิง bare metal ที่ใช้ NVIDIA RTX PRO 6000 Blackwell โดยรุ่นย่อยของ GPU และสเปกเซิร์ฟเวอร์ยืนยันในใบเสนอราคา

รูปแบบเซิร์ฟเวอร์ทั้งเครื่องเป็นตัวอย่าง ส่วนประกอบแตกต่างตามรุ่น GPU แพลตฟอร์มเซิร์ฟเวอร์ และความจุที่พร้อมติดตั้ง ตัวเลข GPU จากผู้ผลิตไม่ใช่คำรับรองประสิทธิภาพของระบบที่ TATC ติดตั้ง

หน่วยความจำ

96GB GDDR7

1.8 TB/s bandwidth

สถาปัตยกรรม

Blackwell

Family · NVIDIA RTX PRO

การประมวลผล AI

4000 AI TOPS

FP32: 125 TFLOPS

กำลังไฟ

600W

ข้อมูลจำเพาะจากผู้ผลิต

ไฮไลต์

หน่วยความจำ GDDR7 96GB และแบนด์วิดท์หน่วยความจำ 1.8 TB/s
สมรรถนะ AI 4000 AI TOPS และ FP32 125 TFLOPS
TDP 600W สำหรับเวิร์กโหลด AI ที่ใช้หน่วยความจำสูง งานเรนเดอร์ และงานจำลอง

สแต็กซอฟต์แวร์

CUDA 12.x

PyTorch 2.x

Triton

vLLM

สถานการณ์ที่เหมาะสมที่สุด

การอนุมานโมเดลที่ใช้หน่วยความจำสูง
การสร้างภาพหรือวิดีโอ
การปรับแต่งโมเดลขนาดเล็ก

ภาพอุปกรณ์