NVIDIA
NVIDIA RTX PRO 6000
96GB GDDR7 Blackwell-architecture GPU — high-density inference and AIGC acceleration
สงวนและใช้งานตามต้องการ ปรับใช้ในประเทศไทย
$1.45/hr per GPU
ราคาทั้งหมดเป็น USD ไม่รวมภาษี
Deployed as high-density physical bare-metal infrastructure by TATC, the RTX PRO 6000 features 96GB of high-capacity GDDR7 memory and 1.8 TB/s bandwidth, optimized for large-scale LLM inference, AIGC workflows, and model fine-tuning where NVLink scale-out is not required.
หน่วยความจำ
96GB GDDR7
1.8 TB/s bandwidth
สถาปัตยกรรม
Blackwell
Family · NVIDIA RTX PRO
การประมวลผล (FP16)
0.38 PFLOPS (8-GPU)
BF16: 0.38 PFLOPS (8-GPU)
การเชื่อมต่อ
100G RoCE High-Speed Fabric
TDP · 600W
ไฮไลต์
- Cost-effective entry point for high-VRAM CUDA inference
- Holds 70B–200B quantised models entirely in VRAM
- Seamless integration with Hugging Face transformers ecosystem
สแต็กซอฟต์แวร์
CUDA 12.x
PyTorch 2.x
Triton
vLLM
สถานการณ์ที่เหมาะสมที่สุด
- LLM inference (70B-class models fully in VRAM)
- AIGC image / video generation
- Small-model fine-tuning
ราคาตามการกำหนดค่า
การกำหนดค่า bare-metal ทั้งหมดที่มีสำหรับ GPU นี้ มีส่วนลดสงวนและใช้งานผูกพัน
เริ่มต้นตามต้องการที่ $1.45 /hr per GPU
| การกำหนดค่า | GPUs | VRAM รวม | CPU | หน่วยความจำ | พื้นที่จัดเก็บ | เครือข่าย | $/hr per GPU |
|---|---|---|---|---|---|---|---|
Bare Metal — 8× RTX PRO 6000 ยอดนิยม rtxpro6000-bm-8 | 8 | 768GB | 192 vCPU | 1 TB DDR5 | 8× 1.92 TB NVMe | 200G RoCE | $1.45 |
ราคาทั้งหมดเป็น USD ไม่รวมภาษี
พร้อมใช้งาน NVIDIA RTX PRO 6000 แล้วหรือยัง?
ปรับใช้เซิร์ฟเวอร์เฉพาะภายในไม่กี่วัน หรือพูดคุยกับวิศวกรฝ่ายขายของเราเรื่องการกำหนดค่าแบบกำหนดเอง