NVIDIA
NVIDIA H100
80GB HBM3 Hopper Architecture — the enterprise benchmark for large-scale training and inference with NVLink scale-out
สงวนและใช้งานตามต้องการ ปรับใช้ในประเทศไทย
$2.85/hr per GPU
ราคาทั้งหมดเป็น USD ไม่รวมภาษี
Deploys high-density NVIDIA H100 SXM5 8-GPU HGX nodes with NVLink 4 interconnect and full root access in Tier III regional infrastructure — optimized for enterprise foundation model training, distributed fine-tuning, and high-throughput inference.
หน่วยความจำ
80GB HBM3
3.35 TB/s bandwidth
สถาปัตยกรรม
Hopper
Family · NVIDIA Hopper
การประมวลผล (FP16)
7.9 PFLOPS (8-GPU, FP16 tensor)
BF16: 7.9 PFLOPS (8-GPU, BF16 tensor) · FP8: 15.8 PFLOPS (8-GPU, FP8 tensor)
การเชื่อมต่อ
NVLink 4 (900 GB/s) / NDR InfiniBand
TDP · 700W
ไฮไลต์
- Enterprise HGX H100 SXM5 architecture with native NVSwitch all-to-all GPU mesh
- NVLink 900GB/s in-node connectivity for multi-GPU training
- Production-ready CUDA, NCCL, and TensorRT-LLM stack for distributed LLM workloads
สแต็กซอฟต์แวร์
CUDA 12.x
PyTorch 2.x
Triton
vLLM
TensorRT-LLM
NCCL
สถานการณ์ที่เหมาะสมที่สุด
- Large-scale LLM training and fine-tuning
- High-throughput inference (TensorRT-LLM / vLLM)
- Mixed-precision scientific computing
ราคาตามการกำหนดค่า
การกำหนดค่า bare-metal ทั้งหมดที่มีสำหรับ GPU นี้ มีส่วนลดสงวนและใช้งานผูกพัน
เริ่มต้นตามต้องการที่ $2.85 /hr per GPU
| การกำหนดค่า | GPUs | VRAM รวม | CPU | หน่วยความจำ | พื้นที่จัดเก็บ | เครือข่าย | $/hr per GPU |
|---|---|---|---|---|---|---|---|
Bare Metal — 8× H100 SXM ยอดนิยม h100-bm-8 | 8 | 640GB | 192 vCPU (dual Intel Xeon) | 2 TB DDR5 | 8× 3.84 TB NVMe | 8× 400G NDR InfiniBand | $2.85 |
ราคาทั้งหมดเป็น USD ไม่รวมภาษี
พร้อมใช้งาน NVIDIA H100 แล้วหรือยัง?
ปรับใช้เซิร์ฟเวอร์เฉพาะภายในไม่กี่วัน หรือพูดคุยกับวิศวกรฝ่ายขายของเราเรื่องการกำหนดค่าแบบกำหนดเอง