คู่มือเริ่มต้นอย่างรวดเร็ว
ยินดีต้อนรับสู่เอกสารทางเทคนิคสำหรับนักพัฒนาของแพลตฟอร์ม TATC คู่มือนี้อธิบายขั้นตอนการบูรณาการสำหรับการยืนยันตัวตน การส่งคำขออนุมานผ่าน TATC Token API และการตรวจสอบการเข้าถึงสภาพแวดล้อมสำหรับโครงสร้างพื้นฐาน Bare Metal GPU
1. มาตรฐานการยืนยันตัวตน
แพลตฟอร์ม TATC ใช้การยืนยันตัวตนแบบ Bearer Token ในทุก endpoint ของ API คำขอทั้งหมดต้องรวมคีย์ API ที่จัดเตรียมของคุณในส่วนหัว HTTP Authorization
ขอบเขตความปลอดภัยและการปฏิบัติตาม: คีย์ API มีสิทธิ์เข้าถึงเต็มรูปแบบสำหรับโควตาผู้เช่าที่จัดสรรของคุณ จัดเก็บคีย์อย่างปลอดภัยเสมอโดยใช้ตัวแปรสภาพแวดล้อมหรือระบบตู้นิรภัยการจัดการความลับ อย่าเปิดเผยคีย์ดิบในที่เก็บสาธารณะหรือ codebase ฝั่งไคลเอนต์
2. การบูรณาการ TATC Token API
TATC Token API ให้ส่วนติดต่อ RESTful แบบรวมศูนย์ที่เข้ากันได้อย่างสมบูรณ์กับไลบรารีไคลเอนต์ OpenAI มาตรฐาน LangChain และเฟรมเวิร์กการจัดการ LiteLLM
ตัวเลือก A: คำขอ HTTP REST (cURL)
ดำเนินการคำขอ HTTP POST ไปยัง endpoint /v1/chat/completions เพื่อตรวจสอบการเชื่อมต่อ endpoint และการอนุญาตคีย์:
curl https://api.tatc.cloud/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-xxxx" \
-d '{
"model": "model-name",
"messages": [
{
"role": "user",
"content": "Verify system connectivity and latency."
}
],
"temperature": 0.2
}'ตัวเลือก B: การบูรณาการ Python
กำหนดค่า SDK openai มาตรฐานโดยชี้ base_url ไปที่เกตเวย์ TATC:
import os
from openai import OpenAI
# Initialize client using environment variable authentication
client = OpenAI(
base_url="https://api.tatc.cloud/v1",
api_key=os.environ.get("TATC_API_KEY", "sk-xxxxxxx")
)
# Execute completion request
response = client.chat.completions.create(
model="model-name",
messages=[
{"role": "system", "content": "You are an enterprise AI assistant."},
{"role": "user", "content": "Confirm active API endpoint status."}
],
temperature=0.2
)
print(response.choices[0].message.content)3. สภาพแวดล้อมเซิร์ฟเวอร์ Bare Metal GPU
เซิร์ฟเวอร์ Bare Metal GPU ของ TATC ให้การประมวลผลทางกายภาพผู้เช่าเดียวโดยเฉพาะที่ออกแบบมาสำหรับโหลดงาน AI และ HPC ที่มีความหนาแน่นสูง
คุณลักษณะสถาปัตยกรรม
- •การแยกทางกายภาพ: ฮาร์ดแวร์ผู้เช่าเดียวที่ไม่มี overhead จากการเวอร์ชวลไลเซชันและการส่งผ่านฮาร์ดแวร์โดยตรง
- •สิทธิ์รูทเต็มรูปแบบ: การควบคุมการดำเนินการอย่างสมบูรณ์เหนือเคอร์เนลระบบปฏิบัติการแบบกำหนดเอง runtime คอนเทนเนอร์ และสแต็กการดำเนินการภายใน
- •การเชื่อมต่อ Throughput สูง: ผ้าภูมิภาคเฉพาะที่รองรับโทโพโลยีการขยายคลัสเตอร์แบนด์วิดท์สูง
การจัดเตรียมและการเข้าถึงระดับองค์กร
เพื่อรักษาการแยกทางกายภาพที่เข้มงวดและการกำหนดเส้นทางฮาร์ดแวร์เฉพาะ คลัสเตอร์ bare-metal ทั้งหมดจะถูกปรับใช้ผ่านกระบวนการจัดเตรียมระดับองค์กรที่มีการจัดการของเรา
เมื่อการตรวจสอบบัญชีและการจัดสรรคลัสเตอร์:
- เส้นทางเครือข่าย การกำหนด IP เฉพาะ และพารามิเตอร์การเข้าถึงจะถูกจัดเตรียมโดยวิศวกร SRE ของ TATC
- การเข้าถึงรูทที่ปลอดภัยจะมอบให้ผู้ดูแลระบบองค์กรที่กำหนดของคุณผ่านการยืนยันตัวตนคีย์ SSH
ขอบเขตการดำเนินงาน: TATC บำรุงรักษาการดำเนินงานสถานที่ศูนย์ข้อมูลทางกายภาพ การสำรองพลังงาน และสุขภาพฮาร์ดแวร์ ลูกค้าถือความรับผิดชอบเพียงผู้เดียวสำหรับการปรับใช้สแต็กซอฟต์แวร์ การกำหนดค่าเคอร์เนล และโหลดงานระดับแอปพลิเคชัน
4. รหัสการตอบสนองเกตเวย์มาตรฐาน
เกตเวย์ TATC ส่งคืนรหัสสถานะ HTTP มาตรฐาน โปรดดูตารางด้านล่างสำหรับการจัดการการตอบสนอง API:
| รหัส HTTP | คำอธิบายสถานะ | สาเหตุและการแก้ไข |
|---|---|---|
| 200 | OK — สำเร็จ | คำขอเสร็จสมบูรณ์ |
| 401 | ไม่ได้รับอนุญาต — การยืนยันตัวตนล้มเหลว | คีย์ API sk- หายไปหรือไม่ถูกต้องในส่วนหัว Authorization |
| 429 | จำกัดอัตรา — เกินโควตา | ถึงขีดจำกัด TPM/RPM ของบัญชีหรือขีดจำกัดการใช้จ่ายแบบแข็ง |
| 500 | ข้อผิดพลาดภายใน — ข้อผิดพลาดของเกตเวย์ / โครงสร้างพื้นฐาน | ข้อผิดพลาดของโหนดการประมวลผลต้นสาย ลองใหม่โดยใช้ exponential backoff |
5. หลักการรักษาความปลอดภัยและการกำกับข้อมูล
Zero-Data-Retention (ZDR): เกตเวย์ TATC ดำเนินการบนพื้นฐานการผ่านเท่านั้น prompt payload และสตรีมการตอบสนองจะถูกประมวลผลในหน่วยความจำและจะไม่ถูกจัดเก็บ บันทึก หรือใช้สำหรับการฝึกโมเดล
ขอบเขต IaaS: TATC บำรุงรักษาความพร้อมใช้งานของสถานที่ศูนย์ข้อมูลทางกายภาพ สุขภาพฮาร์ดแวร์ และการเชื่อมต่อเครือข่าย ลูกค้าถือความรับผิดชอบเพียงผู้เดียวสำหรับแพ็กเกจระดับระบบปฏิบัติการ การกำหนดค่าเคอร์เนล และความปลอดภัยของแอปพลิเคชัน