เอกสาร

คู่มือเริ่มต้นอย่างรวดเร็ว

ยินดีต้อนรับสู่เอกสารทางเทคนิคสำหรับนักพัฒนาของแพลตฟอร์ม TATC คู่มือนี้อธิบายขั้นตอนการบูรณาการสำหรับการยืนยันตัวตน การส่งคำขออนุมานผ่าน TATC Token API และการตรวจสอบการเข้าถึงสภาพแวดล้อมสำหรับโครงสร้างพื้นฐาน Bare Metal GPU

1. มาตรฐานการยืนยันตัวตน

แพลตฟอร์ม TATC ใช้การยืนยันตัวตนแบบ Bearer Token ในทุก endpoint ของ API คำขอทั้งหมดต้องรวมคีย์ API ที่จัดเตรียมของคุณในส่วนหัว HTTP Authorization

คีย์ API ของ TATC ใช้รูปแบบคำนำหน้า sk- มาตรฐาน: sk-xxxxxxxxxxxxxxxx

ขอบเขตความปลอดภัยและการปฏิบัติตาม: คีย์ API มีสิทธิ์เข้าถึงเต็มรูปแบบสำหรับโควตาผู้เช่าที่จัดสรรของคุณ จัดเก็บคีย์อย่างปลอดภัยเสมอโดยใช้ตัวแปรสภาพแวดล้อมหรือระบบตู้นิรภัยการจัดการความลับ อย่าเปิดเผยคีย์ดิบในที่เก็บสาธารณะหรือ codebase ฝั่งไคลเอนต์

2. การบูรณาการ TATC Token API

TATC Token API ให้ส่วนติดต่อ RESTful แบบรวมศูนย์ที่เข้ากันได้อย่างสมบูรณ์กับไลบรารีไคลเอนต์ OpenAI มาตรฐาน LangChain และเฟรมเวิร์กการจัดการ LiteLLM

ตัวเลือก A: คำขอ HTTP REST (cURL)

ดำเนินการคำขอ HTTP POST ไปยัง endpoint /v1/chat/completions เพื่อตรวจสอบการเชื่อมต่อ endpoint และการอนุญาตคีย์:

curl https://api.tatc.cloud/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-xxxx" \
  -d '{
    "model": "model-name",
    "messages": [
      {
        "role": "user",
        "content": "Verify system connectivity and latency."
      }
    ],
    "temperature": 0.2
  }'

ตัวเลือก B: การบูรณาการ Python

กำหนดค่า SDK openai มาตรฐานโดยชี้ base_url ไปที่เกตเวย์ TATC:

import os
from openai import OpenAI

# Initialize client using environment variable authentication
client = OpenAI(
    base_url="https://api.tatc.cloud/v1",
    api_key=os.environ.get("TATC_API_KEY", "sk-xxxxxxx")
)

# Execute completion request
response = client.chat.completions.create(
    model="model-name",
    messages=[
        {"role": "system", "content": "You are an enterprise AI assistant."},
        {"role": "user", "content": "Confirm active API endpoint status."}
    ],
    temperature=0.2
)
print(response.choices[0].message.content)

3. สภาพแวดล้อมเซิร์ฟเวอร์ Bare Metal GPU

เซิร์ฟเวอร์ Bare Metal GPU ของ TATC ให้การประมวลผลทางกายภาพผู้เช่าเดียวโดยเฉพาะที่ออกแบบมาสำหรับโหลดงาน AI และ HPC ที่มีความหนาแน่นสูง

คุณลักษณะสถาปัตยกรรม

  • การแยกทางกายภาพ: ฮาร์ดแวร์ผู้เช่าเดียวที่ไม่มี overhead จากการเวอร์ชวลไลเซชันและการส่งผ่านฮาร์ดแวร์โดยตรง
  • สิทธิ์รูทเต็มรูปแบบ: การควบคุมการดำเนินการอย่างสมบูรณ์เหนือเคอร์เนลระบบปฏิบัติการแบบกำหนดเอง runtime คอนเทนเนอร์ และสแต็กการดำเนินการภายใน
  • การเชื่อมต่อ Throughput สูง: ผ้าภูมิภาคเฉพาะที่รองรับโทโพโลยีการขยายคลัสเตอร์แบนด์วิดท์สูง

การจัดเตรียมและการเข้าถึงระดับองค์กร

เพื่อรักษาการแยกทางกายภาพที่เข้มงวดและการกำหนดเส้นทางฮาร์ดแวร์เฉพาะ คลัสเตอร์ bare-metal ทั้งหมดจะถูกปรับใช้ผ่านกระบวนการจัดเตรียมระดับองค์กรที่มีการจัดการของเรา

เมื่อการตรวจสอบบัญชีและการจัดสรรคลัสเตอร์:

  1. เส้นทางเครือข่าย การกำหนด IP เฉพาะ และพารามิเตอร์การเข้าถึงจะถูกจัดเตรียมโดยวิศวกร SRE ของ TATC
  2. การเข้าถึงรูทที่ปลอดภัยจะมอบให้ผู้ดูแลระบบองค์กรที่กำหนดของคุณผ่านการยืนยันตัวตนคีย์ SSH

ขอบเขตการดำเนินงาน: TATC บำรุงรักษาการดำเนินงานสถานที่ศูนย์ข้อมูลทางกายภาพ การสำรองพลังงาน และสุขภาพฮาร์ดแวร์ ลูกค้าถือความรับผิดชอบเพียงผู้เดียวสำหรับการปรับใช้สแต็กซอฟต์แวร์ การกำหนดค่าเคอร์เนล และโหลดงานระดับแอปพลิเคชัน

4. รหัสการตอบสนองเกตเวย์มาตรฐาน

เกตเวย์ TATC ส่งคืนรหัสสถานะ HTTP มาตรฐาน โปรดดูตารางด้านล่างสำหรับการจัดการการตอบสนอง API:

รหัส HTTPคำอธิบายสถานะสาเหตุและการแก้ไข
200OK — สำเร็จคำขอเสร็จสมบูรณ์
401ไม่ได้รับอนุญาต — การยืนยันตัวตนล้มเหลวคีย์ API sk- หายไปหรือไม่ถูกต้องในส่วนหัว Authorization
429จำกัดอัตรา — เกินโควตาถึงขีดจำกัด TPM/RPM ของบัญชีหรือขีดจำกัดการใช้จ่ายแบบแข็ง
500ข้อผิดพลาดภายใน — ข้อผิดพลาดของเกตเวย์ / โครงสร้างพื้นฐานข้อผิดพลาดของโหนดการประมวลผลต้นสาย ลองใหม่โดยใช้ exponential backoff

5. หลักการรักษาความปลอดภัยและการกำกับข้อมูล

Zero-Data-Retention (ZDR): เกตเวย์ TATC ดำเนินการบนพื้นฐานการผ่านเท่านั้น prompt payload และสตรีมการตอบสนองจะถูกประมวลผลในหน่วยความจำและจะไม่ถูกจัดเก็บ บันทึก หรือใช้สำหรับการฝึกโมเดล

ขอบเขต IaaS: TATC บำรุงรักษาความพร้อมใช้งานของสถานที่ศูนย์ข้อมูลทางกายภาพ สุขภาพฮาร์ดแวร์ และการเชื่อมต่อเครือข่าย ลูกค้าถือความรับผิดชอบเพียงผู้เดียวสำหรับแพ็กเกจระดับระบบปฏิบัติการ การกำหนดค่าเคอร์เนล และความปลอดภัยของแอปพลิเคชัน