AI Chat
Qwen3.8-27B · openthai2.0 · Qwen3.6-27B · gpt-oss-120b
- เรียกผ่าน LiteLLM virtual key
- แต่ละ key กำหนดโมเดลที่ใช้ได้
- Max tokens 4,096 ต่อคำตอบ
LLM & AI Platform
NT AI Hub (MATCHA)
NT AI Sovereignty — Data Sovereignty by Design
แพลตฟอร์ม AI สัญชาติไทยบน GPU ของ NT ใช้ Open Source AI Model ที่ติดตั้งและรันอยู่ในประเทศไทย ไม่มีการส่งข้อมูลออกไปต่างประเทศ
ศูนย์กลางการบริหารจัดการ AI Model, API, สิทธิ์การใช้งาน และควบคุมค่าใช้จ่ายแบบ Multi-Tenant — บริการ AI 8 ประเภทใน API Key เดียว
- Run in Thailand
- PDPA
- Multi-Tenant
- Audit Trail 12 เดือน
วิดีโอแนะนำ
รู้จัก NT AI Hub ใน 2 มุมมอง
ประโยชน์สำหรับองค์กร และสถาปัตยกรรมเชิงเทคนิคสำหรับทีมไอที — ดูได้ภายในไม่ถึง 2 นาที
Data Sovereignty by Design
ข้อมูลทั้งหมดจัดเก็บและประมวลผลภายในประเทศไทย
ข้อมูลเข้าสู่ระบบผ่านการเข้ารหัส ประมวลผลบน AI Hub ที่ติดตั้งและรันในประเทศไทย และส่งผลลัพธ์กลับภายในระบบเท่านั้น
1Input Data
- ผู้ใช้งานในประเทศไทย
- หน่วยงานภาครัฐ / เอกชน
- ข้อมูลภายในองค์กร
- เอกสาร ไฟล์ ข้อความ
เข้าระบบผ่านการเข้ารหัส (Encryption)
2AI Hub Matcha (Onshore)
ติดตั้งและรันในประเทศไทย
Open Source AI ModelLlama · Qwen · Mistral · Gemma และอื่น ๆ
Private InfrastructureCompute (GPU/CPU) · Storage · Network · Database
- ปลอดภัย
- เป็นส่วนตัว
- ควบคุมได้
- อยู่ในไทย 100%
ประมวลผลและส่งผลลัพธ์ภายในระบบเท่านั้น
3Output / Response
- คำตอบจาก AI (ประมวลผลภายในประเทศ)
- ข้อมูลไม่ถูกส่งออกนอกประเทศ
- รายงาน / สรุปผล (อยู่ในระบบภายใน)
- ควบคุมการเข้าถึงตามนโยบายองค์กร
- No Data Leaves Thailand
- ไม่ส่งข้อมูลออกนอกประเทศ
- ไม่เชื่อมต่อ Cloud ภายนอก
- ไม่ใช้ API ต่างประเทศ
- ไม่เก็บ Log ที่ต่างประเทศ
โหมดเริ่มต้นประมวลผลบน GPU ของ NT ในประเทศไทย — การเรียก Cloud API ภายนอกเปิดใช้เฉพาะงานที่นโยบายขององค์กรอนุญาตเท่านั้น
ระบบที่ใช้งานอยู่วันนี้
MATCHA AI Hub — ระบบที่ใช้งานอยู่วันนี้
ข้อมูลจาก Dashboard และหน้าจอระบบ MATCHA (23 ก.ย. 2569) · ฐานผู้ใช้เดิมที่จะย้ายขึ้น NT AI Hub
- Total Users
- 277
- Pending Approval
- 21
- API Keys
- 52
- Chat Sessions
- 2,751
- Total Tokens
- 1.67M
- Model catalog
- 20
255 active
รอการอนุมัติ
active keys
สะสม
1,671,036 tokens
ผ่าน LiteLLM
บริการที่เปิดใช้งาน
OCR
typhoon-ocr-1-5
- อัปโหลด PDF ≤ 50MB · 200 DPI
- Sync ≤ 3 หน้า / Async ส่งผลทาง Email
- มี API Keys และ API Docs แยก
Voices (จีน – ไทย)
Speech to Text · Text to Speech
- STT: จีน → จีน, จีน → ไทย (.mp3 .mp4 .wav .m4a .wma)
- TTS: ข้อความไทย → เสียงพูดจีน ชาย/หญิง
- ปรับความเร็วเสียง · Export MP3
Model catalog ปัจจุบัน — 20 โมเดล
Self-hosted (7)
vLLM / rnd บน GPU
- Qwen3.8-27B · openthai2.0 · Qwen3.6-27B
- gpt-oss-120b · typhoon-ocr-1-5
- Qwen3-Embedding-4B · bge-reranker-v2-m3
Cloud API — OpenAI (13)
ใช้เมื่อ policy อนุญาต
- gpt-5-mini/nano · gpt-5.4-mini/nano · gpt-5.1-codex-mini
- gpt-4.1 / mini / nano · gpt-4o / mini
- text-embedding-3-small / large
กำลังพัฒนา
ฟีเจอร์ NT AI Hub ที่กำลังพัฒนา
จากระบบทดสอบจริง (ก.ย. 2569) · ทุกฟีเจอร์เรียกผ่าน API Key เดียว และมี Export Code ให้นำไปใช้ต่อ
Playground — ทดสอบได้ทันที 5 ความสามารถ
Chat
Qwen3.8-27B · gpt-oss-120b · openthai2.0
- Streaming response
- ปรับ Temperature · Max Tokens · Top-P
- กำหนด System prompt ได้
OCR
Typhoon OCR
- ไทย + อังกฤษ → Markdown
- PDF / PNG / JPG / WEBP ≤ 25MB
- สูงสุด 200 หน้า/คำขอ · Auto-enhance ภาพ
Embeddings & Rerank
Qwen3-Embedding-4B · bge-reranker-v2-m3
- สร้าง vector สำหรับ semantic search
- จัดอันดับเอกสารใหม่ (rerank)
- พื้นฐานของระบบ RAG
STT
typhoon-asr-realtime-114m
- ถอดเสียงสดผ่าน WebSocket
- ลดเสียงรบกวน · ตัดเสียงสะท้อน · AGC
- อัปโหลดไฟล์ ≤ 25MB / 3 นาที
TTS
jaitts
- เสียงไทย เช่น ผู้ประกาศ MRT
- Streaming audio (WAV)
- สูงสุด 4,096 ตัวอักษร/ครั้ง
แพลตฟอร์มและการกำกับการใช้งาน
API Key & Quota
แยก key ราย tenant / โครงการ
- กำหนดโมเดลที่ใช้ได้ต่อ key
- โควตา token และตัวอักษร TTS ต่อ key / บัญชี
- Export Code — ได้โค้ดเรียก API ทันที
Monitoring & Logs
ดูย้อนหลังรายวัน / รายเดือน
- Total tokens · requests · error rate
- Latency P50 / P95
- สัดส่วนการใช้ตามโมเดล · รายผู้ใช้
ใช้งานทดสอบแล้วเดือนนี้
5,447 requests
11.8M tokens
8 โมเดล ใน API Key เดียว
Governance Layer
ทุกคำขอผ่านชั้นกำกับก่อนถึงโมเดล
คำขอจากแอปพลิเคชันผ่าน API Gateway, Token Metering และ Governance Layer ก่อนถูกส่งต่อไปยัง AI Orchestrator และโมเดลบน GPU ของ NT
- AI AppSDK + REST
- API Gatewayauthn · rate limit
- Token Meteringโควตาตามแพ็กเกจ
-
Governance Layer
- PII redaction ภาษาไทย
- Policy engine ราย tenant
- Audit trail 12 เดือน
- Data residency ในไทย
- PDPA compliance
-
AI Orchestratormodel router · RAG · fallback
Serving Control Layer
vLLM Models
GPU ของ NTRTX PRO 6000 96GB · cloud API เฉพาะงานที่ policy อนุญาต
แผนรับรองมาตรฐาน
- ISO/IEC 27001
- ISO/IEC 42001
- PDPA external audit
- SOC 2 Type II
AI Harness × MATCHA AI Hub
ศูนย์กลางการบริหารจัดการ AI แบบ Multi-Tenant
AI Harness ทำหน้าที่เป็น AI Gateway & Orchestration Layer เชื่อมผู้ใช้ทุก tenant เข้ากับโมเดลและผู้ให้บริการหลายรายผ่าน Unified API — Single Endpoint for All Models
MATCHA AI Hub (Control Plane)
- Tenant Management
- User & Role Management
- Credit & Quota Management
- Model & Provider Management
- Policy & Guardrails
- Dashboard & Reports
Request Management
- Authentication
- Authorization (RBAC)
- Tenant Isolation
- Quota & Credit Check
- Rate Limiting
AI Orchestration
- Model Routing — เลือกโมเดลที่เหมาะสมอัตโนมัติ
- Prompt Management — Template & Version Control
- Guardrails — Safety, PII, Policy Check
- Fallback & Retry อัตโนมัติ
- Caching — ลดค่าใช้จ่ายและเพิ่มความเร็ว
Cost & Usage Management
- Token Counting
- Cost Calculation
- Credit Deduction
- Usage Logging
- Usage Analytics
Deployment & Infra
Cloud API · On-Prem / Private Cloud · Local LLM (Ollama / vLLM) · Edge / Hybrid
Monitoring & Analytics
Real-time Dashboard · Usage Analytics ต่อ Tenant/User/Model · Cost Analysis · Alert & Notification · Audit Log
ความปลอดภัยระดับองค์กร
RBAC · Data Isolation (Multi-Tenant) · Encryption in Transit & At Rest · Audit Log & Compliance
ประโยชน์ของการใช้ AI Harness กับ MATCHA AI Hub
- ควบคุมการใช้งาน AI ได้อย่างปลอดภัยและเป็นระบบ
- บริหารเครดิตและค่าใช้จ่ายได้อย่างมีประสิทธิภาพ — รองรับเครดิตสำรอง (Pool กลาง)
- ยืดหยุ่น เลือกใช้โมเดลได้หลากหลาย
- รองรับ Multi-Tenant อย่างสมบูรณ์แบบ
- ลดความซับซ้อนในการเชื่อมต่อ AI Model
Serving Control Layer — การบริหารจัดการทรัพยากร (vLLM)
- Max Concurrent / Clientป้องกันผู้ใช้รายเดียวดึงทรัพยากรทั้งเครื่อง
- Max Concurrent รวมเพดานต่อ 1 GPU Node (เกินสิทธิ์จะถูกจัดเข้าคิว)
- Max Token Limitเพดานแข็ง (Hard Limit) ขอเกินถูกปฏิเสธทันที
- Chat Queue Timeoutหากรอคิวเกินกำหนด ระบบคืนค่า HTTP 429
vLLM Runtime Engine
KV Cache ManagementPagedAttention · รันบน FP8Memory Usageจอง 90% GPU memory ล่วงหน้า · รองรับ Prefix reuse
Roadmap
จาก MATCHA สู่ NT AI Hub
วิวัฒนาการแพลตฟอร์ม AI สัญชาติไทยเพื่อความมั่นคงของข้อมูล
MATCHA (Beta)
ระบบทดสอบ (Test System)
เน้นทดสอบในกลุ่มปิด (Closed Group Testing) — ฐานผู้ใช้งานปัจจุบัน
- 277Total Users
- 2,751Chat Sessions
- 20Models
NT AI Hub (Production)
ระบบใช้งานจริง — Sovereign AI บน GPU ของ NT ในไทย
- เปิดใช้งานทั่วไปพร้อม SLA สูงสุด 99.5%
- 8 บริการ AI ใน API Key เดียว — Chat, OCR, Voice (STT/TTS), Embeddings, Rerank และอื่น ๆ
- Multi-tenant พร้อม PII Redaction และ Audit Trail นาน 12 เดือน
NT AI Product Portfolio
โซลูชันที่เกี่ยวข้อง
06
LLM & AI Platform
Chatbot Solutions
Chatbot Solutions
LLM & AI Platform
NT GPUaaS
บริการ GPU บนคลาวด์แบบยืดหยุ่น รองรับงาน AI/ML และ LLM ขนาดใหญ่
ดูรายละเอียด 01
Chatbot Solutions
NT AI Chatbot
แพลตฟอร์มแชทบอทอัจฉริยะ สร้างและจัดการแชทบอทได้ง่าย พร้อมทีมผู้เชี่ยวชาญดูแลแบบ Managed Service
ดูรายละเอียด 02
Chatbot Solutions
NT AI Legal Advisor
AI Chatbot ตอบคำถามกฎหมายสำหรับองค์กรปกครองส่วนท้องถิ่น อ้างอิงมาตราได้แม่นยำ
ดูรายละเอียดเริ่มต้นกับ NT
พร้อมขับเคลื่อนองค์กรของคุณด้วย AI แล้วหรือยัง?
ปรึกษาทีมผู้เชี่ยวชาญของ NT เพื่อประเมินความพร้อม เลือกโซลูชันที่เหมาะสม และวางแผนการใช้งาน AI อย่างปลอดภัยภายใต้ธรรมาภิบาล