Amazon Bedrock 101 & การเลือก Foundation Model
API หลักของ Bedrock, ตัวเลือกการ inference และวิธีเลือก FM ให้เหมาะกับงาน
Amazon Bedrock คือบริการ fully managed ที่ให้เรียกใช้ Foundation Models (FMs) จากหลายผู้ให้บริการ (Anthropic Claude, Amazon Nova/Titan, Meta Llama, Mistral, Cohere ฯลฯ) ผ่าน API เดียว โดยไม่ต้องดูแล infrastructure — นี่คือเหตุผลที่ Bedrock มักเป็นคำตอบเมื่อโจทย์บอกว่า "LEAST operational overhead"
ข้อมูลที่ส่งเข้า Bedrock ไม่ถูกนำไปเทรนโมเดล และไม่ถูกแชร์ให้ผู้ให้บริการโมเดล
| API | ใช้เมื่อ | จุดเด่น |
|---|---|---|
| แชต/งานทั่วไป อยากสลับโมเดลง่าย | รูปแบบ request เดียวกันทุกโมเดล รองรับ tool use, system prompt, multi-turn |
| ต้องการส่ง body ตาม format เฉพาะของโมเดล | ควบคุม parameter เฉพาะโมเดลได้เต็มที่ |
| UX ต้องเห็นคำตอบเร็ว ลด perceived latency | ส่งผลลัพธ์ทีละ chunk (time-to-first-token ต่ำ) |
Batch inference ( | ประมวลผลข้อมูลจำนวนมากจาก S3 แบบ offline | ราคาถูกกว่า on-demand ราว 50% (เฉพาะโมเดลที่รองรับ) |
| ตัวเลือก | เหมาะกับ | จำง่ายๆ |
|---|---|---|
On-demand | traffic ไม่แน่นอน, เริ่มต้น | จ่ายตาม token |
Provisioned Throughput | traffic สูงสม่ำเสมอ, ต้องการ throughput การันตี, ใช้ custom model | ซื้อ Model Units เป็นก้อน |
Cross-Region Inference | เจอ throttling / ต้องการ throughput เพิ่ม / โมเดลมีแค่บาง Region | inference profile กระจาย request ไปหลาย Region อัตโนมัติ |
Batch | งาน offline ปริมาณมาก | ถูกสุดถ้าไม่รีบ |
เลือก FM อย่างไร
พิจารณาตามลำดับ: ความสามารถ (text, image, multimodal, tool use) → คุณภาพ (benchmark / ลองกับข้อมูลจริงด้วย Model Evaluation) → latency → ต้นทุนต่อ token → context window → Region availability / compliance
สำหรับ parameter การ generate:
temperatureต่ำ (0–0.3) = คำตอบคงที่ เหมาะกับ extraction, classification, codetemperatureสูง = สร้างสรรค์ เหมาะกับ marketing copytop_p/top_k= จำกัดชุด token ที่สุ่มได้max_tokens= คุมความยาว (และต้นทุน)stop sequences= ตัดการ generate เมื่อเจอ pattern
บริษัทต้องสรุปเอกสาร 2 ล้านไฟล์ใน S3 ภายในสัปดาห์นี้ ไม่มีผู้ใช้รอผลแบบ real-time และต้องการต้นทุนต่ำที่สุด ควรใช้อะไร?
การดึงความรู้ออกมาใช้ทันทีหลังอ่าน (retrieval practice) ช่วยให้จำได้นานขึ้นมาก