โมเดลที่เชื่อมต่อและการกระจายงาน 12 โมเดล
| โมเดล | ผู้ให้บริการ | ประเภท | สัดส่วนงาน | คะแนนรวม | ที่ตั้งผู้ประมวลผล |
|---|---|---|---|---|---|
| โมเดลภาษาขนาดใหญ่ A | ผู้ให้บริการ 1 | LLM | 32.4% | 9.1 | ต่างประเทศ |
| โมเดลภาษาขนาดใหญ่ B | ผู้ให้บริการ 2 | LLM | 22.1% | 9.0 | ต่างประเทศ |
| โมเดลภาษาขนาดใหญ่ C | ผู้ให้บริการ 3 | LLM | 18.6% | 9.2 | ต่างประเทศ |
| โมเดลที่ติดตั้งเอง | ภายในองค์กร | LLM | 12.8% | 9.0 | ในประเทศ · ศูนย์ข้อมูลของบริษัท |
| โมเดลอื่น ๆ (8 ตัว) | หลายราย | LLM + Embedding | 14.1% | 9.0 | ผสม |
| รวม | 100.0% |
32.4 + 22.1 + 18.6 + 12.8 + 14.1 = 100.0% ✓ · คะแนนรวมของโมเดลที่ติดตั้งเอง (8.6 + 8.3 + 9.2 + 10.0) ÷ 4 = 9.0 ✓ แก้จาก 8.8 ที่ต้นแบบระบุ
เพิ่มคอลัมน์ที่ตั้งผู้ประมวลผลซึ่งต้นแบบไม่มี — งาน 73.1% ถูกส่งไปประมวลผลกับผู้ให้บริการในต่างประเทศ ซึ่งเป็นการส่งข้อมูลออกนอกราชอาณาจักร · ตาม พ.ร.บ. คุ้มครองข้อมูลส่วนบุคคล 2562 การส่งข้อมูลส่วนบุคคลไปต่างประเทศต้องเป็นไปตามหลักเกณฑ์ที่กฎหมายกำหนด · และต้องมีข้อตกลงที่ระบุชัดว่าห้ามนำข้อมูลไปฝึกโมเดล ซึ่งเป็นเงื่อนไขที่ผู้ให้บริการแต่ละรายมีค่าตั้งต้นต่างกัน บางรายเปิดใช้การเก็บข้อมูลเป็นค่าเริ่มต้น
ค่าใช้จ่ายแยกตามผู้ให้บริการ 18,745.30 ดอลลาร์เดือนนี้
- ผู้ให้บริการ 1$7,845.30 (41.9%)
- ผู้ให้บริการ 2$4,256.80 (22.7%)
- ผู้ให้บริการ 3$2,985.60 (15.9%)
- โมเดลที่ติดตั้งเอง$2,120.50 (11.3%)
- อื่น ๆ$1,537.10 (8.2%)
7,845.30 + 4,256.80 + 2,985.60 + 2,120.50 + 1,537.10 = $18,745.30 ✓ · 41.9 + 22.7 + 15.9 + 11.3 + 8.2 = 100.0% ✓ (ต้นแบบคำนวณถูก)
ต้นแบบระบุค่าใช้จ่ายวันนี้ $1,245.68 ซึ่งคูณ 30 วันได้ $37,370 — เป็นสองเท่าของยอดเดือนที่เขียนไว้ในการ์ดถัดไป · ค่าเฉลี่ยจริงคือ $604.69 ต่อวัน · ตัวเลข 1,245 นี้ยังปรากฏเป็น ฿1,245,680 ในหน้า AI Performance Center และ ฿1,245.8M ในหน้า Super Admin Strategy AI ซึ่งเป็นสามสเกลที่ต่างกัน 1,000 เท่า การใช้ชุดตัวเลขเดียวกันแทนสิ่งที่ไม่เกี่ยวกันเป็นรูปแบบที่พบซ้ำในชุด mockup นี้
การสลับโมเดลอัตโนมัติ เมื่อสลับ ข้อมูลไปอยู่กับผู้ประมวลผลรายใหม่
ต้องมีข้อตกลงกับทุกรายในสายสำรอง| เงื่อนไข | โมเดลหลัก | โมเดลสำรอง | ข้อมูลไปที่ไหนเมื่อสลับ | สถานะข้อตกลง |
|---|---|---|---|---|
| ค่าเริ่มต้น | ผู้ให้บริการ 1 | ผู้ให้บริการ 2 | เปลี่ยนผู้ประมวลผลและประเทศ | มีข้อตกลงทั้งสองราย |
| เมื่อโหลดสูง | ผู้ให้บริการ 3 | โมเดลที่ติดตั้งเอง | ย้ายเข้าศูนย์ข้อมูลของบริษัท | ไม่ต้องมีข้อตกลง |
| เมื่อต้องการลดต้นทุน | ผู้ให้บริการ 2 | ผู้ให้บริการ 4 | เปลี่ยนผู้ประมวลผลและประเทศ | รอลงนามกับรายที่ 4 |
| เมื่อต้องการความเร็ว | ผู้ให้บริการ 3 | ผู้ให้บริการ 5 | เปลี่ยนผู้ประมวลผลและประเทศ | ยังไม่มีข้อตกลง |
ต้นแบบแสดงการตั้งค่าสลับโมเดลเป็นเพียงเรื่องเทคนิค — คู่หลักและคู่สำรองพร้อมสถานะเปิดใช้งาน โดยไม่มีคำอธิบายว่าเมื่อสลับแล้วข้อมูลจะเดินทางไปที่ไหน · การสลับโมเดลอัตโนมัติหมายถึงข้อมูลที่ส่งไปประมวลผลเปลี่ยนผู้รับโดยที่ผู้ใช้ไม่รู้ ถ้าผู้ให้บริการปลายทางยังไม่มีข้อตกลงการประมวลผลข้อมูล การสลับครั้งนั้นคือการส่งข้อมูลให้บุคคลอื่นโดยไม่มีฐานรองรับ · สองสายสำรองในตารางนี้ยังไม่พร้อมใช้งาน ระบบจึงต้องปิดสายที่ไม่มีข้อตกลงไว้ก่อน ไม่ใช่เปิดไว้แล้วค่อยตามเอกสาร · และงานที่มีข้อมูลส่วนบุคคลควรถูกกำหนดให้ใช้เฉพาะโมเดลที่ติดตั้งเองเท่านั้น
คะแนนของแต่ละโมเดล ตรวจการคำนวณทุกแถว
| โมเดล | คุณภาพ | ความเร็ว | ความน่าเชื่อถือ | ความคุ้มค่า | คะแนนรวม |
|---|---|---|---|---|---|
| โมเดลภาษา A | 9.6 | 9.2 | 9.8 | 7.8 | 9.1 |
| โมเดลภาษา B | 9.4 | 8.8 | 9.6 | 8.2 | 9.0 |
| โมเดลภาษา C | 9.1 | 9.4 | 9.4 | 9.0 | 9.2 |
| โมเดลที่ติดตั้งเอง | 8.6 | 8.3 | 9.2 | 10.0 | 9.0 |
| โมเดลทางเลือก | 8.9 | 8.9 | 9.1 | 9.2 | 9.0 |
ตรวจทั้ง 5 แถว — แถวที่ 4 (8.6 + 8.3 + 9.2 + 10.0) ÷ 4 = 9.025 → 9.0 ✓ ต้นแบบแสดง 8.8 ซึ่งผิด · อีก 4 แถวคำนวณถูก
โมเดลที่ติดตั้งเองได้คะแนนความคุ้มค่าเต็ม 10 เพราะไม่มีค่าเรียกใช้ต่อครั้ง แต่ได้คะแนนคุณภาพและความเร็วต่ำที่สุด · นี่คือข้อแลกเปลี่ยนที่แท้จริงของการติดตั้งโมเดลเอง คือประหยัดและควบคุมข้อมูลได้ แต่ต้องยอมรับคุณภาพที่ต่ำกว่า · ระบบที่จัดอันดับด้วยคะแนนรวมอย่างเดียวจะทำให้ข้อแลกเปลี่ยนนี้หายไป ทั้งที่เป็นเรื่องที่ต้องตัดสินใจตามลักษณะงาน ไม่ใช่ตามคะแนน
ข้อควรระวังในการใช้โมเดลภายนอก
ต้นแบบแสดงชื่อผู้ให้บริการและชื่อรุ่นโมเดลจริงพร้อมราคาต่อโทเค็นและวันที่ปล่อยรุ่น — ราคาและรุ่นของโมเดลเปลี่ยนทุกไม่กี่เดือน แพลตฟอร์มที่บันทึกราคาไว้ตายตัวจะแสดงตัวเลขที่ผิดภายในไม่นาน · ระบบควรดึงราคาจากผู้ให้บริการและแสดงวันที่ของข้อมูลกำกับ · ต้นแบบยังแสดงหน้าทดลองใช้โมเดลบนหน้าจอผู้ดูแลระบบ ซึ่งเป็นอีกช่องทางที่ข้อมูลออกไปยังผู้ให้บริการภายนอกโดยไม่ผ่านการควบคุมเดียวกับการเรียกใช้ปกติ
ต้นแบบ — ข้อมูลตัวอย่าง · ทุกการเชื่อมต่อคือช่องทางที่ข้อมูลเดินทางออกนอกระบบ ต้องมีข้อตกลงการประมวลผลข้อมูลกับผู้ให้บริการทุกราย ตาม พ.ร.บ. คุ้มครองข้อมูลส่วนบุคคล 2562 · หน้านี้แก้จากต้นแบบ 4 จุด ค่าใช้จ่ายวันนี้ $1,245.68 คูณ 30 วันได้ $37,370 ซึ่งเป็นสองเท่าของยอดเดือนที่เขียนไว้ $18,745.30 · คะแนนรวมของโมเดลหนึ่งคำนวณผิด — (8.6+8.3+9.2+10.0) ÷ 4 = 9.0 ไม่ใช่ 8.8 · เลข 1245 ปรากฏเป็นค่าใช้จ่ายในสามหน้าด้วยสามสเกลต่างกัน · และการตั้งค่าสลับโมเดลอัตโนมัติข้ามผู้ให้บริการไม่มีคำอธิบายว่าข้อมูลจะเดินทางไปที่ไหน — เมื่อระบบสลับไปใช้ผู้ให้บริการรายอื่นโดยอัตโนมัติ ข้อมูลที่ส่งไปประมวลผลก็ไปอยู่กับผู้ประมวลผลรายใหม่ซึ่งอาจอยู่คนละประเทศ ต้องมีข้อตกลงแยกกับทุกราย