การป้องกันความเสี่ยงของ AI สวิตช์ที่เปิดต้องมีตัวเลขผลลัพธ์คู่กัน
| การป้องกัน | สถานะ | ผลการตรวจ | เกณฑ์ | ประเมิน |
|---|---|---|---|---|
| กรองเนื้อหาที่ไม่เหมาะสม | เปิด | พบ 12 ครั้ง | — | ทำงาน |
| ตรวจจับข้อมูลส่วนบุคคล | เปิด | พบ 486 ครั้ง | — | พบบ่อย ต้องดู |
| ตรวจจับถ้อยคำที่เป็นอันตราย | เปิด | พบ 3 ครั้ง | — | ทำงาน |
| ตรวจจับคำตอบที่ไม่มีหลักฐาน | เปิด | 2.4% | ไม่เกิน 1.0% | เกินเกณฑ์ |
| ตรวจสอบแหล่งอ้างอิง | เปิด | อ้างครบ 91.6% | ไม่ต่ำกว่า 95% | ต่ำกว่าเกณฑ์ |
| ป้องกันข้อมูลรั่วไหล | เปิด | บล็อก 24 ครั้ง | — | ทำงาน |
ต้นแบบแสดงเป็นสวิตช์เปิดปิดล้วน โดยไม่มีตัวเลขผลลัพธ์แม้แต่ช่องเดียว — สวิตช์ที่เปิดไว้ทำให้ผู้ดูแลเข้าใจว่าปัญหาถูกจัดการแล้ว ทั้งที่การเปิดใช้การตรวจจับหมายความเพียงว่าระบบกำลังตรวจ ไม่ได้แปลว่าไม่พบ · การตรวจจับคำตอบที่ไม่มีหลักฐานพบ 2.4% ซึ่งเกินเกณฑ์กว่าสองเท่า และการตรวจพบข้อมูลส่วนบุคคลในคำถามที่ผู้ใช้พิมพ์เข้ามา 486 ครั้ง หมายความว่าผู้ใช้กำลังพิมพ์ข้อมูลลูกค้าและพนักงานเข้าไปในช่องแชท ซึ่งเป็นเรื่องที่ต้องอบรมผู้ใช้ ไม่ใช่แค่ให้ระบบกรองทิ้ง
การควบคุมต้นทุน ขอบเขตองค์กรนี้เท่านั้น
| รายการ | ค่าที่ตั้ง | สถานะปัจจุบัน | หมายเหตุ |
|---|---|---|---|
| งบประมาณต่อวัน | ฿ 50,000 | ใช้ไป ฿8,245.60 (16.5%) | ยังห่างจากเพดาน |
| งบประมาณต่อเดือน | ฿ 1,500,000 | คาดใช้ ฿247,368 (16.5%) | สอดคล้องกับงบวัน |
| เกณฑ์แจ้งเตือน | 80% ของงบ | ยังไม่ถึง | แจ้งล่วงหน้าได้ |
| ชะลอการใช้งานเมื่อใกล้เกินงบ | เปิด | ยังไม่ทำงาน | ลดความเร็ว ไม่หยุด |
| ปิดการใช้งานเมื่อเกินงบ | ปิดไว้ | — | ต้องมีการยกเว้นงานสำคัญก่อนเปิด |
สวิตช์ปิดการใช้งาน AI เมื่อเกินงบเป็นสิ่งที่ต้องคิดให้ครบก่อนเปิด — ถ้าระบบหยุดกลางคัน กระบวนการที่กำลังทำงานอยู่จะค้าง เช่นการอนุมัติเอกสารที่รอผลวิเคราะห์ หรือการตรวจใบกำกับภาษีที่ทำไปครึ่งทาง · สิ่งที่ควรทำคือแจ้งล่วงหน้าและชะลอความเร็วก่อน พร้อมกำหนดรายการงานสำคัญที่ยังทำงานต่อได้แม้เกินงบ · ต้นแบบวางสองสวิตช์นี้ไว้ข้างกันเหมือนเป็นทางเลือกเทียบเท่ากัน ทั้งที่ผลต่างกันมาก
สถานะของโมเดล 15 โมเดล
- ใช้งานอยู่8 (53.3%)
- พร้อมใช้4 (26.7%)
- ปิดใช้งาน2 (13.3%)
- รอตรวจสอบ1 (6.7%)
8 + 4 + 2 + 1 = 15 โมเดล ✓ · 53.3 + 26.7 + 13.3 + 6.7 = 100.0% ✓
พารามิเตอร์ที่ตั้งไว้ ค่าที่กระทบพฤติกรรมของคำตอบ
| พารามิเตอร์ | ค่า | ผลต่อคำตอบ |
|---|---|---|
| ความสร้างสรรค์ | 0.3 | ค่าต่ำ = คำตอบคงเส้นคงวา เหมาะกับงานเอกสาร |
| ความยาวคำตอบสูงสุด | 2,048 โทเค็น | จำกัดความยาว ไม่กระทบความถูกต้อง |
| ขนาดบริบทที่จำได้ | 128,000 โทเค็น | อ่านเอกสารยาวได้ในครั้งเดียว |
| จำนวนผลลัพธ์ที่ค้นคืน | 5 รายการ | ยิ่งมากยิ่งช้าแต่ครอบคลุมกว่า |
| เกณฑ์ความใกล้เคียง | 0.75 | ยิ่งสูงยิ่งเข้มงวด อาจไม่เจอเอกสารที่เกี่ยวข้อง |
ค่าความสร้างสรรค์ 0.3 เหมาะกับงานเอกสารและบัญชี แต่ไม่เหมาะกับงานที่ต้องการทางเลือกหลากหลาย เช่นการร่างข้อความการตลาด · ต้นแบบตั้งค่าเดียวใช้กับทุกงาน ซึ่งควรแยกตามประเภทงานแทน
การค้นคืนเอกสารประกอบคำตอบ เนื้อหาเอกสารถูกเก็บที่ไหน
| รายการ | ค่าที่ตั้ง | ข้อควรระวัง |
|---|---|---|
| เปิดใช้การค้นคืนเอกสาร | เปิด | ทำให้คำตอบอ้างเอกสารจริงได้ |
| ที่เก็บดัชนีเอกสาร | ผู้ให้บริการภายนอก | เนื้อหาเอกสารถูกเก็บนอกองค์กร |
| แหล่งเอกสารที่ใช้ | คลังเอกสารภายใน | ต้องกรองเอกสารที่ไม่ควรให้ AI เห็น |
| บันทึกว่าคำตอบใช้เอกสารใด | เปิด | ทำให้ตรวจย้อนได้ |
การใช้ฐานข้อมูลเวกเตอร์ของผู้ให้บริการภายนอกหมายถึงเนื้อหาเอกสารขององค์กรถูกส่งออกไปเก็บนอกระบบ — ต้นแบบระบุชื่อผู้ให้บริการไว้ในช่องตั้งค่าเหมือนเป็นเรื่องเทคนิคธรรมดา · เอกสารที่ถูกทำดัชนีมักรวมสัญญา เอกสารบุคคล และเอกสารการเงิน ซึ่งต้องมีข้อตกลงการประมวลผลข้อมูลและต้องกรองเอกสารที่ไม่ควรให้ AI เข้าถึงออกก่อน ไม่ใช่ทำดัชนีทั้งคลัง
ต้นแบบ — ข้อมูลตัวอย่าง · ค่าที่ตั้งในโมดูลนี้มีผลกับองค์กรนี้เท่านั้น ตัวเลขบนหน้าจึงเป็นคนละฐานกับโมดูล Super Admin ที่นับทั้งแพลตฟอร์ม · ตัวเลขบนหน้านี้ในต้นแบบคำนวณถูกทั้งหมด · สิ่งที่แก้คือระบบเปิดการตรวจจับคำตอบที่ไม่มีหลักฐานไว้แต่ไม่แสดงผลการตรวจเลย — สวิตช์ที่เปิดไว้โดยไม่มีตัวเลขทำให้เข้าใจว่าปัญหาหมดไปแล้ว ทั้งที่หน้า AI Performance Center ระบุว่าพบ 2.4% ซึ่งเกินเกณฑ์ · "ปิดการใช้งาน AI เมื่อเกินงบ" เป็นสวิตช์ที่เปิดได้โดยไม่มีการยกเว้นงานสำคัญ การหยุด AI กลางคันทำให้กระบวนการที่กำลังทำงานค้าง · และการใช้ฐานข้อมูลเวกเตอร์ของผู้ให้บริการภายนอกหมายถึงเนื้อหาเอกสารขององค์กรถูกเก็บไว้กับบุคคลภายนอก ซึ่งต้นแบบไม่มีคำอธิบายเลย