บทนำ
ลองนึกภาพว่าปีที่แล้วธนาคารของคุณใช้ AI ปฏิเสธสินเชื่อลูกค้ารายหนึ่ง วันนี้ลูกค้าร้องเรียน ผู้กำกับขอดูหลักฐาน คุณกดรันระบบเดิมซ้ำเพื่อพิสูจน์ว่าตอนนั้นตัดสินใจถูกต้อง แต่ผลที่ออกมากลับไม่เหมือนเดิม เพราะผู้ให้บริการ AI อัปเดตโมเดลไปแล้ว และถอดปุ่มที่คุณเคยใช้ตรึงผลลัพธ์ทิ้งไปด้วย งานวิจัยชิ้นใหม่จาก Baylor University ที่เผยแพร่บน arXiv เมื่อเดือนสิงหาคม 2569 ทดลองเรื่องนี้จริงจังกับโมเดล 9 เวอร์ชัน และพบว่าสถานการณ์ข้างต้นไม่ใช่เรื่องสมมติ นี่คือเหตุผลที่ธุรกิจไทยต้องอ่านตอนนี้ ก่อนที่ พ.ร.บ. AI ของไทยจะบังคับใช้
ข้อเท็จจริง
งานวิจัยชิ้นนี้เสนอแนวคิดที่เรียกว่า “ช่องว่างของการพิสูจน์ได้” (Verifiability Gap) ซึ่งอธิบายง่ายๆ คือ ระยะห่างระหว่าง “หลักฐานที่กฎหมายต้องการ” กับ “หลักฐานที่องค์กรเก็บไว้ได้จริง” หลังจาก AI ตัดสินใจไปแล้ว ข้อเสนอหลักของผู้วิจัย คือ อุปสรรคของการกำกับดูแล AI ในภาคการเงินตอนนี้ไม่ใช่เรื่อง “AI เก่งพอหรือยัง” แต่คือเรื่อง “ตรวจสอบย้อนหลังได้หรือเปล่า”
การทดลองแบ่งเป็นสามชุด และผลที่ได้ค่อนข้างสวนสามัญสำนึกของคนทำ Compliance
ชุดแรก ทดสอบเคสการเงิน 32 เคสกับโมเดลตัวเดียวกันที่ออกมา 4 รุ่นในช่วง 185 วัน ผลคือความสอดคล้องกับผลลัพธ์เดิมลดจากเต็ม 1.000 เหลือ 0.906 ในรุ่นหลังๆ โดยมี 5 เคสที่คำตัดสินเปลี่ยนไปอย่างน้อยหนึ่งครั้ง ที่น่าสนใจคือทุกครั้งที่เปลี่ยน มันเปลี่ยนไปทาง “ระมัดระวังขึ้น” เช่น จากซื้อเป็นถือ ซึ่งฟังดูเหมือนดี แต่ในทางกำกับดูแลแปลว่านโยบายความเสี่ยงขององค์กรถูกเปลี่ยนโดยที่ไม่มีใครอนุมัติ
จุดที่ผู้วิจัยมองว่าหนักกว่านั้นคือ ในรุ่นหลัง ผู้ให้บริการถอดพารามิเตอร์ที่ใช้ควบคุมความคงที่ของผลลัพธ์ออกไป ทำให้ผู้ตรวจสอบเสียเครื่องมือที่ใช้ตรวจสอบ ผู้วิจัยเรียกภาวะนี้ว่า control-surface dependence คือองค์กรพึ่งพาเครื่องมือตรวจสอบที่ตัวเองไม่ได้เป็นเจ้าของและรักษาไว้เองไม่ได้
ชุดที่สอง ทดลองเปลี่ยนเฉพาะ “วิธีจัดวางทีม AI” โดยล็อกทุกอย่างอื่นไว้เหมือนเดิม ผลคือระบบ 1 เอเจนต์กับ 10 เอเจนต์ให้ผลลัพธ์คงที่สมบูรณ์ทั้งคู่เมื่อวัดแบบรันซ้ำ แต่คำตัดสินสุดท้ายกลับตรงกันเพียง 16 จาก 32 เคส แปลว่าการปรับสถาปัตยกรรมระบบซึ่งทีมไอทีมองว่าเป็นงานเทคนิคล้วนๆ ได้เปลี่ยนกฎการตัดสินใจทางธุรกิจไปโดยไม่มีใครแก้นโยบายสักบรรทัด ผู้วิจัยเรียกชั้นนี้ว่า “ชั้นนโยบายที่ซ่อนอยู่”
ยิ่งเพิ่มจำนวนเอเจนต์เป็น 40-50 ตัว ผลลัพธ์กลับดู “นิ่ง” ขึ้น แต่นิ่งเพราะระบบสูญเสียความสามารถในการแยกแยะเคสที่ต่างกัน คือตอบแบบอนุรักษ์นิยมเหมือนกันหมด ซึ่งเป็นความนิ่งที่หลอกตา
ชุดที่สาม ตัดตัวแปรเรื่องความสุ่มออกทั้งหมด โดยใช้โมเดลสินเชื่อแบบดั้งเดิมสองเวอร์ชันที่ผลลัพธ์คงที่ 100% ทั้งคู่ ประสิทธิภาพก็แทบเท่ากัน (AUC .7901 กับ .7899) แต่พบว่ามี 23 จาก 1,937 เคสที่ผลการอนุมัติเปลี่ยนไปหลังอัปเดตโมเดล เพราะคะแนนขยับนิดเดียวแต่ข้ามเส้นเกณฑ์นโยบายพอดี บทสรุปคือ การที่ระบบปัจจุบันรันซ้ำได้ผลเดิมเป๊ะ ไม่ได้แปลว่ามันย้อนกลับไปพิสูจน์การตัดสินใจในอดีตได้
ผู้วิจัยยังสำรวจตลาดสินเชื่อบ้านสหรัฐฯ พบว่าใบสมัครกว่า 24 ล้านรายการจาก 4,487 สถาบัน ถูกประเมินโดยระบบอัตโนมัติเพียงสองเจ้าที่กินส่วนแบ่งรวมกัน 77.7-90.0% และในกลุ่มสถาบันที่ใช้ระบบอัตโนมัติ มีถึง 52.6% ที่ส่งงานผ่านระบบเดียวเกิน 90% ของทั้งหมด ความหมายคือ ถ้าผู้ให้บริการรายเดียวเปลี่ยนระบบ อาจเกิดปัญหาตรวจสอบย้อนหลังไม่ได้พร้อมกันทั้งอุตสาหกรรม
ผลกระทบต่อธุรกิจในประเทศไทย
เรื่องนี้ตรงเข้าเป้าธุรกิจไทยสองชั้นซ้อนกัน
ชั้นแรกคือ PDPA ที่บังคับใช้อยู่แล้ว เมื่อองค์กรใช้ระบบอัตโนมัติตัดสินใจเรื่องที่กระทบสิทธิของเจ้าของข้อมูล เจ้าของข้อมูลมีสิทธิร้องขอคำอธิบายและคัดค้านได้ คำถามที่งานวิจัยนี้บังคับให้เราตอบ คือ ถ้าลูกค้ามาขอคำอธิบายการปฏิเสธสินเชื่อเมื่อ 8 เดือนก่อน องค์กรมีหลักฐานพอจะอธิบายได้จริงหรือไม่ หรือ มีแค่ล็อกไฟล์ที่บอกว่า “ระบบตอบว่าไม่อนุมัติ” ซึ่งไม่ใช่คำอธิบาย งานวิจัยเตือนชัดว่าคำอธิบายที่ฟังลื่นหูอาจไม่ตรงกับสิ่งที่ระบบใช้ตัดสินจริง และการเก็บล็อกเยอะๆ ไม่ช่วยถ้าล็อกนั้นไม่สะท้อนเหตุผลที่แท้จริง
ชั้นที่สองคือ ร่าง พ.ร.บ. ปัญญาประดิษฐ์ที่กำลังจะเข้าสภา ซึ่งกำหนดให้ “ผู้ประยุกต์ใช้” AI ความเสี่ยงสูงต้องประเมินความเสี่ยง ติดตามผลกระทบ และมีมาตรการลดความเสี่ยงต่อเนื่อง งานวิจัยนี้ชี้ให้เห็นความจริงที่เจ็บปวดว่า หน้าที่เหล่านี้อาจทำไม่ได้จริงในทางเทคนิค ถ้าองค์กรพึ่งพาโมเดลของผู้ให้บริการต่างชาติที่เปลี่ยนระบบตามรอบสินค้าของตัวเอง ไม่ใช่ตามรอบการตรวจสอบของผู้กำกับไทย
และตรงนี้เองที่งานวิจัยให้เหตุผลเชิงเทคนิคแก่ข้อกำหนดในร่างกฎหมายไทยที่หลายคนอ่านผ่านไป นั่นคือ ข้อที่เปิดช่องให้กำหนดว่า AI ที่สำคัญต่อประเทศอาจต้องประมวลผลในไทย และผู้ให้บริการต่างชาติต้องมีผู้แทนทางกฎหมายในประเทศ เดิมข้อนี้ถูกมองในมุมอธิปไตยข้อมูลเชิงนโยบาย แต่งานวิจัยนี้ทำให้เห็นมุมที่จับต้องได้กว่า คือ ถ้าไม่มีข้อผูกพันให้ผู้ให้บริการเก็บเวอร์ชันเก่าไว้ องค์กรไทยจะไม่มีทางพิสูจน์การตัดสินใจย้อนหลังได้เลย ไม่ว่ากฎหมายจะเขียนสวยแค่ไหน
ในทางปฏิบัติที่กระทบเงินในกระเป๋า คือ เรื่องนี้ต้องไปจบที่สัญญา ธุรกิจไทยที่ซื้อบริการ AI มาใช้ควรเริ่มถามผู้ขายว่าจะเก็บโมเดลเวอร์ชันเก่าไว้ให้นานแค่ไหน จะแจ้งล่วงหน้าก่อนเปลี่ยนระบบหรือไม่ และถ้าเปลี่ยนแล้วเราตรวจย้อนหลังไม่ได้ ใครรับผิดชอบ เพราะงานวิจัยเน้นย้ำว่า ความเสียหายเกิดขึ้นได้แม้การตัดสินใจนั้นจะถูกต้อง เพียงเพราะพิสูจน์ไม่ได้ และถ้าเกิดข้อผิดพลาดขึ้นจริง องค์กรอาจไม่รู้ด้วยซ้ำว่ากระทบลูกค้ากี่ราย ซึ่งทำให้ประเมินขอบเขตการเยียวยาไม่ได้เลย
สิ่งที่ควรทำต่อ
- ทดสอบความสามารถในการย้อนรอย เลือกเคสที่ AI ตัดสินใจไปเมื่อ 6-12 เดือนก่อนมาสัก 5 เคส แล้วลองพิสูจน์ดูว่าองค์กรอธิบายได้จริงหรือไม่ว่าตอนนั้นตัดสินบนอะไร นี่คือการซ้อมหนีไฟที่ถูกที่สุดก่อนของจริงมา
- เก็บหลักฐานให้ครบชุด ไม่ใช่แค่ผลลัพธ์สุดท้าย ต้องรวมถึงเวอร์ชันโมเดลที่ใช้ ข้อมูลนำเข้า คำสั่งที่ป้อน เกณฑ์นโยบายที่ใช้ตอนนั้น และผลลัพธ์จากเครื่องมือที่ AI เรียกใช้ระหว่างทาง
- แก้สัญญากับผู้ให้บริการ AI ให้ระบุเรื่องการเก็บรักษาเวอร์ชัน การแจ้งล่วงหน้าเมื่อมีการเปลี่ยนแปลงที่มีนัยสำคัญ และสิทธิในการเข้าถึงระบบเวอร์ชันเดิมเพื่อการตรวจสอบ โดยกำหนดระยะเวลาให้สอดคล้องกับอายุความและรอบการตรวจสอบ ไม่ใช่ตามรอบสินค้าของผู้ขาย
- ตั้งกติกาว่าเมื่อมีการเปลี่ยนแปลงสำคัญ ต้องทบทวนอำนาจการตัดสินใจใหม่ ทั้งกรณีที่องค์กรเปลี่ยนเอง และกรณีที่ผู้ให้บริการเปลี่ยนให้ ถ้าหลักฐานที่เก็บได้ไม่พอรองรับ ควรลดระดับการให้ AI ตัดสินใจเอง หรือส่งกลับให้คนพิจารณา
- อย่าประเมินความเสี่ยงจากภาพรวม งานวิจัยชี้ว่าคะแนนความเสถียรระดับพอร์ตอาจนิ่ง ทั้งที่เคสที่มีปัญหาเปลี่ยนหน้าไปเรื่อยๆ ต้องดูรายเคสในกลุ่มการตัดสินใจที่มีความเสี่ยงสูง
มุมมองผู้เชี่ยวชาญ
“อ่านงานวิจัยชิ้นนี้จบ ผมคิดถึงประโยคเดียวครับ ว่า AI ของคุณอาจตัดสินใจถูก แต่คุณพิสูจน์ไม่ได้ว่าถูก แล้วในทางกฎหมาย ทั้งสองอย่างนี้มีค่าเท่ากัน
ที่ผ่านมาเวลาพูดเรื่อง AI Governance เรามักโฟกัสว่า ‘AI จะตัดสินใจผิดไหม’ แต่งานวิจัยนี้ชี้จุดที่คนมองข้าม คือวันที่ผู้กำกับหรือศาลขอหลักฐาน คุณอาจไม่มีอะไรจะยื่นเลย ไม่ใช่เพราะคุณทำผิด แต่เพราะเจ้าของโมเดลอัปเดตระบบไปแล้ว แถมยังเก็บปุ่มที่คุณใช้ตรวจสอบไปด้วย
จุดที่ทำให้ผมสะดุดที่สุด คือ ต่อให้เป็นโมเดลสินเชื่อธรรมดาที่ไม่มีความสุ่มเลย รันกี่ครั้งก็ได้ผลเดิมเป๊ะ พออัปเดตเวอร์ชันปุ๊บ ก็ยังย้อนกลับไปพิสูจน์ของเก่าไม่ได้อยู่ดี แปลว่านี่ไม่ใช่ปัญหาของ AI สมัยใหม่อย่างเดียว แต่เป็นปัญหาของทุกองค์กรที่คิดว่า ‘เก็บล็อกไว้แล้วน่าจะพอ’
ในฐานะคนที่ทำทั้งสาย IT และกฎหมายมาหลายปี ผมขอสรุปสั้นๆ ว่า เรื่องนี้ไม่จบที่ทีมไอที แต่ไปจบที่ขั้นตอนร่างสัญญาครับ ถ้าสัญญากับผู้ให้บริการ AI ไม่มีข้อเก็บเวอร์ชันเก่า ต่อให้องค์กรคุณทำ Governance ดีแค่ไหน วันหนึ่งคุณก็จะไม่มีหลักฐานอยู่ดี”
— Phuwara Krobtaku —
LL.M. (IP & IT) | M.S. (IT) | Thai Barrister & Attorney-at-Law
แหล่งอ้างอิง
บทความนี้เรียบเรียงและวิเคราะห์จากบทความวิชาการ “Governing Agentic AI in FinTech” โดย Henry Han (Data Science and Artificial Intelligence Innovation Laboratory, Baylor University) เผยแพร่เป็น preprint บน arXiv เดือนสิงหาคม 2569 อ่านต้นฉบับเต็มได้ที่: https://arxiv.org/html/2608.11344v2
