สารบัญ
- เมื่อ “มีคนคุม” อาจไม่เท่ากับ “คุมได้”
- งานวิจัยใหม่กำลังเตือนเรื่องอะไร
- ทำไม AI Agent ทำให้ปัญหาหนักกว่า Chatbot
- ความเสี่ยงที่ธุรกิจไทยมองข้าม
- AI Governance ต้องวัดความพร้อมของคนด้วย
- สิ่งที่ควรทำต่อ
- มุมมองผู้เชี่ยวชาญ
- แหล่งอ้างอิง
บทนำ
หลายองค์กรกำลังวางระบบ AI แบบมีคนอยู่ในวงจรการตัดสินใจ เพราะเชื่อว่านี่คือวิธีที่ปลอดภัยกว่า แต่เอกสารวิจัยใหม่จาก Margaret Mitchell, Avijit Ghosh และ Samir Passi เสนอว่า การมีมนุษย์อยู่ในระบบไม่ได้แปลว่าการกำกับดูแลจะมีประสิทธิภาพเสมอไป เพราะตัวระบบ AI Agent อาจทำให้ความสามารถของ “คนตรวจ” ลดลงเองด้วย
นี่คือเหตุผลที่ธุรกิจไทยควรอ่านเรื่องนี้ตอนนี้ โดยเฉพาะองค์กรที่กำลังเปลี่ยนจาก AI ที่ “ตอบคำถาม” ไปสู่ AI ที่ “ลงมือทำงาน” แทนคน
เมื่อ AI ไม่ได้แค่ตอบ แต่เริ่มลงมือทำ
จุดเปลี่ยนสำคัญอยู่ที่คำว่า Agent
Chatbot ทั่วไปอาจตอบคำถามหนึ่งครั้งแล้วจบ แต่ AI Agent สามารถวางแผน เลือกเครื่องมือ เรียกใช้ระบบภายนอก และเดินหน้าหลายขั้นตอนโดยไม่ต้องมีคนสั่งทุกจังหวะ
งานวิจัยระบุว่า Agent อาจเข้าไปแก้ไขหรือลบไฟล์ ส่งข้อมูลที่เป็นความลับออกไป เรียกใช้เครื่องมือผิด ทำธุรกรรม หรือทำให้ข้อมูลส่วนตัวถูกเปิดเผยได้ และเมื่อหลาย Agent ทำงานร่วมกัน ความซับซ้อนยิ่งเพิ่มขึ้น เพราะความผิดพลาดอาจต่อกันเป็นลูกโซ่ก่อนที่มนุษย์จะเห็นผลลัพธ์สุดท้าย
ปัญหาจึงเปลี่ยนจาก “AI ตอบผิดหรือไม่” เป็น “AI กำลังทำอะไรอยู่ระหว่างทาง และมนุษย์ยังมองเห็นทันหรือไม่”
งานวิจัยเรียกสิ่งนี้ว่าเป็นช่องว่างสำคัญของ Human Oversight เพราะผู้ใช้ต้องติดตามแผนหลายขั้นตอน เครื่องมือที่ถูกเรียกใช้ เหตุผลในการเปลี่ยนแผน รวมถึงผลกระทบที่จะตามมา ข้อมูลเหล่านี้อาจมีมาก เร็ว และกระจายอยู่หลายส่วนจนมนุษย์ตรวจไม่ทัน
ปัญหาใหญ่กว่าที่คิด: คนคุมอาจค่อยๆ “เลิกคุม”
นี่คือมุมที่น่าสนใจที่สุดของงานวิจัย
ผู้เขียนไม่ได้บอกเพียงว่า AI Agent อาจผิด แต่ตั้งคำถามว่าการใช้งานระบบอัตโนมัติอย่างต่อเนื่องอาจทำให้มนุษย์สูญเสียทักษะที่จำเป็นต่อการตรวจสอบ AI ด้วย
งานวิจัยรวบรวมข้อกังวลเกี่ยวกับ skill atrophy หรือทักษะที่ฝืดลง การลดลงของความระมัดระวัง การพึ่งพาระบบมากเกินไป และการใช้ความคิดแบบลัดมากขึ้นเมื่อเจอกับข้อมูลจำนวนมากหรือภาระทางความคิดสูง
ลองนึกภาพง่ายๆ
วันแรก คนทำงานเห็น AI Agent ขออนุมัติ ก็อ่านทุกขั้นตอน
วันที่สาม อ่านเฉพาะสรุป
เดือนที่สาม เห็นข้อความว่า “พร้อมดำเนินการ” แล้วกด Approve
ปัญหาไม่ได้เกิดจากคนไม่รับผิดชอบเสมอไป แต่อาจเกิดจาก Workflow ถูกออกแบบให้คนทำหน้าที่คล้าย “เครื่องปั๊มอนุมัติ”
งานวิจัยเรียกปัญหานี้เชื่อมโยงกับ “approval fatigue” คือการอนุมัติซ้ำๆ จนความสนใจในการตรวจสอบลดลง
และเมื่อมนุษย์เริ่มเชื่อ AI มากขึ้น ความสามารถในการจับความผิดปกติอาจยิ่งลดลงอีก
สิ่งที่ธุรกิจไทยควรกังวล ไม่ใช่แค่ AI ผิด แต่คือ “หลักฐานว่าคนกำกับจริงหรือไม่”
ตรงนี้เชื่อมกับ AI Governance โดยตรง
ในทางธุรกิจ องค์กรมักคิดเป็นลำดับว่า “เรามี Policy แล้ว มีคนอนุมัติแล้ว มี Log แล้ว น่าจะพอ”
แต่คำถามใหม่ควรเป็น
“คนที่ถูกแต่งตั้งให้ Oversight ยังมีความสามารถในการตรวจจริงหรือไม่?”
นี่ต่างจากการตรวจว่าองค์กร “มีคนคุม” หรือไม่
แนวคิดนี้สอดคล้องกับทิศทางกฎหมายและมาตรฐานต่างประเทศที่ไม่ได้มอง Human Oversight เป็นเพียงชื่อของตำแหน่ง แต่ต้องทำให้ผู้กำกับสามารถเข้าใจข้อจำกัดของระบบ ตรวจความผิดปกติ ตัดสินใจไม่ใช้ผลลัพธ์ และแทรกแซงหรือหยุดระบบได้อย่างเหมาะสม
สำหรับธุรกิจไทย ความหมายจึงไม่ใช่แค่เรื่องกฎหมายในอนาคต แต่เป็นเรื่องการออกแบบระบบวันนี้
โดยเฉพาะองค์กรที่ใช้ Agent กับข้อมูลส่วนบุคคล ข้อมูลลูกค้า ข้อมูลพนักงาน เอกสารสัญญา ระบบการเงิน หรือระบบที่เชื่อมต่อกับฐานข้อมูลภายใน
ตัวอย่างเช่น หาก Agent มีสิทธิ์เปิดไฟล์ HR แล้วมีคนถูกกำหนดให้ตรวจ แต่หน้าจอแสดงเพียงสรุปว่า “ดำเนินการสำเร็จ” การมีผู้ตรวจอยู่ใน Workflow ไม่ได้พิสูจน์ว่าการตรวจนั้นมีคุณภาพ
ดังนั้น หลักฐานของ Governance อาจต้องขยับจาก “ใครกด Approve” ไปสู่ “เขาเห็นอะไร ก่อนอนุมัติ และมีความสามารถหยุดระบบจริงหรือไม่”
ประเด็นนี้สอดคล้องกับทิศทางล่าสุดของ AI Governance ในไทยที่เริ่มขยับจากการดูเพียงตัวโมเดล ไปสู่การจัดการ Agent, AI Inventory, Vendor Risk และสายความรับผิดชอบจากการตัดสินใจไปจนถึงการกระทำจริง ก.ล.ต. ปรับ AI Governance Framework รับ Agentic AI และ PDPA ไทย
AI Governance ไทยต้องเพิ่ม “Human Capability” เข้าไปในระบบควบคุม
ถ้าบทเรียนจากงานวิจัยนี้ถูกต้อง วิธีคิดแบบเดิมอาจยังไม่พอ
องค์กรไม่ควรมีแค่ AI Inventory แต่ควรตอบให้ได้ด้วยว่า “ใครเป็นผู้กำกับ AI ตัวนี้ และเขาต้องใช้ทักษะอะไรในการตรวจ”
ไม่ควรมีแค่ Approval Flow แต่ต้องออกแบบจุดที่บังคับให้คนคิดเองก่อนเห็นคำตอบของ AI
ไม่ควรมีแค่ Audit Log แต่ควรตรวจด้วยว่าคนตรวจใช้เวลาอ่านข้อความนานแค่ไหน มีรูปแบบการกดอนุมัติซ้ำๆ หรือเริ่มแสดงพฤติกรรมที่บ่งบอกถึงความล้าหรือไม่
งานวิจัยเสนอแนวทางหลายด้าน เช่น strategic friction หรือการสร้างจุดที่ทำให้คนต้องหยุดคิดก่อนอนุมัติ การให้ผู้ใช้ตัดสินใจเบื้องต้นก่อนเห็นคำแนะนำของ AI การสลับช่วงเวลาที่ทำงานแบบมีและไม่มี AI การฝึกทักษะเดิมโดยไม่พึ่ง AI และการออกแบบตารางงานเพื่อป้องกันความล้า
นี่เป็นแนวคิดที่น่าสนใจมากสำหรับองค์กรไทย เพราะมันเปลี่ยนความหมายของ “AI Training”
Training ไม่ควรหมายถึงแค่สอนให้พนักงานใช้ AI เก่งขึ้น
แต่ต้องสอนให้พนักงาน “ไม่สูญเสียความสามารถในการตรวจ AI”
องค์กรที่ต้องการวางระบบต่อ สามารถอ่านบริบทเพิ่มเติมจากบทความของ Tech Law Now เรื่อง [AI Agent กับความเสี่ยงไซเบอร์และ Least Privilege] AI Agent เสี่ยงไซเบอร์: บทเรียนใหม่ AI Governance สำหรับธุรกิจไทย และแนวคิด [ทำ AI Governance ก่อนกฎหมาย AI ไทยบังคับใช้] ไทยยังไม่มีกฎหมาย AI แต่ Governance มาแล้ว! ธุรกิจไทยที่รอ เสี่ยงอะไร?
ผลกระทบต่อธุรกิจในประเทศไทย
สำหรับ SME ความเสี่ยงอาจเริ่มจากเรื่องที่ดูเล็กมาก เช่น ใช้ AI Agent ช่วยจัดการอีเมล สรุปเอกสาร คัดกรองผู้สมัคร หรือตอบลูกค้า แต่เมื่อ Agent เริ่มเชื่อมต่อกับระบบจริง ความผิดพลาดแต่ละครั้งไม่ได้หยุดอยู่ที่ข้อความผิดหนึ่งประโยคอีกต่อไป เพราะ Agent สามารถกระทำต่อได้เองหลายขั้นตอน หากองค์กรตั้งคนตรวจโดยไม่มีสิทธิ์หยุด ไม่มีข้อมูลที่เพียงพอ หรือมีภาระงานสูงจนเกิด approval fatigue ระบบควบคุมที่วางไว้บนกระดาษอาจไม่มีประโยชน์ในทางปฏิบัติ
สำหรับองค์กรใหญ่ ผลกระทบลึกกว่า เพราะมีทั้งเรื่อง accountability, auditability, vendor risk และการกระจายอำนาจของ AI ไปหลายหน่วยงาน ฝ่ายกฎหมายอาจคิดว่าฝ่ายไอทีเป็นคนคุม ฝ่ายไอทีคิดว่าเจ้าของกระบวนการเป็นคนคุม ขณะที่เจ้าของกระบวนการคิดว่า Vendor เป็นคนรับผิดชอบ สุดท้ายอาจไม่มีใครเห็นภาพรวมว่าจริงๆ แล้ว Agent มีสิทธิ์ทำอะไรได้บ้าง
ในมุม PDPA ความเสี่ยงยิ่งชัด เมื่อ Agent เข้าถึงข้อมูลส่วนบุคคลแล้วนำไปใช้ข้าม Workflow หรือเชื่อมต่อเครื่องมือภายนอก การมีคนคอยอนุมัติไม่ได้ทำให้ความเสี่ยงหายไปโดยอัตโนมัติ องค์กรยังต้องรู้ว่า AI เข้าถึงข้อมูลอะไร ทำอะไรกับข้อมูล และมีการบันทึกหลักฐานอย่างไร
ที่สำคัญที่สุดคือเรื่อง “ความสามารถของคน” องค์กรอาจกำลังเพิ่ม AI เพื่อประหยัดแรงงาน แต่ถ้าประหยัดจนพนักงานไม่ได้ทำงานจริงที่เป็นรากฐานของความเชี่ยวชาญ คนรุ่นถัดไปอาจเก่งในการใช้เครื่องมือ แต่ไม่เก่งพอที่จะจับผิดเครื่องมือเมื่อมันล้มเหลว
นั่นทำให้ AI Governance ต้องเปลี่ยนจากคำถามว่า “AI ทำงานได้ดีแค่ไหน” เป็นสองคำถามพร้อมกันว่า “AI ทำงานอย่างไร” และ “มนุษย์ยังสามารถตรวจ AI ตัวนี้ได้จริงแค่ไหน”
สิ่งที่ควรทำต่อ
- ทำ AI Action Inventory ไม่ใช่แค่ AI Inventory โดยระบุว่าแต่ละ Agent “ลงมือทำอะไรได้บ้าง” และเชื่อมต่อระบบใด
- กำหนดจุด Human Approval เฉพาะจังหวะที่มีความเสี่ยงจริง แทนการให้มนุษย์กดอนุมัติทุกขั้นตอนจนเกิด approval fatigue
- ทดสอบความสามารถของผู้ตรวจ ให้คนทำงานเดียวกันบางช่วงโดยไม่ใช้ AI เพื่อรักษา domain skill และตรวจว่าความสามารถในการจับความผิดยังอยู่หรือไม่ แนวทางนี้เป็นหนึ่งในข้อเสนอโดยตรงของงานวิจัย
- ตรวจ Audit Log เทียบกับสิ่งที่ Agent ทำจริง ไม่ใช่ดูเพียงคำสรุปของ Agent เพราะ paper ชี้ว่าการสรุปอาจไม่สะท้อนรายละเอียดของ action ทั้งหมด
- ทบทวนสิทธิ์ของ Agent ตามหลัก Least Privilege Agent ไม่ควรมีสิทธิ์มากกว่าที่จำเป็นต่อภารกิจ และต้องมีวิธีหยุดหรือยกเลิกการทำงานเมื่อพบความผิดปกติ
มุมมองผู้เชี่ยวชาญ
ประเด็นสำคัญไม่ใช่ การเอามนุษย์ออกจาก AI แต่ คือ การทำให้มนุษย์ที่อยู่ในระบบยัง “มีความสามารถในการตัดสินใจอย่างอิสระ” เมื่อวันที่ AI ทำงานผิด เพราะ Human-in-the-loop ที่เหลือเพียงการกด Approve อาจเป็นแค่ภาพลวงของการควบคุม
— Phuwara Krobtaku —
LL.M. (IP & IT) | M.S. (IT) | Thai Barrister & Attorney-at-Law
แหล่งอ้างอิง
ต้นฉบับงานวิจัย: arXiv — AI Agents Push Humans Out of the Loop, Margaret Mitchell, Avijit Ghosh, Samir Passi, รุ่น v2 ลงวันที่ 2 กันยายน 2026
อ่านต้นฉบับเต็มบน arXiv
กรอบกฎหมายอ้างอิงเพิ่มเติม: EU AI Act Article 14 ว่าด้วย Human Oversight ซึ่งกำหนดให้ระบบ AI ความเสี่ยงสูงต้องออกแบบให้มนุษย์สามารถกำกับ ดูข้อผิดปกติ ตีความผล และแทรกแซงระบบได้อย่างเหมาะสม
อ่าน EU AI Act Article 14 บน EUR-Lex
บทความภายใน Tech Law Now:
ก.ล.ต. กับ AI Governance สำหรับ Agentic AI และ PDPA
AI Agent กับความเสี่ยงไซเบอร์และ Least Privilege
AI Governance ไทยไม่ควรรอให้กฎหมายบังคับ
YMYL Disclaimer
บทความนี้เป็นการสรุปข่าวและให้ข้อมูลทั่วไป ไม่ใช่คำแนะนำทางกฎหมาย
หากต้องการคำปรึกษาเฉพาะกรณีของธุรกิจคุณ ควรปรึกษาผู้เชี่ยวชาญ
