บทนำ
องค์กรจำนวนมากกำลังสร้าง AI Governance ด้วยเป้าหมายที่ถูกต้อง ทั้งเรื่องความโปร่งใส ความเป็นธรรม ความรับผิดชอบ และการมีมนุษย์คอยกำกับ แต่บทวิเคราะห์ล่าสุดของ IAPP ชี้ให้เห็นอีกด้านที่องค์กรอาจมองข้าม นั่นคือ AI ไม่ได้ทำงานอยู่ในโลกที่ทุกคนใช้งานอย่างสุจริตเสมอไป และระบบที่ถูกออกแบบมาดี ก็สามารถถูกกดดัน หรือ บิดเบือนได้จากข้อมูล ผู้ใช้ หรือ ผู้โจมตี
สำหรับธุรกิจไทย คำถามจึงไม่ควรหยุดอยู่ที่ “เรามี AI Governance แล้วหรือยัง” แต่ควรไปต่อว่า “เมื่อ AI ถูกโจมตีจริง คนของเรายังควบคุมมันได้อยู่หรือไม่?” นี่คือจุดที่ Governance กับ Cybersecurity ต้องเริ่มคุยกันตั้งแต่ต้น
Governance ในกระดาษเขียนไว้ดูดี แต่พอเจอเรื่องจริงกลับพังไม่เป็นท่า
IAPP เผยแพร่บทวิเคราะห์เมื่อวันที่ 19 สิงหาคม 2569 โดย Joseph McNamara ซึ่งมีประสบการณ์ทั้งด้าน Cyber Threat Hunting และงานด้านการแพทย์ โดยเสนอว่าแนวทาง AI Governance ที่มักเน้นความโปร่งใส ความเป็นธรรม ความรับผิดชอบ และการทำตามกฎ อาจไม่ได้ให้ความสำคัญมากพอกับคำถามที่ทีมความมั่นคงปลอดภัยมักถามเมื่อมองระบบ AI จากฝั่ง “ผู้โจมตี”
ตัวอย่างความเสี่ยงที่ถูกพูดถึง ได้แก่ Prompt Injection, Data Poisoning และ Model Inversion รวมถึงการเชื่อม AI เข้ากับระบบอื่นอย่างไม่ปลอดภัย ซึ่ง NIST ก็ระบุความเสี่ยงด้านความปลอดภัยของ Generative AI ในลักษณะดังกล่าวไว้เช่นกัน
ประเด็นที่น่าสนใจที่สุดกลับไม่ใช่ชื่อของการโจมตีเหล่านี้ แต่คือคำว่า Human Oversight
EU AI Act Article 14 ให้ความสำคัญกับการที่มนุษย์ต้องสามารถกำกับระบบ AI ที่มีความเสี่ยงสูงได้อย่างมีประสิทธิผล และยังให้ความสำคัญกับปัญหา Automation Bias หรือสถานการณ์ที่คนมีแนวโน้มเชื่อผลลัพธ์จาก AI มากเกินไป
แต่ในโลกการทำงานจริง การมีคนอยู่หน้าจอไม่ได้แปลว่าคนนั้น “กำลังควบคุม AI” เสมอไป
ถ้าคนคนนั้นได้รับคำเตือนวันละจำนวนมาก ไม่มีข้อมูลประกอบเพียงพอ หรือไม่สามารถแยกได้ว่าผลลัพธ์ไหนเกิดจากการทำงานปกติและผลลัพธ์ไหนเกิดจากการโจมตี การมี Human in the Loop ก็อาจเหลือเพียงการมีชื่อมนุษย์อยู่ในขั้นตอนอนุมัติเท่านั้น
ตัวเลขหนึ่งจากการสำรวจปี 2024 ที่ IAPP นำมาอ้างถึงยิ่งสะท้อนปัญหานี้ โดยระบุว่า 62% ของ Security Operations Center alerts ถูกเพิกเฉย และความแม่นยำของนักวิเคราะห์ลดลงหลังทำงานต่อเนื่องเป็นเวลานาน
นี่ทำให้ประเด็นของ AI Governance เปลี่ยนไปอย่างมีนัยสำคัญ
ไม่ใช่เพียงถามว่า “เรามีนโยบายหรือไม่”
แต่ต้องถามว่า
“เมื่อเกิดเหตุจริง คน ระบบ และข้อมูลที่ใช้กำกับ AI ยังทำงานได้ตามที่ Governance ออกแบบไว้หรือไม่?”
ผลกระทบต่อธุรกิจในประเทศไทย
สำหรับองค์กรหรือบริษัทในประเทศไทย เรื่องนี้มีความสำคัญมากกว่าที่เห็น เพราะ AI Governance กำลังเคลื่อนจากเรื่องของฝ่ายนโยบายไปสู่เรื่องของการใช้งานจริง
ประเทศไทยเองกำลังเดินหน้าเรื่องนี้อย่างชัดเจน โดย ETDA ระบุทิศทาง AI Governance ปี 2569 ในแนวคิด “Driving Trust AI Governance” และให้ความสำคัญกับการนำกรอบธรรมาภิบาลไปใช้จริง รวมถึงการทำ AI Governance Testing และ AI Red Teaming เพื่อค้นหาจุดอ่อน อคติ และปัญหาด้านความปลอดภัยก่อนนำระบบไปใช้งานจริง
ตรงนี้ทำให้เกิดบทเรียนสำคัญสำหรับบริษัทไทย
ISO/IEC 42001 ไม่ควรถูกมองว่าเป็นจุดจบของ AI Governance
มาตรฐาน ISO/IEC 42001 เป็นมาตรฐานระบบการจัดการ AI หรือ AIMS ซึ่งกำหนดแนวทางให้องค์กรสร้าง บริหาร ตรวจสอบ และปรับปรุงระบบบริหารจัดการ AI อย่างต่อเนื่อง ไม่ได้หมายความว่า AI ทุกระบบขององค์กรจะปลอดภัยจากการโจมตีทุกประเภทโดยอัตโนมัติ
ดังนั้น สำหรับองค์กรที่มี ISO/IEC 42001 หรือกำลังเตรียมตัวขอการรับรอง สิ่งที่ควรคิดเพิ่มคือ “Governance ของเราสามารถรับมือกับ AI ที่มีคนพยายามทำให้มันผิดปกติหรือไม่?”
ตัวอย่างเช่น บริษัทนำ Generative AI มาเชื่อมกับฐานข้อมูลภายใน หากมีการโจมตีผ่าน Prompt Injection แล้ว AI ถูกชักนำให้เปิดเผยข้อมูลหรือเรียกใช้ระบบที่ไม่ควรเรียก ปัญหาจะไม่ได้อยู่แค่ที่โมเดล AI แต่กระทบไปถึงการรักษาความลับของข้อมูล การควบคุมสิทธิ์ การจัดการผู้รับจ้างและผู้ให้บริการ ตลอดจนการจัดการเหตุการณ์ด้านความปลอดภัยขององค์กร
ในมุม PDPA ก็เช่นกัน หากข้อมูลส่วนบุคคลไหลเข้าไปอยู่ในระบบ AI และเกิดการนำข้อมูลไปใช้ในลักษณะที่องค์กรไม่ได้คาดไว้ Governance ที่ดีต้องตอบให้ได้ว่า ใครมีสิทธิ์เข้าถึงข้อมูลอะไร AI ใช้ข้อมูลอะไร มีการบันทึกเหตุการณ์อะไร และใครสามารถหยุดระบบได้เมื่อพบความผิดปกติ
นี่จึงเป็นเหตุผลที่ฝ่ายกฎหมาย ฝ่าย Privacy, ฝ่าย IT และฝ่าย Cybersecurity ไม่ควรทำ AI Governance แยกกันคนละโลก
ฝ่ายกฎหมาย รู้ว่า อะไรคือภาระหน้าที่
ฝ่าย Privacy รู้ว่า ข้อมูลอะไรอ่อนไหว
ฝ่าย IT รู้ว่า ระบบเชื่อมต่อกันอย่างไร
ฝ่าย Cybersecurity รู้ว่า คนร้ายจะพยายามเจาะตรงไหน
AI Governance ที่ดีจึงไม่ใช่แค่การเขียน Policy ให้ครบ แต่ต้องทำให้ทั้ง 4 ฝ่ายมองเห็นระบบ AI ตัวเดียวกันจากคนละมุม แล้วนำข้อมูลเหล่านั้นมาประกอบกัน
จุดนี้อาจกลายเป็นช่องว่างใหม่ขององค์กรไทยที่ “ทำ Governance แล้ว” แต่ยังไม่ได้ทดสอบในสถานการณ์ที่มีแรงกดดันจริง
สิ่งที่ควรทำต่อ
1. ตรวจ AI Inventory ใหม่จากมุม Cybersecurity
อย่าบันทึกเพียงว่าองค์กรใช้ AI ตัวไหน แต่ให้ระบุด้วยว่า AI เชื่อมต่อข้อมูล ระบบ API หรือฐานข้อมูลใด และมีสิทธิ์ทำอะไรได้บ้าง
2. เพิ่ม Adversarial Risk เข้าไปใน AI Risk Assessment
นอกจากถามว่า “AI อาจตัดสินใจผิดอย่างไร” ให้ถามเพิ่มว่า “ถ้ามีคนตั้งใจทำให้ AI ผิด จะทำอย่างไร”
3. ทดสอบ Human Oversight ในสถานการณ์จริง
จำลองกรณีที่ AI ให้ผลลัพธ์ผิด มีข้อมูลปนเปื้อน หรือเกิดเหตุการณ์ผิดปกติ แล้วดูว่าคนในองค์กรสามารถตรวจพบและหยุดกระบวนการได้จริงหรือไม่
4. ดึงทีม Cybersecurity เข้ามาก่อนซื้อหรือ Deploy AI
ไม่ควรรอให้ระบบใช้งานไปแล้วจึงส่งให้ทีม Security ตรวจ เพราะความเสี่ยงสำคัญอาจอยู่ที่ Architecture หรือการเชื่อมต่อระบบตั้งแต่ต้น
5. ทำ AI Red Teaming เป็นระยะ
การประเมินครั้งเดียวไม่เพียงพอ โดยเฉพาะระบบที่มีการเปลี่ยนโมเดล ข้อมูล เครื่องมือ หรือการเชื่อมต่อกับระบบภายนอก การทดสอบแบบจำลองการโจมตีควรเป็นส่วนหนึ่งของวงจรปรับปรุง AI Governance อย่างต่อเนื่อง
มุมมองผู้เชี่ยวชาญ
ข่าวจาก IAPP ไม่ได้หมายความว่า AI Governance ที่องค์กรทำอยู่ผิด หรือมาตรฐานอย่าง NIST AI RMF และ ISO/IEC 42001 ไม่เพียงพอ แต่กำลังชี้ให้เห็นว่า การกำกับ AI ต้องมองทั้งโลกของ Compliance และโลกของ Adversarial Attack พร้อมกัน สำหรับธุรกิจไทย ประเด็นที่ควรเปลี่ยนจากวันนี้จึงไม่ใช่ “เรามี AI Governance แล้วหรือยัง” แต่คือ “ถ้ามีคนพยายามทำให้ AI ของเราทำงานผิด เราจะรู้ได้อย่างไร และใครมีอำนาจหยุดมัน?” เพราะ AI ที่ปลอดภัยไม่ใช่ AI ที่ทำงานถูกต้องเฉพาะตอนทุกอย่างเป็นปกติ แต่คือ AI ที่องค์กรยังควบคุมได้ เมื่อมีคนพยายามทำให้มันผิด
— Phuwara Krobtaku —
LL.M. (IP & IT) | M.S. (IT) | Thai Barrister & Attorney-at-Law
แหล่งอ้างอิง
ต้นทาง: IAPP — Threat hunters think about AI risk differently
เผยแพร่ 19 สิงหาคม 2569 โดย Joseph McNamara
อ่านบทความต้นฉบับจาก IAPP
ข้อมูลประกอบ: NIST — AI Risk Management Framework และ Generative AI Profile
มาตรฐานประกอบ: ISO/IEC 42001:2023 — Artificial Intelligence Management System
บริบทประเทศไทย: ETDA — ทิศทาง AI Governance 2026 และ AI Governance Testing / AI Red Teaming
