คำตอบจาก AI อาจอ่านลื่นไหล มีศัพท์เฉพาะ และดูมั่นใจจนเหมือนผ่านการตรวจสอบมาแล้ว แต่ความน่าอ่านไม่ใช่หลักฐานว่าข้อมูลถูกต้อง AI Hallucination คือปัญหาที่ระบบสร้างคำตอบซึ่งไม่ตรงกับข้อเท็จจริงหรือไม่มีหลักฐานรองรับ เช่น ชื่อเอกสารที่ไม่มีอยู่ ตัวเลขผิด หรือการอ้างแหล่งข้อมูลที่ไม่ได้กล่าวถึงประเด็นนั้น ผู้ใช้งานจึงควรมองคำตอบเป็นจุดเริ่มต้น ไม่ใช่ข้อสรุปสุดท้าย
ทำไมคำตอบจึงผิดได้ทั้งที่ดูสมเหตุสมผล
โมเดลภาษาสร้างข้อความจากรูปแบบและความสัมพันธ์ที่เรียนรู้ ไม่ได้ตรวจความจริงทุกประโยคโดยอัตโนมัติ เอกสาร Generative AI Profile ของ NIST อธิบายความเสี่ยงด้าน Confabulation ซึ่งรวมถึงการสร้างเนื้อหาที่ผิดแต่แสดงออกอย่างมั่นใจ ปัญหานี้อาจเกิดเมื่อข้อมูลไม่เพียงพอ คำถามกำกวม หรือโจทย์ต้องการรายละเอียดที่ระบบไม่มีหลักฐานยืนยัน
ตัวอย่างสมมติคือขอให้ AI สรุปยอดขายโดยไม่แนบรายงาน ระบบอาจแต่งตัวเลขขึ้น จึงต้องแยกข้อมูลจริงออกจากการคาดการณ์และตัวอย่างประกอบ
ตรวจคำตอบด้วยขั้นตอนสั้น ๆ
เริ่มจากขีดเส้นใต้ข้อความที่ตรวจสอบได้ เช่น ชื่อบุคคล วันที่ จำนวนเงิน สูตรคำนวณ และข้อกำหนด จากนั้นเปิดแหล่งต้นทางด้วยตัวเอง อย่าหยุดเพียงเห็นว่ามีลิงก์ เพราะลิงก์อาจเปิดไม่ได้หรือมีเนื้อหาไม่ตรงกับคำกล่าวอ้าง อ่านบริบท รอบเวลา และขอบเขตของข้อมูลด้วยเสมอ
สำหรับตัวเลข ให้คำนวณซ้ำจากข้อมูลตั้งต้นด้วยเครื่องคิดเลขหรือตารางงาน หากเป็นการสรุปเอกสาร ให้เทียบกับต้นฉบับเป็นช่วง ๆ โดยเฉพาะข้อความปฏิเสธ ข้อยกเว้น และเงื่อนไข เพราะการตกหล่นเพียงคำเดียวอาจเปลี่ยนความหมายได้ การถาม AI ซ้ำว่าแน่ใจหรือไม่ ไม่ถือเป็นหลักฐานอิสระว่าคำตอบถูกต้อง
เขียนคำสั่งให้ลดการเดา
ระบุขอบเขตให้ชัด เช่น ให้สรุปเฉพาะเอกสารที่แนบ แยกข้อเท็จจริงออกจากข้อเสนอ และตอบว่าไม่พบข้อมูลเมื่อไม่มีหลักฐาน อาจขอให้บอกหัวข้อหรือหน้าที่ใช้สนับสนุนแต่ละประเด็น เพื่อให้คนตรวจต่อได้ง่ายขึ้น อย่างไรก็ตาม คำสั่งที่ดีช่วยกำหนดกรอบงาน ไม่ได้กำจัดความผิดพลาดทั้งหมด
กำหนดคนรับผิดชอบก่อนนำไปใช้จริง
ทีมขนาดเล็กอาจใช้รายการตรวจสามช่อง ได้แก่ ประเด็นสำคัญ แหล่งยืนยัน และผู้ตรวจ พร้อมบันทึกส่วนที่ยังไม่แน่ใจไว้ต่างหาก งานร่างแนวคิดอาจตรวจเบากว่างานที่ส่งถึงลูกค้า ส่วนข้อมูลกฎหมาย สุขภาพ หรือการเงินควรให้ผู้เชี่ยวชาญที่เหมาะสมตรวจทานก่อนใช้ตัดสินใจ เป้าหมายไม่ใช่เลิกใช้ AI แต่คือใช้ความเร็วของระบบร่วมกับวิจารณญาณของคน เพื่อให้ผลงานมีทั้งประสิทธิภาพและความน่าเชื่อถือ
