AI Hallucination

AI Hallucination คืออะไร?

AI hallucination เกิดขึ้นเมื่อระบบปัญญาประดิษฐ์สร้างผลลัพธ์ที่ไม่ถูกต้องตามข้อเท็จจริง ถูกแต่งขึ้น หรือไม่มีข้อมูลเทรนหรือแหล่งข้อมูลรองรับ ในบริบทของ โมเดลภาษาขนาดใหญ่ (LLM) hallucination หมายถึงการที่โมเดลสร้างข้อความที่ลื่นไหลและดูมั่นใจ แต่มีข้อเท็จจริงที่แต่งขึ้น การอ้างอิงที่ไม่มีอยู่จริง หรือข้อกล่าวอ้างที่ผิด คำนี้เปรียบเทียบกับอาการประสาทหลอนของมนุษย์ คือระบบรับรู้ (หรือสร้าง) สิ่งที่ไม่มีอยู่จริง

สำหรับงานบริการลูกค้า AI hallucination ไม่ใช่ปัญหาเชิงวิจัยที่เป็นนามธรรม แต่เป็นความเสี่ยงในการดำเนินงานที่จับต้องได้ เมื่อ เอเจนต์ AI แต่งนโยบายการคืนสินค้า สร้างฟีเจอร์ผลิตภัณฑ์ที่ไม่มีอยู่ หรือแจ้งยอดเงินในบัญชีผิด ก็จะบั่นทอนความไว้วางใจของลูกค้าและสร้างความรับผิดทางกฎหมาย จากเบนช์มาร์กของ AIMultiple ที่อัปเดตในเดือนมกราคม 2026 พบว่ากว่า 15% ของผลลัพธ์จาก LLM 37 ตัวที่ทดสอบมีเนื้อหาที่เป็น hallucination และ 77% ของธุรกิจระบุว่า hallucination เป็นข้อกังวลหลักในการนำ AI มาใช้

AI Hallucination เกิดขึ้นได้อย่างไร

Hallucination มีต้นเหตุจากวิธีการเทรน LLM โดย LLM จะทำนายโทเคนถัดไปที่มีโอกาสเป็นไปได้มากที่สุดในลำดับ เป้าหมายนี้ให้รางวัลกับความลื่นไหลและความสมเหตุสมผล ไม่ใช่ความถูกต้องตามข้อเท็จจริง โมเดลเรียนรู้รูปแบบทางสถิติและสร้างข้อความที่เข้ากับรูปแบบเหล่านั้น ไม่ใช่ข้อเท็จจริงที่ผ่านการตรวจสอบ

มี 3 ปัจจัยหลักที่ทำให้เกิด hallucination ประการที่ 1 ปัญหาด้านข้อมูลเทรน: ข้อมูลที่มีสัญญาณรบกวน มีอคติ หรือล้าสมัยในคลังข้อมูล pretraining ทำให้ความไม่ถูกต้องฝังอยู่ในโมเดล ประการที่ 2 เป้าหมายที่ไม่สอดคล้องกัน: เป้าหมายการทำนายโทเคนถัดไปส่งเสริมการต่อข้อความให้ฟังสมเหตุสมผล มากกว่าความซื่อตรงต่อสิ่งที่รู้จริง ประการที่ 3 ความเปราะบางของการดึงข้อมูล: ในระบบ RAG หากบริบทที่ดึงมาไม่ครบถ้วนหรือไม่เกี่ยวข้อง โมเดลอาจเกิด hallucination เพื่อเติมช่องว่าง

ประเภทหลักของ AI Hallucination

Intrinsic hallucination: ผลลัพธ์ที่สร้างขึ้นขัดแย้งกับแหล่งข้อมูลที่ให้โมเดล ตัวอย่างเช่น เอเจนต์ AI ที่สรุปบทความในฐานความรู้อาจระบุสิ่งที่ตรงข้ามกับเนื้อหาในบทความ

Extrinsic hallucination: ผลลัพธ์ที่สร้างขึ้นมีข้อมูลที่ไม่สามารถตรวจสอบได้จากแหล่งข้อมูลใดที่ให้ไว้ นี่คือรูปแบบ "การแต่งเรื่องขึ้นเอง" แบบคลาสสิก เช่น อ้างอิงงานวิจัยที่ไม่มีอยู่จริง หรือสร้างสเปกผลิตภัณฑ์ขึ้นมาเอง

Hallucination ด้านเอนทิตีและตัวเลข: โมเดลสลับเอนทิตีหนึ่งกับอีกเอนทิตีหนึ่ง (ระบุฟีเจอร์ให้ผิดผลิตภัณฑ์) หรือแต่งตัวเลข วันที่ และราคาขึ้นมา ประเภทเหล่านี้อันตรายเป็นพิเศษในบริบทของบริการทางการเงิน การเรียกเก็บเงิน และการจัดการคำสั่งซื้อ

ทำไม AI Hallucination จึงสำคัญต่อประสบการณ์ลูกค้า

ในงานบริการลูกค้า ความแม่นยำไม่ใช่ทางเลือก คำตอบที่เป็น hallucination อาจทำให้ลูกค้าได้รับราคาที่ไม่ถูกต้อง ขั้นตอนการแก้ไขปัญหาที่ผิด หรือนโยบายที่แต่งขึ้นซึ่งบริษัทต้องปฏิบัติตามหรือโต้แย้งภายหลัง ต้นทุนที่ตามมาได้แก่ การคืนเงิน การส่งต่อเรื่อง การละเมิดข้อกำหนด และความเสียหายถาวรต่อความไว้วางใจในแบรนด์

Gartner ระบุว่า hallucination เป็นอุปสรรคสำคัญต่อการนำ generative AI มาใช้ในองค์กร และแนะนำให้ใช้มาตรการลดความเสี่ยงหลายชั้น ได้แก่ retrieval grounding, การ fine-tune โมเดล และการตรวจสอบหลังการสร้างคำตอบ เป็นองค์ประกอบสำคัญของการใช้งาน AI ในระบบจริงทุกระบบ

ความท้าทายยิ่งทวีคูณเมื่อขยายขนาด องค์กรที่รองรับการโต้ตอบหลายล้านครั้งต่อปีไม่สามารถตรวจทุกคำตอบที่ AI สร้างด้วยคนได้ กลยุทธ์ลดความเสี่ยงจึงต้องสร้างไว้ในสถาปัตยกรรมของระบบ ไม่ใช่เพิ่มเข้ามาภายหลัง

วิธีลด AI Hallucination

Retrieval-augmented generation (RAG): ให้ทุกคำตอบอิงจากเอกสารต้นทางที่ดึงมาจาก ฐานความรู้ ที่ผ่านการตรวจสอบ RAG ไม่ได้กำจัด hallucination ทั้งหมด แต่ช่วยจำกัดขอบเขตสิ่งที่โมเดลสร้างได้อย่างมาก

Knowledge graph grounding: ใช้ knowledge graph เพื่อให้บริบทที่เป็นข้อเท็จจริงและมีโครงสร้าง แทนการพึ่งพาการดึงข้อความที่ไม่มีโครงสร้างเพียงอย่างเดียว คำตอบที่อิงกราฟมีห่วงโซ่การให้เหตุผลที่ตรวจสอบได้

การตรวจสอบหลังการสร้างคำตอบ: ใช้โมดูลตรวจสอบข้อเท็จจริง เกณฑ์ความมั่นใจ และตัวตรวจสอบการอ้างอิงหลังการสร้างคำตอบ หากผลลัพธ์ของโมเดลไม่สามารถย้อนกลับไปยังแหล่งที่มาได้ ให้ทำเครื่องหมายเพื่อตรวจทานหรืองดตอบ

ความไม่แน่นอนที่ปรับเทียบแล้ว: งานวิจัยล่าสุด (arXiv, 2025) ด้าน reinforcement learning ที่ปรับเทียบเชิงพฤติกรรม เทรนโมเดลให้รายงานระดับความมั่นใจอย่างตรงไปตรงมาและงดตอบเมื่อไม่แน่ใจ แทนการเดา

การ fine-tune เฉพาะโดเมน: fine-tune โมเดลด้วยข้อมูลเฉพาะโดเมนที่คัดสรรและมีคุณภาพสูง เพื่อลดอิทธิพลของข้อมูล pretraining ที่มีสัญญาณรบกวนต่อผลลัพธ์ในอุตสาหกรรมเฉพาะทาง

ข้อได้เปรียบของ Maven

แพลตฟอร์มของ Maven AGI ได้รับการออกแบบให้ลด hallucination ในทุกชั้น ระบบใช้ RAG จากหลายแหล่งที่อิงข้อมูลองค์กรที่ผ่านการตรวจสอบ ใช้ intent recognition เพื่อกำหนดขอบเขตคำตอบอย่างแม่นยำ และใช้การตรวจสอบหลังการสร้างคำตอบเพื่อยืนยันความถูกต้องก่อนคำตอบถึงลูกค้า เมื่อความมั่นใจต่ำ Maven จะส่งต่อให้เจ้าหน้าที่ผ่าน AI Copilot แทนการเดา

Check บริษัทเทคโนโลยีภาครัฐ บรรลุความแม่นยำ 85% ในคำถามด้านกฎระเบียบและการปฏิบัติตามข้อกำหนดที่ซับซ้อนด้วย Maven AGI แสดงให้เห็นว่าความแม่นยำระดับองค์กรเป็นไปได้ แม้ในโดเมนที่มีความเสี่ยงสูงซึ่ง hallucination ส่งผลกระทบจริง

อ่านเพิ่มเติมเกี่ยวกับงานวิจัยด้าน hallucination ได้ที่ แบบสำรวจฉบับครอบคลุมเกี่ยวกับเทคนิคลด hallucination จาก arXiv หรือดู งานวิจัยของ Stanford HAI เรื่อง AI hallucination

คำถามที่พบบ่อย

สามารถกำจัด AI hallucination ได้ทั้งหมดหรือไม่?

ยังไม่มีเทคนิคใดในปัจจุบันที่กำจัด hallucination ได้ทั้งหมด เป้าหมายคือลดให้อยู่ในระดับที่ยอมรับได้สำหรับกรณีการใช้งาน และสร้างระบบที่ตรวจจับและจัดการได้อย่างเหมาะสม ระบบที่ใช้งานจริงควรผสานมาตรการลดความเสี่ยงหลายชั้น (RAG, การตรวจสอบ, ความไม่แน่นอนที่ปรับเทียบแล้ว, การส่งต่อให้เจ้าหน้าที่) เพื่อลดความเสี่ยงและผลกระทบจากผลลัพธ์ที่เป็น hallucination

ตรวจจับ AI hallucination ในระบบใช้งานจริงได้อย่างไร?

วิธีตรวจจับได้แก่ การตรวจสอบการระบุแหล่งที่มา (ผลลัพธ์ย้อนกลับไปยังเอกสารที่ดึงมาได้หรือไม่) การให้คะแนนความสอดคล้องเชิงความหมาย (คำตอบขัดแย้งกับแหล่งข้อมูลหรือไม่) เกณฑ์ความมั่นใจ (ความมั่นใจของโมเดลต่ำกว่าระดับที่ปลอดภัยหรือไม่) และการสุ่มตรวจแบบ human-in-the-loop ที่ผู้ตรวจทานตรวจสอบคำตอบ AI แบบสุ่มเทียบกับข้อมูลต้นทาง

RAG เพียงพอต่อการป้องกัน hallucination หรือไม่?

RAG ช่วยลด hallucination ได้อย่างมากด้วยการให้การสร้างคำตอบอิงเอกสารที่ดึงมา แต่ไม่เพียงพอหากใช้อย่างเดียว หากบริบทที่ดึงมาไม่ครบถ้วน ล้าสมัย หรือไม่เกี่ยวข้อง โมเดลอาจยังเกิด hallucination เพื่อเติมช่องว่าง ระบบที่มีประสิทธิภาพจะผสาน RAG เข้ากับ knowledge graph grounding การตรวจสอบหลังการสร้างคำตอบ และการส่งต่อตามระดับความมั่นใจ

ทำไม LLM จึงเกิด hallucination แม้จะได้รับข้อมูลที่ถูกต้อง?

LLM ประมวลผลข้อมูลเชิงความน่าจะเป็น ไม่ใช่เชิงตรรกะ แม้จะมีบริบทที่ถูกต้องใน prompt การทำนายโทเคนถัดไปของโมเดลก็อาจเบี่ยงเบนจากแหล่งข้อมูลได้ โดยเฉพาะผลลัพธ์ที่ยาว หรือเมื่อแหล่งข้อมูลต้องใช้การให้เหตุผลหลายขั้นตอน นี่คือเหตุผลที่ชั้นการตรวจสอบเป็นสิ่งจำเป็น เพราะกระบวนการสร้างคำตอบเองก็ก่อให้เกิดความไม่แน่นอนไม่ว่าอินพุตจะมีคุณภาพเพียงใด