Fine-Tuning (สำหรับงานบริการลูกค้า)

Fine-Tuning คืออะไร

Fine-tuning คือเทคนิค machine learning ที่นำlarge language modelซึ่งผ่านการฝึกมาแล้วไปฝึกเพิ่มเติมด้วยชุดข้อมูลขนาดเล็กที่เฉพาะโดเมน เพื่อเพิ่มประสิทธิภาพในงานเฉพาะ โมเดลพื้นฐานเข้าใจภาษา การให้เหตุผล และความรู้ทั่วไปจากการฝึกครั้งแรกอยู่แล้ว Fine-tuning จะปรับความสามารถทั่วไปนั้นให้เข้ากับโดเมนเฉพาะ เช่น งานบริการลูกค้า ด้วยการให้โมเดลเรียนรู้จากตัวอย่างพฤติกรรม น้ำเสียง และรูปแบบความรู้ที่ควรแสดงออก

สำหรับงานบริการลูกค้า fine-tuning อาจหมายถึงการฝึกโมเดลด้วยการสนทนาซัพพอร์ตที่ประสบความสำเร็จหลายพันรายการ เพื่อสอนให้รับมือกับคำถามเฉพาะเกี่ยวกับผลิตภัณฑ์ ทำตามรูปแบบการส่งต่อเรื่องที่กำหนด หรือสื่อสารให้ตรงกับสไตล์ของแบรนด์

Fine-Tuning เทียบกับ RAG และ Prompt Engineering

องค์กรมี 3 แนวทางหลักในการปรับแต่งพฤติกรรมของ AI สำหรับงานบริการลูกค้า:

• ** Prompt engineering:** การเขียนคำสั่งเพื่อกำหนดพฤติกรรมของโมเดลโดยไม่เปลี่ยน weight ใช้งานได้เร็ว แต่มีขอบเขตจำกัด
• ** RAG (Retrieval-Augmented Generation):** การเชื่อมต่อโมเดลกับ knowledge base ภายนอก เพื่อให้ดึงและอ้างอิงข้อมูลเฉพาะได้ เหมาะสำหรับความถูกต้องของข้อเท็จจริงและการทำให้ข้อมูลเป็นปัจจุบันเสมอ
• Fine-tuning: การปรับพารามิเตอร์ภายในของโมเดลจริง ๆ เหมาะที่สุดสำหรับการเปลี่ยนพฤติกรรมพื้นฐาน น้ำเสียง หรือประสิทธิภาพในงานของโมเดล

การใช้งานด้านบริการลูกค้าระดับองค์กรส่วนใหญ่ใช้หลายแนวทางร่วมกัน ได้แก่ RAG เพื่อยึดโยงกับข้อเท็จจริง prompt engineering เพื่อกำหนด guardrails ด้านพฤติกรรม และ fine-tuning แบบเลือกใช้สำหรับงานเฉพาะที่ต้องการประสิทธิภาพเฉพาะทาง

เมื่อใดที่ Fine-Tuning เหมาะสม

Fine-tuning มีคุณค่ามากที่สุดเมื่อต้องการให้โมเดลแสดงพฤติกรรมเฉพาะอย่างสม่ำเสมอ ซึ่งทำได้ยากด้วย prompt เพียงอย่างเดียว เช่น การทำตามขั้นตอนซัพพอร์ตหลายขั้นที่ซับซ้อนได้อย่างแม่นยำ การใช้น้ำเสียงแบรนด์ที่ตรงเป๊ะ หรือการจัดการศัพท์เฉพาะโดเมนที่โมเดลพื้นฐานยังไม่เข้าใจดีนัก

บริบทของอุตสาหกรรม: ต้นทุนและความซับซ้อนของ fine-tuning ลดลงอย่างมากตั้งแต่ปี 2024 โดยบางแนวทางใช้ตัวอย่างคุณภาพสูงเพียง 50-100 ตัวอย่าง อย่างไรก็ตาม การดูแลโมเดลที่ผ่าน fine-tuning ต้องลงทุนอย่างต่อเนื่อง เนื่องจากโมเดลพื้นฐานมีการอัปเดตและความต้องการของลูกค้าเปลี่ยนไปเรื่อย ๆ

จุดเด่นของ Maven: ไม่ต้อง Fine-Tune

แพลตฟอร์มของ Maven AGI ทำอัตราการแก้ปัญหาได้สูงด้วยการผสาน RAG การดึงข้อมูลจากknowledge graph และ prompt engineering ขั้นสูง โดยลูกค้าไม่ต้อง fine-tune โมเดล แนวทางนี้ทำให้ Maven ใช้งานได้ภายในเวลาเพียง 1 สัปดาห์ อัปเดตความรู้ได้ทันทีโดยไม่ต้องฝึกโมเดลใหม่ และแพลตฟอร์มได้ประโยชน์จากการพัฒนาของ foundation model โดยอัตโนมัติ

ผลลัพธ์จริงกับ Maven: K1x ใช้งาน Maven AGI ได้ภายในเวลาเพียง 1 สัปดาห์ และแก้ปัญหาได้ 80% ดีขึ้น 10x เมื่อเทียบกับ AI เดิม โดยไม่ต้อง fine-tune เลย แสดงให้เห็นว่าสถาปัตยกรรมที่เหมาะสมสามารถทำได้ดีกว่าโมเดลที่ผ่าน fine-tuning ด้วยการดึงข้อมูลและการให้เหตุผลที่ดีกว่า

คำถามที่พบบ่อย

Fine-tuning ช่วยเพิ่มความแม่นยำของ AI ได้มากกว่า RAG หรือไม่

ขึ้นอยู่กับงาน สำหรับความถูกต้องของข้อเท็จจริงเกี่ยวกับผลิตภัณฑ์ นโยบาย และขั้นตอนเฉพาะ RAG ที่มีgroundingที่ดีมักทำได้ดีกว่า fine-tuning เพราะโมเดลอ้างอิงแหล่งข้อมูลปัจจุบันเสมอ ส่วน fine-tuning เหมาะกว่าสำหรับรูปแบบพฤติกรรม ความสม่ำเสมอของน้ำเสียง และงานที่โมเดลต้อง "คิดต่างออกไป" กับปัญหาบางประเภท

Fine-tuning ต้องใช้ข้อมูลมากแค่ไหน

เทคนิคสมัยใหม่อาจได้ผลดีด้วยตัวอย่างคุณภาพสูงเพียง 50-100 ตัวอย่างสำหรับงานเฉพาะ แต่การเปลี่ยนพฤติกรรมในวงกว้างอาจต้องใช้ตัวอย่างหลายพันตัวอย่าง คุณภาพและความหลากหลายของข้อมูลฝึกสำคัญกว่าปริมาณ

Fine-tuning สำหรับงานบริการลูกค้ามีความเสี่ยงอะไรบ้าง

การ over-fit กับตัวอย่างที่ใช้ฝึกอาจทำให้โมเดลแข็งทื่อและรับมือกับสถานการณ์ใหม่ไม่ได้ โมเดลที่ผ่าน fine-tuning ยังอาจสูญเสียความสามารถทั่วไประหว่างกระบวนการ (catastrophic forgetting) นอกจากนี้ โมเดลที่ผ่าน fine-tuning จะไม่อัปเดตเองเมื่อผลิตภัณฑ์ นโยบาย หรือขั้นตอนของคุณเปลี่ยนไป ต่างจากระบบที่ใช้ RAG ซึ่งการอัปเดต knowledge base จะอัปเดตคำตอบของเอเจนต์ทันที