ทุกๆ ไม่กี่เดือน วงการ AI สำหรับองค์กรก็จะมีคำศัพท์ใหม่เกิดขึ้น และถูกพูดซ้ำจนความหมายเลือนหายไป Responsible AI, Human in the loop, Guardrails คำเหล่านี้เริ่มต้นจากแนวคิดทางเทคนิคที่ชัดเจน แต่กลับกลายเป็นคำย่อทางการตลาดก่อนที่ใครจะตกลงกันได้ว่ามันหมายถึงอะไรกันแน่
Deterministic control กำลังเสี่ยงที่จะเดินซ้ำรอยเดียวกัน
นี่คือปัญหา เพราะต่างจากภาษาด้าน AI governance ส่วนใหญ่ คำนี้อธิบายสิ่งที่เฉพาะเจาะจงจริงๆ เป็นหลักการออกแบบที่มีผลต่อสถาปัตยกรรมอย่างแท้จริง และให้ผลลัพธ์ที่แตกต่างจากแนวทางอื่นอย่างวัดผลได้ การปล่อยให้คำนี้คลุมเครือจึงมีต้นทุน
ดังนั้นก่อนที่จะสายเกินไป นี่คือความหมายที่แท้จริงของ deterministic control เหตุผลที่สำคัญต่อเอเจนต์ AI ในสภาพแวดล้อมที่ซับซ้อน และหน้าตาเมื่อใช้งานจริงเทียบกับแนวทางเดิมที่มันเข้ามาแทนที่
สองแนวทางในการกำกับดูแลเอเจนต์ AI
แนวทางหลักของการกำกับดูแลเอเจนต์ AI ในปัจจุบันคือ probabilistic governance เอเจนต์มีสิทธิ์เข้าถึงระบบและข้อมูลอย่างกว้างขวาง และใช้การให้เหตุผลตัดสินเองว่าอะไรเกี่ยวข้องและเหมาะสมในบริบทนั้น ส่วน output filter, guardrail และการตรวจสอบหลังสร้างคำตอบจะคอยจับปัญหาหลังจากที่เกิดขึ้นแล้ว วิจารณญาณของโมเดลจึงเป็นกลไกหลักที่ควบคุมพฤติกรรมให้อยู่ในขอบเขตที่ยอมรับได้
แนวทางนี้ใช้ได้ดีพอในสภาพแวดล้อมที่ค่อนข้างเป็นรูปแบบเดียวกัน เมื่อรูปแบบการโต้ตอบที่เป็นไปได้คาดเดาได้ กฎชุดเดียวกันใช้ได้กับผู้ใช้และบริบททั้งหมด และช่องว่างระหว่างสิ่งที่เกี่ยวข้องกับสิ่งที่เหมาะสมมีน้อย probabilistic governance ก็ให้ผลลัพธ์ที่ยอมรับได้เกือบทุกครั้ง
คำว่า "เกือบทุกครั้ง" นี่เองคือปัญหา ในสภาพแวดล้อมที่มีความเสี่ยงสูง ซับซ้อน หรือมีผู้เกี่ยวข้องหลายฝ่าย กรณีพิเศษไม่ใช่เรื่องที่เกิดขึ้นนานๆ ครั้ง แต่เป็นส่วนหนึ่งของโครงสร้าง และเมื่อเกิดขึ้น ระบบแบบ probabilistic จะล้มเหลวในแบบที่คาดเดาได้ยาก อธิบายได้ยาก และตรวจจับได้ยากก่อนที่ความเสียหายจะเกิดขึ้น
Deterministic control ใช้แนวทางที่แตกต่างโดยสิ้นเชิง แทนที่จะปล่อยให้เอเจนต์ตัดสินเองว่าทำอะไรได้บ้าง แล้วพึ่งการตรวจสอบปลายทางเพื่อจับข้อผิดพลาด แพลตฟอร์มจะกำหนดไว้ก่อนตั้งแต่ต้นว่าเอเจนต์ได้รับอนุญาตให้ทำอะไรบ้าง ทั้งสิทธิ์การเข้าถึง การดำเนินการ เกณฑ์การส่งต่อ และสิทธิ์เฉพาะของผู้เกี่ยวข้องแต่ละฝ่าย ล้วนถูกกำหนดไว้ล่วงหน้าในฐานะข้อจำกัดที่เด็ดขาด ไม่ใช่แนวทางที่โมเดลนำไปชั่งน้ำหนักร่วมกับปัจจัยอื่น
จากนั้นเอเจนต์จึงทำงานด้วยความสามารถในการให้เหตุผลเต็มที่ แต่อยู่ภายในขอบเขตที่ถูกกำหนดไว้ก่อนที่มันจะเข้าถึงสิ่งใดเลย
ทำไมลำดับขั้นตอนจึงสำคัญกว่าตัวกฎ
สิ่งสำคัญที่สุดของ deterministic control ไม่ใช่ตัวกฎ แต่คือ "เวลา" ที่กฎถูกบังคับใช้ กรอบการกำกับดูแลส่วนใหญ่ถูกนำมาใช้หลังเหตุการณ์ คือหลังจากที่เอเจนต์ดึงข้อมูล สร้างคำตอบ หรือดำเนินการไปแล้ว Deterministic control ย้ายจุดบังคับใช้ขึ้นไปต้นทาง ก่อนที่การดึงข้อมูล การให้เหตุผล หรือการสร้างคำตอบใดๆ จะเกิดขึ้น
ความแตกต่างนี้มีนัยสำคัญมากกว่าที่ฟังดู
เมื่อการกำกับดูแลเกิดขึ้นหลังการสร้างคำตอบ เอเจนต์ได้เข้าถึงและให้เหตุผลบนข้อมูลที่อาจไม่ได้รับอนุญาตให้ใช้ไปแล้ว แม้ผลลัพธ์จะถูกจับได้และกรองออก แต่กระบวนการภายในที่สร้างผลลัพธ์นั้นไม่ได้ถูกกำกับดูแล เมื่อขยายสเกล การกรองหลังสร้างคำตอบจึงเป็นเพียงการตั้งรับปัญหาที่เกิดขึ้นตั้งแต่ขั้นตอนแรก
เมื่อมีการบังคับใช้สิทธิ์ก่อนการดึงข้อมูล เอเจนต์จะไม่มีทางเข้าถึงข้อมูลที่อยู่นอกขอบเขต ปัญหาไม่ได้ถูกกรองออกที่ปลายทาง แต่ไม่เคยเข้าสู่ระบบตั้งแต่แรก เอเจนต์ไม่สามารถให้เหตุผลบนข้อมูลที่มันมองไม่เห็น
"ไม่ควรใช้" กับ "เข้าถึงไม่ได้" ให้ผลลัพธ์ที่ต่างกันมากใน production แบบแรกขึ้นอยู่กับว่าโมเดลจะทำตามคำสั่งได้อย่างสม่ำเสมอในทุกบริบทที่เป็นไปได้หรือไม่ ส่วนแบบที่สองไม่ขึ้นอยู่กับโมเดลเลย
4 คำถามที่ต้องมีคำตอบก่อนเอเจนต์เริ่มทำงาน
ในทางปฏิบัติ deterministic control หมายถึงการกำหนดคำตอบที่ชัดเจนสำหรับ 4 คำถามตั้งแต่เริ่มต้นการโต้ตอบทุกครั้ง
นี่คือช่องทางใด การโต้ตอบมาจากหน้าจอสำหรับลูกค้า พอร์ทัลร้านค้า แอปคนขับ หรือเครื่องมือภายใน ช่องทางเป็นตัวกำหนดบริบทพื้นฐานของทุกสิ่งที่ตามมา ซึ่งไม่ควรอนุมานจากสัญญาณในบทสนทนา แต่ควรส่งเป็นอินพุตที่แน่นอนจากเลเยอร์การยืนยันตัวตนและการกำหนดเส้นทางของแพลตฟอร์ม
ข้อมูลใดบ้างที่มีสิทธิ์ใช้ โดยพิจารณาจากช่องทาง ตัวตนที่ยืนยันแล้ว และบทบาท ระบบและแหล่งข้อมูลใดบ้างที่อยู่ในขอบเขตของการโต้ตอบนี้ สิทธิ์ไม่ใช่คำแนะนำสำหรับเอเจนต์ แต่เป็นตัวกรองที่เด็ดขาดว่าอะไรดึงมาได้บ้าง ข้อมูลที่ไม่มีสิทธิ์ไม่ได้ถูกซ่อนจากเอเจนต์ แต่ไม่มีให้ดึงมาใช้เลย ความแตกต่างนี้สำคัญในระดับการ implement
การดำเนินการใดบ้างที่ได้รับอนุญาต ในบริบทนี้เอเจนต์ทำอะไรได้จริงบ้าง คืนเงิน? แจ้งข้อพิพาท? อัปเดตฟิลด์ในบัญชี? เริ่มการส่งต่อ? การดำเนินการที่ได้รับอนุญาตถูกกำหนดไว้อย่างชัดเจนตามช่องทาง บทบาท และนโยบาย ไม่ได้อนุมานจากเจตนาในบทสนทนา การที่ลูกค้าถามว่าเอเจนต์ปรับการตั้งค่าของร้านค้าได้หรือไม่ ไม่ได้ทำให้การดำเนินการนั้นอยู่ในขอบเขต การดำเนินการที่ได้รับอนุญาตถูกกำหนดโดยแพลตฟอร์ม ไม่ใช่โดยเนื้อหาของคำขอ
เส้นแบ่งของการส่งต่ออยู่ที่ไหน ทุกบริบทควรมีเกณฑ์ที่กำหนดไว้ ซึ่งเมื่อเกินแล้วเอเจนต์จะหยุดและส่งต่อให้มนุษย์ นี่ไม่ใช่ทางสำรองเมื่อเกิดปัญหา แต่เป็นฟีเจอร์ที่ออกแบบไว้ในโมเดลการโต้ตอบ บนแพลตฟอร์มที่การตัดสินใจครั้งเดียวอาจส่งผลต่อผู้เกี่ยวข้องหลายกลุ่ม การใช้วิจารณญาณของมนุษย์ไม่ใช่สัญญาณว่า AI ล้มเหลว แต่มักเป็นการตัดสินใจที่ถูกต้อง และสถาปัตยกรรมควรทำให้เข้าถึงได้ง่าย
คำถามทั้ง 4 ข้อนี้ไม่ได้ถูกตอบโดยเอเจนต์ แต่ถูกตอบโดยแพลตฟอร์ม เข้ารหัสเป็นข้อจำกัด และบังคับใช้ก่อนที่เอเจนต์จะเริ่มทำงาน
สิ่งที่ deterministic control ไม่ใช่
สิ่งที่มักถูกเข้าใจสับสนกับ deterministic control และเหตุผลที่ความแตกต่างเหล่านี้สำคัญ
ไม่ใช่การเขียนสคริปต์ตายตัว เอเจนต์แบบสคริปต์ทำงานตามโฟลว์ที่กำหนดไว้และรับมือกับความหลากหลายไม่ได้ เอเจนต์ AI ที่ใช้ deterministic control สามารถให้เหตุผลได้อย่างอิสระ รับมือกับอินพุตใหม่ๆ และสร้างคำตอบที่ยืดหยุ่นได้ เพียงแต่อยู่ภายในบริบทที่มีขอบเขต ข้อจำกัดอยู่ที่การเข้าถึงและการดำเนินการ ไม่ใช่การให้เหตุผล
ไม่ใช่การจำกัดความสามารถ ข้อโต้แย้งที่พบบ่อยต่อกรอบการกำกับดูแลคือทำให้เอเจนต์มีประโยชน์น้อยลง Deterministic control ไม่ได้ลดสิ่งที่เอเจนต์ทำได้ แต่กำหนดพื้นที่ที่เอเจนต์ทำงาน เอเจนต์ที่ทำงานในขอบเขตที่ลูกค้ามีสิทธิ์ก็มีความสามารถเต็มที่ภายในขอบเขตนั้น ขอบเขตไม่ได้ลดทอนการให้เหตุผล แต่กำกับสภาพแวดล้อมที่การให้เหตุผลเกิดขึ้น
ไม่ได้แก้ได้ด้วย prompt ที่ดีขึ้น การกำกับดูแลผ่าน prompt บอกเอเจนต์ว่าควรทำตัวอย่างไร ส่วน deterministic control บอกแพลตฟอร์มว่าเอเจนต์ได้รับอนุญาตให้ทำอะไร Prompt อาจถูกหาทางเลี่ยง ตีความผิด หรือถูกบริบทกลบได้ แต่ข้อจำกัดด้านสิทธิ์ที่บังคับใช้ในระดับสถาปัตยกรรมไม่สามารถโต้แย้งได้
ไม่ได้มีไว้เฉพาะแพลตฟอร์มหลายฝ่าย Deterministic control เกี่ยวข้องกับทุกที่ที่ผลกระทบจากความผิดพลาดของ AI ไม่สมมาตร ที่ซึ่งความผิดพลาดในการโต้ตอบครั้งหนึ่งส่งผลต่อฝ่ายที่ไม่ได้มีส่วนร่วม ที่ซึ่งความอ่อนไหวของข้อมูลแตกต่างกันมากตามบริบท หรือที่ซึ่งข้อกำหนดด้านกฎระเบียบทำให้ probabilistic governance ไม่เพียงพอ แพลตฟอร์มหลายฝ่ายเป็นกรณีที่ชัดเจนที่สุด แต่ไม่ใช่กรณีเดียว
Deterministic control ในโลกจริง
เมื่อใช้งานในระบบจริงแล้ว หน้าตาเป็นอย่างไร
ก่อนเริ่มการโต้ตอบใดๆ แพลตฟอร์มจะกำหนดบริบท ได้แก่ ช่องทาง ผู้ใช้ที่ยืนยันตัวตนแล้ว บทบาท และนโยบายที่ใช้งานอยู่ บริบทนั้นถูกส่งเป็นอินพุตแบบมีโครงสร้าง ไม่ใช่ภาษาธรรมชาติใน prompt แต่เป็นพารามิเตอร์ที่แน่นอนซึ่งควบคุมว่าเอเจนต์เข้าถึงอะไรได้บ้าง
การดึงความรู้ของ Agent Maven ถูกจำกัดอยู่ที่แหล่งข้อมูลที่มีสิทธิ์สำหรับบริบทนั้น ชุดการดำเนินการถูกจำกัดเฉพาะการดำเนินการที่ได้รับอนุญาต และเกณฑ์การส่งต่อถูกกำหนดไว้แล้ว ทั้งหมดนี้ไม่ปรากฏในบทสนทนา เพราะเกิดขึ้นก่อนบทสนทนาจะเริ่ม
จากนั้น Agent Maven จึงทำสิ่งที่เอเจนต์ AI ทำได้ดี คือเข้าใจคำขอ ดึงข้อมูลที่เกี่ยวข้องภายในขอบเขตที่มีสิทธิ์ ให้เหตุผลหาคำตอบที่ดีที่สุด และดำเนินการตามนั้น โดยทำงานบนพื้นที่ที่แพลตฟอร์มออกแบบไว้ ไม่ใช่พื้นที่ที่มันค้นพบเอง
ผลลัพธ์คือเอเจนต์ที่ทำงานได้อย่างสม่ำเสมอ ไม่ใช่เพราะถูกสั่งให้ทำ แต่เพราะสถาปัตยกรรมทำให้ความไม่สม่ำเสมอเกิดขึ้นได้ยากในเชิงโครงสร้าง
นี่คือความหมายที่แท้จริงของ deterministic control ในสภาพแวดล้อมที่ความไม่สม่ำเสมอมีความเสี่ยงสูง สิ่งนี้คือความแตกต่างระหว่าง AI ที่ขยายความไว้วางใจ กับ AI ที่ค่อยๆ บั่นทอนความไว้วางใจอย่างเงียบๆ
ทดลองกับบทสนทนาของคุณเอง
ขอรับเดโมเฉพาะสำหรับคุณฟรี
