ความเกี่ยวข้องไม่ใช่สิทธิ์การเข้าถึง: ปัญหาการเข้าถึงของ AI ที่ไม่มีใครพูดถึง

การออกแบบเอเจนต์ AI ส่วนใหญ่มีสมมติฐานฝังอยู่ซึ่งแทบไม่มีใครตั้งคำถาม นั่นคือ หากข้อมูลใดเกี่ยวข้องกับการตอบคำถาม เอเจนต์ก็ควรใช้ข้อมูลนั้นได้

ฟังดูสมเหตุสมผล แต่ไม่ถูกต้อง

สำหรับองค์กรที่ดำเนินแพลตฟอร์มซึ่งมีผู้ใช้งานหลายกลุ่ม ไม่ว่าจะเป็นลูกค้าและร้านค้า ผู้โดยสารและคนขับ หรือผู้ใช้บริการและผู้ให้บริการ สมมติฐานนี้เองที่ค่อย ๆ เปลี่ยนการใช้งาน AI ให้กลายเป็นปัญหาด้านความเชื่อมั่น

กับดักของความเกี่ยวข้อง

ลูกค้ารายหนึ่งติดต่อฝ่ายซัพพอร์ตเรื่องการจัดส่งล่าช้า ต้องการรู้ว่าเกิดอะไรขึ้นและขอเงินคืน

ข้อมูลที่เกี่ยวข้องที่สุดได้แก่ เวลาเตรียมอาหารเฉลี่ยของร้าน ช่วงเวลาเตรียมอาหารของออร์เดอร์นั้น ประวัติเส้นทางของคนขับ และสัญญาณเตือนต่าง ๆ ที่เกิดขึ้นระหว่างการจัดส่ง ทั้งหมดนี้มีประโยชน์โดยตรงและช่วยให้ได้คำตอบที่ดีและแม่นยำกว่า

แต่ในขณะเดียวกัน ก็จะเปิดเผยข้อมูลผลการดำเนินงานของร้านให้ลูกค้าที่ไม่มีสิทธิ์เห็น พาดพิงพฤติกรรมของคนขับโดยไม่มีกระบวนการที่เป็นธรรม และโยงผลลัพธ์ของฝั่งหนึ่งเข้ากับข้อมูลของอีกฝั่งโดยตรง โดยที่ทั้งสองฝ่ายไม่รู้และไม่ได้ให้ความยินยอม

เอเจนต์ไม่ได้ทำผิดพลาด แต่ทำตามที่ถูกออกแบบมาทุกประการ คือค้นหาสิ่งที่เกี่ยวข้องแล้วนำมาใช้ ความผิดพลาดอยู่ที่การถือว่าความเกี่ยวข้องกับสิทธิ์การเข้าถึงเป็นสิ่งเดียวกัน

ทำไมการแยกแยะเรื่องนี้จึงยากกว่าที่คิด

บนผลิตภัณฑ์ที่มีผู้ใช้ฝั่งเดียว ความเกี่ยวข้องกับสิทธิ์การเข้าถึงมักสอดคล้องกัน ผู้ใช้ที่ถามคำถามก็คือเจ้าของข้อมูลที่อยู่ในขอบเขต ช่องว่างระหว่างสิ่งที่มีประโยชน์กับสิ่งที่อนุญาตจึงแคบพอที่เอเจนต์ส่วนใหญ่จะทำงานได้โดยไม่เกิดปัญหา

แต่แพลตฟอร์มแบบหลายฝ่ายทำให้สมมติฐานนี้ใช้ไม่ได้เลย

ผู้ใช้แต่ละกลุ่มมีข้อมูล เวิร์กโฟลว์ ความคาดหวังด้านความเป็นส่วนตัว และนิยามของผลลัพธ์ที่เป็นธรรมเป็นของตัวเอง เมื่อเอเจนต์ AI ทำงานครอบคลุมทุกกลุ่มจากฐานความรู้เดียวกัน จึงไม่ได้ทำงานในสภาพแวดล้อมข้อมูลเดียว แต่ทำงานในหลายสภาพแวดล้อมพร้อมกันโดยไม่มีขอบเขตที่ชัดเจนกั้นไว้

ปัญหาที่พบอย่างสม่ำเสมอมี 3 รูปแบบ:

ข้อมูลรั่วไหลข้ามช่องทาง ข้อมูลที่เกี่ยวข้องในช่องทางหนึ่งเป็นของผู้ใช้ในอีกช่องทางหนึ่ง เช่น เอเจนต์ฝั่งลูกค้าที่มองเห็นประวัติข้อพิพาทของร้านค้า พอร์ทัลร้านค้าที่แสดงรายละเอียดการร้องเรียนของลูกค้า หรืออินเทอร์เฟซคนขับที่อ้างอิงข้อมูลการบังคับใช้กฎระดับแพลตฟอร์ม

การดำเนินการที่ส่งผลกระทบต่อส่วนอื่นโดยไม่มีการตรวจสอบ การคืนเงินในช่องทางลูกค้าทำให้เกิดการหักยอดจ่ายในช่องทางร้านค้า เอเจนต์ AI ที่ทำขั้นแรกได้แต่มองไม่เห็นผลที่ตามมา จะตัดสินใจในแบบที่ดูสมเหตุสมผล แต่สร้างปัญหาที่ตัวเองไม่เคยรับรู้ วงจร feedback จึงไม่เคยครบ

การปฏิบัติต่อผู้ใช้แต่ละกลุ่มไม่สม่ำเสมอ คำถามพื้นฐานเดียวกันอย่าง "ทำไมยอดเงินของฉันถึงลดลง" มีความหมายต่างกันโดยสิ้นเชิง ขึ้นอยู่กับว่าผู้ถามเป็นร้านค้าหรือคนขับ ข้อมูลที่ใช้ได้ คำตอบที่เหมาะสม และการดำเนินการที่อนุญาตล้วนแตกต่างกัน เอเจนต์ที่ไม่มีขอบเขตช่องทางที่ชัดเจนจะให้คำตอบที่ถูกต้องในทางเทคนิค แต่ผิดบริบท

ทั้งหมดนี้ไม่ใช่ความผิดของเอเจนต์ AI แต่เป็นความล้มเหลวของสถาปัตยกรรม เอเจนต์ไม่เคยได้รับการบอกว่าเส้นแบ่งอยู่ตรงไหน

ความเกี่ยวข้องคือจุดเริ่มต้น ไม่ใช่การอนุญาต

มุมมองใหม่ที่สำคัญคือ ความเกี่ยวข้องควรเป็นตัวกำหนดว่าเอเจนต์จะค้นหาอะไร แต่สิทธิ์การเข้าถึง (eligibility) ต้องเป็นตัวกำหนดว่าเอเจนต์เข้าถึงอะไรได้จริง

เป็น 2 คำถามที่แยกกัน และต้องตอบตามลำดับ

สิทธิ์การเข้าถึงต้องมาก่อน ก่อนที่เอเจนต์จะดึงข้อมูลใด ๆ แพลตฟอร์มต้องตอบได้แล้วว่า การโต้ตอบนี้มาจากช่องทางใด ผู้ใช้กลุ่มใดที่ผ่านการยืนยันตัวตน ข้อมูลและการดำเนินการใดอยู่ในขอบเขตของช่องทาง บทบาท และบริบทนโยบายนี้ และอะไรที่ห้ามเข้าถึงโดยเด็ดขาด ไม่ว่าจะเกี่ยวข้องเพียงใด

คำถามเหล่านี้ไม่ใช่สิ่งที่โมเดลต้องคิดหาเหตุผลเอง แต่เป็นข้อจำกัดที่แพลตฟอร์มบังคับใช้อย่างแน่นอนก่อนที่เอเจนต์จะเริ่มทำงาน จากนั้นความเกี่ยวข้องจึงทำงานภายใต้ข้อจำกัดเหล่านั้น ไม่ใช่แทนที่

ผลในทางปฏิบัตินั้นสำคัญมาก เอเจนต์ที่จำกัดขอบเขตไว้ที่ช่องทางลูกค้าจะไม่สามารถเปิดเผยข้อมูลร้านค้าโดยไม่ตั้งใจได้ ไม่ใช่เพราะถูกสั่งห้าม แต่เพราะข้อมูลนั้นไม่เคยอยู่ในสิทธิ์การเข้าถึงตั้งแต่แรก คำสั่งใน prompt อาจถูกหาเหตุผลเลี่ยงได้ แต่ข้อจำกัดด้านสิทธิ์การเข้าถึงเลี่ยงไม่ได้

ความแตกต่างนี้สำคัญกว่าที่เห็น "ไม่ควรใช้" กับ "เข้าถึงไม่ได้" เป็นการปกป้องคนละระดับ เมื่อทำงานในระดับใหญ่ ในสภาพแวดล้อมที่ซับซ้อน และมี edge case จริง มีเพียงแบบหลังเท่านั้นที่ใช้ได้

ความหมายในทางปฏิบัติ

แพลตฟอร์มที่ทำเรื่องนี้ได้ถูกต้องไม่ได้สร้างเอเจนต์ที่ถูกจำกัดมากขึ้น แต่สร้างเอเจนต์ที่มีสถาปัตยกรรมดีกว่า ความสามารถในการให้เหตุผลของเอเจนต์ยังคงเดิม สิ่งที่เปลี่ยนคือพื้นฐานที่เอเจนต์ใช้ในการให้เหตุผล

ผลลัพธ์ไม่ใช่เอเจนต์ที่ด้อยความสามารถลง แต่เป็นเอเจนต์ที่ผู้ใช้ทุกกลุ่มไว้วางใจได้พร้อมกัน บนแพลตฟอร์มแบบหลายฝ่าย นี่คือความสามารถที่ขยายขนาดได้จริง

ความเกี่ยวข้องพาคุณไปสู่คำตอบที่ดี สิทธิ์การเข้าถึงพาคุณไปสู่คำตอบที่น่าเชื่อถือ