ความปลอดภัยและธรรมาภิบาล AI ที่ Maven AGI: ออกแบบไว้ตั้งแต่แรก ไม่ใช่เสริมทีหลัง

บทสนทนาแบบนี้เกิดขึ้นบ่อยกว่าที่หลายคนคิด

ลูกค้ากำลังคุยกับเจ้าหน้าที่ซัพพอร์ตเพื่อแก้ปัญหา ระหว่างนั้นลูกค้าให้ข้อมูลบัญชีทั่วไป เช่น ชื่อ อีเมล เบอร์โทรศัพท์ หรือรหัสลูกค้า แต่บางครั้งลูกค้าก็ให้ข้อมูลมากเกินจำเป็น เช่น หมายเลขประกันสังคม รายละเอียดบัตรเครดิต หรือข้อมูลทางการแพทย์อย่างผลวินิจฉัยหรือชื่อยาที่แพทย์สั่ง

คำถามนั้นเรียบง่ายแต่สำคัญมาก: ข้อมูลเหล่านั้นควรถูกจัดการอย่างไรต่อไป

ที่ Maven AGI เราแยกข้อมูลที่ได้รับอนุมัติออกจากข้อมูลอ่อนไหวที่ไม่จำเป็นอย่างชัดเจน เฉพาะข้อมูลที่ได้รับอนุมัติอย่างชัดแจ้งสำหรับแต่ละ use case เท่านั้นที่จะเข้าสู่ไปป์ไลน์การประมวลผล AI ได้ ส่วนข้อมูลอ่อนไหวที่ไม่จำเป็นจะถูกตรวจจับและปกปิด (redact) โดยอัตโนมัติตั้งแต่ขั้นตอนนำเข้าข้อมูล ก่อนที่จะถูกนำไปใช้ในการประมวลผล (inference) ของ AI ส่งไปยังผู้ให้บริการโมเดลภายนอก บันทึกลงใน audit log หรือแสดงบนอินเทอร์เฟซของเจ้าหน้าที่

การควบคุมเหล่านี้ขับเคลื่อนด้วยนโยบายและมีความสม่ำเสมอ ไม่ได้ปรับเปลี่ยนเป็นรายบทสนทนา ลูกค้าเป็นผู้กำหนดว่าข้อมูลใดได้รับอนุมัติสำหรับเวิร์กโฟลว์ของตน และ Maven AGI จะบังคับใช้นโยบายเหล่านั้นอย่างสม่ำเสมอทั่วทั้งแพลตฟอร์ม

นี่ไม่ใช่ฟีเจอร์ที่เพิ่มเข้ามาทีหลัง แต่เป็นสถาปัตยกรรมที่ระบบถูกออกแบบไว้ตั้งแต่วันแรก

ปัญหาความไว้วางใจใน AI ระดับองค์กร

การนำ AI มาใช้ในองค์กรไม่ได้ถูกจำกัดด้วยความสามารถของโมเดลอีกต่อไป แต่ถูกจำกัดด้วยความไว้วางใจ

องค์กรที่กำลังประเมินแพลตฟอร์ม conversational AI ต่างถามคำถามเชิงปฏิบัติแบบเดียวกัน: ระบบนี้จัดการข้อมูลลูกค้าที่อ่อนไหวได้อย่างปลอดภัยหรือไม่ ป้องกันไม่ให้ข้อมูลความเสี่ยงสูงถูกเปิดเผยโดยไม่จำเป็นได้อย่างไร เราจะแสดงประสิทธิผลของการควบคุมต่อผู้ตรวจสอบ หน่วยงานกำกับดูแล และลูกค้าได้อย่างไร และจะนำ AI ไปใช้ในสภาพแวดล้อมที่มีการกำกับดูแลโดยไม่สร้างความเสี่ยงใหม่ได้หรือไม่

สิ่งเหล่านี้ไม่ใช่ข้อกังวลเชิงทฤษฎี เมื่อลูกค้าองค์กรรายหนึ่งที่ให้ความสำคัญกับความปลอดภัยเป็นอันดับแรกได้ตรวจสอบสถานะด้าน compliance ของ Maven ปฏิกิริยาแรกของพวกเขาคือ คณะกรรมการของเราจะพอใจกับสิ่งนี้มาก ปฏิกิริยานั้นไปไกลกว่าเรื่องฟีเจอร์ แต่คือความมั่นใจว่าการนำ AI มาใช้จะไม่สร้างภาระความรับผิดด้านธรรมาภิบาลหรือ compliance

ความปลอดภัยในระดับสถาปัตยกรรม ไม่ใช่ส่วนเสริม

แนวทางของ Maven ตั้งอยู่บนหลักการง่ายๆ คือ delegated security

เราไม่ได้ขอให้ลูกค้าเปลี่ยนไปใช้โมเดลการยืนยันตัวตนหรือการเข้าถึงแบบใหม่ แต่เราผสานรวมเข้ากับระบบที่ลูกค้าไว้วางใจอยู่แล้ว ลูกค้าเป็นผู้กำหนดนโยบายการเข้าถึง และ Maven AGI บังคับใช้อย่างสม่ำเสมอ

เรื่องนี้สำคัญเพราะข้อกำหนดด้านความปลอดภัยไม่ได้เหมือนกันทุกที่ แต่ละอุตสาหกรรมและองค์กรมีข้อจำกัดด้านกฎระเบียบ การดำเนินงาน และความเสี่ยงที่แตกต่างกัน ความปลอดภัยแบบเดียวใช้กับทุกองค์กรจึงไม่ได้ผล

โดยภาพรวม Maven AGI รองรับการผสานรวมกับระบบ identity ขององค์กร การควบคุมการเข้าถึงตามบทบาท การยืนยันตัวตนที่รัดกุมสำหรับผู้ใช้ที่มีสิทธิ์พิเศษ การบันทึก audit log อย่างครบถ้วน การเข้ารหัสข้อมูลทั้งระหว่างส่งและขณะจัดเก็บ การแยก tenant และการทดสอบความปลอดภัยโดยหน่วยงานอิสระอย่างต่อเนื่อง

ความปลอดภัยของผลิตภัณฑ์: เลเยอร์เฉพาะสำหรับ AI

การควบคุมความปลอดภัยแบบดั้งเดิมเป็นสิ่งจำเป็น แต่ยังไม่เพียงพอ ระบบ AI นำมาซึ่งรูปแบบความล้มเหลวใหม่ๆ ที่ต้องมีมาตรการป้องกันเพิ่มเติม

รับเฉพาะข้อมูลที่อนุมัติ กันข้อมูลอ่อนไหวที่ไม่จำเป็นออก Maven AGI ใช้โมเดล allow-list ที่ลูกค้าเป็นผู้กำหนดและบังคับใช้ด้วยนโยบาย ข้อมูลที่ได้รับอนุมัติ เช่น ชื่อ อีเมล เบอร์โทรศัพท์ และรหัสบัญชี จะได้รับอนุญาตเมื่อจำเป็นต่อเวิร์กโฟลว์ซัพพอร์ต ส่วนข้อมูลอ่อนไหวความเสี่ยงสูงที่ไม่จำเป็น เช่น หมายเลขประกันสังคม ข้อมูลบัญชีการเงิน หรือรายละเอียดทางการแพทย์ จะถูกตรวจจับและปกปิดตั้งแต่ขั้นตอนนำเข้า การปกปิดเกิดขึ้นก่อนการเรียกใช้โมเดลภายนอก การจัดเก็บระยะยาว การบันทึก audit log หรือการแสดงบนอินเทอร์เฟซของเจ้าหน้าที่

ไม่นำข้อมูลลูกค้าไปเทรนโมเดล Maven AGI ไม่ใช้ข้อมูลลูกค้าในการเทรนหรือ fine-tune โมเดลพื้นฐาน ข้อมูลลูกค้าจะไม่ถูกรวบรวมหรือนำกลับมาใช้เพื่อปรับปรุงโมเดล

ความปลอดภัยและความทนทานต่อการโจมตี แพลตฟอร์มออกแบบมาเพื่อระบุเนื้อหาที่เป็นอันตรายและป้องกันภัยคุกคามเฉพาะของ AI ได้แก่ prompt injection ความพยายามอำพรางข้อความ และกลวิธีที่มุ่งดึงข้อมูลอ่อนไหวหรือแทรกแซงการทำงานของระบบ

คำตอบที่อ้างอิงแหล่งข้อมูลและตรวจสอบย้อนกลับได้ คำตอบอ้างอิงจากแหล่งความรู้ที่ลูกค้าอนุมัติ ผู้ใช้สามารถดูได้ว่าข้อมูลใดถูกใช้ประกอบแต่ละคำตอบ ช่วยลดผลลัพธ์ที่ไม่มีหลักฐานรองรับและตรวจสอบได้ง่ายขึ้น

ออกแบบให้มนุษย์กำกับดูแลได้ เมื่อระบบอัตโนมัติไม่เหมาะสม Maven AGI รองรับการส่งต่อไปยังเจ้าหน้าที่ตามสัญญาณที่กำหนดค่าได้ เช่น เกณฑ์ความมั่นใจ คำขอของลูกค้า หรือตัวบ่งชี้ความเสี่ยงของบทสนทนา เจ้าหน้าที่จะได้รับบริบทครบถ้วน ลูกค้าจึงไม่ต้องเล่าเรื่องซ้ำ

ยืนยันด้วยการตรวจสอบจากหน่วยงานอิสระ

การควบคุมที่แข็งแกร่งเป็นสิ่งสำคัญ และการรับรองจากหน่วยงานอิสระช่วยเสริมความไว้วางใจ

แนวปฏิบัติด้านความปลอดภัย ความเป็นส่วนตัว และธรรมาภิบาล AI ของ Maven ได้รับการยืนยันผ่านการตรวจสอบและการรับรองจากบุคคลที่สาม ได้แก่ ISO/IEC 27001:2022 (การจัดการความมั่นคงปลอดภัยสารสนเทศ), SOC 2 Type II (การควบคุมด้านความปลอดภัย ความพร้อมใช้งาน และการรักษาความลับ), ISO/IEC 27017 (การควบคุมความปลอดภัยบนคลาวด์), ISO/IEC 27018 (การคุ้มครองข้อมูลส่วนบุคคลในสภาพแวดล้อมคลาวด์), PCI-DSS v4.0 Level 1 AOC, HIPAA/HITECH พร้อม BAA, ISO/IEC 27701 (การจัดการข้อมูลความเป็นส่วนตัว) และ ISO/IEC 42001 (ระบบการจัดการ AI)

ISO/IEC 42001 เป็นการยืนยันจากหน่วยงานอิสระว่าระบบ AI ของ Maven อยู่ภายใต้การกำกับดูแลด้วยนโยบาย การติดตาม และการจัดการเหตุการณ์ที่กำหนดไว้ชัดเจน ไม่ใช่แค่นำไปใช้แล้วปล่อยไว้โดยไม่มีการตรวจสอบ

ความปลอดภัยและธรรมาภิบาลในสภาพแวดล้อมองค์กรที่มีการกำกับดูแล

การรับรองมาตรฐานเป็นสิ่งสำคัญ แต่เป็นเพียงส่วนหนึ่งของระบบที่กว้างกว่า

ตัวชี้วัดความสำเร็จที่แท้จริงคือองค์กรสามารถนำ AI มาใช้ได้อย่างมั่นใจหรือไม่ โดยรู้ว่าข้อมูลได้รับการปกป้อง ปฏิบัติตามข้อผูกพันได้ครบถ้วน และระบบ AI ทำงานอย่างคาดการณ์ได้และมีความรับผิดชอบในการใช้งานจริง

หากคุณกำลังประเมิน conversational AI สำหรับองค์กรหรืออุตสาหกรรมที่มีการกำกับดูแล นี่คือคำถามที่ควรถามผู้ให้บริการ: ข้อมูลใดบ้างที่ได้รับอนุญาตอย่างชัดแจ้งให้เข้าสู่ระบบ AI ข้อมูลอ่อนไหวที่ไม่จำเป็นถูกปกปิดที่ไหนและเมื่อใด มีการนำข้อมูลลูกค้าไปเทรนโมเดลหรือไม่ ได้รับการรับรองมาตรฐานใดแล้วจริงๆ บ้าง ระบบติดตั้งแบบ on-premises ได้หรือไม่หากจำเป็น รับมือกับ prompt injection และการโจมตีเฉพาะของ AI อื่นๆ อย่างไร และเมื่อ AI ส่งต่อให้มนุษย์ ลูกค้าต้องเริ่มต้นใหม่หรือไม่

ที่ Maven AGI ความปลอดภัยและธรรมาภิบาล AI ไม่ใช่สิ่งที่คิดทีหลังหรือคำกล่าวอ้างทางการตลาด แต่เป็นรากฐานทางสถาปัตยกรรมที่ทำให้องค์กรนำ AI มาใช้ได้จริง

หากต้องการเห็นแนวทางนี้ในการใช้งานจริง คุณสามารถจองเดโม หรือเยี่ยมชม Trust Center ของเรา