Có một giả định ẩn trong cách thiết kế hầu hết tác tử AI mà hiếm ai đặt câu hỏi: nếu dữ liệu liên quan đến câu hỏi, tác tử nên được phép sử dụng nó.
Nghe có vẻ hợp lý, nhưng điều đó sai.
Với những tổ chức vận hành nền tảng có nhiều nhóm người tham gia — khách hàng và người bán, hành khách và tài xế, khách hàng và nhà cung cấp dịch vụ — chính giả định này đang âm thầm biến các dự án triển khai AI thành vấn đề về niềm tin.
Cái bẫy của sự liên quan
Một khách hàng liên hệ bộ phận hỗ trợ về đơn hàng giao trễ. Họ muốn biết chuyện gì đã xảy ra và yêu cầu hoàn tiền.
Thông tin liên quan nhất bao gồm thời gian chuẩn bị món trung bình của nhà hàng, khung thời gian chuẩn bị cụ thể của đơn đó, lịch sử lộ trình của tài xế và mọi cảnh báo phát sinh trong quá trình giao hàng. Tất cả đều hữu ích trực tiếp và giúp đưa ra câu trả lời tốt hơn, chính xác hơn.
Nhưng điều đó cũng đồng nghĩa với việc để lộ dữ liệu hiệu suất vận hành của nhà hàng cho một khách hàng không có lý do gì để xem. Nó quy trách nhiệm cho hành vi của tài xế mà không qua quy trình xem xét thỏa đáng. Nó tạo ra mối liên hệ trực tiếp giữa kết quả của một bên và dữ liệu của bên kia, mà không bên nào hay biết hay đồng ý.
Tác tử không hề mắc lỗi — nó làm đúng những gì được thiết kế: tìm thông tin liên quan và sử dụng. Sai lầm nằm ở việc cho rằng liên quan và được phép là một.
Vì sao ranh giới này khó hơn vẻ ngoài
Với sản phẩm một phía, sự liên quan và quyền truy cập phần lớn trùng khớp. Người đặt câu hỏi cũng chính là người sở hữu dữ liệu trong phạm vi. Khoảng cách giữa điều hữu ích và điều được phép đủ hẹp để hầu hết tác tử xử lý mà không gặp sự cố.
Nền tảng đa phía phá vỡ hoàn toàn giả định đó.
Mỗi nhóm người tham gia có dữ liệu, quy trình, kỳ vọng về quyền riêng tư và định nghĩa riêng về một kết quả công bằng. Khi một tác tử AI hoạt động trên tất cả các nhóm này từ một cơ sở tri thức chung, nó không chỉ xử lý một môi trường dữ liệu. Nó đang cùng lúc xử lý nhiều môi trường mà không có ranh giới cứng giữa chúng.
3 kiểu thất bại liên tục xuất hiện:
Rò rỉ dữ liệu giữa các giao diện. Thông tin liên quan trên giao diện này lại thuộc về người tham gia ở giao diện khác. Một tác tử phục vụ khách hàng có thể xem lịch sử tranh chấp của người bán, một cổng người bán hiển thị chi tiết khiếu nại của khách hàng, hoặc một giao diện tài xế tham chiếu dữ liệu xử lý vi phạm ở cấp nền tảng.
Hành động gây hậu quả không được xem xét ở nơi khác. Một khoản hoàn tiền trên giao diện khách hàng kích hoạt khoản khấu trừ thanh toán trên giao diện người bán. Một tác tử AI có thể thực hiện hành động đầu tiên nhưng không nhìn thấy hậu quả thứ hai sẽ đưa ra những quyết định nghe có vẻ hợp lý nhưng tạo ra vấn đề mà nó không bao giờ gặp phải. Vòng phản hồi không bao giờ khép lại.
Đối xử thiếu nhất quán giữa các nhóm người tham gia. Cùng một câu hỏi — vì sao khoản thanh toán của tôi bị giảm? — mang ý nghĩa hoàn toàn khác tùy vào người hỏi là người bán hay tài xế. Dữ liệu đủ điều kiện, câu trả lời phù hợp và các hành động được phép đều khác nhau. Một tác tử không có ranh giới cứng giữa các giao diện sẽ đưa ra câu trả lời đúng về mặt kỹ thuật nhưng sai về ngữ cảnh.
Không lỗi nào trong số này thuộc về tác tử AI — đó là lỗi kiến trúc. Tác tử chưa bao giờ được chỉ ra ranh giới nằm ở đâu.
Sự liên quan là điểm khởi đầu, không phải sự cho phép
Đây là cách nhìn mới quan trọng: sự liên quan nên định hướng những gì tác tử tìm kiếm, còn tính đủ điều kiện mới quyết định những gì nó thực sự được truy cập.
2 câu hỏi riêng biệt, được trả lời theo thứ tự.
Tính đủ điều kiện đi trước. Trước khi tác tử truy xuất bất cứ thứ gì, nền tảng phải trả lời xong: tương tác này đến từ giao diện nào? Nhóm người tham gia nào đã được xác thực? Dữ liệu và hành động nào nằm trong phạm vi của giao diện này, vai trò này, bối cảnh chính sách này? Điều gì tuyệt đối bị cấm, bất kể nó liên quan đến mức nào?
Đây không phải những câu hỏi để mô hình tự suy luận. Đó là các ràng buộc mà nền tảng thực thi một cách tất định, trước khi tác tử bắt đầu. Sự liên quan sau đó hoạt động trong khuôn khổ các ràng buộc này, chứ không thay thế chúng.
Tác động thực tế rất đáng kể. Một tác tử giới hạn trong giao diện khách hàng không thể vô tình làm lộ dữ liệu người bán. Không phải vì nó được dặn là không được làm vậy, mà vì dữ liệu đó ngay từ đầu đã không đủ điều kiện. Chỉ dẫn trong prompt có thể bị suy luận lách qua. Ràng buộc về tính đủ điều kiện thì không.
Sự khác biệt này quan trọng hơn bạn nghĩ. "Không nên dùng" và "không thể truy cập" không mang lại cùng một mức bảo vệ. Ở quy mô lớn, trong môi trường phức tạp, với các tình huống ngoại lệ thực tế, chỉ có cách thứ hai đứng vững.
Điều này có ý nghĩa gì trong thực tế
Những nền tảng làm đúng điều này không xây dựng tác tử hạn chế hơn — họ xây dựng tác tử có kiến trúc tốt hơn. Khả năng suy luận của tác tử không đổi; thứ thay đổi là nền tảng mà nó suy luận trên đó.
Kết quả không phải là một tác tử kém năng lực hơn. Đó là một tác tử đáng tin cậy với mọi nhóm người tham gia cùng lúc. Trên nền tảng đa phía, đó chính là năng lực giúp mở rộng quy mô.
Sự liên quan đưa bạn đến một câu trả lời tốt. Tính đủ điều kiện đưa bạn đến một câu trả lời đáng tin cậy.
Trải nghiệm trên chính các cuộc hội thoại của bạn.
Yêu cầu demo cá nhân hóa miễn phí.
