Yapay zekâ ajanı tasarımlarının çoğunda, pek sorgulanmayan bir varsayım yer alır: Bir veri, bir soruyu yanıtlamakla ilgiliyse ajan o veriyi kullanabilmelidir.
Kulağa makul geliyor, ancak yanlış.
Birden fazla katılımcı grubuna hizmet veren platformları işleten kuruluşlar için (müşteriler ve satıcılar, yolcular ve sürücüler, danışanlar ve hizmet sağlayıcılar) yapay zekâ projelerini sessizce güven sorunlarına dönüştüren de tam olarak bu varsayımdır.
İlgililik Tuzağı
Bir müşteri, geciken bir teslimat için destek ekibiyle iletişime geçiyor. Ne olduğunu öğrenmek ve iade talep etmek istiyor.
En ilgili bilgiler arasında restoranın ortalama hazırlık süreleri, o siparişe ait hazırlık süresi, sürücünün rota geçmişi ve sipariş süreci boyunca ortaya çıkan uyarılar yer alıyor. Bunların hepsi doğrudan işe yarar ve daha iyi, daha doğru bir yanıt üretir.
Ancak bu yaklaşım, restoranın operasyonel performans verilerini bu verileri görmesi hiç gerekmeyen bir müşteriye açar. Bir sürücünün davranışını, gerekli inceleme yapılmadan sorumlu tutar. Taraflardan hiçbirinin bilgisi ya da onayı olmadan, bir tarafın yaşadığı sonuçla diğer tarafın verileri arasında doğrudan bağ kurar.
Ajan hata yapmadı; tam olarak tasarlandığı şeyi yaptı: İlgili olanı buldu ve kullandı. Hata, ilgililik ile iznin aynı şey olduğunu varsaymaktı.
Bu Ayrım Neden Göründüğünden Daha Zor?
Tek taraflı bir üründe ilgililik ve izin büyük ölçüde örtüşür. Soruyu soran kullanıcı, verileri kapsamda olan kişinin ta kendisidir. Faydalı olanla izin verilen arasındaki fark, çoğu ajanın sorun yaşamadan yolunu bulabileceği kadar dardır.
Çok taraflı platformlar ise bu varsayımı tamamen yıkar.
Her katılımcı grubunun kendine ait verileri, iş akışları, gizlilik beklentileri ve adil sonuç tanımı vardır. Bir yapay zekâ ajanı, ortak bir bilgi tabanı üzerinden tüm bu gruplar arasında çalıştığında tek bir veri ortamında değil, aralarında kesin sınırlar bulunmayan birden fazla ortamda aynı anda hareket eder.
Sürekli olarak 3 hata modu ortaya çıkar:
Yüzeyler arası veri sızıntısı. Bir yüzeyde ilgili olan bilgi, başka bir yüzeydeki bir katılımcıya aittir. Satıcı itiraz geçmişini görebilen bir müşteri ajanı, müşteri şikâyeti ayrıntılarını gösteren bir satıcı portalı ya da platform düzeyindeki yaptırım verilerine atıfta bulunan bir sürücü arayüzü buna örnektir.
Başka yerlerde incelenmemiş sonuçlar doğuran aksiyonlar. Müşteri yüzeyinde yapılan bir iade, satıcı yüzeyinde ödeme kesintisini tetikler. İlk aksiyonu gerçekleştirebilen ama ikinci sonucu göremeyen bir yapay zekâ ajanı, makul görünen ama hiç karşılaşmadığı sorunlar yaratan kararlar verir. Geri bildirim döngüsü tamamlanmaz.
Katılımcı grubuna göre tutarsız muamele. Aynı temel soru, yani "Ödemem neden azaldı?", soran kişinin satıcı mı yoksa sürücü mü olduğuna göre temelden farklı bir anlam taşır. Uygun veriler, doğru yanıt ve izin verilen aksiyonların hepsi farklıdır. Kesin yüzey sınırları olmayan bir ajan, teknik olarak doğru ama bağlam açısından yanlış yanıtlar üretir.
Bunların hiçbiri yapay zekâ ajanının hatası değildir; bunlar mimari hatalardır. Ajana sınırların nerede olduğu hiçbir zaman söylenmemiştir.
İlgililik Bir Başlangıç Noktasıdır, Yetki Değil
Asıl önemli olan bakış açısı şu: İlgililik, ajanın neyi arayacağını belirlemeli; ancak ajanın gerçekte neye erişebileceğini uygunluk belirlemelidir.
Sırayla yanıtlanan 2 ayrı soru.
Önce uygunluk gelir. Ajan herhangi bir şey getirmeden önce, platformun şu soruları zaten yanıtlamış olması gerekir: Bu etkileşim hangi yüzeyden geliyor? Hangi katılımcı grubunun kimliği doğrulandı? Bu yüzey, bu rol ve bu politika bağlamı için hangi veriler ve aksiyonlar kapsamda? Ne kadar ilgili olursa olsun, kesinlikle erişim dışı olan ne?
Bunlar modelin akıl yürüterek çözeceği sorular değildir. Ajan çalışmaya başlamadan önce platformun deterministik olarak uyguladığı kısıtlamalardır. İlgililik ise bu kısıtlamaların yerine değil, onların içinde işler.
Pratik etkisi büyüktür. Müşteri yüzeyiyle sınırlandırılmış bir ajan, satıcı verilerini yanlışlıkla gösteremez. Bunun nedeni ajana öyle yapmaması talimatı verilmesi değil, o verinin baştan beri uygun olmamasıdır. Prompt talimatları akıl yürütmeyle aşılabilir. Uygunluk kısıtlamaları aşılamaz.
Bu ayrım göründüğünden daha önemlidir. "Kullanmamalı" ile "erişemez" aynı düzeyde koruma sağlamaz. Ölçekte, karmaşık ortamlarda ve gerçek uç durumlarda yalnızca ikincisi ayakta kalır.
Bunun Pratikteki Anlamı
Bunu doğru yapan platformlar daha kısıtlayıcı ajanlar geliştirmez; daha iyi mimariye sahip ajanlar geliştirir. Ajanın akıl yürütme yeteneği aynı kalır; değişen, üzerinde akıl yürüttüğü yüzeydir.
Sonuç daha az yetenekli bir ajan değildir. Tüm katılımcı gruplarında aynı anda güvenilebilecek bir ajandır. Çok taraflı platformlarda ölçeklenen yetenek de budur.
İlgililik sizi iyi bir yanıta ulaştırır. Uygunluk ise güvenilir bir yanıta.
Kendi konuşmalarınız üzerinde görün.
Size özel ücretsiz demo talep edin.
