Kami sudah menguji decision model baru dari TypeSafe terhadap berbagai penilaian yang ada di setiap percakapan Maven, termasuk klasifikasi tiket, Intelligent Fields, dan pemeriksaan kualitas. Dalam pengujian awal kami, model ini berjalan sekitar 12 kali lebih cepat dibandingkan pendekatan kami saat ini untuk pekerjaan klasifikasi, dan tidak melambat ketika kami menambahkan lebih banyak klasifikasi ke dalam request yang sama.
Satu permintaan pelanggan berisi lebih dari satu keputusan
Bayangkan seorang pelanggan menulis: "Tagihan kami naik dua kali lipat, separuh tim saya tidak bisa login, dan saya butuh ini beres sebelum perpanjangan kontrak besok."
Menyelesaikan permintaan itu melibatkan beberapa jenis pekerjaan: agen perlu mengenali masalah tagihan dan akses, memahami tingkat urgensinya, memeriksa akun pelanggan, dan mengikuti kebijakan yang berlaku. Jika manusia perlu turun tangan, percakapan harus sampai ke tim yang tepat dengan konteks yang cukup untuk dilanjutkan.
Sebagian pekerjaan itu membutuhkan penalaran dan penjelasan. Sebagian lagi membutuhkan lookup langsung. Sebagian lainnya bermuara pada penilaian yang terfokus: masalah apa saja yang ada, seberapa mendesak, atau apakah pelanggan meminta berbicara dengan manusia.
Kategori terakhir inilah yang membuat Jev menarik.
Kami mulai menguji Jev dengan disiplin evaluasi yang sama seperti yang kami bangun untuk model suara begitu model ini keluar dari early access, karena klaim seperti ini perlu dibuktikan terhadap cara kerja alur kerja pelanggan yang sebenarnya, bukan hanya benchmark dari vendor.
Jev mirip classifier, dengan satu perbedaan: berikan konteks dan pertanyaan yang terbatas, lalu model ini mengembalikan pilihan, skor, atau probabilitas. Model baru dari TypeSafe AI ini dirancang untuk menghasilkan keputusan terstruktur yang dapat langsung digunakan oleh software. Bagi platform enterprise seperti Maven, ini membuka peluang untuk meningkatkan berbagai penilaian yang berada di antara permintaan pelanggan dan penyelesaiannya.
Apa yang dilakukan Jev secara berbeda dari LLM
TypeSafe menyebut Jev sebagai model "System One". Developer menyediakan konteks, pertanyaan, dan kemungkinan jawaban. Jev mengembalikan pilihan, skor, dan probabilitas. Beberapa pertanyaan independen tentang konteks yang sama dapat dievaluasi secara paralel. Model ini tidak menghasilkan teks bebas seperti LLM.
Untuk permintaan di atas, sistem dapat menanyakan apakah permintaan itu berisi masalah tagihan, apakah akses terblokir, dan apakah pelanggan menyebutkan tenggat waktu. Setiap jawaban menjadi input untuk langkah berikutnya dalam alur kerja.
LLM konvensional sebenarnya sudah bisa menghasilkan output yang dibatasi skema. Nilai tawar Jev adalah model yang dibangun khusus untuk pekerjaan ini, dengan pembuatan output secara paralel dan pelatihan yang disebut TypeSafe sebagai Reinforcement Learning for Calibrated Decisions. Tujuannya adalah membuat ketidakpastian dapat dimanfaatkan oleh software, sekaligus menekan latensi dan biaya.
Para pengguna awal juga melaporkan peningkatan kecepatan yang signifikan pada tugas tertentu. Dalam pengujian kami sendiri, Jev merespons sekitar 12 kali lebih cepat dibandingkan pendekatan kami saat ini. Ini masih tahap prototipe awal, bukan benchmark, dan belum berjalan di lingkungan produksi untuk pelanggan kami. Pihak lain melaporkan angka serupa pada tugas mereka sendiri: Guillermo Rauch dari Vercel mengukur kecepatan hingga 18 kali lebih tinggi pada persentil ke-95 untuk peninjauan keamanan perintah yang dijalankan agennya, dengan akurasi lebih tinggi daripada reviewer GPT-5.6-Luna yang digantikannya.
Intelligent Fields adalah tempat yang tepat untuk mengevaluasinya
Maven meluncurkan Intelligent Fields pada musim semi 2026. Tim menentukan apa yang ingin mereka pahami dari sebuah percakapan, seperti area produk, sentimen, niat refund, atau sinyal eskalasi, dan field yang dihasilkan menjadi masukan untuk pelaporan, routing, dan konfigurasi agen.
Yang membuatnya unggul saat ini adalah betapa sedikit usaha yang dibutuhkan dari Anda. Anda cukup menulis definisi dalam bahasa sehari-hari tentang apa yang ingin Anda ketahui, dan Maven mengevaluasi setiap percakapan berdasarkan definisi tersebut. Tanpa set data pelatihan berlabel, tanpa model yang harus dipelihara untuk setiap label, tanpa analis yang menandai tiket secara manual seminggu kemudian. Setiap nilai dilengkapi skor kepercayaan dan alasan di baliknya, yang tersedia melalui API dan tampilan analitik. Artinya, manusia dapat mengaudit mengapa sebuah percakapan ditandai sebagai risiko churn, alih-alih menerima label begitu saja.
Setiap field memang sengaja dirancang sebagai evaluasi tersendiri. Pemisahan inilah yang memungkinkan setiap nilai hadir dengan skor kepercayaan dan alasannya masing-masing, bukan satu kesimpulan campuran tentang percakapan yang tidak bisa diaudit siapa pun.
Decision model seperti Jev cocok dengan struktur tersebut. Pertanyaan independen atas konteks yang sama dievaluasi secara paralel, sehingga sekumpulan evaluasi field dapat digabungkan dalam satu request dan tetap kembali sebagai jawaban terpisah yang masing-masing memiliki skor. Bentuk output-nya tidak berubah. Yang berubah adalah berapa banyak pertanyaan yang dapat diproses sekaligus.
Jadi, kami tidak memperkirakan Intelligent Fields akan bekerja secara berbeda dengan Jev. Yang kami harapkan adalah peningkatan efisiensi dan penurunan biaya.
| Pertanyaan tentang percakapan | Cara decision model menanganinya | Apa yang dimungkinkan |
|---|---|---|
| Area produk mana yang terkait? | Memilih dari kategori yang telah ditentukan | Mengklasifikasikan permintaan dan memilih panduan yang relevan |
| Seberapa parah masalah yang dilaporkan? | Memberi skor berdasarkan rubrik yang jelas | Memprioritaskan pekerjaan berdasarkan dampak nyata |
| Apakah pelanggan meminta berbicara dengan manusia? | Memperkirakan apakah pernyataan tersebut benar | Menjadi dasar penanganan eskalasi |
| Masalah apa saja yang muncul dalam permintaan ini? | Mengevaluasi setiap kandidat masalah secara terpisah | Mempertahankan beberapa intent dalam satu percakapan |
Ini adalah pemetaan kandidat yang masih perlu dievaluasi. Jev harus mempertahankan makna setiap field dan perilaku alur kerja apa pun yang bergantung padanya. Output-nya yang lebih sempit juga perlu diperhatikan: ringkasan terbuka dan penjelasan tertulis tetap membutuhkan model generatif atau sumber lain.
Peluang ini terutama relevan ketika tim menginginkan detail lebih banyak dari setiap interaksi. Biaya per evaluasi yang lebih rendah dapat membuat pelacakan masalah produk, alasan pembatalan, dan sinyal eskalasi tambahan menjadi praktis, tanpa menjadikan setiap field baru sebagai panggilan model yang mahal.
Kami tidak menghadirkan model berusia seminggu kepada pelanggan enterprise
Semua yang dijelaskan di atas masih berupa pengujian dan pemikiran desain. Jev tidak berjalan di alur kerja pelanggan mana pun, dan model yang baru dirilis beberapa hari lalu tidak akan didekatkan ke sana sebelum melewati disiplin evaluasi yang sama dengan yang kami terapkan pada setiap model baru. Anda dapat melihat bagaimana kami menguji GPT-Live-1 dan model suara lainnya. Kami mengukur kualitas keputusan dibandingkan pendekatan kami saat ini pada kasus-kasus representatif, termasuk kasus yang ambigu dan kasus yang konteks penentunya tidak tersedia, lalu membandingkan latensi, biaya per hasil yang diterima, dan dampaknya bagi pelanggan sebelum apa pun menyentuh routing live.
Pilihan model yang lebih luas untuk pekerjaan enterprise
Jev memperluas pilihan untuk membangun agen AI enterprise. Percakapan, penalaran, klasifikasi, dan verifikasi masing-masing dapat memiliki kebutuhan model yang berbeda.
Bagi Maven, peluangnya adalah mengevaluasi Jev di area yang dapat membuat fitur seperti Intelligent Fields lebih efisien, sambil tetap mempertahankan konteks dan kontrol yang dibutuhkan untuk menyelesaikan permintaan pelanggan.
Bawakan kepada Maven alur kerja yang pengalamannya melambat karena keputusan berulang: tiket yang terus berpindah antrean, field yang mahal untuk dievaluasi, atau pemeriksaan kualitas yang berjalan terlambat. Di situlah model baru dapat membuktikan nilainya.
Hal itu bisa dilakukan dengan cepat karena Charters, Segments, dan Intelligent Fields sudah mendefinisikan keputusan-keputusan penting di sini. Mengganti lapisan penilaian di bawahnya dengan yang lebih cepat hanyalah perubahan konfigurasi yang dapat kami uji dalam hitungan hari, bukan pembangunan ulang yang memakan waktu berkuartal-kuartal.
Lihat langsung pada percakapan Anda sendiri.
Minta demo personal gratis.
