Percakapan seperti ini terjadi lebih sering daripada yang disadari kebanyakan orang.
Seorang pelanggan sedang bekerja sama dengan agen dukungan untuk menyelesaikan masalah. Selama percakapan, ia membagikan detail akun umum seperti nama, alamat email, nomor telepon, atau ID pelanggan. Sesekali, pelanggan juga membagikan lebih dari yang diperlukan: nomor Social Security, detail kartu kredit, atau informasi medis seperti diagnosis atau nama obat resep.
Pertanyaannya sederhana tetapi krusial: apa yang seharusnya terjadi pada data tersebut selanjutnya?
Di Maven AGI, kami membedakan dengan jelas antara informasi yang disetujui dan informasi sensitif yang tidak diperlukan. Hanya data yang secara eksplisit disetujui untuk kasus penggunaan tertentu yang boleh masuk ke pipeline pemrosesan AI. Data sensitif yang tidak diperlukan dideteksi dan disamarkan secara otomatis saat ingestion, sebelum dapat digunakan untuk inferensi AI, dikirim ke penyedia model eksternal, dicatat di log audit, atau ditampilkan di antarmuka agen.
Kontrol ini berbasis kebijakan dan konsisten. Kontrol tersebut tidak disesuaikan per percakapan. Pelanggan menentukan informasi apa yang disetujui untuk alur kerja mereka, dan Maven AGI menerapkan kebijakan tersebut secara konsisten di seluruh platform.
Ini bukan fitur yang ditambahkan belakangan. Beginilah sistem ini dirancang sejak hari pertama.
Masalah Kepercayaan pada AI Enterprise
Adopsi AI di enterprise tidak lagi dibatasi oleh kemampuan model, melainkan oleh kepercayaan.
Organisasi yang mengevaluasi platform AI percakapan mengajukan pertanyaan praktis yang sama: Dapatkah sistem ini menangani data pelanggan yang sensitif dengan aman? Bagaimana sistem ini mencegah paparan informasi berisiko tinggi yang tidak perlu? Bagaimana kami membuktikan efektivitas kontrol kepada auditor, regulator, dan pelanggan? Dapatkah AI diterapkan di lingkungan yang diregulasi tanpa menimbulkan risiko baru?
Ini bukan kekhawatiran teoretis. Ketika seorang pelanggan enterprise yang sangat mengutamakan keamanan meninjau postur kepatuhan Maven, tanggapan pertama mereka adalah: dewan direksi kami akan sangat puas dengan ini. Reaksi itu bukan sekadar soal fitur. Itu adalah keyakinan bahwa penerapan AI tidak akan menimbulkan beban tata kelola atau kepatuhan.
Keamanan sebagai Arsitektur, Bukan Tambahan
Pendekatan Maven berlandaskan satu prinsip sederhana: keamanan yang didelegasikan.
Kami tidak meminta pelanggan mengadopsi model identitas atau akses baru. Sebaliknya, kami terintegrasi dengan sistem yang sudah mereka percayai. Pelanggan menentukan kebijakan akses, dan Maven AGI menerapkannya secara konsisten.
Hal ini penting karena kebutuhan keamanan tidak seragam. Setiap industri dan organisasi beroperasi di bawah batasan regulasi, operasional, dan risiko yang berbeda. Keamanan yang seragam untuk semua tidak akan berhasil.
Secara garis besar, Maven AGI menyediakan integrasi identitas enterprise, kontrol akses berbasis peran, autentikasi kuat untuk pengguna dengan hak istimewa, log audit yang komprehensif, enkripsi saat transit dan saat disimpan, isolasi tenant, serta pengujian keamanan independen yang berkelanjutan.
Keamanan Produk: Lapisan Khusus AI
Kontrol keamanan tradisional memang diperlukan, tetapi tidak cukup. Sistem AI memunculkan mode kegagalan baru yang membutuhkan perlindungan tambahan.
Data yang disetujui masuk. Data sensitif yang tidak diperlukan keluar. Maven AGI menggunakan model allow-list yang ditentukan pelanggan dan ditegakkan melalui kebijakan. Elemen data yang disetujui, seperti nama, alamat email, nomor telepon, dan pengenal akun, diizinkan bila diperlukan untuk alur kerja dukungan. Data sensitif berisiko tinggi yang tidak diperlukan, seperti nomor Social Security, informasi rekening keuangan, atau detail medis, dideteksi dan disamarkan saat ingestion. Penyamaran dilakukan sebelum panggilan ke model eksternal, penyimpanan jangka panjang, pencatatan log audit, atau penampilan di antarmuka agen.
Data pelanggan tidak digunakan untuk melatih model. Maven AGI tidak menggunakan data pelanggan untuk melatih atau melakukan fine-tuning model fondasi. Data pelanggan tidak diagregasi atau digunakan ulang untuk peningkatan model.
Keselamatan dan ketahanan terhadap serangan. Platform ini dirancang untuk mengidentifikasi konten berbahaya dan bertahan dari ancaman khusus AI, termasuk prompt injection, upaya obfuskasi, serta taktik yang bertujuan mengekstrak data sensitif atau mengambil alih perilaku sistem.
Jawaban berbasis sumber dengan keterlacakan. Respons didasarkan pada sumber pengetahuan yang disetujui pelanggan. Pengguna dapat melihat informasi apa yang mendasari setiap respons, sehingga mengurangi output yang tidak berdasar dan meningkatkan kemampuan audit.
Pengawasan manusia sejak desain. Ketika otomatisasi tidak tepat, Maven AGI mendukung eskalasi ke agen manusia berdasarkan sinyal yang dapat dikonfigurasi, seperti ambang kepercayaan, permintaan pelanggan, atau indikator risiko percakapan. Agen menerima konteks lengkap sehingga pelanggan tidak perlu mengulang penjelasan.
Validasi Melalui Audit Independen
Kontrol yang kuat itu penting. Validasi independen memperkuat kepercayaan.
Praktik keamanan, privasi, dan tata kelola AI Maven diverifikasi melalui audit dan sertifikasi pihak ketiga, termasuk ISO/IEC 27001:2022 (manajemen keamanan informasi), SOC 2 Type II (kontrol keamanan, ketersediaan, dan kerahasiaan), ISO/IEC 27017 (kontrol keamanan cloud), ISO/IEC 27018 (perlindungan data pribadi di lingkungan cloud), PCI-DSS v4.0 Level 1 AOC, HIPAA/HITECH dengan BAA yang tersedia, ISO/IEC 27701 (manajemen informasi privasi), dan ISO/IEC 42001 (sistem manajemen AI).
ISO/IEC 42001 memberikan validasi independen bahwa sistem AI Maven dikelola melalui kebijakan, pemantauan, dan manajemen insiden yang terdefinisi, bukan sekadar diterapkan lalu dibiarkan tanpa pengawasan.
Keamanan dan Tata Kelola di Lingkungan Enterprise yang Diregulasi
Sertifikasi memang penting, tetapi hanya bagian dari sistem yang lebih luas.
Ukuran keberhasilan yang sesungguhnya adalah apakah organisasi dapat menerapkan AI dengan yakin: mengetahui bahwa data mereka terlindungi, kewajiban mereka terpenuhi, dan sistem AI mereka berperilaku secara dapat diprediksi dan bertanggung jawab di lingkungan produksi.
Jika Anda sedang mengevaluasi AI percakapan untuk enterprise atau industri yang diregulasi, berikut pertanyaan yang patut diajukan kepada vendor: Informasi apa yang secara eksplisit diizinkan masuk ke sistem AI? Di mana dan kapan data sensitif yang tidak diperlukan disamarkan? Apakah data pelanggan digunakan untuk melatih model? Sertifikasi apa yang benar-benar telah diperoleh? Dapatkah sistem diterapkan secara on-premises bila diperlukan? Bagaimana prompt injection dan serangan khusus AI lainnya ditangani? Apa yang terjadi ketika AI melakukan eskalasi ke manusia, apakah pelanggan harus mengulang dari awal?
Di Maven AGI, keamanan dan tata kelola AI bukan hal yang dipikirkan belakangan atau sekadar klaim pemasaran. Keduanya adalah fondasi arsitektur yang memungkinkan adopsi AI di enterprise.
Jika Anda ingin melihat pendekatan ini dalam praktik, Anda dapat meminta demo, atau kunjungi Trust Center kami.
Lihat langsung pada percakapan Anda sendiri.
Minta demo personal gratis.
