Biaya Memiliki Agen AI Sendiri





Biaya pemeliharaan
Pemeliharaan rata-rata mencakup sekitar 60% biaya siklus hidup sistem perangkat lunak, berkisar antara 40% hingga 80% tergantung jenis sistem. Sebagian besar berupa penyempurnaan akibat kebutuhan yang terus berubah.
Model drift
Pada tugas bilangan prima vs. komposit yang sama, akurasi GPT-4 turun dari 84,0% pada Maret 2023 menjadi 51,1% pada Juni 2023. Para penulis menyimpulkan bahwa perilaku LLM dapat berubah drastis dalam waktu singkat dan perlu dipantau terus-menerus.
Keberhasilan build vs. buy
Tool AI yang dibeli dari vendor khusus berhasil dalam 67% kasus. Tingkat keberhasilan solusi yang dibangun sendiri hanya 1/3-nya. Studi ini didasarkan pada 150 wawancara dengan pimpinan, survei terhadap 350 karyawan, dan analisis atas 300 penerapan AI publik.
Dari pilot ke produksi
88% proof of concept AI yang diamati tidak berlanjut ke penerapan skala luas. Dari setiap 33 proof of concept AI yang diluncurkan perusahaan, hanya 4 yang berhasil masuk ke produksi.
Tanggung jawab hukum atas agen
Sebuah tribunal di British Columbia memerintahkan Air Canada membayar ganti rugi, bunga, dan biaya setelah chatbot di situs webnya memberikan informasi yang salah kepada pelanggan tentang tarif duka. Tribunal menolak argumen bahwa chatbot tersebut merupakan entitas terpisah yang bertanggung jawab atas pernyataannya sendiri.
Pembatalan proyek
Gartner memprediksi lebih dari 40% proyek agentic AI akan dibatalkan pada akhir 2027 akibat biaya yang terus membengkak, nilai bisnis yang tidak jelas, atau kontrol risiko yang tidak memadai.
Waktu menuju produksi
Gartner menemukan bahwa “rata-rata, hanya 48% prototipe AI yang berhasil masuk ke produksi,” dan bahwa perjalanan dari prototipe AI ke produksi memakan waktu “rata-rata 8,2 bulan.”
Investasi awal
Gartner memperkirakan investasi awal untuk membangun agen AI sendiri mencapai $2,5 juta hingga $4,3 juta, dibandingkan $1,5 juta hingga $2,7 juta untuk membeli.
Beban yang terus berjalan
Membangun sendiri berarti Anda menanggung pemeliharaan model yang seharusnya ditangani vendor, merekrut talenta AI yang langka, dan menjalani audit kepatuhan yang lebih berat. Gartner mengingatkan agar tidak melebih-lebihkan kemampuan tim Anda untuk mempertahankannya.
Metodologi. Angka disajikan sebagaimana dipublikasikan oleh masing-masing sumber dan tidak disesuaikan oleh Maven AGI. Ilustrasi dibuat oleh Maven AGI berdasarkan angka yang dikutip. Kutipan lengkap tercantum di bagian Sumber.
Publikasi riset Gartner berisi opini dari organisasi riset Gartner dan tidak boleh ditafsirkan sebagai pernyataan fakta. GARTNER adalah merek dagang dan merek layanan terdaftar milik Gartner, Inc. dan/atau afiliasinya di AS dan secara internasional, dan digunakan di sini dengan izin. Hak cipta dilindungi undang-undang.