Chi phí sở hữu một tác tử AI





Chi phí bảo trì
Bảo trì chiếm trung bình khoảng 60% chi phí vòng đời của một hệ thống phần mềm, dao động từ 40% đến 80% tùy loại hệ thống. Phần lớn trong đó là các cải tiến xuất phát từ yêu cầu thay đổi.
Trôi dạt mô hình
Với cùng một tác vụ phân biệt số nguyên tố và hợp số, độ chính xác của GPT-4 giảm từ 84,0% vào tháng 3 năm 2023 xuống 51,1% vào tháng 6 năm 2023. Các tác giả kết luận rằng hành vi của LLM có thể thay đổi đáng kể trong thời gian ngắn và cần được giám sát liên tục.
Tỷ lệ thành công: tự xây dựng hay mua
Các công cụ AI mua từ nhà cung cấp chuyên biệt thành công trong 67% trường hợp. Các giải pháp tự xây dựng chỉ thành công với tỷ lệ bằng một phần ba. Nghiên cứu dựa trên 150 cuộc phỏng vấn lãnh đạo, khảo sát 350 nhân viên và phân tích 300 dự án triển khai AI được công bố công khai.
Từ thử nghiệm đến vận hành thực tế
88% dự án thử nghiệm khái niệm (PoC) AI được khảo sát không đi đến triển khai trên diện rộng. Cứ 33 PoC AI mà một doanh nghiệp khởi động, chỉ có 4 dự án được đưa vào vận hành thực tế.
Trách nhiệm pháp lý của tác tử
Một tòa án tại British Columbia đã yêu cầu Air Canada bồi thường thiệt hại, tiền lãi và các khoản phí sau khi chatbot trên website của hãng cung cấp thông tin sai cho khách hàng về giá vé dành cho người có tang. Tòa bác bỏ lập luận rằng chatbot là một thực thể riêng biệt, tự chịu trách nhiệm về phát ngôn của mình.
Dự án bị hủy bỏ
Gartner dự đoán hơn 40% dự án AI tác tử sẽ bị hủy bỏ trước cuối năm 2027 do chi phí leo thang, giá trị kinh doanh không rõ ràng hoặc kiểm soát rủi ro chưa đầy đủ.
Thời gian đưa vào vận hành
Gartner nhận thấy “trung bình chỉ 48% nguyên mẫu AI được đưa vào vận hành thực tế”, và quá trình từ nguyên mẫu AI đến vận hành thực tế mất “trung bình 8,2 tháng”.
Khoản đầu tư ban đầu
Theo Gartner, khoản đầu tư ban đầu để tự xây dựng tác tử AI là 2,5 triệu đến 4,3 triệu USD, so với 1,5 triệu đến 2,7 triệu USD nếu mua.
Gánh nặng dài hạn
Tự xây dựng đồng nghĩa với việc tự đảm nhận công tác duy trì mô hình vốn do nhà cung cấp xử lý, tuyển dụng nhân tài AI khan hiếm và gánh các đợt kiểm toán tuân thủ nặng nề hơn. Gartner cảnh báo không nên đánh giá quá cao năng lực duy trì của đội ngũ.
Phương pháp. Số liệu được trình bày đúng như từng nguồn đã công bố và không được Maven AGI điều chỉnh. Các biểu đồ minh họa do Maven AGI thực hiện từ số liệu được trích dẫn. Trích dẫn đầy đủ có trong mục Nguồn.
Các ấn phẩm nghiên cứu của Gartner thể hiện quan điểm của bộ phận nghiên cứu Gartner và không nên được hiểu là tuyên bố về sự thật. GARTNER là nhãn hiệu và nhãn hiệu dịch vụ đã đăng ký của Gartner, Inc. và/hoặc các công ty liên kết tại Hoa Kỳ và quốc tế, được sử dụng tại đây khi có sự cho phép. Bảo lưu mọi quyền.