Phí tổn của AI Agent

AI Agent được nhắc đến khoảng 1 năm trước. Đó là một dạng AI tự quyết định các bước cần làm và tự thực hiện chúng để đạt được một mục đích nào đó do doanh nghiệp đề ra. 

Đo lường giá trị AI
Tháng 4 vừa qua, Giám đốc Công nghệ Uber cho biết Công ty đã sử dụng ngân sách AI dự kiến cho cả năm chỉ sau 4 tháng. Chỉ 2 tháng sau, Uber phải áp dụng giới hạn mức sử dụng AI 1.500 USD/tháng/nhân viên cho việc dùng AI Agent để lập trình của Claude hay Cursor.

Điều này cũng là dễ hiểu qua số liệu từ báo cáo Global AI Pulse quý II/2026 của KPMG. Báo cáo cho thấy AI đang chuyển nhanh từ thử nghiệm sang công việc hằng ngày, nhưng có hơn 1/3 lãnh đạo doanh nghiệp được khảo sát cho biết việc hạn chế hiểu biết về chi phí sử dụng là một thách thức khi triển khai AI Agent.

Trong một cuộc phỏng vấn hồi tháng 7 với McKinsey, ông David Tepper, đồng sáng lập kiêm Giám đốc Điều hành Pay-i, cho biết cách tính chi phí AI đơn thuần dựa trên giá mỗi token đang trở nên không còn phù hợp đối với AI Agent. Một AI Agent có thể tự quyết định sử dụng công cụ nào, thực hiện bao nhiêu bước và có lặp lại không. Vì vậy, cùng một yêu cầu có thể tạo ra mức tiêu thụ rất khác nhau giữa AI tạo sinh và AI Agent, khi chênh lệch chi phí cho một câu lệnh (prompt) có thể lên tới 30 lần, tùy vào đường đi mà AI Agent chọn lựa. Trong đó, việc duy trì ngữ cảnh qua nhiều bước xử lý có thể khiến một tác vụ tiêu thụ lượng token lớn hơn khoảng 1.000 lần so với những tương tác AI đơn giản như trò chuyện hoặc hỗ trợ lập trình. 

Một khoản chi phí đáng kể khác đến từ việc kiểm tra, chỉnh sửa và hoàn thiện kết quả. McKinsey dẫn một nghiên cứu trên 20 quy trình lập trình sử dụng AI Agent trong môi trường thực tế, cho thấy khâu này chiếm 59,4% tổng lượng token tiêu thụ.

Quan trọng hơn, ông Tepper cho rằng doanh nghiệp đang nhìn nhận chưa đúng về hiệu quả đầu tư vào AI. Lượng token chỉ cho biết doanh nghiệp đã tiêu tốn bao nhiêu chi phí, chứ không cho biết khoản chi đó tạo ra bao nhiêu giá trị. Khi AI Agent có khả năng tự quyết định cách thực hiện một nhiệm vụ, chi phí cũng không còn cố định mà có thể thay đổi đáng kể tùy vào cách hệ thống xử lý công việc.

Vì vậy, câu hỏi doanh nghiệp cần trả lời không còn đơn giản là “AI có đáng để đầu tư?” mà nên là “Trong số các AI Agent đang được triển khai, AI Agent nào thực sự tạo ra giá trị và làm thế nào để đo lường được giá trị đó?”. Theo McKinsey, doanh nghiệp cần gắn chi phí vận hành AI Agent với các chỉ số hiệu quả kinh doanh và kết quả thực tế thay vì chỉ theo dõi lượng token đã sử dụng.

Ứng xử với AI Agent
Bên cạnh chi phí, một vấn đề còn lớn hơn với AI Agent là kiểm soát rủi ro mà hệ thống tự chủ tạo ra. Đối với một số ngành nhạy cảm như tài chính, rủi ro có thể kéo theo các hệ quả lớn.

Chia sẻ tại Conviction 2026, bà Tâm Phạm, Phó Chủ tịch phụ trách sản phẩm tại Hydra X, cho biết Công ty trước hết tập trung xây dựng một “bộ não doanh nghiệp”, hoàn thiện ngữ cảnh và các cơ chế kiểm soát, rồi mới từng bước xây dựng lớp thực thi. Cách tiếp cận này cũng cho thấy không phải công việc nào cũng cần AI Agent. Với những nhiệm vụ có mức độ rủi ro thấp, doanh nghiệp có thể cho AI tự động xử lý nhiều hơn. “Nhưng với những quyết định liên quan đến tiền bạc, tài sản hoặc những hành động khó đảo ngược, con người cần giữ quyền kiểm soát cao hơn”, bà Tâm Phạm nói.

Ông Eric Vũ Châu, Phó Giám đốc Khối Ngân hàng số, Ngân hàng ACB, cho biết mức độ tự chủ của AI có thể được nhìn nhận theo 3 cấp độ, tùy vào mức độ trưởng thành của hệ thống.

Ở cấp độ đầu tiên, con người trực tiếp kiểm soát AI. AI giống như một phi công đề xuất hành động, nhưng mọi hành động hoặc nhiệm vụ do AI đưa ra đều phải được con người phê duyệt. Ở cấp độ thứ 2, AI có thể tự thực hiện công việc trong những giới hạn đã được xác định trước. AI tự quyết định cần làm gì để đạt mục tiêu, trong khi con người giữ quyền giám sát và có thể can thiệp hoặc dừng hệ thống khi cần. Cấp độ cao nhất là khi con người chỉ đặt ra chính sách, quy tắc và các nguyên tắc, còn AI tự vận hành bên trong những giới hạn đó.

Việc lựa chọn mức độ tự chủ nào không thể áp dụng chung cho mọi trường hợp mà phải dựa trên đặc điểm của từng công việc. Ông Eric đưa ra 2 tiêu chí quan trọng. Thứ nhất là mức độ rủi ro của quyết định. Những quyết định liên quan trực tiếp đến tiền bạc hoặc tài sản có mức độ rủi ro cao và cần được kiểm soát chặt chẽ hơn. Thứ 2 là khả năng đảo ngược quyết định. Nếu một hành động không thể hoàn tác hoặc làm mất đi trạng thái ban đầu, doanh nghiệp cần cân nhắc kỹ trước khi cho phép AI tự động thực hiện.

Ví dụ, trong phát hiện gian lận, một hệ thống ngân hàng có thể phải xử lý hàng triệu giao dịch mỗi ngày. Nếu có 10 triệu giao dịch và tỷ lệ gian lận là 1%, sẽ có khoảng 100.000 giao dịch cần được xử lý. Trong trường hợp này, việc yêu cầu con người phê duyệt từng quyết định là không khả thi. “Doanh nghiệp có thể phải chuyển sang mô hình để AI tự xử lý trong những giới hạn nhất định, trong khi con người vẫn giữ quyền giám sát và can thiệp khi cần”, ông Eric nói.

Để làm việc này, theo ông Hoàng Hiếu, Giám đốc Kiến trúc Giải pháp, AWS Việt Nam, hệ thống dữ liệu của doanh nghiệp phải chuyển từ monitoring (giám sát) sang observability (quan sát). Nếu monitoring giúp doanh nghiệp nhận biết một hệ thống đang có vấn đề, observability giúp doanh nghiệp hiểu vấn đề đó bắt nguồn từ đâu và đang ảnh hưởng đến đâu trong toàn bộ hệ thống. Điều này đặc biệt quan trọng với AI. Nếu chất lượng của một mô hình tính toán bắt đầu suy giảm, doanh nghiệp không chỉ cần biết độ chính xác đã giảm. Họ cần phát hiện sự thay đổi, đưa ra cảnh báo và có đủ thông tin để tìm phương án xử lý trước khi vấn đề tác động đến người dùng cuối.

“Khi AI chuyển từ công cụ trả lời sang tác nhân thực hiện công việc, dữ liệu không còn chỉ là nguyên liệu đầu vào. Nó trở thành một phần của quá trình vận hành. Và khi đó, doanh nghiệp không chỉ cần AI hiểu dữ liệu, mà còn phải nhìn thấy dữ liệu đang đi đâu, thay đổi thế nào và tác động đến hệ thống ra sao”, ông Hiếu nói.