Tác nhân AI trong doanh nghiệp là phiên bản hiện tại của một câu chuyện quen thuộc: một bản demo chạy đẹp trong mười phút, rồi sáu tháng vật lộn để nó đủ tin cậy mà có thể để chạy không cần trông. Khoảng cách giữa hai trạng thái đó là nơi gần như toàn bộ ngân sách đi qua, và gần như không tài liệu tiếp thị nào mô tả nó.

Tác nhân khác chatbot ở một điểm có ý nghĩa thương mại. Chatbot tạo ra văn bản và con người quyết định làm gì với nó. Tác nhân thì hành động, gọi hệ thống, ghi bản ghi, gửi tin nhắn. Sự dịch chuyển đó đưa rủi ro từ chỗ ngượng ngùng sang chỗ hậu quả, và vì thế kỷ luật kỹ thuật cần có gần với việc xây một hệ thống thanh toán hơn là một công cụ nội dung.

Tiền thực sự đi đâu: mô hình là phần rẻ nhất. Chi phí nằm ở tích hợp công cụ, bộ khung đánh giá, các rào chắn và đường bàn giao cho con người. Một tác nhân nội bộ đơn giản tốn £5,000 đến £12,000, loại có truy hồi tài liệu £12,000 đến £30,000, còn tác nhân nhiều bước có quyền truy cập hệ thống thật bắt đầu quanh £30,000 và chạm £75,000 hoặc hơn khi giám sát và hoàn tác được xây dựng tử tế.

Tác nhân AI trong doanh nghiệp thực sự hiệu quả ở đâu

Nên nói cụ thể, vì danh sách trung thực ngắn hơn lời quảng cáo và hữu ích hơn.

Tác nhân làm tốt những việc lặp lại, có ranh giới rõ và chịu được một bước kiểm duyệt. Phân loại yêu cầu đến rồi chuyển tiếp kèm bản nháp trả lời. Trích xuất dữ liệu có cấu trúc từ tài liệu phi cấu trúc, với người xác nhận trước khi ghi nhận. Đối chiếu bản ghi giữa hai hệ thống và đánh dấu ngoại lệ thay vì tự xử lý. Hỗ trợ tuyến đầu giải quyết ca phổ biến và chuyển tiếp gọn gàng.

Khuôn mẫu là tác nhân gánh khối lượng còn con người gánh phán đoán. Mọi triển khai chúng tôi từng thấy chạy được trong thực tế đều có hình dạng đó, và phần lớn những cái thất bại là nỗ lực loại bỏ hoàn toàn con người khỏi một quy trình mà phán đoán thực sự cần thiết.

Chúng làm kém ở nơi sai sót đắt và khó phát hiện, nơi công việc đòi hỏi kiến thức chỉ tồn tại trong đầu ai đó, và nơi quy trình thật sự khác nhau mỗi lần. Một tác nhân nhận việc không có cấu trúc ổn định sẽ tạo ra kết quả nghe hợp lý mãi mà không bao giờ đúng, điều này tệ hơn thất bại lộ liễu.

Vì sao dự án thí điểm mắc kẹt giữa demo và vận hành

Chế độ thất bại thứ nhất là số học và khiến người ta bất ngờ. Nếu một bước trong chuỗi của tác nhân đạt độ tin cậy chín mươi lăm phần trăm, thì nhiệm vụ năm bước thành công khoảng bảy mươi bảy phần trăm, còn mười bước khoảng sáu mươi. Không ai nhận ra điều này trong demo, vì demo chạy theo đường thuận lợi. Nó lộ ra vào tuần thứ ba của giai đoạn thí điểm, và khi đó cách sửa là kiến trúc chứ không phải chỉnh prompt: rút ngắn chuỗi, thêm bước kiểm tra ở giữa, và thiết kế mỗi bước sao cho lỗi được phát hiện chứ không truyền tiếp.

Thứ hai là hầu hết quy trình kinh doanh không có hoàn tác. Một tác nhân gửi nhầm email không thể thu hồi. Một tác nhân cập nhật hồ sơ khách hàng đã thay đổi thứ mà hệ thống khác đã đọc. Xây dựng khả năng đảo ngược một hành động thường tốn nhiều công hơn chính hành động đó, và đây là phần bị hoãn rồi mới bị phát hiện.

Đánh giá mới là chi phí kỹ thuật thực sự

Thất bại thứ ba là đánh giá, và đó là nơi nỗ lực kỹ thuật thực sự nằm, bị các đội mới làm đánh giá thấp một cách nhất quán. Phần mềm truyền thống được kiểm thử với đầu ra mong đợi. Tác nhân tạo ra đầu ra khác nhau mỗi lần chạy và có thể đúng theo nhiều dạng, nên bạn cần một tập ca thực tế có chấm điểm với tiêu chí xác định về hành vi chấp nhận được, chạy tự động mỗi khi có thay đổi. Không có nó, bạn không thể biết một chỉnh sửa prompt đã cải thiện hay chỉ dời lỗi sang chỗ bạn không nhìn tới. Hãy dự trù bộ khung đánh giá mất thời gian ngang với chính tác nhân.

Thứ tư là biến động chi phí. Lượng token tăng theo số lần thử lại và độ dài chuỗi, nên một tác nhân hay lỗi tốn hơn một tác nhân chạy tốt, còn tác nhân bị lặp thì tốn hơn rất nhiều. Ngân sách dựng trên giả định hành vi trung bình là điển hình thường sai theo hướng bất lợi. Hướng dẫn của chúng tôi về độ trễ và chi phí mô hình ngôn ngữ trình bày các chiến lược bộ nhớ đệm và định tuyến giữ khoản này trong giới hạn.

Những nghĩa vụ công bố đang áp dụng

Đây là phần vừa thay đổi và phần lớn doanh nghiệp xây tác nhân hướng khách hàng chưa ghi nhận.

Nghĩa vụ minh bạch tại Điều 50 của Đạo luật AI của EU có hiệu lực ngày 2 tháng 8 năm 2026 đúng như kế hoạch ban đầu. Chúng yêu cầu thông báo khi một người đang tương tác với hệ thống AI, gắn nhãn nội dung tổng hợp âm thanh, hình ảnh, video và văn bản do AI tạo, và công bố các deepfake. Điểm mấu chốt là chúng áp dụng dựa trên việc hệ thống làm gì chứ không dựa vào bậc rủi ro, nên một tác nhân chăm sóc khách hàng thông thường cũng thuộc phạm vi.

Các nghĩa vụ với hệ thống rủi ro cao đã được hoãn. Digital Omnibus của EU về AI, Quy định 2026/1744 , được đăng Công báo ngày 24 tháng 7 năm 2026 và có hiệu lực ngày 27 tháng 7 năm 2026, sáu ngày trước hạn ban đầu. Nó dời việc tuân thủ cho các hệ thống rủi ro cao độc lập nêu tại Phụ lục III từ 2 tháng 8 năm 2026 sang 2 tháng 12 năm 2027, và với AI nhúng trong sản phẩm đã thuộc luật an toàn sản phẩm của EU sang 2 tháng 8 năm 2028. Omnibus cũng thêm hai loại bị cấm vào Điều 5, với thời gian ân hạn cho các biện pháp kỹ thuật liên quan đến 2 tháng 12 năm 2026.

AI Act Explorer là cách nhanh nhất để kiểm tra điều khoản nào chạm tới một hệ thống cụ thể. Anh chưa ban hành đạo luật tương đương và tiếp tục cách tiếp cận do cơ quan quản lý dẫn dắt, nên một triển khai thuần nội địa chịu sự điều chỉnh của luật hiện hành thay vì một khung riêng cho AI. Sự phân biệt này ít quan trọng hơn vẻ ngoài của nó. Nếu bạn phục vụ khách hàng EU, hoặc sản phẩm của bạn được dùng ở EU, đạo luật vẫn với tới bạn bất kể bạn đăng ký ở đâu, và nghĩa vụ minh bạch đang có hiệu lực chứ không được hoãn. Đưa phần công bố vào một tác nhân hướng khách hàng thì rẻ khi thiết kế và vướng víu khi cải tạo về sau.

Chi phí bao nhiêu

Các khoảng dưới đây theo cùng cấu trúc với hướng dẫn chi phí tích hợp AI rộng hơn của chúng tôi, và mô tả chi phí xây dựng chứ không phải chi phí vận hành.

Một tác nhân nội bộ làm một việc có ranh giới rõ trên một hoặc hai hệ thống, có người kiểm tra đầu ra, tốn £5,000 đến £12,000. Đây là dự án đầu tiên đúng đắn và là nơi bạn biết dữ liệu cùng quy trình của mình có ở trạng thái dùng được hay không.

Một tác nhân có truy hồi trên tài liệu của chính bạn, xử lý một quy trình kinh doanh thật với nhiều công cụ, tốn £12,000 đến £30,000. Lớp truy hồi thường chiếm phần lớn hơn, vì trần chất lượng do mức độ cấu trúc của tài liệu quyết định chứ không phải mô hình. Bài so sánh tinh chỉnh, truy hồi và prompting của chúng tôi bàn cách chọn theo từng bài toán.

Một tác nhân nhiều bước có quyền ghi vào hệ thống vận hành, có giám sát đúng mực, có hoàn tác và có bộ khung đánh giá bắt đầu quanh £30,000 và thường chạm £75,000 hoặc hơn. Không phải tính năng làm nên con số đó. Bộ máy an toàn mới làm nên.

Chi phí vận hành tách riêng và biến động nhiều hơn lời nhà cung cấp. Lệnh gọi mô hình, hạ tầng truy hồi, giám sát, và thời gian kỹ thuật để duy trì các bài đánh giá khi mô hình thay đổi bên dưới bạn. Hãy tính rõ khoản cuối vào ngân sách, vì nhà cung cấp mô hình ngừng và sửa đổi theo lịch riêng của họ, và hành vi tác nhân của bạn đổi theo.

Cách định phạm vi cho dự án đầu tiên

Chọn một việc mà bạn đã đo được hiệu năng hiện tại. Nếu bạn không biết quy trình thủ công mất bao lâu hay sai bao nhiêu lần, bạn sẽ không nói được tác nhân có giúp hay không, và dự án sẽ bị đánh giá theo cảm nhận.

Giữ chuỗi đầu tiên ngắn. Ba bước chạy được là nền tốt hơn mười bước chạy gần được, và dạy bạn đúng những bài học ấy về chất lượng dữ liệu.

Xây tập đánh giá trước khi xây tác nhân. Hai mươi đến năm mươi ca thật với kết quả tốt đã biết, viết ra trước khi có ai bắt đầu viết prompt. Riêng thói quen này tách các dự án hội tụ khỏi các dự án dao động.

Thiết kế bàn giao một cách tường minh. Điều gì xảy ra khi tác nhân không chắc, con người nhìn thấy gì, và ca đó quay lại hàng đợi ra sao. Các đội coi đây là trường hợp ngoại lệ sẽ phát hiện nó chiếm phần lớn lưu lượng đáng quan tâm.

Ghi vết mọi thứ từ ngày đầu. Bạn cần đầu vào đầy đủ, lập luận, công cụ được gọi và kết quả cho mỗi lần chạy, vì những lỗi bạn cần hiểu chính là những lỗi bạn không lường trước.

Khi nào không nên xây

Nếu quy trình bạn muốn tự động hóa ổn định và dựa trên quy tắc, phần mềm thông thường rẻ hơn, nhanh hơn, đáng tin hơn và dễ kiểm toán hơn. Rất nhiều thứ đang được xây theo hướng tác nhân hoàn toàn có thể là một tác vụ hẹn giờ kèm vài điều kiện, và như thế còn tốt hơn.

Nếu dữ liệu của bạn phân tán, thiếu nhất quán hoặc không được ghi chép, hãy sửa điều đó trước. Tác nhân thừa hưởng mọi vấn đề của dữ liệu nền và khuếch đại nó, vì nó sẽ tự tin hành động trên đầu vào sai thay vì dừng lại.

Trước khi cấp quyền ghi cho một tác nhân, đáng đọc OWASP Top 10 cho ứng dụng mô hình ngôn ngữ lớn , tài liệu liệt kê các lớp lỗi trở nên quan trọng khi mô hình có thể hành động chứ không chỉ trả lời. Và nếu câu trả lời trung thực cho câu hỏi điều gì xảy ra khi nó làm sai là không ai nhận ra trong một tuần, thì đừng cấp quyền ghi. Tác nhân chỉ đọc, soạn nháp chờ người duyệt, giữ được phần lớn giá trị với một phần nhỏ rủi ro, và đó là phiên bản sống sót khi gặp tải thật.

Định phạm vi thực tế

Cách phổ biến nhất khiến các dự án này hỏng là cam kết với một tác nhân tham vọng trước khi xác định dữ liệu và quy trình bên dưới có đỡ nổi hay không, và đó là câu hỏi mà một giai đoạn khảo sát ngắn trả lời với chi phí thấp.

Mecanik xây tác nhân chạy thật qua dịch vụ tích hợp AI , với bộ khung đánh giá, giám sát và hoàn tác được coi là sản phẩm bàn giao chứ không phải phần thêm, và đảm nhiệm phần ứng dụng xung quanh qua đội phát triển phần mềm . Nếu bạn có một bản thí điểm demo rất đẹp mà mãi không ổn định, đó là một vấn đề cụ thể và sửa được, đáng để bàn.

Bài viết liên quan: Phần mềm y tế tại Anh: quy định và chi phí , Tự lưu trữ Kimi K3: phần cứng, chi phí, chủ quyền , Tích hợp API bên thứ ba: chi phí và kiểu lỗi , Tích hợp OpenAI API: thêm GPT vào ứng dụng có sẵn .

Câu hỏi thường gặp

Tác nhân AI khác chatbot ở điểm nào? Chatbot tạo ra văn bản để con người xử lý. Tác nhân tự hành động, gọi hệ thống, ghi bản ghi và gửi tin nhắn. Sự dịch chuyển đó đưa rủi ro từ chỗ ngượng ngùng sang chỗ hậu quả, nên kỷ luật kỹ thuật cần có gần với một hệ thống thanh toán hơn là một công cụ nội dung.

Tác nhân AI tốn bao nhiêu của một doanh nghiệp? Một tác nhân nội bộ cho một việc có ranh giới rõ, có người kiểm tra, tốn £5,000 đến £12,000. Loại có truy hồi trên tài liệu của bạn và nhiều công cụ tốn £12,000 đến £30,000. Tác nhân nhiều bước có quyền ghi vào hệ thống vận hành, có giám sát và hoàn tác bắt đầu quanh £30,000 và thường vượt £75,000.

Vì sao dự án thí điểm tác nhân AI không lên được vận hành thật? Độ tin cậy nhân lên rất bất lợi qua các bước: chuỗi năm bước, mỗi bước chín mươi lăm phần trăm, chỉ thành công khoảng bảy mươi bảy phần trăm. Hầu hết quy trình kinh doanh cũng không có hoàn tác, và xây bộ khung đánh giá thường mất thời gian ngang với chính tác nhân.

Tôi có phải công bố rằng khách hàng đang nói chuyện với AI không? Theo Đạo luật AI của EU, nghĩa vụ minh bạch tại Điều 50 có hiệu lực từ ngày 2 tháng 8 năm 2026 và yêu cầu thông báo khi một người tương tác với hệ thống AI, cùng với việc gắn nhãn nội dung do AI tạo. Chúng áp dụng dựa trên việc hệ thống làm gì chứ không theo bậc rủi ro, và với tới các doanh nghiệp phục vụ khách hàng EU bất kể đăng ký ở đâu.

Các quy định rủi ro cao của Đạo luật AI có bị hoãn không? Có. Quy định 2026/1744, Digital Omnibus về AI, có hiệu lực ngày 27 tháng 7 năm 2026 và dời nghĩa vụ với hệ thống rủi ro cao độc lập theo Phụ lục III từ 2 tháng 8 năm 2026 sang 2 tháng 12 năm 2027, còn AI nhúng trong sản phẩm được điều chỉnh sang 2 tháng 8 năm 2028. Nghĩa vụ minh bạch tại Điều 50 không bị hoãn.