Các doanh nghiệp đang gặp phải thách thức lớn trong quá trình xây dựng và mở rộng hệ thống AI agent do đặc thù "khó lường" và linh hoạt của chúng. Theo CEO Writer, cần tư duy lại toàn bộ vòng đời phát triển agent để đạt hiệu quả và kiểm soát bền vững.

Thay đổi tư duy phát triển phần mềm với AI agent

Theo bà May Habib, CEO và đồng sáng lập Writer, AI agent khác biệt hoàn toàn so với phần mềm truyền thống về cách xây dựng, vận hành và cải tiến. Trong khi phần mềm truyền thống tuân theo chu trình phát triển phần mềm kiểu mẫu với các bước rõ ràng, agent lại là hệ thống thích ứng, hướng tới kết quả và có hành vi chỉ thực sự bộc lộ khi triển khai thực tế.

AI agent không tuân thủ quy trình "đầu vào ra đầu ra"

Các agent không nhất quán tuân thủ luật lệ do bản chất không xác định (non-deterministic)
Hành vi của agent chỉ thật sự phát lộ trong môi trường thực tế
Việc vận hành tác nghiệp đòi hỏi chuyển sang cách tiếp cận lấy mục tiêu hành động làm trung tâm, thay vì lặp lại các bước cứng nhắc

Lập kế hoạch và bảo trì agent đòi hỏi tư duy mới

Theo chia sẻ của CEO Writer, doanh nghiệp cần định hướng agent bằng logic nghiệp vụ, hợp tác với chuyên gia chủ đề để thiết kế vòng lặp reasoning (lý trí) và map hóa quy trình giúp agent phát triển hành vi mong muốn.

Phải xác định rõ ai là người chịu trách nhiệm sở hữu, đánh giá, kiểm tra chất lượng agent
Thiếu nhất quán trong kiểm thử: cần đánh giá qua kết quả và sự thích ứng chứ không đơn thuần dựa trên checklist
Chấp nhận sự không hoàn hảo - hướng đến "niềm tin hành vi" thay vì sự hoàn hảo tuyệt đối

Thách thức khi doanh nghiệp mở rộng quy mô agent

Writer cho biết đã đồng hành giúp nhiều khách hàng Fortune 1000 phát triển agent, nhưng đa phần vẫn mới ở giai đoạn xây dựng lẻ tẻ. Khi các tổ chức tiến tới triển khai đồng loạt trên nhiều phòng ban, "vực thẳm" xuất hiện: Quy mô quản lý và audit vượt quá khả năng phát triển agent truyền thống. Để tránh điều này, các đội ngũ IT và kinh doanh phải hình thành phương pháp phát triển mới cho agent.

Câu chuyện thực tế về giá trị mang lại

Theo CEO Writer, một ngân hàng lớn đã hợp tác cùng Writer phát triển hệ thống dựa trên AI agent, nhờ đó mở ra pipeline upsell trị giá 600 triệu USD nhờ tối ưu onboarding cho khách hàng mới ở nhiều sản phẩm.

Duy trì, bảo trì và kiểm soát hành vi agent

Bảo trì agent AI khác biệt so với phần mềm truyền thống. Ngoài việc kiểm tra code, còn phải kiểm soát prompt, model configuration, memories và quá trình reasoning. Mỗi lần cập nhật prompt hoặc thay đổi trên large language model (LLM) đều có thể làm hành vi agent khác biệt mà không hề lộ diện trên git history.

Yêu cầu về truy vết và governance

Phải đảm bảo truy vết toàn bộ hành vi: inputs, outputs, steps, tool calling, interaction
Cần kiểm soát các thay đổi của API, retrieval index, schema...
Đảm bảo quá trình governance và giải trình nhằm duy trì hiệu quả, tránh tạo chi phí dư thừa

Việc phát triển và mở rộng AI agent đặt ra hàng loạt thách thức mới cho doanh nghiệp, từ khâu thiết kế, thử nghiệm đến bảo trì và kiểm soát. Doanh nghiệp cần thay đổi hoàn toàn tư duy phần mềm truyền thống để đảm bảo vận hành agent hiệu quả, an toàn và mang lại giá trị rõ rệt.

Nội dung về "quản-lý-hành-vi"