Ông Lê Hồng Việt, Tổng Giám đốc FPT Smart Cloud, Tập đoản FPT.
Vì sao AI chạy được trong thử nghiệm nhưng chưa chắc vận hành tốt trong thực tế?
Tại FPT Transform 2026, diễn ra ngày 17/10 tại Hà Nội với chủ đề “Ship AI Live”, ông Lê Hồng Việt, Tổng giám đốc FPT Smart Cloud, Tập đoàn FPT, cho biết AI đang thay đổi cách các nhóm phát triển phần mềm xây dựng sản phẩm. Trước đây, để hoàn thiện bản mẫu (prototype) cho một ý tưởng, các nhóm có thể mất một đến hai tuần để thảo luận, phác thảo và chỉnh sửa. Với phương pháp lập trình bằng ngôn ngữ tự nhiên (vibe coding), thời gian này có thể rút xuống còn hai đến ba giờ. AI còn hỗ trợ viết kiểm thử và tìm nguyên nhân gốc rễ khi hệ thống phát sinh lỗi, giúp đội ngũ kỹ thuật xử lý những công việc vốn tốn nhiều thời gian.
Tuy nhiên, tốc độ phát triển chỉ giải quyết một phần của quá trình đưa AI vào ứng dụng thực tế. Khi chuyển sang môi trường vận hành, ứng dụng AI phải xử lý dữ liệu thực tế, đáp ứng yêu cầu về tốc độ và tính ổn định, kết nối với các hệ thống hiện hữu, đồng thời bảo đảm an toàn và kiểm soát được các thao tác do AI thực hiện.
Bài toán dữ liệu cho thấy rõ khoảng cách này. Trong phiên chia sẻ về hiện đại hóa nền tảng dữ liệu phục vụ AI, ông Lê Thanh Hòa, phụ trách sản phẩm FPT Data Platform, FPT Smart Cloud, Tập đoàn FPT, cùng ông Nguyễn Mạnh Hiếu, kỹ sư kiến trúc dữ liệu, FPT Smart Cloud, Tập đoàn FPT, trình bày một thử nghiệm với bộ dữ liệu bán lẻ mô phỏng. Nhóm sử dụng 40 câu hỏi trên 17 mô hình dữ liệu đã được chuẩn hóa để kiểm tra khả năng trả lời theo định nghĩa nghiệp vụ.
Ông Nguyễn Mạnh Hiếu, kỹ sư kiến trúc dữ liệu, FPT Smart Cloud, Tập đoàn FPT
Một câu hỏi tưởng như đơn giản, chẳng hạn số lượt trả hàng theo sản phẩm, vẫn có thể dẫn đến kết quả sai nếu AI hiểu nhầm cách tính. Đếm số dòng ghi nhận trả hàng khác với cộng tổng số lượng hàng được trả; để trả lời đúng, hệ thống còn phải liên kết bản ghi trả hàng với giao dịch bán ban đầu. Nếu không có định nghĩa nghiệp vụ rõ ràng, câu trả lời có thể hợp lý về mặt ngôn ngữ nhưng sai về mặt kinh doanh.
Trong thử nghiệm được giới thiệu tại sự kiện, khi bổ sung thông tin từ danh mục dữ liệu, tỷ lệ câu trả lời đúng theo định nghĩa nghiệp vụ tăng từ 61% lên 86%, dù vẫn sử dụng cùng một mô hình AI. Kết quả cho thấy việc cung cấp đầy đủ ngữ cảnh và định nghĩa nghiệp vụ có thể cải thiện chất lượng câu trả lời mà không nhất thiết phải thay đổi mô hình AI. Đây cũng là một trong những yêu cầu đặt ra đối với các nền tảng quản trị dữ liệu khi doanh nghiệp mở rộng ứng dụng AI.
Ngoài việc hiểu đúng dữ liệu, AI còn phải tuân thủ quyền truy cập khi thực hiện công việc. Tại sự kiện, Tiến sĩ Nguyễn Công Thương, Phó giám đốc Khối Dữ liệu và AI, Ngân hàng TMCP Công Thương Việt Nam (VietinBank), chia sẻ về việc ứng dụng AI Agent khai thác dữ liệu trên Lakehouse theo danh tính và quyền hạn của người dùng. AI có thể hỗ trợ soạn thảo đề xuất, nhưng nhân viên vẫn kiểm tra, chỉnh sửa và thực hiện bước phê duyệt theo thẩm quyền. Như vậy, đưa AI vào quy trình nghiệp vụ còn đòi hỏi doanh nghiệp xác định rõ dữ liệu nào được phép sử dụng và những quyết định nào cần con người phê duyệt.
Hạ tầng và chi phí: Thách thức khi mở rộng ứng dụng AI
Khi chuyển từ thử nghiệm với số lượng yêu cầu hạn chế sang phục vụ nhiều người dùng, hệ thống AI phải bảo đảm hiệu năng, khả năng mở rộng và kiểm soát chi phí tài nguyên tính toán. Một ứng dụng AI phục vụ nhiều người dùng cần đáp ứng tốc độ phản hồi, xử lý được lượng yêu cầu tăng lên và duy trì chi phí trong giới hạn dự kiến. Việc lựa chọn mô hình và bố trí tài nguyên tính toán vì vậy ảnh hưởng trực tiếp đến khả năng triển khai trên quy mô lớn.
Ở lớp hạ tầng, FPT Kubernetes Engine với GPU hỗ trợ doanh nghiệp triển khai và vận hành các tác vụ AI trên môi trường Kubernetes được quản trị. FPT đảm nhiệm quản lý hạ tầng và hệ thống điều khiển Kubernetes, trong khi doanh nghiệp chủ động quản lý ứng dụng, mô hình và tác vụ AI.
Tại sự kiện, FPT giới thiệu Token Factory, nền tảng cung cấp một cổng API thống nhất để truy cập các mô hình AI do FPT vận hành, cũng như các mô hình từ nhà cung cấp khác. Theo FPT, việc tối ưu hệ thống từ hạ tầng, phần mềm đến cổng API giúp thông lượng xử lý tăng hơn hai lần và thời gian tạo token đầu tiên giảm ba lần trên cùng hệ thống GPU.
Bên cạnh tối ưu hạ tầng, việc chọn mô hình cũng cần gắn với từng loại công việc. Những tác vụ đơn giản có thể được chuyển cho mô hình nhỏ hơn, trong khi yêu cầu phức tạp cần mô hình có năng lực cao hơn. Doanh nghiệp đồng thời phải cân nhắc giữa sử dụng dịch vụ bên ngoài và tự vận hành, dựa trên chi phí đầu tư, năng lực hạ tầng, yêu cầu bảo mật và khả năng kiểm soát dữ liệu.Vận hành AI đòi hỏi khả năng kiểm thử, giám sát và kiểm soát liên tục.
Ngay cả khi đã triển khai thành công, ứng dụng AI vẫn cần được giám sát, kiểm thử và cập nhật trong suốt quá trình hoạt động. Việc thay đổi phần mềm, mô hình hoặc dữ liệu có thể ảnh hưởng đến chất lượng đầu ra, hiệu năng và an toàn hệ thống, đòi hỏi doanh nghiệp có quy trình kiểm soát phù hợp.
Tại phiên chia sẻ về kiến trúc DevSecOps hiện đại, ông Trần Việt Thanh, Phó giám đốc Trung tâm Phát triển nền tảng Cloud, FPT Smart Cloud, Tập đoàn FPT, và ông Lê Văn Lực, phụ trách sản phẩm Kubernetes Engine, FPT Smart Cloud, Tập đoàn FPT, trình bày cách kết nối các bước phát triển, kiểm tra bảo mật, xây dựng phần mềm, phê duyệt và triển khai trong một quy trình thống nhất. Các thay đổi do lập trình viên hoặc AI tạo ra vẫn phải qua những bước kiểm tra và phê duyệt trước khi được đưa vào sử dụng.
Ông Lê Văn Lực, phụ trách sản phẩm Kubernetes Engine, FPT Smart Cloud, Tập đoàn FPT.
Sau triển khai, hệ thống cần tiếp tục theo dõi hoạt động để phát hiện bất thường và xác định nguyên nhân khi có lỗi. Trong phần trình bày về mô hình DevSecOps tại FPT, diễn giả cho biết cơ chế tự động xử lý các sự cố đã biết theo quy tắc và quy trình định sẵn giúp rút ngắn thời gian xử lý sự cố từ 60 phút xuống còn 6 phút. Với những sự cố phức tạp, đội ngũ kỹ thuật vẫn cần đánh giá và xử lý.
Yêu cầu kiểm soát này càng rõ khi AI không chỉ hỗ trợ phát triển phần mềm mà còn trực tiếp thực hiện các công việc nghiệp vụ. Theo ông Nguyễn Chiến Thắng, Giám đốc Trung tâm Phát triển, Ngân hàng TMCP Sài Gòn - Hà Nội (SHB), lựa chọn giữa quy trình được thiết kế sẵn (workflow) và AI Agent phụ thuộc vào đặc điểm công việc, chi phí và yêu cầu giải thích kết quả. Những quy trình có các bước xử lý rõ ràng có thể phù hợp với workflow; các tác vụ cần linh hoạt hơn mới đặt ra nhu cầu sử dụng agent.
Quá trình triển khai còn phát sinh những vấn đề như kết nối với hệ thống cũ, phân quyền, xử lý khi tác vụ thất bại và kiểm soát chi phí sử dụng token. Đáng chú ý, AI có thể thông báo đã hoàn thành nhiệm vụ nhưng kết quả thực tế không chính xác. Vì vậy, doanh nghiệp cần có cơ chế kiểm tra, ghi nhận lịch sử hoạt động và kiểm toán để phát hiện sai lệch.
Để hỗ trợ doanh nghiệp triển khai và kiểm soát các tác tử AI trong quy trình nghiệp vụ, FPT giới thiệu FPT AI EOS, nền tảng điều phối các AI Agents, đồng thời hỗ trợ phối hợp giữa AI và con người trong quá trình thực hiện công việc. Trong phần trình diễn tại sự kiện, AI được sử dụng để hỗ trợ chuẩn bị báo giá, tạo hợp đồng và cập nhật trạng thái công việc, trong khi những quyết định quan trọng vẫn cần nhân sự có thẩm quyền phê duyệt.
Với MoMo, ông Thái Trí Hùng, Phó tổng giám đốc cấp cao kiêm Giám đốc Công nghệ, chia sẻ AI ban đầu được ứng dụng vào những công việc riêng lẻ như lập trình và marketing, sau đó hướng tới mở rộng trên toàn bộ vòng đời phát triển sản phẩm. Khi phạm vi ứng dụng tăng lên, việc đánh giá liên tục và tiếp nhận phản hồi trở thành yêu cầu quan trọng để điều chỉnh hệ thống theo nhu cầu thực tế.
Những nội dung tại FPT Transform 2026 cho thấy đưa AI vào sử dụng trong doanh nghiệp đòi hỏi nhiều hơn việc chứng minh mô hình có thể hoạt động. Phần mềm cần được kiểm thử, dữ liệu phải phản ánh đúng nghiệp vụ, hạ tầng phải đáp ứng nhu cầu sử dụng và hệ thống cần có cơ chế giám sát, phân quyền rõ ràng. Đây là những yêu cầu doanh nghiệp cần tính đến ngay từ khâu thiết kế và thử nghiệm nếu muốn mở rộng ứng dụng AI trong hoạt động thực tế.
