Việt Nam sẽ có Luật về Trí tuệ nhân tạo

Trong tham luận trình bày tại diễn đàn, ông Ajay Kushwaha, Giám đốc cấp cao phụ trách Kiến trúc doanh nghiệp khu vực ASEAN của Salesforce, nhấn mạnh rằng AI Agents – các tác nhân AI thực hiện nhiệm vụ cụ thể đang thay đổi cách doanh nghiệp vận hành ở nhiều mảng như dịch vụ, bán hàng, marketing, thương mại… Tuy nhiên, để biến cơ hội thành lợi thế cạnh tranh, doanh nghiệp cần chuẩn bị kỹ về dữ liệu, an ninh, cơ chế giám sát và quy trình triển khai.

Những phát hiện chính về AI Agents

Theo ông Kushwaha, AI Agents có thể trả lời nhanh và chính xác cho nhiều câu hỏi, hỗ trợ tự động hóa dịch vụ và tương tác khách hàng. Hầu hết ngành nghề hiện chịu tác động mạnh mẽ của AI; vấn đề đặt ra khi hệ thống không hoạt động như mong muốn là cần kiểm tra lại nguồn dữ liệu, chất lượng dữ liệu và khả năng xử lý đa ngôn ngữ.

Ngoài ra, AI Agents đòi hỏi cân nhắc nghiêm túc về bảo mật, quyền truy cập dữ liệu, cơ chế lập luận (reasoning) và các biện pháp bảo vệ để tránh rủi ro trong vận hành.

Kushwaha cảnh báo việc triển khai AI Agent từ giai đoạn thử nghiệm đến hoàn thiện và mở rộng quy mô, doanh nghiệp cần đi qua các bước như ý tưởng, xây dựng, thử nghiệm, chứng thực/đánh giá, vận hành thực tế, tiếp tục chỉnh sửa… Mỗi bước đều cần đo lường tỷ lệ thành công; nếu thất bại, phải phân tích nguyên nhân (ví dụ: dữ liệu kém, thiết kế agent chưa phù hợp, thiếu cơ chế giám sát).

Khả năng quan sát (observability) và giám sát (monitoring) AI Agents được ông Kushwaha coi là then chốt. Khi nhiều agent tương tác trong một hệ sinh thái, doanh nghiệp phải có công cụ để theo dõi luồng dữ liệu, các chỉ số chất lượng nhằm phát hiện lỗi, thiên lệch hoặc hành vi không mong muốn kịp thời.

Thách thức dữ liệu và tích hợp hệ sinh thái

Một thực tế khó tránh là dữ liệu doanh nghiệp thường phi cấu trúc và đến từ nhiều nguồn khác nhau. Do đó, doanh nghiệp buộc phải làm sạch, chuẩn hóa và gắn ngữ cảnh cho dữ liệu trước khi đưa vào huấn luyện hay chạy agent. Bên cạnh đó, việc tích hợp AI Agents vào hệ sinh thái AI hiện có đòi hỏi nền tảng có tính đa nhiệm, mở và dễ mở rộng.

Mặt khác, xây dựng AI Agents thường sử dụng dữ liệu nhạy cảm, vì thế mọi doanh nghiệp phải đặt an ninh dữ liệu lên hàng đầu, từ kiểm soát truy cập, mã hóa, đến cơ chế kiểm tra tuân thủ. Ông Kushwaha nhấn mạnh: “ngay cả những yếu tố nhỏ trong quá trình xây dựng cũng cần cân nhắc về rủi ro bảo mật trước khi công bố hay đưa agent vào thực tế”.

Kết phần tham luận, diễn giả nhấn mạnh, để tận dụng lợi thế của AI Agents, doanh nghiệp nên: chuẩn bị nguồn dữ liệu sạch, khả năng xử lý đa ngôn ngữ, xây dựng lộ trình thí điểm rõ ràng, có KPI và kế hoạch mở rộng từng bước, thiết kế khả năng tương tác giữa nhiều agent trong hệ sinh thái…

“Doanh nghiệp không chỉ cần nền tảng AI Agent mà còn phải có tư duy hệ thống – đặt câu hỏi về dữ liệu từ đâu đến, dữ liệu có được sử dụng hợp pháp không, và làm thế nào để giám sát, bảo vệ người dùng, nếu không, lợi ích từ AI rất khó được duy trì bền vững”, Ajay Kushwaha nói.