Microsoft nhấn mạnh rủi ro từ AI agent nội bộ
Trong bài viết ngày 19/10/2026, Microsoft đề cập đến rủi ro từ các AI agent đang hoạt động bên trong doanh nghiệp. Hãng nhấn mạnh việc xác định danh tính, giới hạn quyền và theo dõi hành động của agent trên nhiều lớp, từ dữ liệu đến môi trường thực thi. Project Perception được trình bày như một cách tiếp cận giám sát và quản trị các hoạt động đó.
Đây là góc nhìn đáng chú ý khi AI chuyển từ hỗ trợ trả lời sang trực tiếp sử dụng công cụ và tham gia quy trình công việc.
Gợi ý thiết kế một quy trình có AI agent
Giả sử doanh nghiệp muốn tự động hóa việc tiếp nhận yêu cầu của khách hàng. Một thử nghiệm ban đầu có thể cho agent đọc các tài liệu được phép, phân loại yêu cầu và soạn đề xuất xử lý. Những hành động làm thay đổi dữ liệu nghiệp vụ cần có quy tắc phê duyệt rõ ràng.
Khi xây dựng quy trình, đội dự án có thể làm rõ:
- Danh tính: agent dùng tài khoản nào và ai chịu trách nhiệm quản lý tài khoản đó?
- Quyền hạn: agent được đọc, tạo bản nháp hay thay đổi những dữ liệu nào?
- Phê duyệt: trường hợp nào cần nhân viên xác nhận trước khi hệ thống thực hiện?
- Truy vết: có thể tra lại công cụ đã gọi, dữ liệu đã sử dụng và thay đổi đã tạo không?
- Khôi phục: nhân viên có thể dừng tác vụ và xử lý một thay đổi sai bằng cách nào?
Các câu trả lời nên được thể hiện bằng cấu hình và cơ chế trong ứng dụng, bên cạnh hướng dẫn bằng ngôn ngữ tự nhiên.
Đo hiệu quả cùng với mức độ kiểm soát
Một quy trình thử nghiệm nên được đánh giá qua cả kết quả nghiệp vụ và khả năng vận hành. Ngoài thời gian xử lý, doanh nghiệp có thể theo dõi tỷ lệ tác vụ cần sửa, số trường hợp agent thiếu thông tin và khối lượng công việc chuyển lại cho nhân viên.
Những tình huống quan trọng để thử gồm yêu cầu thiếu dữ liệu, tài liệu mâu thuẫn, công cụ bị lỗi và tác vụ vượt quyền. Kết quả thử nghiệm sẽ giúp xác định phạm vi có thể tự động hóa tiếp theo.
Trao đổi với Vietek về tự động hóa một quy trình nghiệp vụ.
Nguồn tham khảo
- Microsoft: cơ chế giới hạn tài nguyên cho AI agent, 07/10/2026.
- Microsoft: Securing the agentic insider, 19/10/2026.
Thông tin được kiểm tra đến ngày 27/10/2026.