Trong thời đại kỷ nguyên số, dưới sự phát triển mạnh mẽ của trí tuệ nhân tạo chúng ta đã không còn xa lạ với các AI tạo sinh như ChatGPT, Gemini,... vốn chỉ phản hồi dựa trên yêu cầu của người dùng, giờ đây AI đang tiến hóa thành các "tác nhân" (agent) có khả năng tự chủ, tự lập kế hoạch và thực hiện các tác vụ phức tạp trên Internet mà không cần con người can thiệp từng bước. Song song với những lợi ích đó, AI Agent cũng mang theo rủi ro hoàn toàn mới đối với tình hình an ninh mạng: Rủi ro khó nhận diện hơn, khó phòng chống hơn, và có tốc độ gây hại nhanh hơn bất kỳ mối đe dọa nào trước đây.

1. AI Agent là gì?

AI Agent (hay còn gọi là tác nhân trí tuệ nhân tạo) là một hệ thống hoặc phần mềm được thiết kế để tự động hóa và thực hiện các tác vụ cụ thể một cách độc lập. Những hệ thống này có khả năng nhận thức môi trường xung quanh, tư duy dựa trên dữ liệu thu thập được, và hành động để đạt được các mục tiêu mà người dùng đặt ra mà không cần sự điều hướng hay giám sát liên tục: Truy cập internet, gửi email, thực thi mã lệnh, tương tác với phần mềm khác, thậm chí điều phối các AI Agent cấp thấp hơn. Khác với chatbot thông thường chỉ trả lời câu hỏi, AI Agent làm việc thay con người theo một chuỗi hành động liên tiếp và có mục tiêu rõ ràng.

2. Những nguy cơ, thách thức của AI Agent đối với an ninh mạng

(1) Tự động hoá các giai đoạn tấn công

- Tự động hóa toàn bộ chuỗi tấn công, thực hiện mọi giai đoạn từ trinh sát, dò tìm lỗ hổng đến xâm nhập và lan truyền trong mạng lưới với tốc độ "máy tính", vượt xa khả năng phản ứng của con người.

- Do mức độ tích hợp sâu với hạ tầng doanh nghiệp. Khác với chatbot hoặc công cụ phân tích độc lập, AI Agent thường được cấp quyền truy cập vào cơ sở dữ liệu nội bộ, hệ thống quản lý tài nguyên doanh nghiệp, công cụ DevOps và các API bên ngoài. Điều này biến chúng trở thành "điểm giao cắt quyền lực" trong kiến thức số. Nếu bị thao túng, một Agent có thể thực hiện chuỗi hành động hợp lệ về mặt kỹ thuật nhưng sai lệch về mặt mục tiêu, gây ra hậu quả lan rộng mà không cần khai thác lỗ hổng truyền thống.

(2) Ransomware - tống tiền đa tầng và không mã hoá

- Tống tiền đa tầng: Kẻ tấn công không chỉ tống tiền doanh nghiệp bị tấn công mà còn liên hệ trực tiếp với khách hàng, đối tác và nhân viên của doanh nghiệp đó để gây áp lực.

- Tấn công không mã hóa: Kẻ tấn công nhận thấy việc mã hóa dữ liệu thường dễ kích hoạt các hệ thống cảnh báo và làm phức tạp quá trình tấn công. Nên thay vào đó, chúng tập trung vào việc âm thầm đánh cắp dữ liệu nhạy cảm và đe dọa công bố (leakware). Điều này giúp chúng tránh bị phát hiện và giảm chi phí kỹ thuật.

(3) Lừa đảo tinh vi bằng Deepfake

- Khi Deepfake được kết hợp với AI Agent, nguy cơ không chỉ dừng lại ở việc tạo nội dung giả mạo, mà còn có thể mở rộng thành các chiến dịch tự động hóa có khả năng thu thập thông tin mục tiêu, tạo kịch bản cá nhân hóa và triển khai tương tác đa bước mà không cần can thiệp liên tục của con người.

-  Sự kết hợp này có thể hình thành một mô hình tấn công mới: Tự động, thích nghi theo phản hồi của nạn nhân và có khả năng duy trì lâu dài.

(4) Thiếu hụt trầm trọng nguồn nhân lực

Thách thức này càng trở nên nghiêm trọng khi thế giới đối mặt với khoảng trống nhân lực lên tới hàng triệu chuyên gia an ninh mạng, khiến các đội ngũ phòng thủ rơi vào tình trạng quá tải và dễ sai sót.

3. Khuyến nghị

Để giảm thiểu rủi ro từ AI Agent, khuyến nghị tổ chức và cá nhân áp dụng các biện pháp sau:

• Áp dụng nguyên tắc đặc quyền tối thiểu: Chỉ cấp cho AI Agent các quyền hạn cần thiết để hoàn thành nhiệm vụ. Hạn chế tối đa quyền ghi, xóa và kết nối ra ngoài.
• Xây dựng cơ chế xác thực lệnh đầu vào: Không để AI Agent thực thi bất kỳ lệnh nào từ nội dung bên ngoài, vô hiệu hoá chức năng tự động tải xuống để kiểm soát dữ liệu nguồn vào, lệnh phải được thông qua xác thực của người dùng.
• Giám sát hành vi của AI Agent theo thời gian thực: Triển khai hệ thống theo dõi và cảnh báo khi Agent thực hiện các hành động bất thường, chẳng hạn truy cập tệp nhạy cảm ngoài giờ làm việc hoặc gửi dữ liệu ra ngoài.
• Không cài đặt các AI Agent mã nguồn mở trên máy tính có kết nối mạng nội bộ của tổ chức khi chưa được kiểm tra, đánh giá an ninh, an toàn.
• Tuyệt đối không cung cấp, tải lên (upload) các tài liệu nội bộ, dữ liệu nhạy cảm, tài liệu mật hoặc đồng bộ hóa dữ liệu, thông tin của tổ chức với các công cụ trí tuệ nhân tạo (AI) để tránh nguy cơ lộ, mất bí mật nhà nước hoặc khai thác thông tin, tài liệu nội bộ.
• Cô lập môi trường hoạt động: AI Agent nên hoạt động trong môi trường máy ảo hoặc sandbox thay vì cài đặt trực tiếp trên hệ điều hành chính.
• Tuân thủ khung pháp lý và tiêu chuẩn bảo mật AI: Theo dõi và áp dụng các hướng dẫn mới nhất từ các tổ chức uy tín như NIST AI RMF hoặc ISO/IEC 42001 về quản trị rủi ro AI.
• Đào tạo nhân viên nhận diện các hành vi lừa đảo tinh vi, bao gồm cả những hành vi được tạo ra bởi AI; Hợp tác với các đối tác trong ngành để chia sẻ thông tin tình báo về các mối đe dọa mới nổi do AI gây ra.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao