Giống như nhiều người khác, gần đây tôi đã đọc báo cáo về lạm dụng của Anthropic và bài phân tích tiếp theo của Reuters. Cả hai đều xác nhận một điều mà các nhà lãnh đạo an ninh đã dự liệu nhưng không mong phải đối mặt sớm đến vậy:: kẻ tấn công hiện đang đưa phần mềm độc hại vào các nền tảng AI để cải thiện nó.
Và họ không thực hiện điều đó bằng cách tải lên các tệp thực thi thô. Các nền tảng AI đã chặn những tệp đó. Thay vào đó, họ nhúng phần mềm độc hại vào chính các tệp năng suất hàng ngày mà các hệ thống AI chấp nhận cho công việc hợp pháp, chẳng hạn như:
- Tài liệu Word
- Bảng tính
- Nhật ký
- Lưu trữ ZIP
- Các tệp tin mã nguồn
- Hình ảnh có siêu dữ liệu
Trong cuốn sách sắp ra mắt của tôi, Cybersecurity Upside Down , tôi sẽ thảo luận về lý do tại sao các định dạng này luôn là phương tiện truyền tải phần mềm độc hại đáng tin cậy nhất. Điều đó vẫn không thay đổi. Điều đã thay đổi là các khung AI hiện đang tiếp nhận trực tiếp các tệp này, diễn giải chúng thành nội dung và cố gắng hỗ trợ một cách nghiêm túc . Kẻ tấn công chỉ cần yêu cầu mô hình sửa lỗi, điều chỉnh logic hoặc tạo ra các biến thể mới. AI trở thành một trợ lý phát triển phần mềm độc hại một cách vô thức.
Ví dụ công khai trung lập về cách các loại tệp phổ biến và đáng tin cậy thường xuyên phân phối phần mềm độc hại:
Khi một tệp vượt qua các bộ lọc tải lên cơ bản, AI sẽ đọc nội dung dưới dạng văn bản thay vì là mối đe dọa. Các nền tảng AI tin tưởng định dạng tệp . Kẻ tấn công lợi dụng sự tin tưởng đó. Và điều đó khiến cho cách tấn công này vừa tinh vi vừa hiệu quả.
Đây chính xác là nơi Công nghệ làm sạch và tái lập nội dung chuyên sâu (Deep Content Disarm and Reconstruction-Deep CDR) không chỉ hữu ích mà còn hoàn toàn cần thiết.
Deep CDR thực sự là gì?
Deep CDR về bản chất khác biệt hoàn toàn so với các công nghệ phát hiện truyền thống. Công nghệ này phụ thuộc vào chữ ký, phương pháp heuristics hay phân tích hành vi. Nó không cố gắng kiểm tra các tệp để quyết định xem tệp đó có an toàn hay không.
Thay vì, Deep CDR bắt đầu với một giả định đơn giản: bất kỳ tệp nào cũng có thể độc hại .
Sức mạnh của nó đến từ quá trình ba giai đoạn:
- Xác định loại tệp thực sự
Deep CDR kiểm tra cấu trúc bên trong của tệp tin. Nếu tệp tin được ngụy trang thành thứ gì đó khác, Deep CDR xác định bản chất thực sự của nó và chặn hoặc xử lý nó một cách phù hợp. - Giải nén tệp tin hoàn toàn
Deep CDR mở tệp… rồi mở bất kỳ đối tượng nào được nhúng bên trong tệp… rồi giải nén các tệp lưu trữ bên trong tệp đó… tiếp tục cho đến khi mọi lớp được hiển thị. Không có gì bị ẩn. - Tạo lại phiên bản sạch và an toàn của tệp
Đây là phần quan trọng. Deep CDR không “dọn dẹp” tệp gốc. Nó tạo ra một tệp PDF, tài liệu Word, bảng tính hoặc hình ảnh hoàn toàn mới chỉ bằng cách sử dụng nội dung an toàn, hợp lệ – loại bỏ các tập lệnh, macro, logic nhúng và bất kỳ thành phần ẩn nào.
Người dùng vẫn thấy đầu ra không có gì khác biệt, nhưng mã độc hại không bao giờ tiếp cận được hệ thống AI ngay từ đầu.
Tại sao mọi quy trình làm việc với AI đều cần DEEP CDR
Bất kỳ hệ thống AI nào chấp nhận tệp do người dùng tải lên đều có nguy cơ bị tấn công dựa trên tệp. Tệp năng suất vẫn là vectơ phần mềm độc hại số một và điều này sẽ không thay đổi. Việc áp dụng AI đã làm tăng đáng kể khối lượng tệp được xử lý. Quy mô đó làm tăng đáng kể rủi ro.
Các mô hình AI được xây dựng để đọc và diễn giải nội dung, chứ không phải để phân tích cấu trúc tệp nhằm phát hiện hành vi độc hại. Chúng không kiểm tra mã nhúng hoặc các thành phần ẩn. Chúng chỉ đơn giản là xử lý những gì bên trong.
Deep CDR loại bỏ lổ hổng này. Nó đảm bảo rằng trước khi AI xử lý một tệp, tệp đó đã được tái tạo hoàn toàn thành một phiên bản an toàn, đáng tin cậy. Nó bảo vệ hệ thống AI, người dùng và tổ chức triển khai nó.
Khám phá cách Deep CDR hoạt động ở đây.
