Giống như nhiều người khác, gần đây tôi đã đọc báo cáo lạm dụng của Anthropic và bài viết tiếp theo của Reuters . Cả hai đều xác nhận một điều mà các nhà lãnh đạo an ninh đã dự đoán nhưng hy vọng chúng ta sẽ không thấy sớm như vậy: kẻ tấn công hiện đang đưa phần mềm độc hại vào các nền tảng AI để cải thiện nó.
Và chúng không làm điều đó bằng cách tải lên các tệp thực thi thô. Các nền tảng AI đã chặn những tệp này. Thay vào đó, chúng nhúng phần mềm độc hại vào chính những tệp năng suất hàng ngày mà hệ thống AI chấp nhận cho các công việc hợp pháp như:
- Tài liệu Word
- Bảng tính
- Nhật ký
- Lưu trữ ZIP
- Các tập tin mã nguồn
- Hình ảnh có siêu dữ liệu
Trong cuốn sách sắp ra mắt của tôi, Cybersecurity Upside Down , tôi sẽ thảo luận về lý do tại sao các định dạng này luôn là phương tiện truyền tải phần mềm độc hại đáng tin cậy nhất. Điều đó vẫn không thay đổi. Điều đã thay đổi là các khung AI hiện đang tiếp nhận trực tiếp các tệp này, diễn giải chúng thành nội dung và cố gắng hỗ trợ một cách nghiêm túc . Kẻ tấn công chỉ cần yêu cầu mô hình sửa lỗi, điều chỉnh logic hoặc tạo ra các biến thể mới. AI trở thành một trợ lý phát triển phần mềm độc hại một cách vô thức.
Ví dụ công khai trung lập về cách các loại tệp phổ biến và đáng tin cậy thường xuyên phân phối phần mềm độc hại:
Khi một tệp vượt qua các bộ lọc tải lên cơ bản, AI sẽ đọc nội dung dưới dạng văn bản thay vì là mối đe dọa. Các nền tảng AI tin tưởng định dạng tệp . Kẻ tấn công lợi dụng sự tin tưởng đó. Và điều đó khiến cho cách tấn công này vừa tinh vi vừa hiệu quả.
Đây chính xác là nơi Deep Content Disarm and Reconstruction ( Deep CDR ) không chỉ hữu ích mà còn hoàn toàn cần thiết.
Cái gì Deep CDR Thực sự là vậy
DEEP CDR Về cơ bản, nó khác biệt so với các công nghệ phát hiện truyền thống. Nó không dựa vào chữ ký, phương pháp phỏng đoán hay phân tích hành vi. Nó không cố gắng kiểm tra các tệp để quyết định xem tệp đó có an toàn hay không.
Thay vì, Deep CDR bắt đầu với một giả định đơn giản: bất kỳ tệp nào cũng có thể độc hại .
Sức mạnh của nó đến từ quá trình ba giai đoạn:
- Xác định loại tệp thực sự
Deep CDR kiểm tra cấu trúc bên trong của tập tin. Nếu tập tin được ngụy trang thành thứ gì đó khác, Deep CDR xác định bản chất thực sự của nó và chặn hoặc xử lý nó một cách phù hợp. - Giải nén tập tin hoàn toàn
Deep CDR mở tệp… rồi mở bất kỳ đối tượng nào được nhúng bên trong tệp… rồi giải nén các tệp lưu trữ bên trong tệp đó… tiếp tục cho đến khi mọi lớp được hiển thị. Không có gì bị ẩn. - Tạo lại phiên bản sạch và an toàn của tệp
Đây là phần quan trọng. Deep CDR không “dọn dẹp” tệp gốc. Nó tạo ra một tệp PDF, tài liệu Word, bảng tính hoặc hình ảnh hoàn toàn mới chỉ bằng cách sử dụng nội dung an toàn, hợp lệ – loại bỏ các tập lệnh, macro, logic nhúng và bất kỳ thành phần ẩn nào.
Đầu ra trông giống nhau đối với người dùng, nhưng mã nguy hiểm không bao giờ đến được hệ thống AI ngay từ đầu.
Tại sao mọi quy trình làm việc AI đều cần DEEP CDR
Bất kỳ hệ thống AI nào chấp nhận tệp do người dùng tải lên đều có nguy cơ bị tấn công dựa trên tệp. Tệp năng suất vẫn là vectơ phần mềm độc hại số một và điều này sẽ không thay đổi. Việc áp dụng AI đã làm tăng đáng kể khối lượng tệp được xử lý. Quy mô đó làm tăng đáng kể rủi ro.
Các mô hình AI được xây dựng để đọc và diễn giải nội dung, chứ không phải để phân tích cấu trúc tệp nhằm phát hiện hành vi độc hại. Chúng không kiểm tra mã nhúng hoặc các thành phần ẩn. Chúng chỉ đơn giản là xử lý những gì bên trong.
Deep CDR Thu hẹp khoảng cách này. Nó đảm bảo rằng trước khi AI xử lý một tệp, tệp đó đã được tái tạo hoàn toàn thành một phiên bản an toàn, đáng tin cậy. Nó bảo vệ hệ thống AI, người dùng và tổ chức triển khai nó.
Khám phá cách Deep CDR hoạt động ở đây .
