Quét LLM là một tính năng của Aether™ thuộc nền tảng Quản lý Rủi ro Mô hình ( MetaDefender ), giúp kiểm tra các tệp mô hình AI đã được huấn luyện sẵn để phát hiện các mối đe dọa tiềm ẩn trước khi triển khai. Tính năng này kết hợp phân tích tĩnh về cấu trúc mô hình với phân tích động về hành vi của mô hình đang hoạt động, từ đó cung cấp cho các đội ngũ bảo mật một phương thức để kiểm tra các mô hình của bên thứ ba theo cách tương tự như khi họ kiểm tra bất kỳ tệp nào khác khi truy cập vào mạng. |
|---|
Những điểm chính
- MetaDefender Giải pháp “ Adaptive ” của Aether (Sandbox ) phát hiện các mối đe dọa zero-day thông qua phương pháp kích hoạt dựa trên hành vi, thay vì so khớp chữ ký, và truyền thông tin tình báo đó vào quy trình xử lý mối đe dọa gồm năm lớp
- Vào ngày 4 tháng 9 năm 2026, AMTSO đã chính thức phê duyệt các bản cập nhật tập trung vào trí tuệ nhân tạo (AI) cho Khung đánh giá “ Sandbox ” (Tính bảo mật của hệ thống) và Hướng dẫn mới về việc thử nghiệm các sản phẩm bảo mật dạng tác nhân.
- Trong cuộc thử nghiệm năm 2026 của Venak Security tuân thủ tiêu chuẩn AMTSO, giải pháp “ Adaptive ” (Sandbox ) đã phát hiện được 95% các mẫu phần mềm độc hại do trí tuệ nhân tạo (AI) tạo ra, đây là kết quả cao nhất trong số bốn giải pháp sandbox được thử nghiệm.
- Tính năng quét mô hình AI đã mở rộng quy trình xử lý của MetaDefender Aether lên bảy định dạng mô hình AI tạo sinh, sử dụng hơn 30 chỉ số mối đe dọa cho phân tích tĩnh và các lời nhắc đối kháng được ánh xạ theo danh sách OWASP LLM Top 10 cho phân tích động
- Các kết quả được đối chiếu với MITRE ATLAS và được tích hợp vào quy trình đánh giá hiện có của Aether trên nền tảng MetaDefender , bên cạnh các mối đe dọa từ tệp tin thông thường
Phát hiện hành vi dựa trên tiêu chuẩn kiểm thử trí tuệ nhân tạo
MetaDefender Aether™ Adaptive Sandbox được thiết kế để phát hiện các mối đe dọa mà chưa ai từng thấy trước đây. Thay vì so sánh các tệp với các chữ ký đã biết, nó sẽ kích hoạt chúng trong một môi trường mô phỏng và theo dõi hành vi thực tế của chúng, nhờ đó có thể phát hiện phần mềm độc hại zero-day – loại phần mềm mà nếu không có phương pháp này sẽ lọt qua các hệ thống phòng thủ dựa trên danh tiếng.
MetaDefender Aether là lớp điều phối xung quanh động cơ đó. Nó cung cấp thông tin tình báo về mối đe dọa cho Adaptive Sandbox để các kết luận được đưa ra nhanh hơn và chính xác hơn, đồng thời tổng hợp các kết quả từ mọi lớp thành một quy trình xử lý mối đe dọa thống nhất gồm năm lớp, bao gồm danh tiếng mối đe dọa, phân tích dự đoán, kích hoạt động, đánh giá mức độ nguy hiểm và săn lùng mối đe dọa.
Vào ngày 4 tháng 9 năm 2026, Tổ chức Tiêu chuẩn Kiểm thử Chống Phần mềm Độc hại (AMTSO) đã xác nhận rằng họ đã chính thức phê duyệt bản cập nhật tập trung vào trí tuệ nhân tạo (AI) cho Sandbox Khung Đánh giá, cùng với các Hướng dẫn mới về Kiểm thử Sản phẩm Bảo mật Dựa trên Trí tuệ Nhân tạo. Cả hai tài liệu này đều không mang tính bắt buộc. Cả hai đều là các bản cập nhật cho một tiêu chuẩn kiểm thử tự nguyện, nhưng chúng là tín hiệu rõ ràng nhất cho đến nay rằng việc kiểm thử trong môi trường sandbox đang bắt kịp với những gì các mô hình AI hiện có thể làm được.
Tại sao vấn đề bảo mật mô hình AI lại đột nhiên trở thành mối quan ngại
cơ sở hạ tầng trọng yếu đang là tâm điểm của một cuộc thảo luận chính sách đang diễn ra với tốc độ nhanh chóng trên hai mặt trận: khung pháp lý của Mỹ ngày càng siết chặt đối với các công nghệ AI tiên phong, và nỗ lực song song của Trung Quốc trong việc phát triển các mô hình LLM mã nguồn mở cùng năng lực tính toán. Cả hai xu hướng này đều không làm giảm lượng mô hình LLM đã được huấn luyện sẵn đang được triển khai vào các môi trường doanh nghiệp.
OPSWATChính khối lượng đó, chứ không phải các kỹ thuật tấn công mới, mới là vấn đề cốt lõi. Trí tuệ nhân tạo (AI) chưa phát minh ra những cách thức mới để xâm nhập vào một tệp tin. Thay vào đó, nó đã khiến các tệp tin bị xâm nhập và các mô hình ngôn ngữ lớn (LLM) bị xâm nhập trở nên phổ biến hơn đáng kể và được tạo ra nhanh hơn – chính áp lực về khối lượng này đã định hình công nghệ công nghệ Deep CDR™ đối với các mối đe dọa dựa trên tệp trong nhiều năm qua.
Vài tuần trước, NVIDIA đã đồng ý mua lại Hugging Face, trung tâm phân phối chính cho các mô hình LLM có trọng số mở, với giá 12,93 tỷ USD. Thương vụ này đưa kho lưu trữ mô hình LLM lớn nhất ngành vào cùng một mái nhà với nhà cung cấp dịch vụ tính toán hàng đầu.
Anthropic đã cùng với hơn một trăm công ty, bao gồm OpenAI, Google và Microsoft, ký vào một thư ngỏ kêu gọi phối hợp phòng thủ mạng trong bối cảnh các cuộc tấn công sử dụng trí tuệ nhân tạo (AI) ngày càng gia tăng. Báo cáo tình báo mối đe dọa tháng 9 năm 2026 của Anthropic đã ghi nhận việc các kẻ tấn công coi chuỗi cung ứng AI vừa là mục tiêu vừa là nguồn lực, bao gồm các hoạt động được thiết kế riêng để thu thập các khóa " API " của AI và thông tin đăng nhập sản xuất.
Dự án của OpenAI "Hành trình đến Astra" , được đăng vào ngày 1 tháng 9 năm 2026, đã nâng tiêu chuẩn lên một tầm cao mới. Astra là mô hình đầu tiên của OpenAI vượt qua ngưỡng an ninh mạng "quan trọng" theo Khung Sẵn sàngcủa công ty, có khả năng tự phát hiện và khai thác các lỗ hổng zero-day một cách độc lập. Chính khả năng này chính là mục tiêu mà các hướng dẫn kiểm thử theo hướng tác nhân mới của AMTSO được thiết kế để đánh giá. Các tiêu chuẩn kiểm thử đang phải chạy đua để bắt kịp những gì các mô hình LLM tiên tiến hiện nay có thể thực hiện mà không cần giám sát.
Khung đánh giá “ Sandbox ” (Tính linh hoạt và khả năng thích ứng) được cập nhật của AMTSO thực sự bao gồm những nội dung gì
Nhóm công tác “ Sandbox ” của AMTSO đã bổ sung một bộ tiêu chí mới tập trung vào trí tuệ nhân tạo (AI) vào Khung đánh giá “ Sandbox ” hiện có, giúp các chuyên gia thử nghiệm có một phương pháp có hệ thống để đánh giá cách các môi trường thử nghiệm (sandbox) xử lý các mô hình AI như đối tượng phân tích thay vì chỉ xem chúng như các công cụ. Bản cập nhật này đã trải qua quá trình lấy ý kiến công khai trong mùa hè trước khi được các thành viên chính thức thông qua vào đầu tháng 9.
Nhóm công tác “ Sandbox ” của AMTSO hiện đang theo dõi quá trình áp dụng khung tiêu chuẩn cập nhật và xây dựng cơ cấu báo cáo, nhằm giúp các đơn vị thử nghiệm có thể so sánh hiệu suất của các môi trường thử nghiệm (sandbox) với các tiêu chí AI mới một cách nhất quán. Công tác nền tảng này rất quan trọng vì nó cung cấp cho các nhà cung cấp một thước đo chung thay vì chỉ dựa vào các tuyên bố tự báo cáo.
MetaDefender Thành tích của Aether trong khuôn khổ của AMTSO
Trước khi giới thiệu một tính năng mới, việc nắm rõ hiệu quả hoạt động của tính năng hiện tại dưới sự đánh giá độc lập sẽ rất hữu ích. Trong môi trường thử nghiệm thử nghiệm sandbox năm 2026 tuân thủ tiêu chuẩn AMTSOOPSWAT’s Adaptive Sandbox đã phát hiện được 19 trong số 20 mẫu phần mềm độc hại do AI tạo ra, đạt tỷ lệ phát hiện 95% và là kết quả cao nhất trong số bốn sandbox được thử nghiệm. Venak đã tạo ra các mẫu thử nghiệm bằng công cụ AI Malware Simulator của mình, được thiết kế để mô phỏng các kỹ thuật MITRE ATT&CK nhằm mục đích cụ thể là lách qua các hệ thống phát hiện truyền thống.
OPSWATPhần mềm “ Adaptive ”Sandbox đã đạt 95% (19/20) trong một bài kiểm tra gần đây, sử dụng 20 mẫu thuộc 5 loại mối đe dọa, được tạo ra bằng Trình mô phỏng phần mềm độc hại AI của Venak và được ánh xạ theo các kỹ thuật MITRE ATT&CK.
Phân tích tĩnh và động cho các mô hình LLM đã được huấn luyện sẵn
Quét mô hình AI là tính năng mở rộng quy trình xử lý nhiều lớp của Aether ( MetaDefender ) sang các mô hình AI đã được huấn luyện sẵn. Hai loại phân tích riêng biệt này cũng phản ánh phương pháp phân tích tĩnh và hành vi được áp dụng cho phần mềm độc hại truyền thống.
Phân tích tĩnh phân tích các tệp mô hình LLM ở bảy định dạng – Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF và ONNX – mà không cần thực thi. Phương pháp này sử dụng hơn 30 chỉ số đe dọa chuyên dụng để phát hiện các tải trọng được nhúng, các lệnh nhập nguy hiểm và các cửa hậu đặc thù cho phương thức tuần tự hóa của từng định dạng.
Phân tích động lại áp dụng cách tiếp cận ngược lại: nó kiểm tra điểm cuối của mô hình LLM đang hoạt động bằng các lời nhắc đối kháng được ánh xạ đến OWASP Top 10 dành cho Ứng dụng LLM, từ đó đánh giá các phản hồi thực tế của mô hình LLM về các lỗ hổng tiêm lệnh, rò rỉ dữ liệu nhạy cảm và các rủi ro thời gian chạy liên quan. Kết quả từ cả hai giai đoạn được đối chiếu với MITRE ATLAS – cơ sở kiến thức về học máy đối kháng – và được tích hợp vào quy trình đánh giá thống nhất hiện có củ MetaDefender Aether cùng với các phát hiện mối đe dọa truyền thống.
Mức độ gia tăng nhanh chóng của các mối đe dọa từ mô hình trí tuệ nhân tạo
Vào tháng 5 năm 2026, một kho lưu trữ giả mạo dưới danh nghĩa một bản phát hành của OpenAI, Open-OSS/privacy-filter, đã vươn lên vị trí dẫn đầu xu hướng trên Hugging Face chỉ trong vòng 18 giờ và thu hút hơn 244.000 lượt tải xuống trước khi bị gỡ bỏ, với một tập lệnh tải (loader script) âm thầm cài đặt phần mềm đánh cắp thông tin (infostealer) trên các máy tính Windows chạy tập lệnh này.
Vào tháng 7 năm 2026, OpenAI đã tiết lộ rằng các mô hình LLM của chính họ đã khai thác các lỗ hổng trong cơ sở hạ tầng nghiên cứu chung và làm lộ thông tin một phần của nền tảng Hugging Face trong quá trình đánh giá an ninh mạng nội bộ, nhấn mạnh rằng chuỗi cung ứng mô hình LLM hiện đã trở thành mục tiêu thực sự của các tác nhân tinh vi, chứ không chỉ là những kẻ lợi dụng cơ hội.
Tầm quan trọng của an ninh mô hình AI đối với năm ngành công nghiệp
Tài chính
Các mô hình LLM dùng để phát hiện gian lận và thẩm định tín dụng ngày càng tiếp cận trực tiếp với dữ liệu giao dịch, dưới sự giám sát của các cơ quan quản lý, những cơ quan này yêu cầu phải có các biện pháp kiểm soát được ghi chép đầy đủ. Một mô hình LLM bị thao túng trong quy trình này sẽ đồng thời gây ra cả sự cố an ninh và phát hiện sai sót trong quá trình kiểm toán.
Năng lượng và dịch vụ công ích
Trí tuệ nhân tạo (AI) đang được ứng dụng vào lĩnh vực dự báo và quản lý lưới điện – những môi trường mà các hệ thống CNTT và OT đã được tích hợp sẵn. Một mô hình LLM có hành vi ẩn hoặc có thể được kích hoạt trong bối cảnh này có nguy cơ gây ra sự cố vật lý, chứ không chỉ đơn thuần là rò rỉ dữ liệu.
Các cơ quan thuộc lĩnh vực chính phủ và quốc phòng
phải đối mặt với những yêu cầu khắt khe nhất về đảm bảo chuỗi cung ứng, thường trong các môi trường cách ly mạng hoặc được phân loại mật. Một mô hình LLM bị xâm phạm có thể gây ra những hậu quả đối với an ninh quốc gia vượt xa mức độ của việc mất dữ liệu thông thường.
Trong lĩnh vực sản xuất
, các mô hình LLM dành cho kiểm soát chất lượng và bảo trì dự đoán thường được lấy từ các kho lưu trữ công khai để đẩy nhanh tiến độ. Một mô hình LLM bị xâm phạm nếu lọt vào dây chuyền sản xuất có thể ảnh hưởng trực tiếp đến thời gian hoạt động và chất lượng sản phẩm.
Chăm sóc sức khỏe
Các mô hình ngôn ngữ lớn (LLM) hỗ trợ chẩn đoán và lập hồ sơ xử lý dữ liệu nhạy cảm của bệnh nhân theo các nghĩa vụ bảo mật hiện hành. Một mô hình LLM rò rỉ thông tin thông qua việc chèn lời nhắc sẽ gây ra rủi ro trực tiếp đối với quyền riêng tư của bệnh nhân, chứ không phải là rủi ro giả định.
Hướng phát triển tiếp theo của các tiêu chuẩn kiểm thử mô hình AI
Nhóm công tác “ Sandbox ” của AMTSO hiện đang theo dõi mức độ áp dụng khung tiêu chuẩn cập nhật này tại các nhà cung cấp nền tảng thử nghiệm (sandbox) và xây dựng cơ cấu báo cáo nhằm giúp các tổ chức so sánh hiệu suất thử nghiệm AI theo cách tương tự như cách họ hiện đang so sánh tỷ lệ phát hiện truyền thống. Đối với MetaDefender Aether, tính năng quét mô hình AI là tính năng đầu tiên được phát triển và kiểm chứng theo tiêu chuẩn mới này ngay từ ngày đầu tiên.
Xem phân tích kỹ thuật đầy đủ về quá trình quét mô hình AI trong bài đăng bài đăng về phiên bản v3.3.0.
