Trí tuệ nhân tạo: Tiếp theo OT Người có ảnh hưởng đến an ninh mạng

AI là con dao hai lưỡi khi phải đối mặt với bối cảnh an ninh mạng OT. Mặc dù nó trao quyền cho các tổ chức chủ động phát hiện và ứng phó với các mối đe dọa và tiếp tục đẩy các giới hạn tự động hóa trong công nghệ được tin cậy để bảo mật dữ liệu, thiết bị và mạng thiết yếu, tính nhạy cảm của nó đối với các cuộc tấn công đối thủ và khả năng lạm dụng bởi các tác nhân độc hại có thể biến nó thành một bề mặt tấn công mới, gây ra rủi ro đáng kể cho cơ sở hạ tầng trọng yếu và hệ thống công nghệ vận hành.

Người vận hành con người đóng một vai trò quan trọng trong việc điều khiển AI OT phòng thủ mạng. Trong khi các hệ thống AI vượt trội trong xử lý dữ liệu, chúng thiếu sự hiểu biết và phán đoán sắc thái của con người. Sự hợp tác hiệu quả giữa các nhà phân tích an ninh con người và hệ thống AI là rất quan trọng để đạt được mức độ phục hồi mạng cao.

Để thúc đẩy tốt nhất sự hợp tác này, các tổ chức phải đầu tư vào đào tạo và nâng cao kỹ năng cho lực lượng lao động của họ. Người vận hành con người có thể tận dụng thông tin chi tiết do AI tạo ra để đưa ra quyết định sáng suốt trong khi AI tự động hóa các tác vụ thông thường và cung cấp thời gian thực Thông tin tình báo về các mối đe dọa. Sức mạnh tổng hợp này cho phép các nhà khai thác con người tập trung vào các nhiệm vụ cấp cao, chiến lược hơn, cuối cùng là tăng cường khả năng phòng thủ của tổ chức.

Khía cạnh khác của yếu tố con người trong sự cộng sinh này là trách nhiệm của chúng tôi để phát triển sự hiểu biết sâu sắc về AI và có câu trả lời cho các câu hỏi xoay quanh công nghệ có nhịp độ nhanh. Hãy xem xét một số mối quan tâm cấp bách xuất hiện xung quanh AI khi nó liên quan đến an ninh mạng:

AI trong an ninh mạng OT có thể được phát triển nội bộ hoặc tùy chỉnh bằng cách sử dụng các nền tảng phổ biến trong ngày. Khi xem xét các nền tảng AI bên ngoài, các tổ chức phải đánh giá cẩn thận tính bảo mật và chia sẻ dữ liệu. Điều cần thiết là phải đảm bảo rằng thông tin nhạy cảm được bảo vệ đầy đủ.

Sự do dự tồn tại trong cơ sở hạ tầng trọng yếu lĩnh vực liên quan đến niềm tin vào các hệ thống AI. Với tính chất quan trọng của an ninh mạng OT, sự thận trọng này là dễ hiểu. Tuy nhiên, niềm tin vào AI có thể được xây dựng thông qua kiểm tra nghiêm ngặt, xác nhận và truyền thông minh bạch về khả năng và hạn chế của AI. Khi các công nghệ AI tiếp tục chứng minh tính hiệu quả của chúng, niềm tin vào vai trò của chúng trong phòng thủ mạng có thể sẽ tăng lên. Người ta phải ghi nhớ AI có thể hiệu quả ở đâu và như thế nào để tăng lợi ích của nó trong khi vẫn duy trì toàn quyền kiểm soát các hệ thống và thiết bị sản xuất chính. Đây là điều tối quan trọng để tối đa hóa thời gian hoạt động.

Trong khi AI tăng cường bảo mật, nó cũng có thể trở thành một bề mặt tấn công tiềm năng. Đối thủ có thể cố gắng thao túng các mô hình AI hoặc dữ liệu đào tạo của chúng để đánh lừa các hệ thống bảo mật. Nguy cơ các dự đoán AI cố tình gây ra thất bại của Byzantine trong quá trình ra quyết định là một mối quan tâm chính đáng. Điều này nhấn mạnh sự cần thiết phải giám sát liên tục và phòng thủ mạnh mẽ xung quanh các hệ thống AI để bảo vệ chúng khỏi bị khai thác.

Các mô hình AI được đào tạo trên các bộ dữ liệu mở rộng, một số trong đó có thể chứa các tài liệu có bản quyền. Các tổ chức phải điều hướng thách thức này bằng cách đảm bảo họ có các quyền và quyền cần thiết đối với dữ liệu được sử dụng trong đào tạo AI. Điều này có thể liên quan đến thỏa thuận cấp phép, ẩn danh dữ liệu hoặc các nguồn dữ liệu thay thế để tránh các vấn đề pháp lý.

AI đã sẵn sàng để cải thiện đáng kể các mô phỏng không gian mạng của Đội Đỏ / Đội Xanh bằng cách tăng cường cả khả năng tấn công và phòng thủ. Về phía Đội Đỏ, các mô phỏng tấn công được hỗ trợ bởi AI có thể làm cho các kịch bản đe dọa trở nên tinh vi và năng động hơn, bắt chước chiến thuật phát triển của những kẻ tấn công thực sự. Điều này thách thức Blue Teams trong việc cải thiện các chiến lược phát hiện và ứng phó của họ. Đối với Blue Teams, AI có thể tăng cường phát hiện mối đe dọa và ứng phó sự cố bằng cách nhanh chóng xác định các mẫu, lỗ hổng và bất thường bất thường, do đó cải thiện khả năng phòng thủ và giúp tự động hóa các tác vụ thông thường. Hơn nữa, AI có thể tạo ra những hiểu biết có giá trị bằng cách phân tích lượng dữ liệu khổng lồ, cho phép ra quyết định hiệu quả hơn và các biện pháp bảo mật chủ động.  

Các cuộc tập trận trên bàn (TTX) được thực hiện ở cấp phòng điều hành mang lại giá trị đáng kể trong việc tăng cường sự sẵn sàng cho các sự cố mạng trong thế giới thực. Chúng giúp các tổ chức thực hành các chiến lược ứng phó, xác định điểm yếu trong kế hoạch ứng phó sự cố của họ và cải thiện giao tiếp và phối hợp giữa các thành viên trong nhóm. Tác động của AI đối với các cuộc tập trận TTX nằm ở khả năng cung cấp thời gian thực Thông tin tình báo về các mối đe dọa, phân tích các bộ dữ liệu khổng lồ và mô phỏng các kịch bản tấn công mạng thực tế, từ đó tăng tính tinh vi và chân thực của các bài tập này.

Vòng phản hồi, nơi phản hồi bảo mật do AI điều khiển ảnh hưởng đến hành vi của hệ thống, từ đó tác động đến phát hiện của AI, đòi hỏi phải quản lý cẩn thận. Các tổ chức phải triển khai các biện pháp bảo vệ và cơ chế kiểm soát để ngăn ngừa hậu quả không mong muốn. Đánh giá và điều chỉnh thường xuyên là điều cần thiết để tìm ra sự cân bằng phù hợp.

Bảo vệ chống lại các cuộc tấn công học máy đối thủ và deepfake trong một môi trường mà các hệ thống AI liên tục phát triển đặt ra một thách thức đáng kể. Ranh giới giữa kẻ tấn công và hậu vệ trong lĩnh vực kỹ thuật số đang mờ dần. Vì lý do này, trong số những người khác, chính phủ Hoa Kỳ đã ban hành một lệnh hành pháp trong nỗ lực chính thức giải quyết những lo ngại này. Không bao giờ, các tổ chức phải đầu tư vào việc phát triển hệ thống phòng thủ AI của họ, tiến hành nghiên cứu liên tục và hợp tác với cộng đồng an ninh mạng rộng lớn hơn để đi trước các mối đe dọa mới nổi.