Quy mô của các cuộc tấn công mạng mà các tổ chức phải đối mặt ngày nay đồng nghĩa với việc các hệ thống tự trị đang trở thành một thành phần quan trọng của an ninh mạng. Điều này buộc chúng ta phải đặt câu hỏi về mối quan hệ lý tưởng giữa các đội an ninh con người và trí tuệ nhân tạo (AI): Nên cấp mức độ tin cậy nào cho chương trình AI và tại thời điểm nào các đội an ninh can thiệp vào việc ra quyết định của chương trình đó?

Với các hệ thống tự trị trong an ninh mạng, các nhà khai thác con người đang nâng cao khả năng ra quyết định của họ. Thay vì tự mình đưa ra số lượng “quyết định vi mô” ngày càng khó quản lý, giờ đây họ thiết lập các ràng buộc và hướng dẫn mà máy AI phải tuân thủ khi thực hiện hàng triệu quyết định vi mô chi tiết trên quy mô lớn. Kết quả là, con người không còn quản lý ở cấp độ vi mô nữa mà ở cấp độ vĩ mô: Các nhiệm vụ hàng ngày của họ trở nên cấp cao hơn và mang tính chiến lược hơn, đồng thời chúng chỉ được thực hiện khi có những yêu cầu đầu vào hoặc hành động thiết yếu nhất.

Nhưng mối quan hệ giữa con người và AI sẽ như thế nào? Dưới đây, chúng tôi mổ xẻ bốn kịch bản được nêu bởi Harvard Business Review đặt ra các khả năng tương tác đa dạng giữa con người và máy móc, đồng thời khám phá điều này sẽ trông như thế nào trong thế giới mạng.

Con người trong vòng lặp (HitL)

Trong kịch bản này, trên thực tế, con người đang đưa ra quyết định và máy móc chỉ đưa ra các đề xuất về hành động, cũng như bối cảnh và bằng chứng hỗ trợ đằng sau những quyết định đó nhằm giảm thời gian thực hiện ý nghĩa và thời gian hành động. cho người điều hành con người đó.

Theo cấu hình này, nhóm bảo mật con người có toàn quyền tự chủ về cách máy hoạt động và không hoạt động.

Để phương pháp này có hiệu quả lâu dài cần có đủ nguồn nhân lực. Thông thường điều này sẽ vượt xa những gì thực tế đối với một tổ chức. Tuy nhiên, đối với các tổ chức đang dần làm quen với công nghệ, giai đoạn này thể hiện một bước đệm quan trọng trong việc xây dựng niềm tin vào công cụ phản hồi tự động AI.

Con người trong vòng lặp ngoại lệ (HitLfE)

Hầu hết các quyết định đều được đưa ra một cách tự động trong mô hình này và con người chỉ xử lý các trường hợp ngoại lệ, trong đó AI yêu cầu một số phán đoán hoặc thông tin đầu vào từ con người trước khi có thể đưa ra quyết định.

Con người kiểm soát logic để xác định trường hợp ngoại lệ nào được gắn cờ để xem xét và với các hệ thống kỹ thuật số ngày càng đa dạng và riêng biệt, các mức độ tự chủ khác nhau có thể được đặt cho các nhu cầu và trường hợp sử dụng khác nhau.

Điều này có nghĩa là phần lớn các sự kiện sẽ được xử lý một cách tự động và ngay lập tức bằng phản ứng tự chủ do AI cung cấp nhưng tổ chức vẫn “theo dõi” các trường hợp đặc biệt, với sự linh hoạt về thời gian và địa điểm phát sinh những trường hợp đặc biệt đó. Họ có thể can thiệp nếu cần thiết nhưng sẽ muốn thận trọng trong việc ghi đè hoặc từ chối hành động được đề xuất của AI mà không cần xem xét cẩn thận.

Con người trên vòng lặp (HotL)

Trong trường hợp này, máy sẽ thực hiện tất cả các hành động và người vận hành con người có thể xem xét kết quả của những hành động đó để hiểu bối cảnh xung quanh những hành động này. Trong trường hợp xảy ra sự cố bảo mật mới nổi, cách sắp xếp này cho phép AI ngăn chặn cuộc tấn công, đồng thời thông báo cho người vận hành rằng thiết bị hoặc tài khoản cần được hỗ trợ và đây là lúc họ được đưa đến để khắc phục sự cố. Công việc điều tra bổ sung có thể được yêu cầu và nếu sự xâm phạm xảy ra ở nhiều nơi, AI có thể leo thang hoặc mở rộng phản ứng của nó.

Đối với nhiều người, điều này thể hiện sự sắp xếp an ninh tối ưu. Do sự phức tạp của dữ liệu và quy mô của các quyết định cần được đưa ra, việc có con người tham gia vòng lặp (HitL) cho mọi sự kiện và mọi lỗ hổng tiềm ẩn là không thực tế.

Với sự sắp xếp này, con người giữ toàn quyền kiểm soát thời gian, địa điểm và mức độ hoạt động của hệ thống, nhưng khi các sự kiện xảy ra, hàng triệu quyết định vi mô này sẽ được giao cho máy.

Con người ngoài vòng lặp (HootL)

Trong mô hình này, máy đưa ra mọi quyết định và quá trình cải tiến được thực hiện Ngoài ra một vòng khép kín tự động. Điều này dẫn đến một vòng phản hồi tự phục hồi, tự cải thiện, trong đó mỗi thành phần của AI sẽ tiếp nhận và cải thiện thành phần tiếp theo, nâng cao trạng thái bảo mật tối ưu.

Điều này thể hiện cách tiếp cận tối ưu nhất đối với vấn đề bảo mật. Các nhà điều hành an ninh con người khó có thể muốn các hệ thống tự trị trở thành một “hộp đen” - hoạt động hoàn toàn độc lập mà các nhóm bảo mật thậm chí không có khả năng có cái nhìn tổng quan về các hành động mà nó đang thực hiện hoặc tại sao. Ngay cả khi con người tự tin rằng họ sẽ không bao giờ phải can thiệp vào hệ thống, họ vẫn luôn muốn được giám sát. Do đó, khi các hệ thống tự trị được cải thiện theo thời gian, việc nhấn mạnh vào tính minh bạch sẽ rất quan trọng. Điều này đã dẫn đến một nỗ lực gần đây về trí tuệ nhân tạo có thể giải thích (XAI) sử dụng xử lý ngôn ngữ tự nhiên để giải thích cho người vận hành, bằng ngôn ngữ cơ bản hàng ngày, tại sao cái máy đã thực hiện hành động mà nó có.

Bốn mô hình này đều có trường hợp sử dụng riêng, do đó, bất kể mức độ bảo mật của công ty là bao nhiêu, CISO và nhóm bảo mật có thể cảm thấy tự tin khi tận dụng các đề xuất của hệ thống, biết rằng hệ thống đưa ra các đề xuất và quyết định này dựa trên phân tích vi mô vượt xa phạm vi phân tích vi mô. mở rộng quy mô mà bất kỳ cá nhân hoặc nhóm nào có thể mong đợi ở con người trong số giờ họ có sẵn. Bằng cách này, các tổ chức thuộc mọi loại hình và quy mô, với bất kỳ trường hợp sử dụng hoặc nhu cầu kinh doanh nào, sẽ có thể tận dụng việc ra quyết định của AI theo cách phù hợp với họ, đồng thời tự động phát hiện và ứng phó với các cuộc tấn công mạng cũng như ngăn chặn sự gián đoạn mà chúng gây ra.

Lưu ý

Với tư cách là Phó Giám đốc Sản phẩm tại Darktrace, Dan Fein đã giúp khách hàng nhanh chóng có được sự hiểu biết đầy đủ và chi tiết về bộ sản phẩm của Darktrace. Dan đặc biệt tập trung vào email Darktrace, đảm bảo rằng nó được triển khai hiệu quả trong môi trường kỹ thuật số phức tạp và hợp tác chặt chẽ với các nhóm phát triển, tiếp thị, bán hàng và kỹ thuật. Dan có bằng cử nhân khoa học máy tính của Đại học New York.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• nguồn: https://www.darkreading.com/cloud/4-ways-to-handle-ai-decision-making-in-cybersecurity