Chương trình sẵn sàng của DARPA để bảo vệ người dùng thực tế hỗn hợp khỏi các cuộc tấn công nhận thức

DARPA đang tập hợp chương trình nghiên cứu An ninh nhận thức nội tại ( ICS ) “để xây dựng các hệ thống thực tế hỗn hợp mang tính chiến thuật nhằm bảo vệ khỏi các cuộc tấn công nhận thức”.

Khi Lầu Năm Góc nhận thấy thực tế hỗn hợp (MR) đang trở nên phổ biến trong các sứ mệnh quân sự trong tương lai, Cơ quan Dự án Nghiên cứu Tiên tiến Quốc phòng Hoa Kỳ ( DARPA ) đang tìm cách bảo vệ người dùng khỏi các cuộc tấn công nhận thức trong môi trường lai này.

“Chương trình ICS tìm kiếm sự đổi mới mang tính đột phá cho khoa học tính toán nhằm xây dựng các hệ thống thực tế hỗn hợp mang tính chiến thuật nhằm bảo vệ khỏi các cuộc tấn công nhận thức”

DARPA, chương trình An ninh nhận thức nội tại (ICS), tháng 10 năm 2023

Theo mô tả chương trình DARPA ICS , các cuộc tấn công như vậy có thể bao gồm:

• Tràn thông tin làm tăng độ trễ của thiết bị và gây ra bệnh tật về thể chất.
• Trồng các vật thể trong thế giới thực để lấn át màn hình.
• Phá hoại mạng lưới khu vực cá nhân để gieo rắc sự nhầm lẫn.
• Tiêm dữ liệu ảo để đánh lạc hướng nhân viên.
• Sử dụng các đồ vật để khiến người dùng choáng ngợp với những cảnh báo sai lầm khó hiểu.
• Đánh giá trạng thái người dùng thông qua máy theo dõi mắt.
• Và các cuộc tấn công tiềm năng khác.

Ngoài các ứng dụng quân sự, chương trình ICS mới của DARPA có thể cung cấp cho chúng ta cái nhìn thoáng qua về tương lai của siêu vũ trụ thương mại và cách những kẻ xấu có thể thao túng môi trường thực tế hỗn hợp theo những cách bất chính.

Các nhóm tội phạm, chính phủ và tập đoàn có thể vũ khí hóa metaverse bằng cách thao túng các hệ thống thực tế hỗn hợp trong thời gian thực để có thể nhìn thấy những gì bạn thấy, biết bạn đang cảm thấy gì và có khả năng tạo ra thông tin lừa đảo nhằm đạt được phản ứng mong muốn.

Một bài nghiên cứu được xuất bản trên Procedia Computer Science năm 2020 đã liệt kê năm loại mối đe dọa đối với môi trường thực tế hỗn hợp:

• Bảo vệ đầu vào : Liên quan đến các thách thức hướng tới việc đảm bảo tính bảo mật và quyền riêng tư của dữ liệu được thu thập và nhập vào nền tảng MR.

  
  

  • Ví dụ : Kính đeo mắt MR có thể ghi lại thông tin nhạy cảm trên màn hình máy tính của người dùng như e-mail, nhật ký trò chuyện. Những biện pháp bảo vệ cần thiết này có thể được ánh xạ tới các thuộc tính che giấu, không thể quan sát và không thể phát hiện cũng như nhận thức về nội dung.

    
    

• Bảo vệ dữ liệu : Một lượng lớn dữ liệu được thu thập từ các cảm biến được lưu trữ trong cơ sở dữ liệu hoặc các hình thức lưu trữ dữ liệu khác. Các mối đe dọa chính đối với việc thu thập dữ liệu là giả mạo, từ chối dịch vụ và truy cập trái phép cùng nhiều mối đe dọa khác.

  
  

  • Ví dụ : Kẻ thù có thể giả mạo mục tiêu MR để tạo ra phản hồi khác từ hệ thống hoặc từ chối hoàn toàn một dịch vụ. Ngoài các mối đe dọa bảo mật, khả năng thích, khả năng phát hiện và khả năng nhận dạng là một số mối đe dọa về quyền riêng tư xuất phát từ việc thu thập dữ liệu liên tục hoặc liên tục.

    
    

• Bảo vệ đầu ra : Sau khi dữ liệu được xử lý, ứng dụng sẽ gửi đầu ra tới thiết bị MR sẽ được hiển thị. Trong MR, các ứng dụng có thể có quyền truy cập vào các đầu ra ứng dụng khác và do đó có thể sửa đổi các đầu ra đó khiến chúng không đáng tin cậy.

  
  

  • Ví dụ : Màn hình đầu ra dễ bị tấn công bởi các mối đe dọa suy luận vật lý hoặc khai thác kênh hình ảnh như tấn công lướt qua vai. Đây là những mối đe dọa tương tự đối với đầu vào của người dùng, đặc biệt khi giao diện đầu vào và đầu ra trên cùng một phương tiện hoặc được tích hợp với nhau.

    
    

• Bảo vệ tương tác người dùng : MR bao gồm việc sử dụng các giao diện cảm biến và hiển thị khác để cho phép tương tác sâu sắc. Một trong những triển vọng chính là cách người dùng có thể chia sẻ trải nghiệm MR với sự đảm bảo về tính bảo mật và quyền riêng tư của thông tin.

  
  

  • Ví dụ : Người dùng đối nghịch có thể giả mạo, giả mạo hoặc từ chối các hành động độc hại trong các tương tác này. Kết quả là, người dùng chân chính có thể bị từ chối dịch vụ. Ngoài ra, dữ liệu cá nhân của họ có thể đã bị xâm phạm, rò rỉ và sử dụng.

    
    

• Bảo vệ thiết bị : Các giao diện MR dễ bị diễn giải độc hại và có hại dẫn đến việc phát hiện thông tin hiển thị đầu vào và đầu ra.

  
  

  • Ví dụ : Màn hình gắn trên đầu (HMD) hiển thị nội dung thông qua thấu kính của nó mà người khác có thể nhìn thấy từ bên ngoài dẫn đến rò rỉ và quan sát bên ngoài. Các thiết bị như máy ảnh, cũng được phân loại là thiết bị chụp ảnh, được sử dụng để ghi lại và trích xuất thông tin bị rò rỉ từ HMD.

    
    

Một báo cáo củaKaspersky cho biết thêm: “ Gần như không thể ẩn danh dữ liệu theo dõi VR và AR vì các cá nhân có kiểu di chuyển riêng. Bằng cách sử dụng thông tin hành vi và sinh học được thu thập trong tai nghe VR, các nhà nghiên cứu đã xác định được người dùng với độ chính xác rất cao – sẽ gây ra vấn đề thực sự nếu hệ thống VR bị hack .”

Đối với chương trình ICS của DARPA, giả thuyết kỹ thuật cốt lõi là “các phương pháp chính thức có thể được mở rộng với các mô hình và đảm bảo về nhận thức để bảo vệ người dùng thực tế hỗn hợp khỏi các cuộc tấn công nhận thức”.

Vì “các mô hình nhận thức đại diện cho các khía cạnh nhận thức, hành động, trí nhớ và lý luận của con người”, chương trình ICS của DARPA sẽ “mở rộng các phương pháp chính thức bằng cách tạo và phân tích rõ ràng các mô hình nhận thức và các mô hình khác như một phần của quá trình phát triển hệ thống MR để bảo vệ chiến binh khỏi các cuộc tấn công của kẻ thù”.

“Thực tế hỗn hợp tích hợp thế giới ảo và thực trong thời gian thực và sẽ có mặt khắp nơi trong các nhiệm vụ quân sự trong tương lai, bao gồm cả các nhiệm vụ liên quan đến những người lính đã xuống ngựa”

DARPA, chương trình An ninh nhận thức nội tại (ICS), tháng 10 năm 2023

Trong nhiều năm, Bộ Quốc phòng Hoa Kỳ (DoD) đã tài trợ cho nghiên cứu để trang bị cho các chiến binh của mình những công nghệ nhằm nâng cao khả năng của họ .

Ví dụ, cả DARPA và Đơn vị Đổi mới Quốc phòng (DIU) đều đang tìm kiếm các thiết bị cầm tay và thực tế hỗn hợp để người vận hành tương tác với hơn 250 phương tiện tự hành thông qua một chiến thuật quân sự được gọi là bầy đàn.

Năm 2018, DARPA đã triển khai chương trình Chiến thuật kích hoạt bầy đàn TUYỆT VỜI ( OFFSET ) để tận dụng thực tế ảo và tăng cường, cùng với các công nghệ giọng nói, cử chỉ và cảm ứng, để cho phép người dùng tương tác đồng thời với hàng trăm nền tảng không người lái tiềm năng trong thời gian thực.

Và vào tháng 3 năm 2021, DIU đang tìm kiếm các giải pháp thương mại cho phép binh lính vận hành nhiều loại phương tiện trên không và trên bộ không người lái bằng bộ điều khiển cầm tay và thiết bị đeo được.

Giờ đây, Lầu Năm Góc đang tìm cách bảo vệ người dùng khỏi các cuộc tấn công nhận thức trong những môi trường thực tế hỗn hợp đó.

Liệu các giải pháp sắp ra mắt của chương trình ICS của DARPA có được áp dụng vào lĩnh vực thương mại để bảo vệ công dân tư nhân trong metaverse không?

Liệu công nghệ và chiến thuật đã phát triển có thể được sử dụng cho các PSYOP trong tương lai và gây ảnh hưởng đến các chiến dịch theo cách riêng của chúng không?

Ngày đề xuất chương trình ICS sẽ được tổ chức vào ngày 20 tháng 10 năm 2023 tại Arlington, Virginia.