DARPA, 인지 공격으로부터 혼합 현실 사용자를 보호하기 위한 프로그램 준비

DARPA는 "인지 공격으로부터 보호하는 전술적 혼합 현실 시스템을 구축하기 위해" ICS (내재적 인지 보안) 연구 프로그램을 구성하고 있습니다.

미 국방부는 혼합 현실 (MR)이 미래의 군사 임무에 널리 보급될 것으로 예상함에 따라 미국 국방고등연구계획국 ( DARPA )은 이러한 하이브리드 환경에서 인지 공격으로부터 사용자를 보호할 방안을 모색하고 있습니다.

"ICS 프로그램은 인지 공격으로부터 보호하는 전술적 혼합 현실 시스템을 구축하기 위해 계산 과학에 대한 획기적인 혁신을 추구합니다."

DARPA, 내재적 인지 보안(ICS) 프로그램, 2023년 10월

DARPA ICS 프로그램 설명 에 따르면 이러한 공격에는 다음이 포함될 수 있습니다.

• 장비 대기 시간을 늘리고 신체적 질병을 유발하는 정보 홍수.
• 디스플레이를 압도하는 실제 물체를 심습니다.
• 개인 영역 네트워크를 파괴하여 혼란을 심습니다.
• 직원의 주의를 분산시키기 위해 가상 데이터를 주입합니다.
• 개체를 사용하여 혼란스러운 잘못된 경보로 사용자를 압도합니다.
• 아이트래커를 통해 사용자 상태를 평가합니다.
• 그리고 다른 잠재적인 공격도 있습니다.

군사 응용 프로그램 외에도 DARPA의 새로운 ICS 프로그램은 상업용 메타버스의 미래와 악의적인 행위자가 혼합 현실 환경을 사악한 방식으로 조작할 수 있는 방법을 엿볼 수 있습니다.

범죄 집단, 정부 및 기업은 혼합 현실 시스템을 실시간으로 조작하여 사용자가 보고 있는 것을 보고, 느끼는 것을 알고, 원하는 반응을 달성하기 위해 잠재적으로 기만적인 정보를 심어 메타버스 를 무기화할 수 있습니다.

2020년 Procedia Computer Science 에 발표된 연구 논문에는 혼합 현실 환경에 대한 5가지 유형의 위협이 나열되어 있습니다.

• 입력 보호 : MR 플랫폼에 수집되고 입력된 데이터의 보안 및 개인 정보 보호를 보장하기 위한 과제와 관련됩니다.

  
  

  • 예 : MR 안경은 이메일, 채팅 로그 등 사용자 데스크톱 화면의 민감한 정보를 캡처할 수 있습니다. 이러한 필수 보호 기능은 은폐, 관찰 불가능 및 탐지 불가능, 콘텐츠 인식 속성에 매핑될 수 있습니다.

    
    

• 데이터 보호 : 센서로부터 수집된 대량의 데이터는 데이터베이스나 기타 형태의 데이터 저장소에 저장됩니다. 데이터 수집에 대한 주요 위협은 변조, 서비스 거부, 무단 액세스 등입니다.

  
  

  • 예 : 공격자는 시스템에서 다른 응답을 유도하거나 서비스를 완전히 거부하기 위해 MR 대상을 변조할 수 있습니다. 보안 위협 외에도 호감도, 탐지 가능성 및 식별 가능성은 지속적이거나 지속적인 데이터 수집으로 인해 발생하는 개인 정보 보호 위협 중 일부입니다.

    
    

• 출력 보호 : 데이터가 처리된 후 애플리케이션은 표시할 MR 장치에 출력을 보냅니다. MR에서는 애플리케이션이 다른 애플리케이션 출력에 액세스할 수 있으므로 해당 출력을 수정하여 신뢰할 수 없게 만들 수 있습니다.

  
  

  • 예 : 출력 디스플레이는 물리적 추론 위협이나 숄더 서핑 공격과 같은 시각적 채널 악용에 취약합니다. 이는 특히 입력 및 출력 인터페이스가 동일한 매체에 있거나 함께 통합된 경우 사용자 입력에 대한 동일한 위협입니다.

    
    

• 사용자 상호 작용 보호 : MR에는 몰입형 상호 작용을 허용하기 위해 다른 감지 및 디스플레이 인터페이스를 활용하는 기능이 포함됩니다. 주요 전망 중 하나는 사용자가 정보의 보안 및 개인 정보 보호를 보장하면서 MR 경험을 공유할 수 있는 방법입니다.

  
  

  • 예 : 적대적인 사용자는 이러한 상호 작용 중에 잠재적으로 악의적인 작업을 변조, 스푸핑 또는 거부할 수 있습니다. 결과적으로 실제 사용자는 서비스 거부를 겪을 수 있습니다. 또한 개인 데이터가 손상, 유출 및 사용되었을 수도 있습니다.

    
    

• 장치 보호 : MR 인터페이스는 악의적이고 유해한 해석에 노출되어 입력 및 출력 표시 정보가 검색됩니다.

  
  

  • 예 : HMD(Head Mounted Display)는 렌즈를 통해 콘텐츠를 표시하며, 이를 외부에서 다른 사람이 볼 수 있어 누출 및 외부 관찰이 가능합니다. 시각적 캡처 장치로도 분류되는 카메라와 같은 장치는 HMD에서 유출된 정보를 캡처하고 추출하는 데 사용됩니다.

    
    

Kaspersky 의 보고서는 “ 개인마다 고유한 움직임 패턴이 있기 때문에 VR 및 AR 추적 데이터를 익명화하는 것은 거의 불가능합니다. 연구원들은 VR 헤드셋에서 수집된 행동 및 생물학적 정보를 사용하여 매우 높은 정확도로 사용자를 식별했으며, 이는 VR 시스템이 해킹될 경우 실제 문제를 제시합니다 .”

DARPA의 ICS 프로그램의 핵심 기술 가설은 "인지 공격으로부터 혼합 현실 사용자를 보호하기 위해 인지 보장 및 모델을 통해 형식적 방법을 확장할 수 있다"는 것입니다.

"인지 모델은 인간의 인식, 행동, 기억 및 추론의 측면을 나타내기" 때문에 DARPA의 ICS 프로그램은 "적의 공격으로부터 전투원을 보호하기 위해 MR 시스템 개발의 일부로 인지 및 기타 모델을 명시적으로 생성하고 분석함으로써 형식적인 방법을 확장할 것입니다."

"혼합 현실은 가상 세계와 현실 세계를 실시간으로 통합하며, 하차 군인이 참여하는 임무를 포함하여 미래의 군사 임무에서 어디에나 사용될 것입니다."

DARPA, 내재적 인지 보안(ICS) 프로그램, 2023년 10월

수년 동안 미국 국방부(DoD)는 전투원 의 능력을 강화할 수 있는 기술을 갖추기 위한 연구에 자금을 지원해 왔습니다.

예를 들어, DARPA와 DIU(Defense Innovation Unit)는 모두 스워밍(Swarming)이라는 군사 전술을 통해 운영자가 250대 이상의 자율 차량과 상호 작용할 수 있는 혼합 현실 및 휴대용 장치를 모색해 왔습니다.

2018년 DARPA는 음성, 제스처, 터치 기반 기술과 함께 증강 현실과 가상 현실을 활용하여 사용자가 잠재적으로 수백 개의 무인 플랫폼과 실시간으로 동시에 상호 작용할 수 있도록 하는 OFFSET (공격군 지원 전술) 프로그램을 시작했습니다.

그리고 2021년 3월 DIU는 군인들이 웨어러블 및 휴대용 컨트롤러를 사용하여 여러 유형의 무인 공중 및 지상 차량을 운용할 수 있는 상용 솔루션을 찾고 있었습니다 .

이제 미 국방부는 이러한 혼합 현실 환경에서 인지 공격으로부터 사용자를 보호하기 위해 노력하고 있습니다.

DARPA의 ICS 프로그램에서 나오는 솔루션이 메타버스에서 민간인을 보호하기 위해 상업 부문으로 진출할 수 있을까요?

개발된 기술과 전술이 미래의 PSYOP에 사용될 수 있고 그 자체로 캠페인에 영향을 미칠 수 있습니까?

ICS 프로그램 제안자의 날은 2023년 10월 20일 버지니아주 알링턴에서 개최됩니다.