DARPA、複合現実ユーザーを認知攻撃から守るプログラムを準備

DARPA は、「認知攻撃から保護する戦術的な複合現実システムを構築する」ための本質的認知セキュリティ ( ICS ) 研究プログラムをまとめています。

国防総省は複合現実(MR) が将来の軍事任務で遍在的になると見ており、米国国防高等研究計画局( DARPA ) は、このハイブリッド環境における認知攻撃からユーザーを保護することを検討しています。

「ICS プログラムは、認知攻撃から保護する戦術的な複合現実システムを構築するための計算科学の画期的なイノベーションを目指しています。」

DARPA、本質的認知セキュリティ (ICS) プログラム、2023 年 10 月

DARPA ICSプログラムの説明によると、そのような攻撃には次のものが含まれます。

• 情報が氾濫して機器の遅延が増加し、身体的疾患を誘発します。
• 現実世界のオブジェクトを植えてディスプレイを圧倒します。
• 混乱を招くためにパーソナル エリア ネットワークを破壊する。
• 仮想データを注入して担当者の注意をそらす。
• オブジェクトを使用して、混乱を招く誤報でユーザーを圧倒する。
• アイトラッカーを通じてユーザーのステータスを評価します。
• その他の潜在的な攻撃。

軍事用途とは別に、DARPA の新しいICSプログラムは、商業メタバースの将来と、悪意のある者がどのようにして複合現実環境を邪悪な方法で操作できるかを垣間見ることができるかもしれません。

犯罪グループ、政府、企業は、複合現実システムをリアルタイムで操作することでメタバースを兵器化し、ユーザーが見ているものを確認したり、何を感じているかを把握したり、望ましい反応を達成するために欺瞞的な情報を植え付けたりする可能性があります。

2020 年にProcedia Computer Scienceに掲載された研究論文では、複合現実環境に対する 5 種類の脅威がリストされています。

• 入力保護: MR プラットフォームに収集および入力されたデータのセキュリティとプライバシーを確保するための課題が含まれます。

  
  

  • 例: MR メガネは、電子メールやチャット ログなど、ユーザーのデスクトップ画面上の機密情報をキャプチャできます。これらの必要な保護は、隠蔽性、観察不可能性と検出不可能性、およびコンテンツ認識の特性にマッピングできます。

    
    

• データ保護: センサーから収集された大量のデータは、データベースまたはその他の形式のデータ ストレージに保存されます。データ収集に対する主な脅威は、改ざん、サービス妨害、不正アクセスなどです。

  
  

  • 例: 敵対者は MR ターゲットを改ざんして、システムから異なる応答を引き出したり、サービスを完全に拒否したりすることができます。セキュリティの脅威とは別に、継続的または永続的なデータ収集から生じるプライバシーの脅威には、好感度、検出可能性、識別可能性などがあります。

    
    

• 出力保護: データが処理された後、アプリケーションは表示される MR デバイスに出力を送信します。 MR では、アプリケーションが他のアプリケーション出力にアクセスできるため、それらの出力が変更されて信頼性が低下する可能性があります。

  
  

  • 例: 出力ディスプレイは、物理的推論の脅威や、ショルダーサーフィン攻撃などのビジュアル チャネルの悪用に対して脆弱です。これらは、特に入力インターフェイスと出力インターフェイスが同じ媒体上にある場合、または一緒に統合されている場合、ユーザー入力に対する同じ脅威となります。

    
    

• ユーザー インタラクション保護: MR には、没入型インタラクションを可能にする他のセンシング インターフェイスと表示インターフェイスの利用が含まれます。重要な見通しの 1 つは、ユーザーが情報のセキュリティとプライバシーを保証しながら MR エクスペリエンスを共有できる方法です。

  
  

  • 例: 敵対的なユーザーは、これらのやり取り中に、悪意のあるアクションを改ざん、なりすまし、または拒否する可能性があります。その結果、本物のユーザーがサービス拒否を受ける可能性があります。さらに、個人データが侵害され、漏洩し、使用された可能性があります。

    
    

• デバイス保護: MR インターフェイスは、入出力表示情報の発見につながる悪意のある有害な解釈にさらされます。

  
  

  • 例: ヘッドマウントディスプレイ (HMD) はレンズを通してコンテンツを表示するため、外部から他人が見ることができ、漏洩や外部監視につながります。カメラなどのデバイスは、ビジュアル キャプチャ デバイスとしても分類され、HMD から漏洩したこの情報をキャプチャおよび抽出するために使用されます。

    
    

Kasperskyのレポートでは次のように付け加えられています。「個人には固有の動作パターンがあるため、VR および AR の追跡データを匿名化することはほぼ不可能です。研究者らは、VR ヘッドセットで収集された行動情報および生物学的情報を使用して、非常に高い精度でユーザーを特定しました。これは、VR システムがハッキングされた場合に大きな問題となります。」

DARPA のICSプログラムの中心的な技術仮説は、「複合現実ユーザーを認知攻撃から保護するために、認知保証とモデルを使用して正式な手法を拡張できる」というものです。

「認知モデルは人間の知覚、行動、記憶、推論の側面を表す」ため、DARPA のICSプログラムは「敵の攻撃から戦闘員を守るための MR システム開発の一環として認知モデルやその他のモデルを明示的に作成および分析することで形式的手法を拡張する」予定です。

「複合現実は仮想世界と現実世界をリアルタイムで統合し、下馬した兵士が関与する任務を含む将来の軍事任務で遍在するでしょう。」

DARPA、本質的認知セキュリティ (ICS) プログラム、2023 年 10 月

米国国防総省 (DoD) は長年にわたり、戦闘員に能力を増強する技術を装備させるための研究に資金を提供してきました。

たとえば、DARPA と国防革新局 (DIU) は両方とも、スウォーミングとして知られる軍事戦術を通じてオペレーターが 250 台以上の自動運転車と対話できるように、複合現実とハンドヘルド デバイスに注目しています。

2018 年、DARPA は、音声、ジェスチャー、タッチベースのテクノロジーとともに拡張現実と仮想現実を活用する OFFensive Swarm-Enabled Tactics ( OFFSET ) プログラムを開始し、ユーザーが潜在的に数百もの無人プラットフォームとリアルタイムで同時に対話できるようにしました。

そして 2021 年 3 月、 DIU は兵士がウェアラブルおよびハンドヘルド コントローラーを使用して複数種類の無人航空機および陸上車両を操作できるようにする商用ソリューションを探していました。

現在、国防総省は、こうした複合現実環境における認知攻撃からユーザーを保護しようとしている。

DARPA のICSプログラムから出てくるソリューションは、メタバースの民間人を保護するために商業分野にも導入されるでしょうか?

開発されたテクノロジーと戦術は将来のPSYOP に使用され、それ自体でキャンペーンに影響を与えることができるでしょうか?

ICSプログラム提案者デーは、2023 年 10 月 20 日にバージニア州アーリントンで開催されます。