DARPA готовит программу для защиты пользователей смешанной реальности от когнитивных атак

DARPA объединяет исследовательскую программу Intrinsic Cognitive Security ( ICS ) «для создания тактических систем смешанной реальности, защищающих от когнитивных атак».

Поскольку Пентагон видит, что смешанная реальность (MR) станет повсеместно использоваться в будущих военных миссиях, Агентство перспективных исследовательских проектов Министерства обороны США ( DARPA ) стремится защитить пользователей от когнитивных атак в этой гибридной среде.

«Программа ICS направлена на прорывные инновации в области вычислительной науки для создания тактических систем смешанной реальности, защищающих от когнитивных атак»

DARPA, программа внутренней когнитивной безопасности (ICS), октябрь 2023 г.

Согласно описанию программы DARPA ICS , такие атаки могут включать в себя:

• Информационный поток, увеличивающий задержку работы оборудования и вызывающий физические заболевания.
• Размещайте объекты реального мира, чтобы затмить дисплеи.
• Подрыв личной сети с целью посеять путаницу.
• Внедрение виртуальных данных для отвлечения персонала.
• Использование объектов, чтобы запутать пользователя сбивающими с толку ложными тревогами.
• Оценка статуса пользователя с помощью айтрекера.
• И другие потенциальные атаки.

Помимо военного применения, новая программа ICS DARPA может дать нам представление о будущем коммерческой метавселенной и о том, как злоумышленники могут гнусными способами манипулировать средами смешанной реальности.

Преступные группировки, правительства и корпорации могут превратить метавселенную в оружие, манипулируя системами смешанной реальности в режиме реального времени, чтобы иметь возможность видеть то, что вы видите, знать, что вы чувствуете, и потенциально внедрять вводящую в заблуждение информацию, чтобы добиться желаемой реакции.

В исследовательской статье , опубликованной в журнале Procedia Computer Science в 2020 году, перечислены пять типов угроз для сред смешанной реальности:

• Защита ввода : включает в себя проблемы обеспечения безопасности и конфиденциальности данных, собранных и вводимых на платформу MR.

  
  

  • Пример : MR-очки могут фиксировать конфиденциальную информацию на экране рабочего стола пользователя, такую как электронные письма, журналы чатов. Эти необходимые меры защиты могут быть сопоставлены со свойствами сокрытия, ненаблюдаемости и необнаружимости, а также осведомленности о контенте.

    
    

• Защита данных : большой объем данных, собранных с датчиков, хранится в базе данных или других формах хранения данных. Основными угрозами для сбора данных являются, среди прочего, фальсификация, отказ в обслуживании и несанкционированный доступ.

  
  

  • Пример : Злоумышленник может изменить цели MR, чтобы получить другой ответ от системы или полностью отказать в обслуживании. Помимо угроз безопасности, привлекательность, обнаруживаемость и идентифицируемость являются некоторыми из угроз конфиденциальности, возникающих в результате непрерывного или постоянного сбора данных.

    
    

• Защита вывода : после обработки данных приложение отправляет выходные данные на устройство MR, которые должны отображаться. В MR приложения могут иметь доступ к выводам других приложений и, таким образом, могут изменять эти результаты, делая их ненадежными.

  
  

  • Пример . Отображения вывода уязвимы для угроз физического вывода или эксплойтов визуальных каналов, таких как атаки с использованием плеча. Это одни и те же угрозы для пользовательского ввода, особенно когда интерфейсы ввода и вывода находятся на одной среде или интегрированы вместе.

    
    

• Защита взаимодействия с пользователем : MR включает использование других интерфейсов датчиков и дисплеев для обеспечения иммерсивного взаимодействия. Одна из ключевых перспектив заключается в том, как пользователи смогут делиться опытом MR с гарантией безопасности и конфиденциальности информации.

  
  

  • Пример . Злоумышленник потенциально может подделать, подделать или отказаться от вредоносных действий во время этих взаимодействий. Как следствие, настоящие пользователи могут столкнуться с отказом в обслуживании. Кроме того, их личные данные могли быть скомпрометированы, утекли и использованы.

    
    

• Защита устройства . Интерфейсы MR подвергаются злонамеренной и вредоносной интерпретации, что приводит к обнаружению входной и выходной информации на дисплее.

  
  

  • Пример : головные дисплеи (HMD) отображают контент через линзы, которые другие люди могут видеть снаружи, что приводит к утечке информации и внешнему наблюдению. Такие устройства, как камера, которые также классифицируются как устройства визуального захвата, используются для захвата и извлечения информации, которая утекла из шлемов виртуальной реальности.

    
    

В отчетеКасперского добавляется: « Почти невозможно анонимизировать данные отслеживания VR и AR, поскольку люди имеют уникальные модели передвижения. Используя поведенческую и биологическую информацию, собранную с помощью VR-гарнитур, исследователи идентифицировали пользователей с очень высокой степенью точности, что представляет собой настоящую проблему в случае взлома систем VR ».

Основная техническая гипотеза программы ICS DARPA заключается в том, что «формальные методы могут быть расширены когнитивными гарантиями и моделями для защиты пользователей смешанной реальности от когнитивных атак».

Поскольку «когнитивные модели представляют аспекты человеческого восприятия, действий, памяти и рассуждения», программа ICS DARPA «расширит формальные методы путем явного создания и анализа когнитивных и других моделей в рамках разработки системы MR для защиты истребителя от атак противника».

«Смешанная реальность объединяет виртуальный и реальный миры в реальном времени и будет повсеместно использоваться в будущих военных миссиях, включая миссии с участием спешившихся солдат»

DARPA, программа внутренней когнитивной безопасности (ICS), октябрь 2023 г.

В течение многих лет Министерство обороны США (DoD) финансировало исследования по оснащению своих истребителей технологиями, расширяющими их возможности .

Например, и DARPA, и Отдел оборонных инноваций (DIU) рассматривают возможности смешанной реальности и портативных устройств, позволяющих операторам взаимодействовать с более чем 250 автономными транспортными средствами с помощью военной тактики, известной как роение.

В 2018 году DARPA запустило программу OFFensive Swarm-Enabled Tactics ( OFFSET ), направленную на использование дополненной и виртуальной реальности, а также технологий на основе голоса, жестов и сенсорного управления, чтобы позволить пользователям взаимодействовать потенциально с сотнями беспилотных платформ одновременно в режиме реального времени.

А в марте 2021 года DIU искало коммерческие решения , которые позволили бы солдатам управлять несколькими типами беспилотных воздушных и наземных транспортных средств с использованием носимых и портативных контроллеров.

Теперь Пентагон стремится защитить пользователей от когнитивных атак в этих средах смешанной реальности.

Смогут ли решения, появившиеся в рамках программы ICS DARPA, проникнуть в коммерческий сектор для защиты частных лиц в метавселенной?

Могут ли разработанные технологии и тактики использоваться в будущих PSYOP и влиять на кампании сами по себе?

День разработчиков программы ICS пройдет 20 октября 2023 года в Арлингтоне, штат Вирджиния.