DARPA prepara un programa para proteger a los usuarios de realidad mixta de ataques cognitivos

DARPA está organizando el programa de investigación de Seguridad Cognitiva Intrínseca ( ICS ) "para construir sistemas tácticos de realidad mixta que protejan contra ataques cognitivos".

Mientras el Pentágono ve que la realidad mixta (MR) se vuelve omnipresente en futuras misiones militares, la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. ( DARPA ) busca proteger a los usuarios contra ataques cognitivos en este entorno híbrido.

“El programa ICS busca innovación revolucionaria para que la ciencia computacional construya sistemas tácticos de realidad mixta que protejan contra ataques cognitivos”

DARPA, programa de Seguridad Cognitiva Intrínseca (ICS), octubre de 2023

Según la descripción del programa DARPA ICS , dichos ataques pueden incluir:

• Inundación de información para aumentar la latencia del equipo e inducir enfermedades físicas.
• Plantar objetos del mundo real para abrumar las exhibiciones.
• Subvertir una red de área personal para sembrar confusión.
• Inyectar datos virtuales para distraer al personal.
• Usar objetos para abrumar a un usuario con falsas alarmas confusas.
• Evaluación del estado del usuario a través de un rastreador ocular.
• Y otros posibles ataques.

Además de las aplicaciones militares, el nuevo programa ICS de DARPA podría brindarnos una idea del futuro del metaverso comercial y de cómo los malos actores podrían manipular entornos de realidad mixta de maneras nefastas.

Los grupos criminales, los gobiernos y las corporaciones podrían convertir el metaverso en un arma manipulando sistemas de realidad mixta en tiempo real para poder ver lo que ves, saber lo que sientes y potencialmente plantar información engañosa para lograr la reacción deseada.

Un artículo de investigación publicado en Procedia Computer Science en 2020 enumera cinco tipos de amenazas a los entornos de realidad mixta:

• Protección de entrada : Implica desafíos para garantizar la seguridad y privacidad de los datos recopilados e ingresados en la plataforma MR.

  
  

  • Ejemplo : las gafas de RM pueden capturar información confidencial en la pantalla del escritorio del usuario, como correos electrónicos y registros de chat. Estas protecciones necesarias se pueden asignar a propiedades de ocultamiento, inobservabilidad e indetectabilidad y conocimiento del contenido.

    
    

• Protección de datos : una gran cantidad de datos recopilados de los sensores se almacena en la base de datos u otras formas de almacenamiento de datos. Las principales amenazas a la recopilación de datos son la manipulación, la denegación de servicio y el acceso no autorizado, entre otras.

  
  

  • Ejemplo : un adversario puede manipular objetivos de MR para provocar una respuesta diferente del sistema o para negar directamente un servicio. Además de las amenazas a la seguridad, la simpatía, la detectabilidad y la identificabilidad son algunas de las amenazas a la privacidad que resultan de la recopilación continua o persistente de datos.

    
    

• Protección de salida : una vez procesados los datos, la aplicación envía la salida al dispositivo de RM que se va a mostrar. En MR, las aplicaciones pueden tener acceso a los resultados de otras aplicaciones y, por lo tanto, pueden modificar esos resultados, haciéndolos poco confiables.

  
  

  • Ejemplo : las pantallas de salida son vulnerables a amenazas de inferencia física o ataques de canal visual, como ataques de navegación por el hombro. Estas son las mismas amenazas a las entradas del usuario, especialmente cuando las interfaces de entrada y salida están en el mismo medio o están integradas entre sí.

    
    

• Protección de interacción del usuario : MR incluye la utilización de otras interfaces de detección y visualización para permitir interacciones inmersivas. Una de las perspectivas clave es cómo los usuarios pueden compartir experiencias de RM con garantía de seguridad y privacidad de la información.

  
  

  • Ejemplo : un usuario adversario puede potencialmente alterar, falsificar o repudiar acciones maliciosas durante estas interacciones. Como consecuencia, los usuarios genuinos podrían sufrir una denegación de servicio. Además, sus datos personales podrían haber sido comprometidos, filtrados y utilizados.

    
    

• Protección del dispositivo : las interfaces MR están expuestas a interpretaciones maliciosas y dañinas que conducen al descubrimiento de información de visualización de entrada y salida.

  
  

  • Ejemplo : Las pantallas montadas en la cabeza (HMD) muestran el contenido a través de sus lentes, que otras personas pueden ver desde el exterior, lo que genera fugas y observación externa. Dispositivos como una cámara, que también se clasifican como dispositivos de captura visual, se utilizan para capturar y extraer esta información que se filtró de los HMD.

    
    

Un informe deKaspersky añade: “ Es casi imposible anonimizar los datos de seguimiento de realidad virtual y realidad aumentada porque los individuos tienen patrones de movimiento únicos. Utilizando la información biológica y de comportamiento recopilada en los cascos de realidad virtual, los investigadores han identificado a los usuarios con un grado muy alto de precisión, lo que presenta un problema real si los sistemas de realidad virtual son pirateados ”.

Para el programa ICS de DARPA, la hipótesis técnica central es que "los métodos formales pueden ampliarse con garantías y modelos cognitivos para proteger a los usuarios de realidad mixta de ataques cognitivos".

Como "los modelos cognitivos representan aspectos de la percepción, acción, memoria y razonamiento humanos", el programa ICS de DARPA "ampliará los métodos formales creando y analizando explícitamente modelos cognitivos y de otro tipo como parte del desarrollo del sistema de RM para proteger al combatiente de los ataques del adversario".

"La realidad mixta integra mundos virtuales y reales en tiempo real y será omnipresente en futuras misiones militares, incluidas las misiones con soldados desmontados"

DARPA, programa de Seguridad Cognitiva Intrínseca (ICS), octubre de 2023

Durante años, el Departamento de Defensa de EE. UU. (DoD) ha estado financiando investigaciones para equipar a sus combatientes con tecnologías que aumenten sus capacidades .

Por ejemplo, tanto DARPA como la Unidad de Innovación de Defensa (DIU) han estado buscando realidad mixta y dispositivos portátiles para que los operadores interactúen con más de 250 vehículos autónomos a través de una táctica militar conocida como enjambre.

En 2018, DARPA lanzó su programa OFFensive Swarm-Enabled Tactics ( OFFSET ) para aprovechar la realidad virtual y aumentada, junto con tecnologías de voz, gestos y táctiles, para permitir a los usuarios interactuar con potencialmente cientos de plataformas no tripuladas simultáneamente en tiempo real.

Y en marzo de 2021, la DIU estaba buscando soluciones comerciales que permitieran a los soldados operar múltiples tipos de vehículos aéreos y terrestres no tripulados utilizando controladores portátiles y portátiles.

Ahora, el Pentágono busca proteger a los usuarios de ataques cognitivos en esos entornos de realidad mixta.

¿Las soluciones que surjan del programa ICS de DARPA llegarán al sector comercial para proteger a los ciudadanos privados en el metaverso?

¿Podrían utilizarse la tecnología y las tácticas desarrolladas para futuras PSYOP y campañas de influencia por derecho propio?

El día de los proponentes del programa ICS se llevará a cabo el 20 de octubre de 2023 en Arlington, Virginia.