Как правительство США планирует обеспечить безопасность технологий искусственного интеллекта

Секция 4 – Обеспечение безопасности и защищенности технологий искусственного интеллекта.

4.1. Разработка руководств, стандартов и передового опыта в области безопасности и защиты ИИ. (a) В течение 270 дней с даты настоящего приказа, чтобы помочь обеспечить разработку безопасных, надежных и надежных систем искусственного интеллекта, министр торговли, действуя через директора Национального института стандартов и технологий (NIST), в координация с министром энергетики, министром внутренней безопасности и руководителями других соответствующих ведомств, которые министр торговли может счесть целесообразными, должна:

(i) Установить руководящие принципы и передовой опыт с целью продвижения консенсусных отраслевых стандартов для разработки и внедрения безопасных, надежных и заслуживающих доверия систем искусственного интеллекта, включая:

(A) разработка сопутствующего ресурса для системы управления рисками ИИ, NIST AI 100-1, для генеративного ИИ;

(B) разработка сопутствующего ресурса для платформы безопасной разработки программного обеспечения, включающего в себя методы безопасной разработки для генеративного ИИ и базовых моделей двойного назначения; и

(C) запуск инициативы по созданию рекомендаций и критериев для оценки и аудита возможностей ИИ с упором на возможности, с помощью которых ИИ может причинить вред, например, в области кибербезопасности и биобезопасности.

(ii) Установить соответствующие руководящие принципы (за исключением ИИ, используемого в качестве компонента системы национальной безопасности), включая соответствующие процедуры и процессы, чтобы дать возможность разработчикам ИИ, особенно базовых моделей двойного назначения, проводить тесты «красной команды» ИИ, чтобы позволить развертывание безопасных, надежных и надежных систем. Эти усилия должны включать:

(A) координация или разработка руководящих принципов, связанных с оценкой и управлением безопасностью, надежностью и надежностью моделей фундаментов двойного назначения; и

(B) в координации с министром энергетики и директором Национального научного фонда (NSF), разработка и помощь в обеспечении доступности испытательных сред, таких как испытательные стенды, для поддержки разработки безопасных, надежных и заслуживающих доверия технологий искусственного интеллекта. , а также для поддержки проектирования, разработки и внедрения связанных ПЭТ в соответствии с разделом 9 (b) настоящего приказа.

(b) В течение 270 дней с даты настоящего приказа, чтобы понять и снизить риски безопасности ИИ, министр энергетики в координации с руководителями других отраслевых агентств по управлению рисками (SRMA), которые министр энергетики сочтет целесообразными, должен разработать и, насколько это разрешено законом и имеющимися ассигнованиями, реализовать план разработки инструментов оценки моделей ИИ и испытательных стендов ИИ Министерства энергетики. Секретарь проведет эту работу, используя существующие решения, где это возможно, и разработает эти инструменты и испытательные стенды ИИ, чтобы иметь возможность оценивать краткосрочные экстраполяции возможностей систем ИИ. Как минимум, министр должен разработать инструменты для оценки возможностей ИИ генерировать результаты, которые могут представлять собой угрозы или опасности в области ядерной, нераспространенческой, биологической, химической, критической инфраструктуры и энергетической безопасности. Секретарь должен выполнять эту работу исключительно в целях защиты от этих угроз, а также разрабатывать типовые ограждения, снижающие такие риски. Секретарь должен, при необходимости, консультироваться с частными лабораториями ИИ, научными кругами, гражданским обществом и сторонними оценщиками и использовать существующие решения.

4.2. Обеспечение безопасного и надежного ИИ. (a) В течение 90 дней с даты настоящего приказа обеспечить и проверить постоянную доступность безопасного, надежного и эффективного ИИ в соответствии с Законом об оборонном производстве с поправками, 50 USC 4501 и последующие , в том числе для национального обороны и защиты критически важной инфраструктуры, министр торговли должен потребовать:

(i) Компании, разрабатывающие или демонстрирующие намерение разработать потенциальные модели фундаментов двойного назначения для предоставления федеральному правительству на постоянной основе информации, отчетов или записей относительно следующего:

(A) любую текущую или планируемую деятельность, связанную с обучением, разработкой или производством базовых моделей двойного назначения, включая меры физической и кибербезопасности, принимаемые для обеспечения целостности этого процесса обучения от сложных угроз;

(B) владение и владение гирями моделей любых фундаментных моделей двойного назначения, а также меры физической и кибербезопасности, принятые для защиты этих гирь моделей; и

(C) результаты эффективности любой разработанной модели фонда двойного назначения в соответствующих испытаниях красной группы ИИ на основе рекомендаций, разработанных NIST в соответствии с подразделом 4.1(a)(ii) настоящего раздела, а также описание любых связанных с этим мер, которые компания были предприняты для достижения целей безопасности, таких как меры по смягчению последствий для улучшения производительности в этих тестах красной команды и повышения общей безопасности модели. До разработки NIST руководства по стандартам тестирования «красной команды» в соответствии с подразделом 4.1(a)(ii) настоящего раздела, это описание должно включать результаты любого тестирования «красной команды», проведенного компанией в целях снижения барьера. въезд для разработки, приобретения и использования биологического оружия негосударственными субъектами; обнаружение уязвимостей программного обеспечения и разработка связанных с ними эксплойтов; использование программного обеспечения или инструментов для влияния на реальные или виртуальные события; возможность самовоспроизведения или размножения; и связанные с этим меры по достижению целей безопасности; и

(ii) Компании, частные лица или другие организации или юридические лица, которые приобретают, разрабатывают или владеют потенциальным крупномасштабным вычислительным кластером, должны сообщать о любом таком приобретении, разработке или владении, включая существование и местонахождение этих кластеров, а также общую сумму вычислительная мощность, доступная в каждом кластере.

(b) Министр торговли, по согласованию с Государственным секретарем, Министром обороны, Министром энергетики и Директором национальной разведки, должен определить, а затем регулярно обновлять по мере необходимости набор технических условия для моделей и вычислительных кластеров, на которые распространяются требования к отчетности подраздела 4.2(a) настоящего раздела. До тех пор, пока такие технические условия не будут определены, Секретарь должен требовать соблюдения настоящих требований к отчетности для:

(i) любую модель, которая была обучена с использованием вычислительной мощности, превышающей 1026 операций с целыми числами или с плавающей запятой, или с использованием преимущественно данных о биологических последовательностях и с использованием количества вычислительной мощности, превышающего 1023 операций с целыми числами или с плавающей запятой; и

(ii) любой вычислительный кластер, который имеет набор машин, физически расположенных в одном центре обработки данных, транзитивно соединенных сетью центров обработки данных со скоростью более 100 Гбит/с и имеющий теоретическую максимальную вычислительную мощность 1020 операций с целыми числами или с плавающей запятой на единицу. второй по обучению ИИ.

(c) Поскольку я считаю, что необходимо предпринять дополнительные шаги для борьбы с чрезвычайной ситуацией в стране, связанной со значительной злонамеренной кибер-деятельностью, объявленной в Исполнительном указе 13694 от 1 апреля 2015 года (Блокирование собственности определенных лиц, участвующих в значительной вредоносной кибер-активности). деятельности), с поправками, внесенными Исполнительным указом 13757 от 28 декабря 2016 г. (Принятие дополнительных мер по устранению чрезвычайной ситуации в стране в отношении значительной вредоносной кибердеятельности), а также с поправками, внесенными Исполнительным указом 13984, касающимися использования инфраструктуры США. продуктов как услуги (IaaS) иностранных злоумышленников в киберпространстве, в том числе для наложения дополнительных обязательств по ведению учета в отношении иностранных транзакций и оказания помощи в расследовании транзакций с участием иностранных злоумышленников в киберпространстве, настоящим поручаю министру торговли в течение 90 дней со дня издания настоящего приказа:

(i) Предложить правила, которые требуют, чтобы поставщики IaaS США представляли отчет министру торговли, когда иностранное лицо совершает сделку с этим поставщиком IaaS США для обучения крупной модели ИИ с потенциальными возможностями, которые могут быть использованы в злонамеренной кибер-деятельности. («тренировочный забег»). Такие отчеты должны включать, как минимум, личность иностранного лица и наличие любого тренировочного запуска модели ИИ, отвечающего критериям, изложенным в этом разделе, или другим критериям, определенным Секретарем в правилах, а также любые дополнительные сведения. информация, указанная Секретарем.

(ii) Включить в положения, предложенные в соответствии с подразделом 4.2(c)(i) настоящего раздела, требование о том, что поставщики IaaS в США запрещают любому иностранному реселлеру своих продуктов IaaS в США предоставлять эти продукты, за исключением случаев, когда такой иностранный реселлер передает в Соединенные Штаты Поставщик IaaS штата — отчет, который поставщик IaaS США должен предоставить министру торговли, с подробным описанием каждого случая, когда иностранное лицо заключает сделку с иностранным торговым посредником с целью использования продукта IaaS США для проведения обучения, описанного в подразделе 4.2( c)(i) настоящего раздела. Такие отчеты должны включать, как минимум, информацию, указанную в подразделе 4.2(c)(i) настоящего раздела, а также любую дополнительную информацию, указанную Секретарем.

(iii) Определить набор технических условий для того, чтобы крупная модель ИИ имела потенциальные возможности, которые могут быть использованы в злонамеренной кибердеятельности, и пересмотреть это определение по мере необходимости и целесообразности. До тех пор, пока Секретарь не примет такое решение, модель считается обладающей потенциальными возможностями, которые могут быть использованы в злонамеренной кибер-деятельности, если для нее требуется количество вычислительной мощности, превышающее 1026 операций с целыми числами или числами с плавающей запятой, и она обучена на вычислительном компьютере. кластер, который имеет набор машин, физически расположенных в одном центре обработки данных, транзитивно соединенных сетью центра обработки данных со скоростью более 100 Гбит/с и имеющий теоретическую максимальную вычислительную мощность 1020 операций с целыми числами или числами с плавающей запятой в секунду для обучения ИИ.

(d) В течение 180 дней с даты настоящего приказа, в соответствии с выводами, изложенными в подразделе 4.2(c) настоящего раздела, министр торговли должен предложить правила, которые требуют, чтобы поставщики IaaS Соединенных Штатов гарантировали, что иностранные реселлеры Соединенных Штатов Продукты IaaS проверяют личность любого иностранного лица, которое получает учетную запись IaaS (учетную запись) от иностранного реселлера. Эти правила должны, как минимум:

(i) Установить минимальные стандарты, которые поставщик IaaS в США должен требовать от иностранных реселлеров своих продуктов IaaS в США для проверки личности иностранного лица, которое открывает учетную запись или поддерживает существующую учетную запись у иностранного реселлера, включая:

(A) типы документации и процедуры, которые иностранные реселлеры продуктов IaaS в США должны требовать для проверки личности любого иностранного лица, действующего в качестве арендатора или субарендатора этих продуктов или услуг;

(B) записи, которые иностранные реселлеры продуктов IaaS в США должны надежно хранить в отношении иностранного лица, получившего учетную запись, включая информацию, устанавливающую:

(1) личность такого иностранного лица, включая имя и адрес;

(2) средство и источник платежа (включая любое связанное финансовое учреждение и другие идентификаторы, такие как номер кредитной карты, номер счета, идентификатор клиента, идентификаторы транзакций или идентификатор кошелька виртуальной валюты или идентификатор адреса кошелька);

(3) адрес электронной почты и телефонная контактная информация, используемые для проверки личности иностранного лица; и

(4) адреса интернет-протокола, используемые для доступа или администрирования, а также дату и время каждого такого доступа или административного действия, связанного с постоянной проверкой владения таким иностранным лицом такой учетной записью; и

(C) методы, которые иностранные реселлеры Продуктов IaaS в США должны внедрить для ограничения доступа третьих лиц к информации, описанной в этом подразделе, за исключением случаев, когда такой доступ иным образом соответствует настоящему приказу и разрешен действующим законодательством;

(ii) Принимать во внимание типы учетных записей, которые ведут иностранные реселлеры продуктов IaaS в США, методы открытия учетной записи и типы идентифицирующей информации, доступной для достижения целей выявления иностранных злонамеренных кибер-субъектов, использующих любые такие продукты, и предотвращения навязывания чрезмерного бремени для таких торговых посредников; и

(iii) Предусмотреть, что министр торговли в соответствии с такими стандартами и процедурами, которые министр может определить, и по согласованию с министром обороны, генеральным прокурором, министром внутренней безопасности и директором национальной разведки, может освобождать от уплаты налогов. Поставщик IaaS из США в отношении любого конкретного иностранного реселлера своих Продуктов IaaS в США или в отношении любого конкретного типа учетной записи или арендатора, в соответствии с требованиями любого нормативного акта, изданного в соответствии с настоящим подразделом. Такие стандарты и процедуры могут включать заключение министра о том, что такой иностранный торговый посредник, учетная запись или арендатор соблюдает передовые методы обеспечения безопасности, чтобы иным образом предотвратить злоупотребление продуктами IaaS США.

(e) Министр торговли настоящим уполномочен предпринимать такие действия, включая обнародование правил и положений, а также использовать все полномочия, предоставленные Президенту Законом о международных чрезвычайных экономических полномочиях, 50 USC 1701 и последующие. , что может быть необходимо для достижения целей подразделов 4.2(c) и (d) настоящего раздела. Такие действия могут включать требование о том, чтобы поставщики IaaS в США требовали от иностранных реселлеров продуктов IaaS в США предоставить подтверждения поставщикам IaaS в США в соответствии с этими подразделами.

4.3. Управление ИИ в критической инфраструктуре и кибербезопасности. (a) Для обеспечения защиты критически важной инфраструктуры необходимо предпринять следующие действия:

(i) В течение 90 дней с даты настоящего приказа и, по крайней мере, ежегодно после этого, руководитель каждого агентства, обладающего соответствующими регулирующими полномочиями в отношении критической инфраструктуры, и руководители соответствующих SRMA, по согласованию с директором Агентства по кибербезопасности и безопасности инфраструктуры. в Министерстве внутренней безопасности для рассмотрения межсекторальных рисков должен оценить и предоставить министру внутренней безопасности оценку потенциальных рисков, связанных с использованием ИИ в задействованных секторах критически важной инфраструктуры, включая способы, при которых развертывание ИИ может иметь решающее значение. инфраструктурные системы более уязвимы к критическим сбоям, физическим атакам и кибератакам, и должны рассмотреть способы смягчения этих уязвимостей. Независимым регулирующим органам рекомендуется, если они считают это целесообразным, внести свой вклад в оценку рисков для конкретных секторов.

(ii) В течение 150 дней с даты настоящего приказа министр финансов должен опубликовать публичный отчет о передовой практике для финансовых учреждений по управлению рисками кибербезопасности, связанными с ИИ.

(iii) В течение 180 дней с даты настоящего приказа министр внутренней безопасности в координации с министром торговли, а также с SRMA и другими регулирующими органами, как это определено министром внутренней безопасности, должен внедрить, при необходимости, систему управления рисками ИИ. , NIST AI 100-1, а также другие соответствующие рекомендации по безопасности, в соответствующие рекомендации по безопасности и защите для использования владельцами и операторами критически важной инфраструктуры.

(iv) В течение 240 дней после выполнения инструкций, описанных в подразделе 4.3(a)(iii) настоящего раздела, помощник президента по вопросам национальной безопасности и директор OMB, по согласованию с министром внутренней безопасности, должен координировать работу глав агентств, обладающих полномочиями в отношении критически важной инфраструктуры, по разработке и принятию мер для того, чтобы Федеральное правительство утвердило такие руководящие принципы или соответствующие их части посредством нормативных или других соответствующих мер. Независимым регулирующим органам рекомендуется, если они считают это целесообразным, рассмотреть вопрос о том, следует ли предписывать руководство посредством регулирующих действий в своих сферах полномочий и ответственности.

(v) Министр внутренней безопасности должен учредить Совет по безопасности и защите искусственного интеллекта в качестве консультативного комитета в соответствии со статьей 871 Закона о внутренней безопасности 2002 года (Публичный закон 107-296). В состав Консультативного комитета должны входить эксперты по искусственному интеллекту из частного сектора, научных кругов и правительства, в зависимости от обстоятельств, и предоставлять министру внутренней безопасности и сообществу критически важной инфраструктуры федерального правительства советы, информацию или рекомендации по повышению безопасности, устойчивости и реагированию на инциденты. связанные с использованием ИИ в критической инфраструктуре.

(b) Чтобы извлечь выгоду из потенциала ИИ для улучшения киберзащиты США:

(i) Министр обороны должен выполнять действия, описанные в подразделах 4.3(b)(ii) и (iii) настоящего раздела для систем национальной безопасности, а министр внутренней безопасности должен выполнять эти действия для ненациональной безопасности. системы. Каждый из них должен делать это после консультации с руководителями других соответствующих ведомств, которые министр обороны и министр внутренней безопасности сочтут целесообразными.

(ii) Как указано в подразделе 4.3(b)(i) настоящего раздела, в течение 180 дней с даты настоящего приказа министр обороны и министр внутренней безопасности должны, в соответствии с действующим законодательством, разработать планы , провести и завершить операционный пилотный проект по выявлению, разработке, тестированию, оценке и развертыванию возможностей ИИ, таких как модели на большом языке, для помощи в обнаружении и устранении уязвимостей в критически важном программном обеспечении, системах и сетях правительства США. .

(iii) Как указано в подразделе 4.3(b)(i) настоящего раздела, в течение 270 дней с даты издания настоящего приказа министр обороны и министр внутренней безопасности должны предоставить отчет помощнику президента. по делам национальной безопасности о результатах действий, предпринятых в соответствии с планами и оперативными пилотными проектами, предусмотренными подразделом 4.3(b)(ii) настоящего раздела, включая описание любых уязвимостей, обнаруженных и устраненных в результате разработки и внедрения возможностей ИИ, и любые извлеченные уроки о том, как эффективно выявлять, разрабатывать, тестировать, оценивать и использовать возможности ИИ для киберзащиты.

4.4. Снижение рисков на стыке угроз искусственного интеллекта и ХБРЯ. (a) Чтобы лучше понять и снизить риск неправомерного использования ИИ для оказания помощи в разработке или использовании угроз ХБРЯ — с особым упором на биологическое оружие — необходимо предпринять следующие действия:

(i) В течение 180 дней с даты настоящего приказа министр внутренней безопасности, по согласованию с министром энергетики и директором Управления научно-технической политики (OSTP), должен оценить возможность злоупотребления ИИ. для обеспечения возможности разработки или производства угроз ХБРЯ, а также рассмотрения преимуществ и применения ИИ для противодействия этим угрозам, включая, при необходимости, результаты работы, проводимой в соответствии с разделом 8 (b) настоящего приказа. Министр внутренней безопасности обязан:

(A) консультироваться с экспертами по вопросам ИИ и ХБРЯ из Министерства энергетики, частных лабораторий ИИ, научных кругов и сторонних оценщиков моделей, в зависимости от обстоятельств, для оценки возможностей модели ИИ представлять угрозы ХБРЯ — с единственной целью защиты от эти угрозы, а также варианты минимизации рисков неправильного использования моделей ИИ для создания или усугубления этих угроз; и

(B) представить президенту отчет, в котором описывается ход этих усилий, включая оценку типов моделей ИИ, которые могут представлять ХБРЯ-риски для Соединённых Штатов, и в котором даются рекомендации по регулированию или контролю за обучением, развертыванием, публикацией или использование этих моделей, включая требования к оценке безопасности и ограждениям для смягчения потенциальных угроз национальной безопасности.

(ii) В течение 120 дней с даты настоящего приказа министр обороны, по согласованию с помощником президента по вопросам национальной безопасности и директором OSTP, должен заключить контракт с Национальными академиями наук, инженерии, и медицины провести — и представить министру обороны, помощнику президента по вопросам национальной безопасности, директору Управления политики готовности к пандемии и реагированию на нее, директору OSTP и председателю Совета главных специалистов по данным — исследование, которое:

(A) оценивает способы, с помощью которых ИИ может повысить риски биобезопасности, включая риски, связанные с генеративными моделями ИИ, обученными на биологических данных, и дает рекомендации о том, как смягчить эти риски;

(B) рассматривает последствия для национальной безопасности использования данных и наборов данных, особенно тех, которые связаны с исследованиями патогенов и омиков, которые правительство Соединенных Штатов размещает, генерирует, финансирует создание или иным образом владеет для обучения генеративных моделей ИИ. и дает рекомендации о том, как снизить риски, связанные с использованием этих данных и наборов данных;

(C) оценивает способы использования искусственного интеллекта в биологии для снижения рисков биобезопасности, включая рекомендации по возможностям координации данных и высокопроизводительных вычислительных ресурсов; и

(D) рассматривает дополнительные проблемы и возможности на стыке ИИ и синтетической биологии, которые министр обороны считает целесообразными.

(b) Чтобы снизить риск неправомерного использования синтетических нуклеиновых кислот, который может быть существенно увеличен благодаря возможностям ИИ в этой области, и улучшить меры биобезопасности для индустрии синтеза нуклеиновых кислот, необходимо предпринять следующие действия:

(i) В течение 180 дней с даты настоящего приказа директор OSTP по согласованию с государственным секретарем, министром обороны, генеральным прокурором, министром торговли, министром здравоохранения и социальных служб (HHS) , министр энергетики, министр внутренней безопасности, директор национальной разведки и главы других соответствующих ведомств, которые директор OSTP сочтет целесообразными, должны установить структуру, включающую, при необходимости, существующие указания правительства Соединенных Штатов, поощрять поставщиков последовательностей синтетических нуклеиновых кислот к внедрению комплексных, масштабируемых и проверяемых механизмов скрининга закупок синтетических нуклеиновых кислот, включая стандарты и рекомендуемые стимулы. В рамках этой структуры директор OSTP обязан:

(A) установить критерии и механизмы для постоянной идентификации биологических последовательностей, которые могут быть использованы таким образом, что это может поставить под угрозу национальную безопасность Соединенных Штатов; и

(B) определить стандартизированные методологии и инструменты для проведения и проверки эффективности проверки закупок синтеза последовательностей, включая подходы проверки клиентов для поддержки комплексной проверки в отношении управления рисками безопасности, создаваемыми покупателями биологических последовательностей, указанных в подразделе 4.4(b)(i) (A) настоящего раздела, а также процессы отчетности о соответствующей деятельности правоохранительным органам.

(ii) В течение 180 дней с даты настоящего приказа министр торговли, действуя через директора NIST, по согласованию с директором OSTP и по согласованию с государственным секретарем, секретарем HHS и руководителями других соответствующих агентств, которые министр торговли может счесть целесообразными, должен инициировать усилия по взаимодействию с промышленностью и соответствующими заинтересованными сторонами, опираясь на структуру, разработанную в соответствии с подразделом 4.4(b)(i) настоящего раздела, для разработки и доработки для возможного использования. поставщиками последовательностей синтетических нуклеиновых кислот:

(A) спецификации для эффективного скрининга закупок синтеза нуклеиновых кислот;

(B) передовой опыт, включая контроль безопасности и доступа, для управления базами данных о последовательности событий для поддержки такой проверки;

(C) технические руководства по внедрению для эффективного скрининга; и

(D) передовой опыт и механизмы оценки соответствия.

(iii) В течение 180 дней с момента создания системы в соответствии с подразделом 4.4(b)(i) настоящего раздела все агентства, финансирующие исследования в области наук о жизни, должны, в зависимости от обстоятельств и в соответствии с применимым законодательством, установить, что в качестве требования финансирования, закупка синтетических нуклеиновых кислот осуществляется через поставщиков или производителей, которые придерживаются этой структуры, например, посредством аттестации поставщика или производителя. Помощник президента по вопросам национальной безопасности и директор OSTP должны координировать процесс рассмотрения таких требований к финансированию, чтобы обеспечить согласованность в реализации системы между финансирующими агентствами.

(iv) В целях содействия эффективной реализации мер, описанных в подразделах 4.4(b)(i)-(iii) настоящего раздела, Министр внутренней безопасности, по согласованию с руководителями других соответствующих ведомств, в качестве министра внутренней безопасности Служба безопасности может счесть целесообразным:

(A) в течение 180 дней с момента создания системы в соответствии с подразделом 4.4(b)(i) настоящего раздела, разработать структуру для проведения структурированной оценки и стресс-тестирования скрининга закупок синтеза нуклеиновых кислот, включая системы, разработанные в соответствии с подразделы 4.4(b)(i)-(ii) настоящего раздела и реализуемые поставщиками синтетических последовательностей нуклеиновых кислот; и

(B) после разработки структуры в соответствии с подразделом 4.4(b)(iv)(A) настоящего раздела представлять годовой отчет помощнику президента по вопросам национальной безопасности, директору Управления готовности и реагирования на пандемию. политики и директора OSTP о любых результатах деятельности, проводимой в соответствии с подразделом 4.4(b)(iv)(A) настоящего раздела, включая рекомендации, если таковые имеются, о том, как усилить проверку закупок синтеза нуклеиновых кислот, включая проверку клиентов. системы.

4.5. Снижение рисков, связанных с синтетическим контентом.

Развивать возможности для идентификации и маркировки синтетического контента, созданного системами искусственного интеллекта, а также для установления подлинности и происхождения цифрового контента, как синтетического, так и не синтетического, созданного федеральным правительством или от его имени:

(a) В течение 240 дней с даты настоящего приказа министр торговли, по согласованию с руководителями других соответствующих ведомств, которые министр торговли может счесть целесообразными, должен представить отчет директору OMB и помощнику Президент по вопросам национальной безопасности определяет существующие стандарты, инструменты, методы и практики, а также потенциальную разработку дальнейших научно обоснованных стандартов и методов для:

(i) аутентификация контента и отслеживание его происхождения;

(ii) маркировка синтетического контента, например, с использованием водяных знаков;

(iii) обнаружение синтетического содержания;

(iv) предотвращение создания генеративным ИИ материалов о сексуальном насилии над детьми или создания без согласия интимных изображений реальных людей (включая интимные цифровые изображения тела или частей тела идентифицируемого человека);

(v) тестирование программного обеспечения, используемого для вышеуказанных целей; и

(vi) аудит и поддержание синтетического контента.

(b) В течение 180 дней с момента подачи отчета, требуемого в соответствии с подразделом 4.5(a) настоящего раздела и впоследствии периодически обновляемого, министр торговли в координации с директором OMB должен разработать руководство относительно существующих инструментов и практик для цифровых технологий. аутентификация контента и меры по обнаружению синтетического контента. Руководство должно включать меры для целей, перечисленных в подразделе 4.5(а) настоящего раздела.

(c) В течение 180 дней с момента разработки руководства, требуемого в соответствии с подразделом 4.5(b) настоящего раздела, и впоследствии периодически обновляемого, Директору OMB по согласованию с Государственным секретарем; министр обороны; генеральный прокурор; министр торговли, действующий через директора NIST; министр внутренней безопасности; директор национальной разведки; и главы других агентств, которые директор OMB сочтет целесообразными, должны — в целях укрепления доверия общественности к целостности официального цифрового контента правительства США — издать инструкции для агентств по маркировке и проверке подлинности такого контента, который они производят или публикуют.

(d) Совет по регулированию федеральных закупок должен, в зависимости от обстоятельств и в соответствии с применимым законодательством, рассмотреть возможность внесения поправок в Положение о федеральных закупках с учетом указаний, установленных в подразделе 4.5 настоящего раздела.

4.6. Сбор предложений по моделям фундаментов двойного назначения с широко доступными весами моделей. Когда веса для модели фундамента двойного назначения широко доступны – например, когда они публично публикуются в Интернете – инновации могут принести существенные выгоды, но также и существенные риски для безопасности, такие как устранение защитных мер в модели. Для устранения рисков и потенциальных преимуществ моделей фундаментов двойного назначения с широко доступными грузами в течение 270 дней с даты настоящего приказа министр торговли, действуя через помощника министра торговли по коммуникациям и информации и по согласованию с Государственный секретарь:

(a) запросить вклад от частного сектора, научных кругов, гражданского общества и других заинтересованных сторон посредством процесса общественных консультаций по потенциальным рискам, выгодам, другим последствиям и соответствующим политическим и нормативным подходам, связанным с моделями фундаментов двойного назначения, для которых модель имеет значение широко доступны, в том числе:

(i) риски, связанные с доработкой участниками моделей фундаментов двойного назначения, для которых веса моделей широко доступны, или устранением гарантий этих моделей;

(ii) преимущества для инноваций и исследований ИИ, включая исследования в области безопасности ИИ и управления рисками, от базовых моделей двойного назначения, для которых веса моделей широко доступны; и

(iii) потенциальные добровольные, нормативные и международные механизмы для управления рисками и максимизации выгод от моделей фундаментов двойного назначения, для которых веса моделей широко доступны; и

(b) на основе результатов процесса, описанного в подразделе 4.6(a) настоящего раздела, и после консультаций с руководителями других соответствующих ведомств, которые Министр торговли сочтет целесообразными, представить Президенту отчет о потенциальных выгодах и рисках и последствия моделей фундамента двойного назначения, для которых веса моделей широко доступны, а также политические и нормативные рекомендации, относящиеся к этим моделям.

4.7. Содействие безопасному выпуску и предотвращению злонамеренного использования федеральных данных для обучения ИИ. Для улучшения доступа к общедоступным данным и управления рисками безопасности, а также в соответствии с целями Закона об открытых, публичных, электронных и необходимых государственных данных (раздел II Публичного закона 115). -435) расширить публичный доступ к федеральным информационным ресурсам в машиночитаемом формате, принимая при этом во внимание соображения безопасности, включая риск того, что информация в отдельном информационном ресурсе сама по себе не представляет угрозы безопасности, но в сочетании с другими доступными информации, может представлять такой риск:

(a) в течение 270 дней с даты настоящего приказа Совет главных специалистов по данным, по согласованию с министром обороны, министром торговли, министром энергетики, министром внутренней безопасности и директором национальной разведки, должен разработать первоначальные руководящие принципы для проведения проверок безопасности, включая проверки для выявления и управления потенциальными рисками безопасности, связанными с раскрытием федеральных данных, которые могут помочь в разработке оружия ХБРЯ, а также в развитии автономных наступательных киберпотенциалов, а также обеспечения публичного доступа к федеральным данным. Правительственные данные в соответствии с целями, изложенными в Законе об открытых, публичных, электронных и необходимых правительственных данных (раздел II Публичного закона 115-435); и

(b) в течение 180 дней с момента разработки первоначальных руководящих принципов, требуемых подразделом 4.7(a) настоящего раздела, агентства должны провести проверку безопасности всех активов данных в комплексном реестре данных, требуемом в соответствии с 44 USC 3511(a)(1) и (2)(B) и должен предпринять шаги, в зависимости от обстоятельств и в соответствии с применимым законодательством, для устранения наиболее приоритетных потенциальных рисков безопасности, которые может возникнуть в результате раскрытия этих данных в отношении оружия ХБРЯ, например, способов, которыми эти данные могут использоваться для обучения систем искусственного интеллекта.

4.8. Руководство разработкой Меморандума о национальной безопасности. В целях разработки скоординированного подхода исполнительной власти к управлению рисками безопасности ИИ помощник президента по вопросам национальной безопасности, а также помощник президента и заместитель руководителя аппарата по политике должны контролировать межведомственный процесс с целью в течение 270 дней после Дата издания настоящего приказа, разработка и представление Президенту предлагаемого Меморандума о национальной безопасности по ИИ. Меморандум будет посвящен управлению искусственным интеллектом, используемым в качестве компонента системы национальной безопасности или в военных и разведывательных целях. Меморандум должен принять во внимание текущие усилия по управлению разработкой и использованием ИИ для систем национальной безопасности. В меморандуме должны быть изложены действия Министерства обороны, Государственного департамента, других соответствующих ведомств и разведывательного сообщества по устранению рисков национальной безопасности и потенциальных преимуществ, связанных с ИИ. В частности, меморандум должен:

(a) предоставить рекомендации Министерству обороны, другим соответствующим агентствам и разведывательному сообществу по дальнейшему внедрению возможностей ИИ для продвижения миссии национальной безопасности Соединенных Штатов, в том числе путем руководства конкретными методами обеспечения безопасности ИИ и управления рисками для целей национальной безопасности. ИИ, который может повлиять на права или безопасность лиц из Соединенных Штатов и, в соответствующих контекстах, лиц, не являющихся гражданами Соединенных Штатов; и

(b) руководить дальнейшими действиями, в зависимости от обстоятельств и в соответствии с применимым законодательством, для предотвращения потенциального использования систем искусственного интеллекта противниками и другими иностранными субъектами способами, которые угрожают возможностям или целям Министерства обороны или разведывательного сообщества или иным образом представляют угрозу безопасности Соединенных Штатов или их союзников и партнеров.