米国政府は AI テクノロジーの安全性とセキュリティを確保するためにどのように計画しているか

セクション 4 - AI テクノロジーの安全性とセキュリティの確保。

4.1. AI の安全性とセキュリティのためのガイドライン、標準、ベスト プラクティスを開発します。 (a) この命令の日付から 270 日以内に、安全、安心、信頼できる AI システムの開発を確実にするため、商務長官は国立標準技術研究所 (NIST) 所長を通じて、エネルギー長官、国土安全保障長官、および商務長官が適切と判断するその他の関連機関の長との調整は、以下のとおりとする。

(i) コンセンサスのある業界標準を促進することを目的として、安全、安心、信頼できる AI システムを開発および導入するためのガイドラインとベスト プラクティスを確立します。これには以下が含まれます。

(A) 生成 AI 用の AI リスク管理フレームワークである NIST AI 100-1 の関連リソースを開発する。

(B) 生成 AI およびデュアルユース基盤モデルの安全な開発プラクティスを組み込むための、安全なソフトウェア開発フレームワークへの付随リソースを開発する。そして

(C) サイバーセキュリティやバイオセキュリティの分野など、AI が害を及ぼす可能性のある機能に焦点を当て、AI の機能を評価および監査するためのガイダンスとベンチマークを作成する取り組みを開始する。

(ii) AI、特にデュアルユース基盤モデルの開発者が AI レッドチーム テストを実施できるように、適切な手順とプロセスを含む適切なガイドライン (国家安全保障システムのコンポーネントとして使用される AI を除く) を確立する。安全・安心・信頼できるシステムの導入。これらの取り組みには以下が含まれます。

(A) デュアルユース基礎モデルの安全性、セキュリティ、信頼性の評価と管理に関連するガイドラインを調整または開発する。そして

(B) エネルギー長官および国立科学財団 (NSF) 理事と連携して、安全、安心、信頼できる AI テクノロジーの開発をサポートするために、テストベッドなどのテスト環境の可用性を確保することを開発および支援します。 、および本命令のセクション 9(b) に準拠して、関連する PET の設計、開発、展開をサポートします。

(b) この命令の日付から 270 日以内に、AI セキュリティ リスクを理解し、軽減するために、エネルギー長官は、エネルギー長官が適切と判断する他のセクター リスク管理機関 (SRMA) の長と連携して、次のことを行うものとします。法律および利用可能な予算で許可される範囲で、エネルギー省の AI モデル評価ツールと AI テストベッドの開発計画を開発し、実装します。長官は、可能な限り既存のソリューションを使用してこの作業に着手し、AI システムの能力の短期推定を評価できるようにこれらのツールと AI テストベッドを開発するものとします。少なくとも、長官は、核、不拡散、生物、化学、重要インフラ、エネルギー安全保障の脅威や危険を表す可能性のある出力を生成する AI 能力を評価するツールを開発するものとします。長官は、これらの脅威から身を守る目的のみでこの作業を行うものとし、また、そのようなリスクを軽減するモデルのガードレールを開発するものとする。長官は、必要に応じて、民間の AI 研究所、学界、市民社会、第三者の評価者と協議し、既存のソリューションを使用するものとします。

4.2.安全で信頼性の高い AI を確保します。 (a) この命令の日付から 90 日以内に、国防生産法 (改正) 50 USC 4501 以降 (国家向けを含む) に従って、安全で信頼性が高く効果的な AI の継続的な可用性を確保および検証する。防衛と重要インフラの保護のために、商務長官は以下を要求するものとする。

(i) 以下に関する情報、報告書、または記録を連邦政府に継続的に提供する潜在的な二重用途基盤モデルを開発または開発する意図を示している企業。

(A) 高度な脅威に対するトレーニング プロセスの完全性を保証するために講じられる物理的およびサイバーセキュリティ保護を含む、デュアルユース基盤モデルのトレーニング、開発、または製造に関連する進行中または計画中の活動。

(B) あらゆる二重用途の基礎モデルのモデル重量の所有権と所有権、およびそれらのモデル重量を保護するために講じられた物理的およびサイバーセキュリティ対策。そして

(C) 本セクションのセクション 4.1(a)(ii) に従って NIST が開発したガイダンスに基づく、関連する AI レッドチーム テストにおける開発されたデュアルユース基盤モデルのパフォーマンスの結果、および企業が関連する対策の説明これらのレッドチームテストのパフォーマンスを向上させ、モデル全体のセキュリティを強化するための緩和策など、安全目標を達成するために取り組んできました。このセクションのセクション 4.1(a)(ii) に従って NIST によるレッドチームテスト基準に関するガイダンスが作成される前に、この説明には、障壁の引き下げに関して企業が実施したレッドチームテストの結果が含まれるものとします。非国家主体による生物兵器の開発、取得、使用のための入国。ソフトウェアの脆弱性の発見と関連するエクスプロイトの開発。現実または仮想のイベントに影響を与えるためのソフトウェアまたはツールの使用。自己複製または伝播の可能性。および安全目標を達成するための関連措置。そして

(ii) 潜在的な大規模コンピューティング クラスターを取得、開発、または所有する企業、個人、またはその他の組織または団体は、これらのクラスターの存在と場所、および総量を含む、かかる取得、開発、または所有を報告します。各クラスターで利用可能なコンピューティング能力。

(b) 商務長官は、国務長官、国防長官、エネルギー長官および国家情報長官と協議して、一連の技術情報を定義し、その後必要に応じて定期的に更新するものとする。このセクションのサブセクション 4.2(a) のレポート要件の対象となるモデルおよびコンピューティング クラスターの条件。かかる技術的条件が定義されるまで、長官は以下の報告要件の遵守を要求するものとする。

(i) 1026 の整数または浮動小数点演算を超える計算能力を使用してトレーニングされたモデル、または主に生物学的配列データを使用して 1023 の整数または浮動小数点演算を超える計算能力を使用してトレーニングされたモデル。そして

(ii) 単一のデータセンター内に一連のマシンが物理的に同じ場所に配置され、100 Gbit/s を超えるデータセンター ネットワークによって推移的に接続され、理論上の最大コンピューティング能力が 1020 個の整数または浮動小数点演算であるコンピューティング クラスター。 2番目はAIのトレーニングです。

(c) 2015 年 4 月 1 日の大統領令 13694 で宣言された重大な悪意のあるサイバー活動に関連する国家非常事態に対処するには、追加の措置を講じる必要があると判断したため (重大な悪意のあるサイバー活動に従事する特定の人物の財産の遮断)活動）、2016 年 12 月 28 日の大統領令 13757（重大な悪意のあるサイバー利用活動に関して国家緊急事態に対処するための追加の措置を講じる）によって修正され、米国のインフラストラクチャの使用に対処するために大統領令 13984 によってさらに修正されました。外国の悪意のあるサイバー攻撃者によるサービスとして（IaaS）製品について、外国の取引に関する追加の記録保持義務を課すこと、および外国の悪意のあるサイバー攻撃者が関与する取引の調査を支援することを含め、90 以内に商務長官に指示します。この注文の日付から何日後まで:

(i) 外国人が米国の IaaS プロバイダーと取引して、悪意のあるサイバー対応活動に使用される可能性のある潜在的な機能を備えた大規模な AI モデルをトレーニングする場合、米国の IaaS プロバイダーに商務長官への報告書を提出することを義務付ける規制を提案する（「トレーニングラン」）。このような報告には、少なくとも、外国人の身元と、本セクションに記載された基準、または規制で長官が定義したその他の基準を満たす AI モデルのトレーニング実行の存在、および追加の情報が含まれるものとします。長官によって特定された情報。

(ii) 本セクションの第 4.2 条 (c)(i) に従って提案された規制に、米国 IaaS プロバイダーが米国 IaaS 製品の外国再販業者が米国に提出しない限り、その製品を提供することを禁止するという要件を含めます。米国の IaaS プロバイダーは、米国の IaaS プロバイダーが商務長官に提出する必要がある報告書を提出する必要があります。この報告書には、外国人が外国の再販業者と取引して米国の IaaS 製品を使用して第 4.2 項に記載されているトレーニングを実施する各事例が詳しく記載されています。このセクションの c)(i)。かかる報告には、少なくとも、本セクションの第 4.2 条(c)(i) に指定された情報と、長官が特定した追加情報が含まれるものとします。

(iii) 大規模な AI モデルが悪意のあるサイバー活動に使用される可能性のある潜在的な機能を持つための一連の技術的条件を決定し、必要かつ適切にその決定を修正する。長官がそのような決定を下すまで、モデルが 1026 の整数または浮動小数点演算を超える量の計算能力を必要とし、コンピューティングでトレーニングされている場合、そのモデルは悪意のあるサイバー対応活動に使用される可能性がある潜在的な機能を備えているとみなされるものとします。単一のデータセンター内に一連のマシンが物理的に同じ場所に配置され、100 ギガビット/秒を超えるデータセンター ネットワークによって推移的に接続され、AI をトレーニングするための理論上の最大計算能力は 1 秒あたり 1020 の整数または浮動小数点演算です。

(d) この命令の日付から 180 日以内に、本セクションの第 4.2 条 (c) に記載された認定に従い、商務長官は、米国の IaaS プロバイダーに対し、米国の外国再販業者が確実にIaaS 製品は、外国の再販業者から IaaS アカウント (アカウント) を取得する外国人の身元を確認します。これらの規制は、少なくとも次のことを行うものとします。

(i) 米国の IaaS プロバイダーが、外国の再販業者にアカウントを開設するか既存のアカウントを維持する外国人の身元を確認するために、その米国 IaaS 製品の外国の再販業者に要求しなければならない、以下を含む最低基準を定める。

(A) 米国 IaaS 製品の外国再販業者が、これらの製品またはサービスの借手または転借人として機能する外国人の身元を確認するために要求する必要がある文書および手順の種類。

(B) 米国 IaaS 製品の外国再販業者がアカウントを取得した外国人に関して安全に保持しなければならない記録。これには以下を確立する情報が含まれます。

(1) 氏名および住所を含む当該外国人の身元情報。

(2) 支払手段および支払元（関連する金融機関およびクレジット カード番号、口座番号、顧客識別子、取引識別子、仮想通貨ウォレットまたはウォレット アドレス識別子などのその他の識別子を含む）。

(3) 外国人の身元を確認するために使用される電子メール アドレスおよび電話連絡先情報。そして

(4) アクセスまたは管理に使用されるインターネット プロトコル アドレス、およびそのようなアカウントの外国人の所有権の継続的な確認に関連する各アクセスまたは管理行為の日時。そして

(C) 米国 IaaS 製品の外国再販業者が、本サブセクションに記載されている情報へのすべての第三者アクセスを制限するために実装しなければならない方法。ただし、かかるアクセスが本命令と一致しており、適用される法律で許可されている場合を除きます。

(ii) 米国 IaaS 製品の外国再販業者が維持するアカウントの種類、アカウント開設方法、およびそのような製品を使用している外国の悪意のあるサイバー攻撃者を特定し、課せを回避するという目的を達成するために利用できる識別情報の種類を考慮する。そのような再販業者に不当な負担を課すこと。そして

(iii) 商務長官は、国防長官、司法長官、国土安全保障長官および国家情報長官と協議し、定めた基準および手順に従って、次の事項を免除できることを規定する。米国 IaaS プロバイダーは、その米国 IaaS 製品の特定の外国再販業者、または特定の種類のアカウントまたは借主に関して、本サブセクションに従って発行された規制の要件から除外されます。かかる基準および手順には、米国 IaaS 製品の悪用を阻止するために、当該外国の再販業者、アカウント、または賃借人がセキュリティのベスト プラクティスに準拠しているという長官の認定が含まれる場合があります。

(e) 商務長官は、規則や規制の公布を含むそのような措置を講じ、国際緊急経済権限法、50 USC 1701以降によって大統領に付与されたすべての権限を行使する権限をここに与えられる。 、本セクションのサブセクション 4.2(c) および (d) の目的を実行するために必要な場合があります。このような措置には、米国 IaaS プロバイダーが、米国 IaaS 製品の外国再販業者に対して、これらのサブセクションに関する米国 IaaS プロバイダーの検証を提供するよう要求する要件が含まれる場合があります。

4.3.重要インフラとサイバーセキュリティにおける AI の管理。 (a) 重要なインフラの保護を確実にするために、次の措置を講じるものとします。

(i) この命令の日付から 90 日以内、およびその後は少なくとも年に一度、サイバーセキュリティ・インフラセキュリティ庁長官と連携して、重要インフラに対する関連規制当局を有する各機関の長および関連する SRMA の長。部門横断的なリスクを検討するため、国土安全保障省内で、AI の導入により重要なリスクが生じる可能性がある方法を含む、関係する重要インフラ部門における AI の使用に関連する潜在的なリスクの評価を評価し、国土安全保障長官に提供するものとします。インフラストラクチャ システムは重大な障害、物理的攻撃、サイバー攻撃に対してより脆弱であるため、これらの脆弱性を軽減する方法を検討する必要があります。独立した規制機関は、適切と判断した場合、セクター固有のリスク評価に貢献することが奨励されます。

(ii) この命令の日から 150 日以内に、財務長官は金融機関が AI 特有のサイバーセキュリティ リスクを管理するためのベスト プラクティスに関する公開報告書を発行するものとします。

(iii) この命令の日付から 180 日以内に、国土安全保障長官は、商務長官、SRMA および国土安全保障長官が決定したその他の規制当局と連携して、AI リスク管理フレームワークを必要に応じて組み込むものとします。 、NIST AI 100-1、およびその他の適切なセキュリティ ガイダンスを、重要インフラストラクチャの所有者および運用者が使用する関連する安全およびセキュリティ ガイドラインに組み込みます。

(iv) 本セクションの第 4.3 条(a)(iii)に記載されているガイドラインの完了から 240 日以内に、国家安全保障担当大統領補佐官および OMB 長官は、国土安全保障長官と協議の上、連邦政府は、規制またはその他の適切な措置を通じて、連邦政府がそのようなガイドラインまたはその適切な部分を義務付けるための措置を開発し、講じるために、重要なインフラストラクチャーに対する権限を持つ機関の長による作業を調整するものとします。独立した規制機関は、適切と判断した場合、その権限と責任の分野における規制措置による指導を義務付けるかどうかを検討することが奨励されます。

(v) 国土安全保障長官は、2002 年国土安全保障法 (公法 107-296) の第 871 条に従って、諮問委員会として人工知能安全セキュリティ委員会を設置するものとします。諮問委員会には、必要に応じて民間部門、学界、政府の AI 専門家が含まれ、国土安全保障長官および連邦政府の重要インフラコミュニティに、セキュリティ、回復力、およびインシデント対応を改善するためのアドバイス、情報、または推奨事項を提供するものとします。重要なインフラにおける AI の使用に関連します。

(b) 米国のサイバー防御を改善する AI の可能性を活用するには:

(i) 国防長官は、国家安全保障システムに関して本セクションの第 4.3 条(b)(ii) および (iii) に記載されている行動を実行し、国土安全保障長官は非国家安全保障に関してこれらの行動を実行するものとする。システム。それぞれの国防長官および国土安全保障長官が適切と判断した場合、他の関連機関の長と協議してこれを行うものとする。

(ii) 本条の第 4.3 条(b)(i) に定めるとおり、この命令の日から 180 日以内に、国防長官と国土安全保障長官は、適用法に従って、それぞれ次の計画を策定するものとする。 、重要な米国政府のソフトウェア、システム、ネットワークの脆弱性の発見と修復を支援するために、大規模言語モデルなどの AI 機能を特定、開発、テスト、評価、展開するための運用パイロット プロジェクトを実施、完了します。 。

(iii) 本条の第 4.3 条(b)(i) に定めるとおり、この命令の日から 270 日以内に、国防長官および国土安全保障長官はそれぞれ大統領補佐官に報告書を提出するものとする。 AI 機能の開発と導入を通じて発見および修正された脆弱性の説明を含む、本セクションのサブセクション 4.3(b)(ii) で要求される計画および運用パイロット プロジェクトに従って取られた行動の結果に関する国家安全保障問題に関する情報。サイバー防御のために効果的に AI 機能を特定、開発、テスト、評価、導入する方法について学んだ教訓。

4.4. AI と CBRN の脅威が交差するリスクを軽減します。 (a) AI が CBRN 脅威の開発または使用を支援するために悪用されるリスクをより深く理解し、軽減するために、特に生物兵器に焦点を当てて、以下の措置を講じるものとします。

(i) この命令の日から 180 日以内に、国土安全保障長官は、エネルギー長官および科学技術政策局 (OSTP) 局長と協議して、AI が悪用される可能性を評価するものとする。 CBRN 脅威の開発または生成を可能にすると同時に、必要に応じて本命令のセクション 8(b) に基づいて実施された作業の結果を含め、これらの脅威に対抗するための AI の利点と応用も考慮します。国土安全保障長官は次のことを行うものとします。

(A) 必要に応じて、エネルギー省、民間の AI 研究所、学界、およびサードパーティのモデル評価者からの AI および CBRN 問題の専門家に相談し、CBRN の脅威を提示する AI モデルの機能を評価します。これは、CBRN の脅威から守ることのみを目的としています。それらの脅威、およびそれらの脅威を生成または悪化させるために AI モデルが誤用されるリスクを最小限に抑えるためのオプション。そして

(B) 米国にCBRNリスクをもたらす可能性のあるAIモデルの種類の評価を含む、これらの取り組みの進捗状況を説明し、訓練、展開、出版を規制または監督するための勧告を行う報告書を大統領に提出する。 、またはこれらのモデルの使用には、国家安全保障に対する潜在的な脅威を軽減するための安全性評価とガードレールの要件が含まれます。

(ii) この命令の日から 120 日以内に、国防長官は国家安全保障担当大統領補佐官および OSTP 長官と協議して、国立科学、工学、工学アカデミーと契約を締結するものとする。実施すべき医薬品 — 国防長官、国家安全保障問題担当大統領補佐官、パンデミック準備・対応政策局長、OSTP 局長、および最高データ責任者評議会議長に提出する —次のような研究結果:

(A) 生物学的データに基づいて訓練された生成 AI モデルからのリスクを含む、AI がバイオセキュリティ リスクを増大させる可能性がある方法を評価し、これらのリスクを軽減する方法について推奨事項を作成します。

(B) 米国政府が生成 AI モデルのトレーニングのためにホスト、生成、作成に資金提供、またはその他の方法で所有するデータおよびデータセット、特に病原体およびオミクス研究に関連するデータおよびデータセットの使用による国家安全保障への影響を考慮します。 、およびこれらのデータとデータセットの使用に関連するリスクを軽減する方法について推奨します。

(C) データと高性能コンピューティング リソースを調整する機会に関する推奨事項を含め、生物学に適用された AI を使用してバイオセキュリティ リスクを軽減できる方法を評価します。そして

(D) 国防長官が適切と判断する、AI と合成生物学の交差点における追加の懸念と機会を検討する。

(b) 合成核酸の誤用のリスクを軽減し、この分野における AI の能力によって大幅に増大する可能性があり、核酸合成産業のバイオセキュリティ対策を改善するために、以下の措置を講じるものとする。

(i) この命令の日から 180 日以内に、OSTP 長官は国務長官、国防長官、司法長官、商務長官、保健福祉長官 (HHS) と協議する。 、エネルギー長官、国土安全保障長官、国家情報長官、およびOSTP長官が適切と判断する他の関連機関の長は、必要に応じて既存の米国政府の指針を組み込んだ枠組みを確立するものとする。合成核酸配列の提供者に対し、基準や推奨されるインセンティブを含む、包括的で拡張性があり、検証可能な合成核酸調達スクリーニングメカニズムを導入することを奨励する。このフレームワークの一環として、OSTP ディレクターは次のことを行うものとします。

(A) 米国の国家安全保障にリスクをもたらす可能性のある方法で使用される可能性のある生物学的配列を継続的に特定するための基準とメカニズムを確立する。そして

(B) セクション 4.4(b)(i) で特定された生物学的配列の購入者によってもたらされるセキュリティリスクの管理に関するデューデリジェンスをサポートするための顧客スクリーニングアプローチを含む、配列合成調達スクリーニングの実施および検証のための標準化された方法論およびツールを決定する。このセクションの (A)、および関連する活動を執行機関に報告するプロセス。

(ii) この命令の日から 180 日以内に、商務長官は、NIST 長官を通じて行動し、OSTP 長官と連携し、国務長官、保健省長官、および長官と協議して、商務長官が適切と判断する他の関連機関の協力は、本セクションのサブセクション 4.4(b)(i) に基づいて開発された枠組みに基づいて、業界および関連利害関係者と連携して、可能な使用に向けて開発および改良する取り組みを開始するものとする。合成核酸配列プロバイダーによる:

(A) 効果的な核酸合成調達スクリーニングのための仕様。

(B) そのようなスクリーニングをサポートするために懸念シーケンスデータベースを管理するためのセキュリティとアクセス制御を含むベストプラクティス。

(C) 効果的なスクリーニングのための技術的実施ガイド。そして

(D) 適合性評価のベストプラクティスとメカニズム。

(iii) 本セクションの第 4.4 条(b)(i) に基づく枠組みの確立から 180 日以内に、ライフサイエンス研究に資金を提供するすべての機関は、必要に応じて、適用法と一致して、要件として次のことを確立するものとします。資金調達の際、合成核酸の調達は、プロバイダーまたは製造業者からの認証など、フレームワークに準拠するプロバイダーまたは製造業者を通じて行われます。国家安全保障担当の大統領補佐官とOSTP長官は、資金提供機関全体にわたる枠組みの実施の一貫性を促進するために、かかる資金要件を検討するプロセスを調整するものとする。

(iv) 本セクションの第 4.4 条(b)(i)～(iii)に記載されている措置の効果的な実施を促進するため、国土安全保障長官は、国土安全保障長官として他の関連機関の長と協議する。セキュリティが適切と判断される場合は、次のことを行うものとします。

(A) 本セクションの第 4.4 条(b)(i) に基づくフレームワークの確立から 180 日以内に、核酸合成調達スクリーニングの構造化された評価とストレステストを実施するためのフレームワークを開発する。このセクションのサブセクション 4.4(b)(i) ～ (ii) に準拠し、合成核酸配列の提供者によって実装されます。そして

(B) 本セクションの第 4.4 条(b)(iv)(A) に従って枠組みを作成した後、国家安全保障問題担当大統領補佐官、パンデミック準備・対応局局長に年次報告書を提出する。顧客スクリーニングを含む核酸合成調達スクリーニングを強化する方法に関する推奨事項（ある場合）を含む、本セクションのサブセクション4.4(b)(iv)(A)に従って実施された活動の結果に関する方針およびOSTPディレクターシステム。

4.5.合成コンテンツによってもたらされるリスクの軽減。

AI システムによって生成された合成コンテンツを識別してラベルを付ける機能を育成し、連邦政府または連邦政府に代わって生成されたデジタル コンテンツ（合成および非合成の両方）の信頼性と出所を確立する。

(a) この命令の日から 240 日以内に、商務長官は、商務長官が適切と考える他の関連機関の長と協議して、OMB 長官および財務大臣補佐官に報告書を提出するものとする。国家安全保障問題担当大統領は、以下について、既存の基準、ツール、方法、慣行、および科学に裏付けられたさらなる基準と技術の開発の可能性を特定します。

(i) コンテンツを認証し、その出所を追跡する。

(ii) 透かしを使用するなど、合成コンテンツにラベルを付ける。

(iii) 合成コンテンツの検出。

(iv) 生成 AI が児童の性的虐待の素材を作成したり、現実の個人の同意のない親密な画像を作成したりすることを防止する (識別可能な個人の身体または身体部分の親密なデジタル描写を含む)。

(v) 上記の目的で使用されるソフトウェアのテスト。そして

(vi) 合成コンテンツの監査と維持。

(b) 本セクションの第 4.5 条(a)に基づいて要求され、その後定期的に更新される報告書を提出してから 180 日以内に、商務長官は OMB 長官と連携して、デジタル技術に関する既存のツールと実践に関するガイダンスを作成するものとする。コンテンツ認証と合成コンテンツ検出対策。ガイダンスには、本セクションのサブセクション 4.5(a) に列挙された目的のための措置が含まれるものとします。

(c) 本セクションの第 4.5 条(b)に基づいて要求されるガイダンスの作成から 180 日以内に、OMB 長官は国務長官と協議し、その後定期的に更新する。国防長官。司法長官。 NIST所長を通じて商務長官が務める。国土安全保障長官。国家情報長官。および OMB 長官が適切とみなす他の機関の長は、米国政府の公式デジタル コンテンツの完全性に対する国民の信頼を強化する目的で、各機関が作成または公開するコンテンツにラベルを貼り、認証するためのガイダンスを発行するものとします。

(d) 連邦調達規制評議会は、必要に応じて、適用法と整合性があり、本セクションの第 4.5 項に基づいて確立されたガイダンスを考慮して連邦調達規制を修正することを検討するものとします。

4.6.広く利用可能なモデル重みを使用したデュアルユース基礎モデルに関する意見を求めます。二重用途の基礎モデルの重みがインターネット上に公開される場合など、広く入手可能になると、イノベーションに多大なメリットがもたらされる可能性がありますが、モデル内の安全対策の削除など、重大なセキュリティ リスクも生じる可能性があります。広く利用可能な重みを備えたデュアルユース基礎モデルのリスクと潜在的な利点に対処するため、商務長官は、この命令の日から 270 日以内に、通信情報担当商務次官補を通じて行動し、政府と協議して、国務長官は、次のことを行うものとする。

(a) 潜在的なリスク、利益、その他の影響、およびモデルが重視するデュアルユース財団モデルに関連する適切な政策および規制アプローチに関する公開協議プロセスを通じて、民間部門、学界、市民社会、およびその他の利害関係者からの意見を求める。以下を含む、広く入手可能です。

(i) モデルの重みが広く利用可能なデュアルユース基盤モデルをアクターが微調整したり、それらのモデルの安全装置を削除したりすることに関連するリスク。

(ii) AI の安全性とリスク管理の研究を含む、モデルの重みが広く利用可能なデュアルユース基盤モデルの AI イノベーションと研究に対する利点。そして

(iii) リスクを管理し、モデルの重み付けが広く利用可能なデュアルユース基礎モデルの利点を最大化するための潜在的な自主的、規制的、および国際的なメカニズム。そして

(b) 本セクションの第 4.6 項(a) に記載されているプロセスからのインプットに基づき、商務長官が適切と判断した場合には他の関連機関の長と協議して、潜在的な利益とリスクに関する報告書を大統領に提出する。 、モデルの重みが広く利用可能なデュアルユース基盤モデルの影響、およびそれらのモデルに関連する政策および規制上の推奨事項。

4.7. AI トレーニングのための連邦データの安全な公開の促進と悪意のある使用の防止。公共データへのアクセスを改善し、セキュリティ リスクを管理し、公開、公開、電子、および必要な政府データ法 (公法 115 のタイトル II) の目的と一致します。 -435) セキュリティ上の考慮事項も考慮しながら、機械可読形式の連邦データ資産へのパブリック アクセスを拡大する。これには、個々のデータ資産内の情報が単独ではセキュリティ リスクを引き起こすことはないが、利用可能な他のデータ資産と組み合わせるとセキュリティ リスクが生じるというリスクが含まれる。情報には、次のようなリスクが生じる可能性があります。

(a) この命令の日から 270 日以内に、最高データ責任者評議会は、国防長官、商務長官、エネルギー長官、国土安全保障長官、国家情報長官と協議の上、 CBRN兵器の開発や自律攻撃型サイバー能力の開発に役立つ可能性のある連邦データを公開することによる潜在的なセキュリティリスクを特定し管理するためのレビューを含む、セキュリティレビューを実施するための初期ガイドラインを作成するとともに、連邦政府への一般アクセスを提供するものとする。公開、公開、電子、および必要な政府データ法 (公法 115-435 のタイトル II) に記載されている目標に沿った政府データ。そして

(b) 本セクションのサブセクション 4.7(a) で要求される最初のガイドラインの作成から 180 日以内に、政府機関は 44 USC 3511(a)(1) に基づいて要求される包括的なデータ インベントリ内のすべてのデータ資産のセキュリティ レビューを実施するものとします。 (2)(B) そして、必要に応じて、適用法と一致して、CBRN兵器に関してそのデータを公開することで引き起こされる可能性のある最も優先度の高い潜在的な安全保障上のリスクに対処するための措置を講じるものとする。 AI システムのトレーニングに使用されます。

4.8.国家安全保障覚書の作成を指示。 AI のセキュリティ リスクを管理するための行政府の調整されたアプローチを開発するため、国家安全保障問題担当の大統領補佐官および政策担当の大統領補佐官兼副首席補佐官は、政策決定後 270 日以内に、次の目的を持った省庁間プロセスを監督するものとする。この命令の日付に合わせて、AIに関する国家安全保障覚書案を作成し、大統領に提出する。この覚書は、国家安全保障システムのコンポーネントとして、または軍事および諜報目的で使用される AI のガバナンスについて言及するものとします。この覚書は、国家安全保障システムのための AI の開発と使用を管理する現在の取り組みを考慮するものとします。この覚書は、国家安全保障上のリスクとAIによってもたらされる潜在的な利益に対処するための国防総省、国務省、その他の関連機関、情報コミュニティの行動を概説することになる。特に、覚書には次の事項が含まれます。

(a) 国防総省、その他の関連機関、および情報コミュニティに、国家安全保障用途のための特定の AI 保証およびリスク管理実践の指示などを通じて、米国の国家安全保障の使命を推進するための AI 機能の継続的な導入に関するガイダンスを提供する。米国人、および適切な状況では米国人以外の人の権利または安全に影響を与える可能性のある AI について。そして

(b) 適切かつ適用法と整合的に、国防総省や諜報機関の能力や目標を脅かす方法、あるいはその他の方法で敵対者やその他の外国関係者による AI システムの潜在的な使用に対処するための継続的な行動を指示する。米国またはその同盟国およびパートナーの安全保障にリスクをもたらす。