ABD Hükümeti Yapay Zeka Teknolojisinin Emniyetini ve Güvenliğini Nasıl Sağlamayı Planlıyor?

Bölüm 4 - Yapay Zeka Teknolojisinin Emniyetinin ve Güvenliğinin Sağlanması.

4.1. Yapay Zeka Güvenliği ve Güvenliği için Yönergeler, Standartlar ve En İyi Uygulamaların Geliştirilmesi. (a) Bu emrin tarihinden itibaren 270 gün içinde, emniyetli, emniyetli ve güvenilir yapay zeka sistemlerinin geliştirilmesine yardımcı olmak amacıyla, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) Direktörü aracılığıyla hareket eden Ticaret Bakanı, Enerji Bakanı, İç Güvenlik Bakanı ve Ticaret Bakanının uygun göreceği diğer ilgili kurumların başkanları ile koordinasyon:

(i) Aşağıdakiler de dahil olmak üzere emniyetli, emniyetli ve güvenilir yapay zeka sistemlerinin geliştirilmesi ve konuşlandırılması için fikir birliği endüstri standartlarını teşvik etmek amacıyla yönergeler ve en iyi uygulamalar oluşturmak:

(A) üretken yapay zeka için Yapay Zeka Risk Yönetimi Çerçevesi NIST AI 100-1'e yardımcı bir kaynak geliştirmek;

(B) üretken yapay zeka ve çift kullanımlı temel modeller için güvenli geliştirme uygulamalarını birleştirmek üzere Güvenli Yazılım Geliştirme Çerçevesine yardımcı bir kaynak geliştirmek; Ve

(C) Siber güvenlik ve biyogüvenlik alanlarında olduğu gibi yapay zekanın zarar verebileceği yeteneklere odaklanarak, yapay zeka yeteneklerinin değerlendirilmesi ve denetlenmesi için rehberlik ve kıyaslamalar oluşturmaya yönelik bir girişimin başlatılması.

(ii) Yapay zeka geliştiricilerinin, özellikle de çift kullanımlı temel modellerin, yapay zeka kırmızı ekip testleri yürütmesine olanak sağlamak için uygun prosedürler ve süreçler de dahil olmak üzere uygun yönergeleri (ulusal güvenlik sisteminin bir bileşeni olarak kullanılan yapay zeka hariç) oluşturmalıdır. Güvenli, emniyetli ve güvenilir sistemlerin konuşlandırılması. Bu çabalar şunları içerecektir:

(A) çift kullanımlı temel modellerinin emniyeti, emniyeti ve güvenilirliğinin değerlendirilmesi ve yönetilmesiyle ilgili kılavuzların koordine edilmesi veya geliştirilmesi; Ve

(B) Enerji Bakanı ve Ulusal Bilim Vakfı (NSF) Direktörü ile koordinasyon içinde, güvenli, emniyetli ve güvenilir yapay zeka teknolojilerinin geliştirilmesini desteklemek için test ortamları gibi test ortamlarının geliştirilmesi ve kullanılabilirliğinin sağlanmasına yardımcı olunması ve ayrıca bu emrin 9(b) bölümü ile tutarlı olarak ilgili PET'lerin tasarımını, geliştirilmesini ve konuşlandırılmasını desteklemek.

(b) Bu emrin tarihinden itibaren 270 gün içinde, Yapay Zeka güvenlik risklerini anlamak ve azaltmak için, Enerji Bakanı, Enerji Bakanının uygun göreceği diğer Sektör Risk Yönetimi Ajanslarının (SRMA'lar) başkanlarıyla koordineli olarak, Enerji Bakanlığı'nın yapay zeka modeli değerlendirme araçlarını ve yapay zeka test ortamlarını geliştirmeye yönelik bir plan geliştirin ve yasaların ve mevcut ödeneklerin izin verdiği ölçüde uygulayın. Sekreter, bu çalışmayı mümkün olan yerlerde mevcut çözümleri kullanarak üstlenecek ve bu araçları ve yapay zeka test ortamlarını, yapay zeka sistemlerinin yeteneklerine ilişkin kısa vadeli tahminleri değerlendirebilecek şekilde geliştirecektir. Bakan en azından nükleer, nükleer silahların yayılmasını önleme, biyolojik, kimyasal, kritik altyapı ve enerji güvenliği tehditlerini veya tehlikelerini temsil edebilecek çıktılar üretmek amacıyla yapay zeka yeteneklerini değerlendirmek için araçlar geliştirecektir. Sekreter bu çalışmayı yalnızca bu tehditlere karşı korunma amacıyla yapacak ve ayrıca bu riskleri azaltan model korkuluklar geliştirecektir. Sekreter, uygun olduğu şekilde, özel AI laboratuvarlarına, akademi dünyasına, sivil topluma ve üçüncü taraf değerlendiricilere danışacak ve mevcut çözümleri kullanacaktır.

4.2. Güvenli ve Güvenilir Yapay Zekanın Sağlanması. (a) Bu emrin tarihinden itibaren 90 gün içinde, ulusal olanlar da dahil olmak üzere, değiştirilen 50 USC 4501 ve devamı sayılı Savunma Üretim Yasası uyarınca güvenli, güvenilir ve etkili yapay zekanın sürekli olarak kullanılabilirliğini sağlamak ve doğrulamak Savunma ve kritik altyapının korunması için Ticaret Bakanı şunları talep edecektir:

(i) Federal Hükümete sürekli olarak aşağıdakilerle ilgili bilgi, rapor veya kayıt sağlamak için potansiyel çift kullanımlı temel modelleri geliştiren veya geliştirme niyetini gösteren şirketler:

(A) karmaşık tehditlere karşı eğitim sürecinin bütünlüğünü sağlamak için alınan fiziksel ve siber güvenlik korumaları da dahil olmak üzere çift kullanımlı temel modellerin eğitimi, geliştirilmesi veya üretilmesi ile ilgili devam eden veya planlanmış faaliyetler;

(B) herhangi bir çift kullanımlı temel modelinin model ağırlıklarının mülkiyeti ve mülkiyeti ile bu model ağırlıklarını korumak için alınan fiziksel ve siber güvenlik önlemleri; Ve

(C) bu bölümün 4.1(a)(ii) alt bölümü uyarınca NIST tarafından geliştirilen kılavuza dayalı olarak geliştirilen herhangi bir çift kullanımlı temel modelinin ilgili AI kırmızı takım testindeki performansının sonuçları ve şirketin ilgili önlemlerinin açıklaması Bu kırmızı takım testlerindeki performansı artırmak ve genel model güvenliğini güçlendirmek için hafifletmeler gibi güvenlik hedeflerini karşılamak için önlemler alınmıştır. Bu bölümün 4.1(a)(ii) alt bölümü uyarınca NIST tarafından kırmızı takım test standartlarına ilişkin rehberin geliştirilmesinden önce, bu açıklama, şirketin bariyerin düşürülmesiyle ilgili olarak yürüttüğü tüm kırmızı takım testlerinin sonuçlarını içerecektir. biyolojik silahların devlet dışı aktörler tarafından geliştirilmesi, edinilmesi ve kullanılmasına giriş; yazılımdaki güvenlik açıklarının keşfedilmesi ve ilgili istismarların geliştirilmesi; gerçek veya sanal olayları etkilemek için yazılım veya araçların kullanılması; kendini kopyalama veya yayılma olasılığı; ve güvenlik hedeflerini karşılamak için ilgili önlemler; Ve

(ii) Bu kümelerin varlığı ve konumu ve toplam tutar da dahil olmak üzere, bu tür herhangi bir satın alma, geliştirme veya mülkiyeti raporlamak için potansiyel bir büyük ölçekli bilgi işlem kümesi edinen, geliştiren veya sahip olan şirketler, bireyler veya diğer kuruluşlar veya kuruluşlar Her kümede mevcut bilgi işlem gücü.

(b) Ticaret Bakanı, Dışişleri Bakanı, Savunma Bakanı, Enerji Bakanı ve Ulusal İstihbarat Direktörü ile istişarede bulunarak, teknik gereklilikler dizisini tanımlayacak ve daha sonra düzenli olarak gerektiğinde güncelleyecektir. bu bölümün 4.2(a) alt bölümündeki raporlama gerekliliklerine tabi olacak modeller ve bilgi işlem kümelerine ilişkin koşullar. Bu tür teknik koşullar tanımlanana kadar, Sekreter aşağıdakiler için bu raporlama gerekliliklerine uyulmasını talep edecektir:

(i) 1026 tamsayı veya kayan noktalı işlemlerden daha fazla miktarda hesaplama gücü kullanılarak veya temel olarak biyolojik dizi verileri kullanılarak ve 1023 tamsayı veya kayan noktalı işlemlerden daha fazla miktarda hesaplama gücü kullanılarak eğitilmiş herhangi bir model; Ve

(ii) tek bir veri merkezinde fiziksel olarak aynı yerde bulunan, 100 Gbit/s'nin üzerinde veri merkezi ağıyla geçişli olarak bağlanan ve teorik olarak maksimum 1020 tamsayı veya kayan nokta işlemi kapasitesine sahip bir dizi makineye sahip herhangi bir bilgi işlem kümesi Yapay zeka eğitimi için ikincisi.

(c) 1 Nisan 2015 tarih ve 13694 sayılı Kararnamede (Önemli Kötü Amaçlı Siber Etkin Faaliyetlerde Bulunan Bazı Kişilerin Mülklerinin Engellenmesi) beyan edilen önemli kötü amaçlı siber etkin faaliyetlerle ilgili ulusal acil durumla başa çıkmak için ek adımların atılması gerektiğini bulduğum için Faaliyetleri), 28 Aralık 2016 tarih ve 13757 sayılı Başkanlık Kararnamesi (Önemli Kötü Amaçlı Siber Etkin Faaliyetlerle İlgili Ulusal Acil Duruma Yönelik Ek Adımların Atılması) ile değiştirilen ve Amerika Birleşik Devletleri Altyapısının kullanımını ele almak üzere 13984 sayılı Yürütme Kararı ile daha da değiştirilen şekliyle Yabancı işlemlere ilişkin ek kayıt tutma yükümlülükleri getirilmesi ve yabancı kötü niyetli siber aktörlerin dahil olduğu işlemlerin soruşturulmasına yardımcı olunması da dahil olmak üzere, yabancı kötü niyetli siber aktörler tarafından Hizmet Olarak (IaaS) Ürünler sağlanması konusunda Ticaret Bakanı'na 90 gün içinde talimat veriyorum. bu siparişin verildiği tarihten itibaren:

(i) Yabancı bir kişi, kötü amaçlı siber etkin faaliyetlerde kullanılabilecek potansiyel yeteneklere sahip büyük bir yapay zeka modelini eğitmek amacıyla yabancı bir kişi söz konusu ABD IaaS Sağlayıcısı ile işlem yaptığında, Amerika Birleşik Devletleri IaaS Sağlayıcılarının Ticaret Bakanına bir rapor sunmasını gerektiren düzenlemeler önermek (“eğitim koşusu”). Bu tür raporlar, en azından yabancı kişinin kimliğini ve bu bölümde belirtilen kriterleri veya Sekreter tarafından yönetmeliklerde tanımlanan diğer kriterleri karşılayan bir AI modelinin herhangi bir eğitim çalışmasının varlığını ve ayrıca herhangi bir ek bilgiyi içerecektir. Sekreter tarafından belirlenen bilgiler.

(ii) Bu bölümün 4.2(c)(i) alt bölümü uyarınca önerilen düzenlemelere, Amerika Birleşik Devletleri IaaS Sağlayıcılarının, Amerika Birleşik Devletleri IaaS Ürünlerinin herhangi bir yabancı satıcısının, söz konusu yabancı satıcı Amerika Birleşik Devletleri'ne bildirimde bulunmadığı sürece bu ürünleri sağlamasını yasakladığı yönünde bir gereklilik dahil etmek Amerika Birleşik Devletleri IaaS Sağlayıcısı, Amerika Birleşik Devletleri IaaS Sağlayıcısının Ticaret Bakanı'na sunması gereken ve yabancı bir kişinin, alt bölüm 4.2'de açıklanan bir eğitim çalışmasını yürütmek üzere Amerika Birleşik Devletleri IaaS Ürününü kullanmak üzere yabancı satıcıyla işlem yaptığı her örneği ayrıntılarıyla anlatan bir rapor ( Bu bölümün c)(i). Bu tür raporlar, en azından bu bölümün 4.2(c)(i) alt bölümünde belirtilen bilgilerin yanı sıra Sekreter tarafından belirlenen ek bilgileri içerecektir.

(iii) Büyük bir yapay zeka modelinin, kötü amaçlı siber etkin faaliyetlerde kullanılabilecek potansiyel yeteneklere sahip olması için teknik koşullar kümesini belirleyin ve bu belirlemeyi gerekli ve uygun şekilde revize edin. Sekreter böyle bir tespit yapana kadar, bir modelin, 1026 tam sayı veya kayan nokta işlemlerinden daha fazla miktarda hesaplama gücü gerektirmesi ve bir hesaplama konusunda eğitilmiş olması durumunda, kötü amaçlı siber etkin faaliyetlerde kullanılabilecek potansiyel yeteneklere sahip olduğu kabul edilecektir. Tek bir veri merkezinde fiziksel olarak aynı yerde bulunan, 100 Gbit/s'nin üzerinde veri merkezi ağıyla geçişli olarak bağlanan ve yapay zeka eğitimi için saniyede 1020 tamsayı veya kayan nokta işlemi teorik maksimum hesaplama kapasitesine sahip bir dizi makineye sahip olan küme.

(d) Bu bölümün 4.2(c) alt bölümünde belirtilen bulguya uygun olarak, bu siparişin tarihinden itibaren 180 gün içinde Ticaret Bakanı, Amerika Birleşik Devletleri IaaS Sağlayıcılarının Amerika Birleşik Devletleri'nin yabancı satıcılarının IaaS Ürünleri, yabancı satıcıdan IaaS hesabı (hesabı) alan herhangi bir yabancı kişinin kimliğini doğrular. Bu düzenlemeler asgari olarak:

(i) Bir Amerika Birleşik Devletleri IaaS Sağlayıcısının, yabancı bir satıcıda hesap açan veya mevcut hesabını sürdüren yabancı bir kişinin kimliğini doğrulamak için Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcılarından talep etmesi gereken minimum standartları belirler; bunlara aşağıdakiler dahildir:

(A) Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcılarının, bu ürün veya hizmetlerin kiracısı veya alt kiracısı olarak hareket eden herhangi bir yabancı kişinin kimliğini doğrulamak için talep etmesi gereken belge türleri ve prosedürler;

(B) Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcılarının, hesap alan yabancı bir kişiyle ilgili olarak aşağıdaki bilgileri sağlayan bilgiler de dahil olmak üzere güvenli bir şekilde tutması gereken kayıtlar:

(1) adı ve adresi de dahil olmak üzere söz konusu yabancı kişinin kimliği;

(2) ödeme aracı ve kaynağı (herhangi bir ilişkili finansal kurum ve kredi kartı numarası, hesap numarası, müşteri tanımlayıcı, işlem tanımlayıcılar veya sanal para cüzdanı veya cüzdan adresi tanımlayıcı gibi diğer tanımlayıcılar dahil);

(3) yabancı kişinin kimliğini doğrulamak için kullanılan elektronik posta adresi ve telefon iletişim bilgileri; Ve

(4) erişim veya yönetim için kullanılan İnternet Protokolü adresleri ve söz konusu yabancı kişinin söz konusu hesaba sahip olduğunun sürekli olarak doğrulanmasıyla ilgili bu tür her erişimin veya idari işlemin tarih ve saati; Ve

(C) Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcılarının, bu alt bölümde açıklanan bilgilere tüm üçüncü tarafların erişimini sınırlamak için uygulaması gereken yöntemler; söz konusu erişim, bu talimatla başka şekilde tutarlı olmadığı ve geçerli yasalar kapsamında izin verildiği sürece;

(ii) Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcıları tarafından tutulan hesap türlerini, hesap açma yöntemlerini ve bu tür ürünleri kullanan yabancı kötü niyetli siber aktörleri belirleme ve bu tür yaptırımlardan kaçınma hedeflerini gerçekleştirmek için mevcut tanımlayıcı bilgi türlerini dikkate almak bu tür satıcılar üzerinde aşırı bir yük oluşması; Ve

(iii) Ticaret Bakanının, Sekreterin belirleyeceği standartlar ve prosedürlere uygun olarak ve Savunma Bakanı, Başsavcı, İç Güvenlik Bakanı ve Ulusal İstihbarat Direktörü ile istişarede bulunarak muaf tutulmasını sağlamak Amerika Birleşik Devletleri IaaS Ürünlerinin belirli bir yabancı satıcısı veya belirli bir hesap türü veya kiracı ile ilgili olarak, bu alt bölüm uyarınca yayınlanan herhangi bir düzenlemenin gerekliliklerinden bir ABD IaaS Sağlayıcısı. Bu tür standartlar ve prosedürler, söz konusu yabancı satıcının, hesabın veya kiracının Amerika Birleşik Devletleri IaaS Ürünlerinin kötüye kullanılmasını caydırmak için en iyi güvenlik uygulamalarına uyduğuna dair Sekreter tarafından yapılan bir bulguyu içerebilir.

(e) Ticaret Bakanı, kuralların ve düzenlemelerin yayınlanması da dahil olmak üzere bu tür eylemleri gerçekleştirmeye ve Uluslararası Acil Ekonomik Güçler Yasası, 50 USC 1701 ve devamı tarafından Başkana verilen tüm yetkileri kullanmaya yetkilidir. Bu bölümün 4.2(c) ve (d) alt bölümlerinin amaçlarını gerçekleştirmek için gerekli olabileceği gibi. Bu tür eylemler, Amerika Birleşik Devletleri IaaS Sağlayıcılarının, Amerika Birleşik Devletleri IaaS Ürünlerinin yabancı satıcılarından, bu alt bölümlere ilişkin Amerika Birleşik Devletleri IaaS Sağlayıcılarına doğrulama sağlamalarını talep etme gerekliliğini içerebilir.

4.3. Kritik Altyapıda ve Siber Güvenlikte Yapay Zekayı Yönetmek. (a) Kritik altyapının korunmasını sağlamak için aşağıdaki önlemler alınacaktır:

(i) Bu emrin tarihinden itibaren 90 gün içinde ve sonrasında en az yılda bir kez, Siber Güvenlik ve Altyapı Güvenliği Ajansı Direktörü ile koordineli olarak, kritik altyapı üzerinde ilgili düzenleyici otoriteye sahip her kurumun başkanı ve ilgili SRMA'ların başkanları. Sektörler arası risklerin değerlendirilmesi için İç Güvenlik Bakanlığı bünyesinde, yapay zekanın konuşlandırılmasının kritik hale getirebileceği yollar da dahil olmak üzere, ilgili kritik altyapı sektörlerinde yapay zeka kullanımına ilişkin potansiyel risklerin bir değerlendirmesini değerlendirecek ve İç Güvenlik Bakanı'na sunacaktır. altyapı sistemlerini kritik arızalara, fiziksel saldırılara ve siber saldırılara karşı daha savunmasız hale getirecek ve bu güvenlik açıklarını azaltmanın yollarını düşünecek. Bağımsız düzenleyici kurumların, uygun gördükleri takdirde sektöre özel risk değerlendirmelerine katkıda bulunmaları teşvik edilmektedir.

(ii) Bu emrin tarihinden itibaren 150 gün içinde Hazine Bakanı, finansal kurumların yapay zekaya özgü siber güvenlik risklerini yönetmeye yönelik en iyi uygulamaları hakkında kamuya açık bir rapor yayınlayacaktır.

(iii) Bu emrin tarihinden itibaren 180 gün içinde, İç Güvenlik Bakanı, Ticaret Bakanı ve SRMA'lar ve İç Güvenlik Bakanı tarafından belirlenen diğer düzenleyicilerle koordineli olarak, Yapay Zeka Risk Yönetimi Çerçevesini uygun şekilde dahil edecektir. , NIST AI 100-1'in yanı sıra diğer uygun güvenlik kılavuzlarını da kritik altyapı sahipleri ve operatörleri tarafından kullanılmak üzere ilgili emniyet ve güvenlik yönergelerine dahil eder.

(iv) Bu bölümün 4.3(a)(iii) alt bölümünde açıklanan kılavuz ilkelerin tamamlanmasından sonraki 240 gün içinde, Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısı ve OMB Direktörü, İç Güvenlik Bakanı ile istişarede bulunarak, Kritik altyapı üzerinde yetkiye sahip kurum başkanlarının çalışmalarını koordine edecek ve Federal Hükümet'in düzenleyici veya diğer uygun eylemler yoluyla bu tür kılavuzları veya bunların uygun bölümlerini zorunlu kılması için gerekli adımları atacak ve geliştirecektir. Bağımsız düzenleyici kurumlar, uygun gördükleri takdirde, kendi yetki ve sorumluluk alanlarında düzenleyici eylem yoluyla rehberliğin zorunlu kılınıp kılınmayacağını değerlendirmeye teşvik edilir.

(v) İç Güvenlik Bakanı, 2002 tarihli İç Güvenlik Yasası'nın (Kamu Kanunu 107-296) 871. bölümü uyarınca bir danışma komitesi olarak bir Yapay Zeka Güvenlik ve Güvenlik Kurulu kuracaktır. Danışma Komitesi, uygun olduğu şekilde özel sektörden, akademiden ve hükümetten yapay zeka uzmanlarını içerecek ve İç Güvenlik Bakanı ile Federal Hükümet'in kritik altyapı topluluğuna güvenliği, dayanıklılığı ve olaylara müdahaleyi iyileştirmeye yönelik tavsiye, bilgi veya öneriler sunacaktır. Kritik altyapıda yapay zeka kullanımıyla ilgili.

(b) Yapay zekanın Amerika Birleşik Devletleri siber savunmasını iyileştirme potansiyelinden yararlanmak için:

(i) Savunma Bakanı, ulusal güvenlik sistemleri için bu bölümün 4.3(b)(ii) ve (iii) alt bölümlerinde açıklanan eylemleri gerçekleştirecektir ve İç Güvenlik Bakanı, ulusal olmayan güvenlik için bu eylemleri gerçekleştirecektir. sistemler. Her biri bunu, Savunma Bakanı ve İç Güvenlik Bakanı'nın uygun göreceği diğer ilgili kurumların başkanlarıyla istişarede bulunarak yapacaktır.

(ii) Bu bölümün 4.3(b)(i) alt bölümünde belirtildiği gibi, bu emrin tarihinden itibaren 180 gün içinde, Savunma Bakanı ve İç Güvenlik Bakanı, yürürlükteki yasalara uygun olarak, Kritik Amerika Birleşik Devletleri Hükümeti yazılımları, sistemleri ve ağlarındaki güvenlik açıklarının keşfedilmesine ve iyileştirilmesine yardımcı olmak amacıyla geniş dil modelleri gibi yapay zeka yeteneklerini belirlemek, geliştirmek, test etmek, değerlendirmek ve dağıtmak için operasyonel bir pilot proje yürütmek ve tamamlamak .

(iii) Bu bölümün 4.3(b)(i) alt bölümünde belirtildiği gibi, bu emrin tarihinden itibaren 270 gün içinde, Savunma Bakanı ve İç Güvenlik Bakanı, Başkan Yardımcısına birer rapor sunacaktır. Yapay zeka yeteneklerinin geliştirilmesi ve konuşlandırılması yoluyla bulunan ve düzeltilen tüm güvenlik açıklarının açıklaması da dahil olmak üzere, bu bölümün 4.3(b)(ii) alt bölümünün gerektirdiği planlar ve operasyonel pilot projeler uyarınca gerçekleştirilen eylemlerin sonuçları hakkında Ulusal Güvenlik İşleri için ve Siber savunma için yapay zeka yeteneklerinin etkili bir şekilde nasıl tanımlanacağı, geliştirileceği, test edileceği, değerlendirileceği ve dağıtılacağına dair öğrenilen dersler.

4.4. Yapay Zeka ve KBRN Tehditlerinin Kesiştiği Noktadaki Risklerin Azaltılması. (a) Yapay zekanın KBRN tehditlerinin geliştirilmesine veya kullanılmasına yardımcı olmak amacıyla kötüye kullanılması riskini daha iyi anlamak ve azaltmak için (özellikle biyolojik silahlara odaklanarak) aşağıdaki eylemler gerçekleştirilecektir:

(i) Bu emrin tarihinden itibaren 180 gün içinde, İç Güvenlik Bakanı, Enerji Bakanı ve Bilim ve Teknoloji Politikası Ofisi (OSTP) Direktörü ile istişarede bulunarak, yapay zekanın kötüye kullanılma potansiyelini değerlendirecektir. KBRN tehditlerinin geliştirilmesini veya üretilmesini mümkün kılmak ve aynı zamanda bu tehditlere karşı koymak için yapay zekanın faydalarını ve uygulanmasını da göz önünde bulundurarak, uygun olduğu takdirde, bu emrin 8(b) bölümü kapsamında yürütülen çalışmanın sonuçları da dahil olmak üzere. İç Güvenlik Bakanı:

(A) KBRN tehditlerini sunmak için yapay zeka modeli yeteneklerini değerlendirmek amacıyla - yalnızca karşı koruma amacıyla - uygun şekilde Enerji Bakanlığı'ndan yapay zeka ve KBRN sorunları uzmanlarına, özel yapay zeka laboratuvarlarına, akademik çevrelere ve üçüncü taraf model değerlendiricilerine danışmak bu tehditlerin yanı sıra yapay zeka modelinin bu tehditleri oluşturmak veya şiddetlendirmek için kötüye kullanılması risklerini en aza indirmeye yönelik seçenekler; Ve

(B) Başkana, Amerika Birleşik Devletleri'ne KBRN riskleri sunabilecek yapay zeka modellerinin türlerinin bir değerlendirmesi de dahil olmak üzere, bu çabaların ilerleyişini açıklayan ve eğitim, konuşlandırma, yayının düzenlenmesi veya denetlenmesi için tavsiyelerde bulunan bir rapor sunacaktır. veya ulusal güvenliğe yönelik potansiyel tehditlerin azaltılmasına yönelik güvenlik değerlendirmeleri ve korkuluk gereklilikleri de dahil olmak üzere bu modellerin kullanımı.

(ii) Bu emrin tarihinden itibaren 120 gün içinde, Savunma Bakanı, Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısı ve OSTP Direktörü ile istişarede bulunarak, Ulusal Bilimler, Mühendislik, Mühendislik Akademileri ile bir sözleşme imzalayacaktır. ve Tıp'ın yürütmesi ve Savunma Bakanı'na, Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısına, Pandemiye Hazırlık ve Müdahale Politikası Ofisi Direktörüne, OSTP Direktörüne ve Baş Veri Sorumlusu Konseyi Başkanına sunulması - şöyle bir çalışma:

(A) biyolojik veriler üzerine eğitilmiş üretken yapay zeka modellerinden kaynaklanan riskler de dahil olmak üzere yapay zekanın biyogüvenlik risklerini artırma yollarını değerlendirir ve bu risklerin nasıl azaltılacağına dair önerilerde bulunur;

(B) Amerika Birleşik Devletleri Hükümeti'nin üretken yapay zeka modellerinin eğitimi için barındırdığı, ürettiği, oluşturulmasını finanse ettiği veya başka bir şekilde sahip olduğu, özellikle patojenler ve omics çalışmaları ile ilişkili olan veri ve veri kümelerinin kullanımının ulusal güvenlik sonuçlarını dikkate alır. , bu veri ve veri kümelerinin kullanımına ilişkin risklerin nasıl azaltılabileceğine ilişkin önerilerde bulunur;

(C) verileri ve yüksek performanslı bilgi işlem kaynaklarını koordine etme fırsatlarına ilişkin öneriler de dahil olmak üzere, biyogüvenlik risklerini azaltmak için yapay zekanın biyolojiye uygulanma yollarını değerlendirir; Ve

(D) Yapay zeka ile sentetik biyolojinin kesiştiği noktada Savunma Bakanının uygun gördüğü ek endişeleri ve fırsatları değerlendiriyor.

(b) Yapay zekanın bu alandaki yetenekleriyle önemli ölçüde artırılabilecek sentetik nükleik asitlerin kötüye kullanım riskini azaltmak ve nükleik asit sentezi endüstrisi için biyogüvenlik önlemlerini geliştirmek amacıyla aşağıdaki eylemler gerçekleştirilecektir:

(i) Bu emrin tarihinden itibaren 180 gün içinde OSTP Direktörü, Dışişleri Bakanı, Savunma Bakanı, Başsavcı, Ticaret Bakanı, Sağlık ve İnsani Hizmetler Bakanı (HHS) ile istişarede bulunarak Enerji Bakanı, İç Güvenlik Bakanı, Ulusal İstihbarat Direktörü ve OSTP Direktörünün uygun göreceği diğer ilgili kurumların başkanları, uygun olduğu şekilde mevcut Amerika Birleşik Devletleri Hükümeti rehberliğini içeren bir çerçeve oluşturacaklardır. sentetik nükleik asit dizisi sağlayıcılarını, standartlar ve önerilen teşvikler dahil olmak üzere kapsamlı, ölçeklenebilir ve doğrulanabilir sentetik nükleik asit tedarik tarama mekanizmalarını uygulamaya teşvik etmek. Bu çerçevenin bir parçası olarak OSTP Direktörü:

(A) Amerika Birleşik Devletleri'nin ulusal güvenliğine risk teşkil edecek şekilde kullanılabilecek biyolojik dizilerin sürekli olarak tanımlanmasına yönelik kriterleri ve mekanizmaları oluşturmak; Ve

(B) alt bölüm 4.4(b)(i)'de tanımlanan biyolojik dizilerin alıcıları tarafından ortaya çıkan güvenlik risklerinin yönetilmesine ilişkin durum tespitini desteklemek amacıyla müşteri tarama yaklaşımları da dahil olmak üzere, dizi sentezi tedarik taramasının yürütülmesi ve performansının doğrulanması için standartlaştırılmış metodolojileri ve araçları belirleyecektir. Bu bölümün (A)'sı ve ilgili faaliyetin icra makamlarına rapor edilmesine ilişkin süreçler.

(ii) Bu emrin tarihinden itibaren 180 gün içinde, Ticaret Bakanı, NIST Direktörü aracılığıyla, OSTP Direktörü ile koordineli olarak ve Dışişleri Bakanı, HHS Sekreteri ve başkanlarla istişarede bulunarak hareket eder. Ticaret Bakanının uygun göreceği diğer ilgili kurumların temsilcileri, bu bölümün 4.4(b)(i) alt bölümü kapsamında geliştirilen çerçeveden bilgi alarak, olası kullanım için geliştirme ve iyileştirme amacıyla endüstri ve ilgili paydaşlarla etkileşime geçmek için bir çaba başlatacaktır. sentetik nükleik asit dizisi sağlayıcıları tarafından:

(A) etkili nükleik asit sentezi tedarik taramasına yönelik spesifikasyonlar;

(B) bu tür bir taramayı desteklemek amacıyla ilgili veritabanlarının yönetimine yönelik güvenlik ve erişim kontrolleri de dahil olmak üzere en iyi uygulamalar;

(C) etkili tarama için teknik uygulama kılavuzları; Ve

(D) uygunluk değerlendirmesinin en iyi uygulamaları ve mekanizmaları.

(iii) Bu bölümün 4.4(b)(i) alt bölümü uyarınca çerçevenin oluşturulmasından sonraki 180 gün içinde, yaşam bilimleri araştırmalarını finanse eden tüm kurumlar, uygun ve yürürlükteki yasaya uygun olarak şunu bir gereklilik olarak belirleyecektir: Finansman açısından sentetik nükleik asit tedariki, sağlayıcı veya üreticinin tasdiki gibi çerçeveye bağlı sağlayıcılar veya üreticiler aracılığıyla gerçekleştirilir. Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısı ve OSTP Direktörü, çerçevenin finansman kuruluşları genelinde uygulanmasında tutarlılığı kolaylaştırmak için bu tür finansman gereksinimlerinin gözden geçirilmesi sürecini koordine edecektir.

(iv) Bu bölümün 4.4(b)(i)-(iii) alt bölümlerinde açıklanan önlemlerin etkili bir şekilde uygulanmasını kolaylaştırmak amacıyla, İç Güvenlik Bakanı, İç Güvenlik Bakanı olarak diğer ilgili kurumların başkanlarına danışarak Güvenlik uygun görebilecek:

(A) bu bölümün 4.4(b)(i) alt bölümü uyarınca çerçevenin oluşturulmasından sonraki 180 gün içinde, nükleik asit sentezi tedarik taramasının yapılandırılmış değerlendirmesi ve stres testini yürütmek için bir çerçeve geliştirmek; buna uygun olarak geliştirilen sistemler de dahil olmak üzere, bu bölümün 4.4(b)(i)-(ii) alt bölümleri ve sentetik nükleik asit dizileri sağlayıcıları tarafından uygulanır; Ve

(B) bu bölümün 4.4(b)(iv)(A) alt bölümü uyarınca çerçevenin geliştirilmesinin ardından, Pandemiye Hazırlık ve Müdahale Ofisi Direktörü olan Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısına yıllık bir rapor sunacaktır. Müşteri taraması da dahil olmak üzere nükleik asit sentezi tedarik taramasının nasıl güçlendirileceğine ilişkin öneriler de dahil olmak üzere, bu bölümün 4.4(b)(iv)(A) alt bölümü uyarınca yürütülen faaliyetlerin sonuçları hakkında Politika ve OSTP Direktörü sistemler.

4.5. Sentetik İçeriğin Oluşturduğu Risklerin Azaltılması.

Yapay zeka sistemleri tarafından üretilen sentetik içeriği tanımlama ve etiketleme yeteneklerini geliştirmek ve Federal Hükümet tarafından veya onun adına üretilen hem sentetik hem de sentetik olmayan dijital içeriğin orijinalliğini ve kaynağını belirlemek için:

(a) Bu emrin tarihinden itibaren 240 gün içinde Ticaret Bakanı, Ticaret Bakanının uygun göreceği diğer ilgili kurumların başkanlarıyla istişarede bulunarak, OMB Müdürüne ve OMB Yardımcısına bir rapor sunacaktır. Ulusal Güvenlik İşleri Başkanı, aşağıdakiler için mevcut standartları, araçları, yöntemleri ve uygulamaları ve ayrıca bilim destekli daha fazla standart ve tekniklerin potansiyel gelişimini tanımlıyor:

(i) içeriğin kimliğini doğrulamak ve kaynağını takip etmek;

(ii) filigran kullanımı gibi sentetik içeriğin etiketlenmesi;

(iii) sentetik içeriğin tespit edilmesi;

(iv) üretken yapay zekanın çocuklara yönelik cinsel istismar materyali üretmesinin veya gerçek bireylerin rızası olmadan mahrem görüntülerini üretmesinin önlenmesi (kimliği belirlenebilir bir bireyin vücudunun veya vücut parçalarının mahrem dijital tasvirlerini içerecek şekilde);

(v) yukarıdaki amaçlarla kullanılan yazılımın test edilmesi; Ve

(vi) sentetik içeriğin denetlenmesi ve sürdürülmesi.

(b) Bu bölümün 4.5(a) alt bölümü uyarınca gerekli olan ve daha sonra periyodik olarak güncellenen raporun sunulmasından sonraki 180 gün içinde, Ticaret Bakanı, OMB Direktörü ile koordineli olarak, dijital ortama yönelik mevcut araçlar ve uygulamalara ilişkin rehberlik geliştirecektir. içerik doğrulama ve sentetik içerik tespit önlemleri. Rehber, bu bölümün 4.5(a) alt bölümünde listelenen amaçlara yönelik tedbirleri içerecektir.

(c) Bu bölümün 4.5(b) alt bölümü kapsamında gerekli olan ve sonrasında periyodik olarak güncellenen rehberin geliştirilmesinden sonraki 180 gün içinde, OMB Direktörü, Dışişleri Bakanı ile istişarede bulunarak; Savunma Bakanı; Başsavcı; NIST Direktörü aracılığıyla hareket eden Ticaret Bakanı; İç Güvenlik Bakanı; Ulusal İstihbarat Direktörü; ve OMB Direktörünün uygun gördüğü diğer kuruluşların başkanları, kamunun resmi Amerika Birleşik Devletleri Hükümeti dijital içeriğinin bütünlüğüne olan güvenini güçlendirmek amacıyla, kuruluşlara ürettikleri veya yayınladıkları bu tür içeriğin etiketlenmesi ve doğrulanması konusunda rehberlik yayınlayacaktır.

(d) Federal Edinme Düzenleme Konseyi, uygun ve yürürlükteki yasalara uygun olarak, Federal Edinme Düzenlemesini, bu bölümün 4.5 numaralı alt bölümünde oluşturulan rehberliği dikkate alacak şekilde değiştirmeyi değerlendirecektir.

4.6. Yaygın Olarak Kullanılabilen Model Ağırlıklarına Sahip Çift Kullanımlı Temel Modellerine İlişkin Bilgi Talep Edilmesi. Çift kullanımlı bir temel modelinin ağırlıkları yaygın olarak mevcut olduğunda (örneğin, internette kamuya açık olarak yayınlandığında), inovasyon açısından önemli faydalar olabilir, ancak aynı zamanda model içindeki koruma önlemlerinin kaldırılması gibi önemli güvenlik riskleri de olabilir. Yaygın olarak mevcut ağırlıklara sahip çift kullanımlı temel modellerinin risklerini ve potansiyel faydalarını ele almak için, bu emir tarihinden itibaren 270 gün içinde, Ticaret Bakanı, İletişim ve Bilgiden Sorumlu Ticaret Müsteşar Yardımcısı aracılığıyla ve Ticaret Bakanı'na danışarak hareket eder. Dışişleri Bakanı:

(a) modelin ağırlık verdiği çift kullanımlı temel modelleriyle ilgili potansiyel riskler, faydalar, diğer sonuçlar ve uygun politika ve düzenleyici yaklaşımlar hakkında kamuya danışma süreci aracılığıyla özel sektörden, akademiden, sivil toplumdan ve diğer paydaşlardan girdi istemek aşağıdakiler de dahil olmak üzere yaygın olarak mevcuttur:

(i) aktörlerin, model ağırlıklarının yaygın olarak mevcut olduğu çift kullanımlı temel modellerine ince ayar yapması veya bu modellerin korumalarını kaldırmasıyla ilişkili riskler;

(ii) model ağırlıklarının yaygın olarak mevcut olduğu çift kullanımlı temel modellerin yapay zeka güvenliği ve risk yönetimine yönelik araştırmalar da dahil olmak üzere yapay zeka inovasyonu ve araştırmalarına faydaları; Ve

(iii) riskleri yönetmek ve model ağırlıklarının yaygın olarak mevcut olduğu çift kullanımlı temel modellerinin faydalarını en üst düzeye çıkarmak için potansiyel gönüllü, düzenleyici ve uluslararası mekanizmalar; Ve

(b) bu bölümün 4.6(a) alt bölümünde açıklanan süreçten elde edilen girdilere dayanarak ve Ticaret Bakanının uygun gördüğü diğer ilgili kurumların başkanlarına danışarak Başkana potansiyel faydalar ve riskler hakkında bir rapor sunmak ve model ağırlıklarının yaygın olarak mevcut olduğu çift kullanımlı temel modellerinin sonuçlarının yanı sıra bu modellere ilişkin politika ve düzenleyici tavsiyeler.

4.7. Güvenli Sürümün Teşvik Edilmesi ve Yapay Zeka Eğitimi için Federal Verilerin Kötü Amaçlı Kullanımının Önlenmesi. Kamu verilerine erişimi geliştirmek ve güvenlik risklerini yönetmek ve Açık, Kamuya Açık, Elektronik ve Gerekli Devlet Verileri Yasası'nın (Kamu Hukuku Başlık II) hedefleriyle tutarlı olmak 115 -435) Federal veri varlıklarına makine tarafından okunabilir bir formatta kamu erişimini genişletmek ve aynı zamanda bireysel bir veri varlığındaki bilgilerin tek başına bir güvenlik riski oluşturmaması ancak diğer mevcut bilgilerle birleştirildiğinde bir güvenlik riski oluşturmaması riski de dahil olmak üzere güvenlik hususlarını da dikkate almak. aşağıdaki gibi bir risk oluşturabilir:

(a) bu emrin tarihinden itibaren 270 gün içinde, Baş Veri Sorumlusu Konseyi, Savunma Bakanı, Ticaret Bakanı, Enerji Bakanı, İç Güvenlik Bakanı ve Ulusal İstihbarat Direktörü ile istişarede bulunarak, KBRN silahlarının geliştirilmesine ve otonom saldırı siber yeteneklerinin geliştirilmesine yardımcı olabilecek Federal verilerin yayınlanmasından kaynaklanan potansiyel güvenlik risklerinin belirlenmesi ve yönetilmesine yönelik incelemeler de dahil olmak üzere, güvenlik incelemelerinin gerçekleştirilmesine yönelik ilk yönergeleri geliştirecek ve aynı zamanda Federal'e kamunun erişimini sağlayacaktır. Açık, Kamuya Açık, Elektronik ve Gerekli Devlet Verileri Yasasında (Kamu Hukuku 115-435 Başlık II) belirtilen hedefler doğrultusunda devlet verileri; Ve

(b) bu bölümün 4.7(a) alt bölümü tarafından gerekli görülen ilk kılavuzların geliştirilmesinden sonraki 180 gün içinde kurumlar, 44 USC 3511(a)(1) uyarınca gerekli olan kapsamlı veri envanterindeki tüm veri varlıklarının güvenlik incelemesini gerçekleştirecektir. ve (2)(B) ve ilgili kanuna uygun ve tutarlı olarak, söz konusu verinin KBRN silahlarına ilişkin olarak yayınlanmasının yol açabileceği en yüksek öncelikli potansiyel güvenlik risklerini ele almak için, söz konusu verilerin nasıl aktarılabileceği gibi adımlar atacaktır. Yapay zeka sistemlerini eğitmek için kullanılacak.

4.8. Ulusal Güvenlik Muhtırasının Geliştirilmesine Yönelik. Yapay zekanın güvenlik risklerini yönetmeye yönelik koordineli bir yürütme organı yaklaşımı geliştirmek için, Ulusal Güvenlik İşlerinden Sorumlu Başkan Yardımcısı ve Politikadan Sorumlu Başkan Yardımcısı ve Genelkurmay Başkan Yardımcısı, kuruluşlararası bir süreci denetleyecektir. Bu emrin verildiği tarihte yapay zekaya ilişkin önerilen bir Ulusal Güvenlik Bildirisi geliştirilip Başkana sunulacaktır. Mutabakat, ulusal güvenlik sisteminin bir bileşeni olarak veya askeri ve istihbarat amaçlı kullanılan yapay zekanın yönetimini ele alacak. Mutabakat, ulusal güvenlik sistemleri için yapay zekanın geliştirilmesini ve kullanımını yönetmeye yönelik mevcut çabaları dikkate alacaktır. Mutabakat, Savunma Bakanlığı, Dışişleri Bakanlığı, diğer ilgili kurumlar ve İstihbarat Topluluğunun yapay zekanın oluşturduğu ulusal güvenlik risklerini ve potansiyel faydalarını ele almaya yönelik eylemlerin ana hatlarını çizecek. Mutabakat özellikle:

(a) Ulusal güvenlik kullanımlarına yönelik belirli yapay zeka güvencesi ve risk yönetimi uygulamalarının yönlendirilmesi de dahil olmak üzere, Amerika Birleşik Devletleri ulusal güvenlik misyonunu ilerletmek için yapay zeka yeteneklerinin sürekli olarak benimsenmesi konusunda Savunma Bakanlığına, diğer ilgili kurumlara ve İstihbarat Topluluğuna rehberlik sağlamak Amerika Birleşik Devletleri vatandaşlarının ve uygun bağlamlarda Amerika Birleşik Devletleri dışındaki kişilerin haklarını veya güvenliğini etkileyebilecek AI; Ve

(b) AI sistemlerinin düşmanlar ve diğer yabancı aktörler tarafından Savunma Bakanlığı'nın veya İstihbarat Topluluğu'nun yeteneklerini veya hedeflerini tehdit edecek veya başka şekilde potansiyel kullanımını ele almak için uygun ve geçerli yasalara uygun olarak devam eden eylemleri yönlendirmek ABD'nin veya müttefiklerinin ve ortaklarının güvenliğine risk teşkil ediyor.