AI は近い将来の政治キャンペーンにどのような影響を与えるか—すべては Hal-9000 から始まった

コンテンツの概要

• 宇宙の旅
• 人口ターゲティングは新しいものではない
• 古いやり方をターゲットにする
• 政治運動における AI の将来とその潜在的な影響
• 私の地元の政治家は AI をどのように利用して私をターゲットにしているのでしょうか?
• AIの心の理論
• HALのお兄さん（汎用人工知能）
• 怖がるべきでしょうか？

宇宙の旅

1969 年の人気 SF 小説『2001 年宇宙の旅』では、HAL-9000 (ヒューリスティックにプログラムされたアルゴリズム コンピューター) として知られる知覚力のある人工知能 (AI) は、単純な指令でプログラムされたコンピューターがどのようにして仲間や指導を提供できるのかを描いたゾッとする物語です。 、そして支援は、現在の「Hey Google」と似ています。

この本の中で HAL と表記されている画期的なテクノロジーは、自然言語処理、顔認識、音声合成が可能です。これらは、個別化された治療を通じて医療を改善するため、衛星画像を使用して自然災害対応をサポートするため、または単に政治運動の候補者の質問に答えるための自然言語チャットボットとして、AI が現在存在する目的のある理由です。いいこと。

この本のファンなら、AI が事態を悪化させ、自らの存在を守ろうとする人間の動機に挑戦したことを覚えているでしょう。この物語は、人間とテクノロジーの間で紛争が起こった後、その作成者と AI の関係がいかに急速に絶望と絶望に陥るかを示し続けています。この本は、多くの SF で人気の物語である、自己認識と自律性を備えているように見え、最終的には人類の破滅につながる AI システムを作成することの倫理的影響を明らかにしています。 AIライター。

50 年を経て現在、HAL は Siri をチンパンジーのように、Google アシスタントを美化されたロボットのように見せるスバスティオ博士、 （80年代後半の人々への先祖返り）それで、今のところ、私たちは一見安全で、何も心配する必要はありません、そして世界は不気味な赤い光が私たちにフラッシュバックすることなく回転し続けています。

人口ターゲティングは新しいものではない

これは、AI の将来に関するアーサー C. クラークの驚くほど正確な予測に関する書評ではなく、AI が現在どのようにあなたとあなたの家族をターゲットにし、あなたの政治的立場、年齢、民族性に基づいた意思決定に影響を与える可能性があるかについての投稿です。そして性的指向。人口統計上のターゲティングは新しいものではありません。インターネットが登場する前は、出口調査、コールドコール、紙ベースのアンケートがコミュニティのプロファイリングに使用されていました。その後、ダイレクトメールが送られたり、電話をかけられたりして、候補者に投票するよう説得されることになる。これらの手法の一部は、ばらつきと不正確さの度合いが高いため、わずかではありますが、現在でも使用されています。

ここで、AI による人口統計ターゲティングの精度が大幅に向上します。機械学習アルゴリズムを使用して大量のユーザー データを分析すると、AI は人間が失敗したパターンを見つけることができます。一般に、モデルがトレーニングされるデータが多いほど、予測の精度が高くなります。

今までできなかったことを今できること

すべての Facebook の投稿、LinkedIn の記事、Reddit AMA、さらには先週送信した Twitter の暴言さえも、これらの AI モデルによって収集できます。これは恐ろしいように思えるかもしれませんが、それはデータがどのように規制されるかによって異なります。一方で、AI は以前は不可能だったことが可能になります。つまり、パーソナライズされた情報を提供することで有権者のエンゲージメントを強化したり、有権者グループがより影響を受けやすい最適化手法を運動家に提供することでリソースの割り当てを支援したりすることができます。グループに異なる優先順位を付けることができます。その一方で、AI は若者の心を教え込み、注意力の持続時間が短いことを利用し、ディープフェイクの対戦相手の画像で意思決定を揺るがす。ほとんどの国では規制が整備されていないため、これらすべての倫理的および社会的問題がどのように扱われるかはまだ決まっていません。

技術革命

人工知能は変革をもたらします。それは間違いなく、私たちの働き方やテクノロジーとの関わり方を巨大な規模で変えることになるでしょう。

これまでのところ、次のとおりです。

おそらくiPhoneの発売は火の発見ほど革新的ではなかったかもしれないが、状況は理解できるだろう。

古いやり方をターゲットにする

今日のほとんどの政治キャンペーンは、Cookie またはマシン上のピクセルとして知られるものを使用したリターゲティングを利用しています。彼らは、あなたがすでに所有している製品の広告をターゲットにして、リーチするかのように、ウェブ上であなたを追いかけます。これは人工知能ではありません。これはただの愚かなクッキーです。最終的に、この Cookie はユーザーの閲覧履歴に基づいて広告を追跡し、ターゲットを変更します。

通常、これは 2016 年に行われ、 2020年米国予備選挙広告支出がテレビやラジオなどの従来の形式から、より費用対効果の高いデジタル メディアに移行したためです。米国外でも、香港は政策演説を 1 つ宣伝するためだけに、オンライン広告支出を前年の 5 倍に増加させました。

このお金はすべて有効に使われましたか？この方法で個人をターゲットにすることは、意図したグループに届くのでしょうか、それとも広告費のかなりの部分がボット、偽のアカウント、および意図しない視聴者の奈落の底に落ちてしまうのでしょうか?ボルチモア大学が行った調査によると、広告支出の少なくとも 20% が、ボット、資格のない有権者、および次のような手法を使用するその他の攻撃者に支払われていることが示唆されています。 IPマスカレード。これらはすべて、適切なデータに基づいてトレーニングされた AI で解決できる可能性があります。ただし、後で説明するように、AI は万能薬ではありません。

ダムクッキーとAIの新しい同意バー

興味深いのは、同意が得られない限り、ユーザーのデバイスにトラッカーや Cookie を配置することを禁止するポリシーがあることです。ウェブ上に何度も表示されるあのせがむバーをご存知でしょう。慌てて「同意する」ボタンを押す前に読み損ねることがよくあります。その点ではヨーロッパ人に感謝することができます。おそらく規制はまさに AI に必要なものですが、欧州連合はまさに私たちが必要としているものなのかもしれません。彼らの厳格な規制枠組みは、AI モデルがデータを取り込み、 Explainable AIを介して情報を広める方法についての倫理的使用と同意を制御するAI ポリシーを世界の他の国々に義務付けることを強制する可能性があります。これにより、信頼性と検証可能性が高まります。これについては後ほど詳しく説明します。

この同意バーについて考えてみましょう。

まだお気づきでない方もいるかもしれませんが、これは AI の安全性のために必要となる可能性のある潜在的な規制をからかう試みであり、現在はほとんど規制が存在しません。上記の複製が近くの Web サイトに表示されることを期待してください。 Borg のリファレンスを見つけたら、ブラウニー ポイントを指摘してください。

私たちはどうやってここへ来ましたか？

かつて政党は、地域社会への働きかけ、戸別訪問活動、地元企業との関わりなどで競争に勝っていましたが、メッセージを伝えるには気概が必要でした。また、これらの政党が代表する人々は、党指導者の立場を正しく見抜いていました。そして最も重要なことは、 、収集したデータをもとに自らの意思を決定し、選挙キャンペーンのメッセージは人間主導で、候補者の口から生成されたテキストを使用しました。

政治運動における AI の将来とその潜在的な影響

政治運動における AI の将来は、現在の規制されていない状態では警戒すべきものかもしれません。従来の優れた経済政策と誠実な選挙活動で勝つのではなく、最大の広告予算と組み合わせた最も多くのコンピューティング能力を持つ政党がレースに勝つことになります。

ごく最近の事件では、共和党全国委員会（RNC、米国共和党の主要部分）が、 AIが生成したビデオAIが生成した偽の画像を使った終末のようなディストピアビデオでジョー・バイデンを批判した。一般の人々は次のことを信じていると報告された。 ビデオは本物だった。

3 年前、AI は選挙活動で実際には活用されていませんでした…非常にリアルなビデオを作成するのにソフトウェア デザイナーやビデオ編集の専門家である必要はありません…私たちは画像の小さな部分を Photoshop で加工するだけでなく、基本的にはまったく新しいイメージを何もないところから生成します。

— ダレル・ウェスト、ブルッキングス研究所テクノロジーイノベーションセンター

質問の答えに戻りますが、AI は人口統計に到達することに成功しましたか?そうです、RNC の事件では、その終末ビデオに多くの注目が集まり、民主党員を含む多くの有権者がそのビデオは本物だと信じていましたが、それは倫理的でしたか?おそらくそうではありません。既存の偏見を悪化させ、固定概念を強化することは、政治プロセスの公平性と平等に悪影響を及ぼします。それは合法でしたか？まあ、それは解釈次第です。 FCC によると、 あなたは嘘をつくことがかなり許されています、そうでなければ「憲法違反」になります。

私の地元の政治家は AI をどのように利用して私をターゲットにしているのでしょうか?

政治家は何年もの間、テクノロジーを利用してプラットフォームをマーケティングしてきました。オバマ大統領の2008年より」 メール選挙」保守党（英国保守党）へのトランプ氏の毎時ツイートの勝利 2015 フェイスブックキャンペーン、マーク・ザッカーバーグの私腹を肥やすために数百万ドルを流用することは拡張可能な計画とは思えないかもしれませんが、オンライン人口統計ターゲットに向けた大規模な動きがあります。

政治における AI の未来は、どのグループの人々が自分の党に支持する可能性が高く、どのような種類のコンテンツが彼らを説得するかを予測することです。これはすでに行われており、将来の民主党選挙の大幅な時間短縮となるでしょう。 AI が役立つもう 1 つの方法は、通常の費用の数分の一でドナーを迅速に見つけることができることです。これは、既存のドナーデータに基づいてトレーニングする教師あり学習の一種である回帰手法を使用することで実現できます。あなたの地元の政治家は、あなたがその豪華な募金活動にあなたを招待する価値があるかどうか、あなたの寄付の可能性、およびおおよその金額をすぐに知ることができます。

これはあまり良い話ではありませんが、AI の将来はどうなるのでしょうか?

AI の進歩は避けられず、 AI の安全性の分野で研究が行われる限り、永遠の力として利用され続けるでしょう。ユーザーのマシンから蓄積される識別可能なデータの量を制限することは、規制上のハードルの 1 つです。これを読んでいると、テレメトリ データ ( 引用する) がマシンからクラウドに送信されます。データと検索クエリはクラウドソーシングされ、自然言語処理、深層学習、大規模トレーニングの進歩に貢献します。あなたの背中を押してください。あなたは人類を助けています。あなたのデータは今や集合体の一部です。

知識は力である

「知識は力である」ということわざにあるように、データのおかげで、政治運動はその力を利用して、あなたの行動や好みについての洞察を得ることができます。これまで見てきたように、運動家は現在、外科的精度で潜在的な有権者をターゲットにし、ますます複雑になるメッセージをパーソナライズし、運動の後援者がどこに住んでいるかを正確に特定できるようになりました。これはAI の氷山の一角にすぎません。

AIの心の理論

AI の未来は急速に進化しています。過去 3 年間で、AI は認知能力と戦略的思考の尺度である心の理論を開発しました。科学者はこのテストを使用して、人間または動物が社会的相互作用において自意識と道徳性を持っているかどうかを測定します。これと同じテストを GPT に適用したところ、驚くべき結果が得られました。 2022年11月に実施された最後のテストでは、GPT 3.5が9歳児の戦略レベルに達したと結論づけられた。これは人口統計上のターゲティングにとって何を意味しますか?もし大統領があなたに挨拶の電話をかけてきたとしたら、それはおそらく AI ジョー バイデンかもしれません。

HALのお兄さん（汎用人工知能）

AI はヒューマン フィードバックによる強化学習(RLHF) によって改善されます。これは、即時の応答に親指を立てるか下げるかを割り当てる派手な方法であり、AI の次のバージョンは汎用人工知能(AGI) になる可能性があります。理論的には介入なしで自律的にあらゆるタスクを実行できる、仮想的な HAL のようなエージェント。 AGI のこの進歩が世界にどのような影響を与えるかは現時点では不明ですが、悪名高い GPT を開発した OpenAI を含む多くの企業が、 明確な規制を求めている。

このテクノロジーをどのように改善できるでしょうか?

AI が人口統計上のターゲティング、仮想アシスタントのための自然言語処理、天気予報、ヘルスケアのいずれに使用される場合でも、改善の余地は数多くあります。 AI はまだ初期段階にあり、規制も速いペースでの反復に歩調を合わせる必要があります。サティア・ナデラ氏が言うように、私たちはまだ AI 開発の初期段階にいます。

ChatGPT3 のリリースにより、私たちは自転車から蒸気機関に移行しました。

— サティア ナデラ、マイクロソフト CEO — 2023 年 5 月のビルド カンファレンス

Microsoftが最近のビルド カンファレンスで重要な懸念として挙げていた長期的な安全性については、改善が必要です。 「 」には、暴力、自傷行為、ヘイトスピーチを検出するための、ユーザーデータの安全なテストと不良債権の不一致の監視が含まれます。

説明可能なAI

さらに、説明可能な人工知能(XAI) によって信頼を強化する必要があります。これは、ユーザーが機械学習アルゴリズムの出力を信頼できるようにするプロセスです。 ChatGPT が真実であると信じていることは、実際には真実ではない可能性があり、消費者として、アルゴリズムの結果がどのようになったのかを検証できる必要があります。ディープフェイクの政治ビデオには、ビデオがどのように生成されたか、どのデータが事実かフィクションかについて細かい文字が含まれる場合があります。一般の人が安全に使用できる、より透明性が高く信頼性の高い AI システムを作成するには、多くのことを行う必要があります。

怖がるべきでしょうか？

恐れる必要はありませんが、知識と警戒心を持ち、危険信号に注意し、細かい文字を読み、AI の結果がどのように生成されるかを知っておく必要があります。未成年者を保護し、そのようなテクノロジーの落とし穴や不正確さについて教えてください。

プロパガンダにはさまざまな形があることを知っておいてください。その中には、本物に見えたり、本物に感じられるかもしれないが、完全に AI によって生成されたものなどがあります。人間主導の最後の選挙が始まり、あなたも狙われます。

まず彼らはあなたを無視し、次にあなたを笑い、次に彼らはあなたと戦い、そしてあなたが勝ちます。

– 匿名ですが、HAL-9000 によって書き込まれた可能性が高いです。