人工知能に関する人工的な議論

人工知能について実際に話すには、「機械学習」という用語も使用する必要があります。 AI は、人々が機械学習を使用する大きな目的です。機械学習は AI の基盤であり、AI を動かす数学とアルゴリズムです。

それらは同じではありませんが、それらのベン図には十分な重複があるため、この目的にはあまり関係ありません。

基本的に、曲線を記述する数学があります。放物線を覚えていますか？端が続いている馬蹄形のもの？

曲線の方程式を使用して、具体的には、途方もなく複雑な方法で層化された途方もない量の曲線を使用して、実生活で大量のものをモデル化できます。現在、コンピューティング パワーは安価です。それに加えて、膨大な量のトレーニング データを作成できるインターネットの能力は、まったくの組み合わせです。

このモデリングを行う人は通常、多くの曲線で一度に最適な値を見つけようとします — 端点、放物線の上部または下部、馬蹄形の有限端などです。

一部の曲線は通常、他のものよりも最終出力にとって重要です。いくつかの最適化については本当に正確になりたいのですが、他の最適化についてはあいまいになる可能性があります。

コンピューターに正しい「重み」を学習させて、さまざまな重みをつけることができます。モデリング方程式自体を絞り込むことができます。

最終的に、コンピューターは最終結果を最適化する方法で最適な値のセットを見つけます。これが機械学習の「魔法」 (引用符) です。

入力 — 口頭でのプロンプト、好みに関する一連のデータ — を受け取り、ある次元で非常にリアルな出力 (絵、有名人の声、おすすめの曲など) を作成できます。

コンピューティング パワーは安価かもしれませんが、人間にその計算をすべて実行させたり、その計算をコンピューターにプログラムすることでさえ、費用がかかります。

賢い人々は、私たちのために多くの面倒な作業を機械に任せる方法を考え出しました。機械を曲線の方程式に沿って「移動」させ、それを「下り坂」に追従させる方法があります。

これにより、数十年にわたって Google の検索結果がカスタマイズされてきました。それ以来、グラフィックス カードの軍拡競争が続いています。 2015 年に世界最高の囲碁棋士を打ち負かした AlphaGo があります。

ボストンダイナミクスのロボット犬がいます。 Shazam や Siri などのアプリがあります。 DALL-E やMidjourneyなどの描画プログラムがあります。

これはすべてクールですが、お金は検索結果から遠く離れていません.それは、人々がソーシャル メディアで好きなものを示すという、隣接するものに拳を注ぎ込みました。時間をかけて見るもの、クリックする可能性のある広告。

一方、AI のより広い概念は、もう少し長い間 SF の定番であり、この分野が過去 5 ～ 10 年間に経験したこの「飛び出し」と相互作用しています。この指数関数的な成長を見て、「ターミネーター」について考えます。

AIを販売している人々は、いくつかの重要な事実をスキップするために、私たちにこれを考えさせて喜んでいます。ターミネーター映画のスカイネットと比べてみてください！私の会社が作った [クレイジー インベンション #4852] は、5 ～ 10 年先のトップです!」

人々がその能力が明らかに急速に成長しているのを見て、私たちが本当にそれに意識を向ける危機に瀕していると考える理由を私は理解しています.

その断崖が2年や20年ではなく200年規模だとしても、それは私たち人間が生きてきた時間の長さに比べればかなり重要なことです。

そのタイムスケールでは、ChatGPT やSearle の中国の部屋の議論のように、AI プログラムが単なる「単語ではなく概念のオートコンプリート」であるという点を本当に超えることができます。

私たちは実際に、生物学に着想を得た適切なハードウェアに適切なプログラムを配置し、人間の心を真に模倣して、フィリップ・K・ディックなどによって提起された人類と感覚の問題を提起するかもしれません.

AI が私たちの感情的および知覚的知性に真に匹敵し、特定の領域での単なるスキルではなく、私たちのような途切れのない意識を持っている場合、私たちは計算を迫られます。

今日でも、明日でも、来週でも、来年でもありません。

私たちの脳内にある大規模な並列 (この場合は同時に機能することを意味する) 神経接続 — いわば、これは私たちの城の堀です。それが、「汎用人工知能」を数年、あるいはおそらく数十年も遅れさせている理由です。

最近の多くの進歩の背後にある機械学習の分野であるディープ ラーニングは、現実世界で見られる入出力関係を模倣する統計と計算のクールな名前です。それは、少なくともまだ、コンピュータが何かを「深く学習」していることを意味するものではありません。

それは印象的ですが、それはコンピューターで起こっている数学であり、あなたの脳で「数学が起こる」方法とは根本的に異質な方法です.

脳は驚くほどほとんど電気を使用しません。データセンターは驚くほど大量に使用します。後者はブルート フォース マシンです。彼らは私たちよりも少ないスレッドを処理し、柔軟性に欠けます。それぞれがとても速いです。

チェスや囲碁の最高のプレーヤーでさえ追いつかないほど、可能性をすばやく計算して絞り込みます。

そのアキレス腱は、かなり明確に定義された問題、かなりクリーンな入力と出力を必要とするという事実です。ボードゲーム。落ちないロボット。ばかげて多様で急速に変化する一連の「最適化」問題を一度に処理し、それらを常に切り替えることはできません。

個々の領域における AI の長所と短所が何であれ、AI は私たちのように多くの領域を束縛することはできず、必要に応じて焦点を変え、ドメイン間で行動を適応させて移します。これは、人間の幼児のレベルではできません。

AI 研究の大きな目標は、「ワンショット」または「フューズショット」学習でした。つまり、何かを行う方法を学習するために膨大なデータ セットやトレーニング時間を必要としません。ここでは成功しています。それはまだ私たちの脳よりもはるかに遅れています。

自動的に、私たちは多くの分野で、幼い頃から少数ショットの学習を得意としています。ほとんどのトレーニング データからルールと戦略をすばやく学習します。子供に iPad の使い方、自転車の乗り方、靴紐の結び方を見せたり、物語の教訓を (あらすじだけでなく) 説明したりできます。

これらのことの1 つをうまく行うようにコンピューターをトレーニングすることはほとんどできません。それが認知的推論、移動、人間との相互作用を恐ろしくすることなく行うことができれば、私たちはすでにそれらすべてにそれを使用しているでしょう.

企業は面倒な人間の労働にアレルギーを持っており、常に安価なバージョンのマシンを求めています。彼らはこれを実現させたでしょう。彼らはしていません。

大学の計算神経科学研究室は、私たちの脳が世界について行っている内部思考のモデル化と推論に関心を持っている研究室です。赤ちゃんがどのように見えるかを確認するために 2 人の人物の写真をブレンドすることは、モデルの目的ではありません。

おそらく何十年もの間、あいまいで適応性のある石畳のような戦略で世界をナビゲートするロックを持っているのは私たち人間だけです.

感情と経験に基づいて世界について学び、世界をナビゲートするこの一般的な能力は、テクノロジー業界が AI を構築する際に役立つとわかったものではありません。

これまでのところ、機械学習で実際の脳の模倣が行われた方法はまばらです。脳をコピーする必要はありませんでした。つまり、有益です。

企業 (および彼らが資金を提供する大学) は代わりに、ソーシャル メディア フィードのクリック数やドローン攻撃の精度など、より測定可能なものに最適化しています。

それが私たちを模倣しようとしたとすれば、それは脳ができる特定のことの結果を得るための利益主導のジャブでした.コンピューター ビジョンでは、いくつかの印象的で興味深いパターン認識が行われています。

これらすべては、AI が「コンピューターに命を吹き込む魔法」でも「一部の人がコンピューターで実行できる魔法」でもないという点を強調するためのものです。それは力ずくの数学です。知識とコンピューティング能力が混ざり合っています。てこの作用。ほとんどの AI モデルは、お金を稼ぐという 1 つのことを行うために数字を処理しています。

この強力なツールであるゴールデン グースを持つ人々は、経済的に、AI が宇宙的または終末論的な何かを行うのはすぐそこまで来ていると主張し、より現実的でありふれた、あまり注目を集めないビジネスのために AI が行っていることを隠すようになっています。

彼らは、今後1年、5年、10年、15年で特定の大きなことができると主張することに既得権を持っています.これらは、投資家が好むタイムラインです。完全な自動運転車が成功しないことは、この分野で最初に目にする失敗の 1 つにすぎません。

高尚な SF の前提と約束は、優れた映画を生み出します。エクスマキナ、彼女、ブレードランナー。それは彼らが真実であることを意味しません。

AI 開発者自身の製品のフレーミングを (1) 必然的であり、(2) 政治的および経済的に変革的であると受け入れると、AI がとる形態 (つまり、チャットボットとして! 「検索エンジン」として! ）とそれが置かれる用途（つまり、それが増強または置き換える仕事！それがより簡単にするまたはより難しくするタスク！）は、それが出現する政治的および経済的条件に左右されます.

…

ポール・クリスティアーノが信じているように、大規模な言語モデルによって「認識できないほど変換された」世界がわずか数か月先にあるということです。しかし、このニュースレターの基本的な経験則は、物事は急速に劇的に変化するのではなく、ゆっくりと愚かに変化するというものであり、適切な AI 批判はこの可能性を説明する必要があります。今のところ、私は再びテクノロジーについての議論の真っ只中に自分自身がいることに憤りを感じています。議論の条件と枠組みは、その開発と採用から利益を得る立場にある民間企業によって多かれ少なかれ完全に設定されています。 .

— Max Read、 Facebook の批判が AI の批判について教えてくれること

ちょっと考えてみましょう。テクノクラートのエリートが技術的な問題の議論に課す「議論のための条件と枠組み」を受け入れることは、歴史的にどのように私たちに起こったのでしょうか?それは暗号通貨であれ銀行であれ?

FDR の大恐慌後の改革から 1980 年代までの間に、経済を破綻させる銀行危機が何回発生しましたか?レーガンがそれらをロールバックした後、それ以降に何件発生しましたか?

Max Read は、Joe Bernstein による優れたHarper の記事を引用して、Facebook がすでに舞台裏でこれをどのように行ったかについて述べています。それは、自社の広告の有効性に関する不安定でますます受け入れがたいモデルに、あらゆる層の人々を売り込んでしまった。

ねずみ講が実際の製品に基づいているからといって、ねずみ講ではないという意味ではありません。

ここでの大きなポイントは、テクノロジーが提供するものについて一般の人々を誤解させることに関しては、金融よりも「優れている」わけではないということです。それは間違いなく悪いです。安価な血液検査、コワーキング スペース、ブロックチェーンに何が起こったのかを見てきました。ファイン産業は愚かさによって汚染されています。

彼らが私の少年をどのように虐殺したかを見てください。

彼らは内部的に物事を台無しにしますが、私たち全員に影響を与える方法で、私たちの友人や隣人が彼らのでたらめを受け入れ、彼らに議論の条件を設定させているからです。次に、ゴールデン パラシュートの料金を支払います。

何百万もの人々が経済的な出来事で生計を失っていますが、これはいくつかの適切な規制があれば回避できたはずです。昔話。

AIで何か新しいことに挑戦するのは私たちの義務です。健全な情報に基づいて、将来の自分自身に健全な決定を下す自由を与えることは有益です。それについての真実を学ぶことは報われます。それについての他人の気まぐれを額面どおりに受け取ることは、将来、より大きな代償を払うことになります。

人々は ML とディープ ラーニングをあらゆる種類のものに上手に利用できるようになってきています。コンピューターに顔を認識させたり、声を複製させたり、人々がスクロールし続けるコンテンツを表示したりしています。

私たちがそうしない限り、それらの使用は、一部の人々を非常に豊かにするのではなく、私たちの生活にとってより良く、またはより役立つことはありません.

その間、もちろん、彼らはとても面白いかもしれません。

AI は、人間の状態に応じて、善、悪、単純に奇妙、または実際に何にでも使用できます。現時点では、これはすべて、利益の動機がどこにつながるかにかかっていることを意味します。

ほとんどの AI の専門知識は、私たちにお金を搾り取ろうとする企業によって一掃されてきました。生活を根本的に改善するための公的で透明性のある人々主導の取り組み（以前は政府の領域）や、脳のシミュレーションでさえ、それほど多くのお金がありません。

それはパンとサーカスと軍事用途にあります.これらのタイプの条件は、AI やその他のテクノロジーをその方向に向かわせるものです。

AIはすでにそこにあります。その事実は橋の下の水です。それについて魔法のように話すことは、それについてでたらめから得ることが最も多い人々に利益をもたらすだけです.

AI を大げさな話で装い、この場合は世界終末の話で、AI に対する無知な人々の関心を食い物にすることは、これまでに見られたパターンです。

「Theranos/WeWork/NFTs はすべてを変えます。」訂正: 大幅に変更された可能性があります。代わりに、彼らは自分自身を売り過ぎました。彼らは過大に約束し、十分に成果を上げませんでした。

AI をめぐるこのヒステリーは、AI の能力とリスクの両方を誇張して一部の人々をより豊かにするものであり、AI に自然に興味を持っているだけの人々から解き放つことは困難です。幅広い用途で面白いものです。

仮想通貨や NFT で行ったように、人々はそれに関係なく購入するでしょう。おそらくそれ以上です。それについての真実を知るより多くの理由。

この投稿から他に何も得られない場合は、これを読んでください: AI を互いにどのように使用するかは、現在、AI が意識を高めることよりもはるかに差し迫った問題です。考えてみてください:もしそれが意識を持って、私たちに危害を加えようとしたのなら、なぜですか?なぜこれをしたいのでしょうか？

私たちがそれを世界に持ち込む方法が、人間という種に対するそのスタンスに何らかの影響を与えることは、明らかに明白に思えませんか?

これとそれにまつわる物語を、CEOやテクノロジーに隣接する資本所有者に完全に委ねることは理にかなっているのだろうか？

2030 年であれ 2230 年であれ、それが知覚できるようになる瞬間まで、その使用、研究、および開発を担当してもらいたいですか?

リードが指摘したように、AI の恐怖を煽る人々は、人々がこれについて考えないことが都合がよいと考えています。

彼らは、この事実が隠されている方がはるかに便利であると考えているため、その進歩は避けられず、疑問を呈する価値はなく、シンギュラリティがすぐそこにあることについて話すことができます.

ここには、人間が不可避にするものを除いて、不可避なものは何もありません。ゴリラはこれに取り組んでいません。

汎用人工知能が到着した場合、それはアストロバイオロジー、エイリアンの生命体の問題になるでしょう.その瞬間まで、それは哲学、歴史、人文科学の 1 つです。私たちのイメージで、私たちのように、おそらく私たちよりも優れたものにしますか？

私たちの最も反社会的な傾向を反映して、さらに悪化させますか?クレイジーなことは、人間が決めるということです。私たちはビルダーです。私たちは、それがどれほど異質であるか、または人間に似ているかを制御しています。

もちろん、「私たちは」そうではありません。一部の人々は他の人よりも多くです。大丈夫ですか？あの人たちが誰であるか、私たちは大丈夫ですか？彼らがこの技術をどこに向けようとしているのか、私たちは大丈夫ですか?

多額の資本を所有する階級が「避けられない」傾向にあるもの、つまり、他の業界での予言、非常に多くの数十億ドル規模の企業を崩壊させた近視眼的で事実を無視する群集心理の慣行を見てきましたが、その方法について一部の懐疑論があります。彼らはAIが保証されていると話します。

こちらにも掲載