1,468 測定値

認知パラダイム: 脳にヒントを得た AI 開発の探求

に Edem Gold13m2023/05/10

長すぎる; 読むには

この記事では、AI システムを構築するための脳にヒントを得たアプローチを理解しようとします。科学者の Norman Weiner がどのようにして神経科学とコンピューターサイエンスの融合をもたらしたかについて説明します。フランク・ローゼンブラットのパーセプトロンは、人間の知性を模倣する最初の実際の試みであり、その失敗がどのようにしてニューラルネットワークのプラットフォームとして機能する画期的な仕事をもたらしたか.

featured image - 認知パラダイム: 脳にヒントを得た AI 開発の探求

「私たちの知性は私たちを人間にするものであり、AI はその質の延長です」-Yan LeCun

ニューラルネットワーク(人工ニューラルネットワークとも呼ばれます) の出現以来、AI 業界は比類のない成功を収めてきました。ニューラルネットワークは、最新の AI システムの原動力であり、人間の脳をモデルにしています。現代の AI 研究には、人間の脳の神経プロセスを模倣して、人間と同様の方法で学習および行動するシステムを作成することを目的としたアルゴリズムの作成と実装が含まれます。

この記事では、 AI システムを構築するための脳にヒントを得たアプローチを理解しようとします。このトピックは本質的に幅広いものですが、できるだけ簡潔に説明することに注意してください。より複雑なサブブランチを持つサブトピックは、独立した記事として扱う予定です。もちろん、記事の最後に参考文献を残します。

内容の内訳

これにどのようにアプローチしたいか：

脳に着想を得た AI へのアプローチの歴史:ここでは、科学者のノーマンワイナーとウォーレンマッカロックが神経科学とコンピューターサイエンスの融合をどのようにもたらしたか、フランクローゼンブラットのパーセプトロンが人間の知性を模倣する最初の真の試みであった方法、およびその失敗について説明します。ニューラルネットワークのプラットフォームとなる画期的な仕事をもたらしました。
人間の脳がどのように機能し、AI システムとどのように関係しているか:このセクションでは、AI への脳から着想を得たアプローチの生物学的基盤について掘り下げます。人間の脳の基本的な構造と機能について説明し、そのコア構成要素であるニューロンと、それらがどのように連携して情報を処理し、複雑な行動を可能にするかを理解します。
AI への脳にヒントを得たアプローチの背後にあるコア原則:ここでは、AI への脳にヒントを得たアプローチの背後にある基本的な概念について説明します。次のような概念について説明します。ニューラルネットワーク、階層処理、可塑性、および並列処理、分散表現、反復フィードバックの手法が、AI が脳の機能を模倣するのにどのように役立つかについて説明します。
人間の脳をモデルにした AI システムを構築する際の課題:ここでは、人間の脳を模倣するシステムを構築しようとする際に内在する課題と制限について説明します。次のような課題があります。脳の複雑さと認知の統一理論の欠如は、これらの課題と制限に対処する方法を探ります。

始めましょう！

脳にヒントを得た AI へのアプローチの歴史

インテリジェントな動作が可能なマシンを構築する意欲は、そのインスピレーションの多くを MIT 教授に負っています。ノーバート・ウェイナー.ノーバート・ウェイナーは、3歳までに読むことができる神童でした。彼は、数学、神経生理学、医学、物理学など、さまざまな分野の幅広い知識を持っていました。

ノーバート・ワイナーは、科学における主な機会は、彼が境界領域と呼んだものを探求することにあると信じていました.境界領域とは、特定の分野内に明確にあるのではなく、医学と工学の研究のような分野が混ざり合って、医療工学-、彼は次のように言っていると引用されました：

「生理学的問題の難しさが本質的に数学的なものである場合、数学を知らない 10 人の生理学者が、数学を知らない 1 人の生理学者とまったく同じことを成し遂げるだろう」

1934 年、Weiner と数人の学者が毎月集まり、境界領域科学に関する論文について議論しました。

それは生半可な考え、不十分な自己批判、誇張された自信と尊大さに対する完璧なカタルシスだった - ノーマン・ウェイナー

これらのセッションと彼自身の個人的な研究から、Weiner は生物学的神経系に関する新しい研究と、電子コンピューターに関する先駆的な研究について学び、これら 2 つの分野を融合させたいという彼の自然な傾向がありました。そして、神経科学とコンピューター科学の関係が形成されました。この関係は、私たちが知っているように、人工知能の作成の基礎となりました。

第二次世界大戦後、ウィーナーは人間と機械の両方の知性に関する理論を形成し始め、この新しい分野はサイバネティクス.ウィーナーのサイバネティックスへの進出は、生物学と工学の融合の可能性について科学者たちに話題にすることに成功しました。その科学者の一人は神経生理学者で、ウォーレン・マカロックその後ハーバーフォード大学を中退し、イェール大学で哲学と心理学を学びました。

彼はニューヨークで開催された科学会議に出席しているときに、生物学的フィードバックのメカニズムについて同僚が書いた論文と接触しました。翌年、ウォルター・ピッツという彼の優秀な 18 歳の弟子と協力して、マッカロックは脳がどのように機能するかについての理論を提案しました。

彼らは、2 進数を処理するニューロンの可能性に関する McCulloch の研究に基づいて結論を出しました (コンピューターは 2 進数を介して通信します)。この理論は、McCulloch-Pitts Neuron (MCP) と名付けられた人工ニューラルネットワークの最初のモデルの基礎となりました。

MCP は、史上初のニューラルネットワークを作成するための基盤として機能しました。パーセプトロン.パーセプトロンは心理学者によって作成されました。フランク・ローゼンブラット彼は、脳内のシナプスに触発されて、人間の脳がシナプス (ニューロン間の通信) を介して情報を処理および分類できるように、おそらくデジタルコンピューターがニューラルネットワークを介して同じことを行うことができると判断しました。

パーセプトロンは本質的に、MCP ニューロンを 1 つの人工ニューロンからニューロンのネットワークにスケーリングしましたが、残念ながら、パーセプトロンには実用的なアプリケーションを制限するいくつかの技術的課題がありました。たとえば、パーセプトロンは猫、犬、鳥の間の分類を実行できませんでした)。

1969年に出版された本マーヴィン・ミンスキーとシーモア・パパートパーセプトロンと題された論文は、パーセプトロンの欠点を詳細に説明したものであり、そのために人工ニューラルネットワークの研究は、ポール・ウェルボス.

Back Propagation は、当時のニューラルネットワークの産業応用を妨げていた複雑なデータの分類の問題を解決したいと考えています。シナプスの可塑性に触発されました。脳がニューロン間の接続の強さを変更する方法により、パフォーマンスが向上します。 Back Propagation は、重み調整と呼ばれるプロセスを介してニューロン間の接続を強化する脳内のプロセスを模倣するように設計されています。

Paul Werbos による初期の提案にもかかわらず、バックプロパゲーションの概念は、次のような研究者によってのみ広く採用されました。デビッド・ルーメルハート、ジェフリー・ヒントン、とロナルド・ウィリアムズニューラルネットワークのトレーニングに対するバックプロパゲーションの有効性を実証した論文が公開されました。バックプロパゲーションの実装は、世界中で利用可能なほとんどの AI システムを強化するディープラーニングの作成につながりました。

「人間が今日のコンピューターよりも賢いのは、人間が得意とする自然な情報処理タスクの中心的な側面を処理するのにより適した基本的な計算アーキテクチャを脳が採用しているためです。」 - 並列分散処理

人間の脳の仕組みと AI システムとの関係

研究者が人間の脳を模倣するために AI をモデル化し始めた方法について説明しました。次に、脳がどのように機能するかを見て、脳と AI システムの関係を定義しましょう。

脳の仕組み: 簡単な説明

人間の脳は、本質的にニューロンを使用して思考を処理します。ニューロンは3つのコアセクションで構成されています。樹状突起、軸索、相馬。樹状突起は他のニューロンから信号を受信する役割を担い、相馬は樹状突起から受け取った情報を処理し、軸索は処理された情報をシーケンス内の次の樹状突起に転送する役割を果たします。

脳が思考をどのように処理するかを理解するために、車が近づいてくるのを見たと想像してください。目はすぐに視神経を介して脳に電気信号を送り、脳は入ってくる信号を理解するためにニューロンの鎖を形成します。チェーンの最初のニューロンは、その樹状突起を介して信号を収集し、それを相馬に送信して信号を処理します。相馬がタスクを終了した後、信号を軸索に送信し、軸索はそれをチェーン内の次のニューロンの樹状突起に送信します。、情報を渡すときの軸索と樹状突起の間の接続は、シナプスと呼ばれます。全体のプロセスは、脳がサピオテンポラルシナプス入力を見つけるまで続きます (これは科学用語です。脳は、送信された信号に対する最適な応答を見つけるまで処理を続けます)。次に、必要なエフェクター (足や筋肉など) に信号を送信します。次に脳は、対向車から逃げるように足に信号を送ります。

脳とAIシステムの関係

脳と AI の関係は、AI システムの設計と AI の進歩の背後にあるインスピレーションの主な源は脳であり、脳とその仕組みの理解を深めることにつながるため、相互に大きなメリットがあります。

脳と AI に関しては、知識とアイデアの相互交換があり、この関係の積極的な共生の性質を証明するいくつかの例があります。

ニューラルネットワーク:人間の脳が人工知能の分野にもたらした最も重要な影響は、おそらくニューラルネットワークの作成です。本質的に、ニューラルネットワークは、生物学的ニューロンの機能と構造を模倣する計算モデルであり、ニューラルネットワークのアーキテクチャとその学習アルゴリズムは、脳内のニューロンが相互作用して適応する方法に大きく影響を受けています。
脳のシミュレーション: AI システムは、シミュレートする人間の脳と物理世界との相互作用を研究します。たとえば、研究者は、視覚処理に関与する生物学的ニューロンの活動をシミュレートするための機械学習技術を使用しており、その結果は、脳が視覚情報をどのように処理するかについての洞察を提供しています。
脳への洞察:研究者は、機械学習アルゴリズムを使用して、脳データと fMRI スキャンを分析し、洞察を得始めています。これらの洞察は、そうでなければ隠されたままであったパターンと関係を特定するのに役立ちます。得られた洞察は、内部認知機能、記憶、および意思決定の理解に役立ち、アルツハイマー病などの脳固有の病気の治療にも役立ちます.

AIへの脳にヒントを得たアプローチの背後にあるコア原則

ここでは、AI が人間の脳の機能を模倣するのを支援するいくつかの概念について説明します。これらの概念は、AI 研究者が複雑なタスクを実行できる、より強力でインテリジェントなシステムを作成するのに役立ちました。

ニューラルネットワーク

前述のように、ニューラルネットワークは、間違いなく、人間の脳が人工知能の分野にもたらした最も重要な影響です。本質的に、ニューラルネットワークは、生物学的ニューロンの機能と構造を模倣する計算モデルです。ネットワークは、人工ニューロンと呼ばれる相互接続されたノードのさまざまな層で構成され、情報の処理と送信を支援します。生物学的ニューラルネットワークの樹状突起、細胞体、および軸索。ニューラルネットワークは、脳と同じように過去の経験から学習するように設計されています。

分散表現

分散表現は、パターンを形成するためにネットワーク内の複数のノードに沿ったパターンとして、ニューラルネットワーク内の概念やアイデアをエンコードする単純な方法です。たとえば、喫煙の概念は、ニューラルネットワーク内の特定のノードセットを使用して表現 (エンコード) できます。そのため、そのネットワークが喫煙している男性の画像に対応する場合、それらの選択されたノードを使用して画像の意味を理解します (それよりもはるかに複雑ですが、簡単にするために)、この手法は、脳が複雑な刺激を認識して記憶するのと同じ方法で、AI システムが複雑な概念または概念間の関係を記憶するのに役立ちます。

反復的なフィードバック

これは AI モデルのトレーニングに使用される手法で、ニューラルネットワークの出力が入力として返され、ネットワークがその出力をトレーニングの追加データ入力として統合できるようにします。これは、以前の経験に基づいてモデルを調整するために、脳がフィードバックループを利用する方法に似ています。

並列処理

並列処理では、複雑な計算タスクを小さなビットに分割して、別のプロセッサで小さなビットを処理して速度を向上させようとします。このアプローチにより、AI システムはより多くの入力データをより高速に処理できます。これは、脳が異なるタスクを同時に実行できる (マルチタスク) のと同様です。

注意メカニズム

これは、AI モデルが入力データの特定の部分に集中できるようにするために使用される手法であり、複雑で扱いにくいデータを含む自然言語処理などの分野で一般的に採用されています。これは、主に気を散らす環境の特定の部分だけに注意を向ける脳の能力に触発されています。会話の不協和音から 1 つの会話に同調し、対話する能力のように。

強化学習

強化学習は、AI システムのトレーニングに使用される手法であり、人間が試行錯誤を通じてスキルを習得する方法に着想を得ています。これには、AI エージェントがそのアクションに基づいて報酬または罰を受け取ることが含まれます。これにより、エージェントは間違いから学び、将来のアクションでより効率的になることができます (この手法は通常、ゲームの作成に使用されます)。

教師なし学習

脳は、音、視覚的コンテンツ、皮膚への感覚などの形で新しいデータの流れを絶えず受け取っており、それらすべてを理解し、これらすべての一見バラバラな出来事がどのように発生するかについて、首尾一貫した論理的な理解を形成しようとする必要があります。その物理的状態に影響を与えます。

例として、水滴が肌に落ちるのを感じ、水滴が屋上に素早く落ちる音を聞き、服が重くなるのを感じ、その瞬間に雨が降っていることを知り、記憶バンクを検索します。傘を持っているかどうかを確認し、持っていれば大丈夫、そうでない場合は現在地から家までの距離を確認する、家が近い場合は大丈夫、そうでない場合は雨の強さを測る軽い霧雨の場合は、家に戻る旅を続けることができますが、にわか雨になる準備ができている場合は、避難所を見つける必要があります。

一見バラバラなデータポイント (水、音、感覚、距離) を理解する能力は、教師なし学習と呼ばれる手法の形で人工知能に実装されています。これは、明示的なラベル付けをせずに生の非構造化データを理解するよう AI システムに学習させる AI トレーニング手法です (雨が降っているときに、雨が降っているとは誰も言いません)。

脳にヒントを得た AI システムの構築における課題

AI システムのインスピレーションとして脳を使用するアプローチがどのように生まれたか、脳が AI とどのように関係しているか、そして脳にインスパイアされた AI の背後にあるコア原則について話してきました。このセクションでは、人間の脳をモデルにした AI システムの構築に固有の技術的および概念的な課題について説明します。

複雑

これはかなり困難な課題です。 AI への脳にヒントを得たアプローチは、脳のモデル化とそのモデルに基づいた AI システムの構築に基づいていますが、人間の脳は本質的に 1,000 億個のニューロンと約 600 兆個のシナプス接続を備えた複雑なシステムです (各ニューロンには平均 10,000 個のシナプス結合があります)他のニューロンとの接続)、これらのシナプスは動的かつ予測不可能な方法で常に相互作用しています。その複雑さを模倣し、できればそれを超えることを目的とした AI システムを構築すること自体が課題であり、同様に複雑な統計モデルが必要です。

大規模なモデルをトレーニングするためのデータ要件

現時点でテキストベースの AI モデルの最先端である Open AI の GPT 4 は 47 ギガバイトのデータを必要としますが、それに比べて、その前任者である GPT3 は約 3 桁少ない 17 ギガバイトのデータでトレーニングされました。 GPT 5がどれだけ訓練されるか想像してみてください。

受け入れられる結果を得るために証明されているように、Brain-Inspired AI システムはタスク、特に聴覚および視覚タスクに膨大な量のデータとデータを必要とし、これはデータ収集パイプラインの作成に重点を置いています。たとえば、Tesla は7 億 8,000 万マイルの走行データとそのデータ収集パイプラインは、10 時間ごとにさらに 100 万マイル追加されます。

エネルギー効率

脳のエネルギー効率をエミュレートする脳にヒントを得た AI システムを構築することは、大きな課題です。人間の脳は約 20 ワットの電力を消費しますが、それに比べて、特殊なチップを搭載したテスラのオートパイロットは 1 秒あたり約 2,500 ワットを消費します。時間がかかりますChatGPTのサイズの AI モデルをトレーニングするための 7.5 メガワット時 (MWh)。

説明可能性の問題

ユーザーに信頼される、脳にヒントを得た AI システムを開発することは、AI の成長と導入にとって極めて重要ですが、そこに問題があります。AI システムがモデル化することになっている脳は、本質的にブラックボックスです。脳の内部の仕組みを理解するのは簡単ではありません。これは、脳が思考を処理する方法に関する情報が不足しているためです。人間の脳の生物学的構造がどのようになっているのかについての研究は不足していませんが、脳の機能的性質、つまり思考がどのように形成されるか、既視感がどのように発生するかなどに関する経験的情報がある程度不足しています。脳にヒントを得た AI システムの構築における問題に。

学際的な要件

脳にヒントを得た AI システムを構築する行為には、次のようなさまざまな分野の専門家の知識が必要です。神経科学、コンピューターサイエンス、工学、哲学、心理学。しかし、そこには、さまざまな分野から専門家を集めるのに非常に財政的な負担がかかるという意味で、ロジスティック面と基礎面の両方で課題があり、知識の衝突の問題も存在します。エンジニアに、エゴの衝突の問題について話さず、自分が構築しているものの心理的影響について気を配らせるのは非常に困難です。