ニューラルネットワークが人間の脳とは異なる方法で「学習」する方法

最近開発された人工知能（AI）モデルは、画像の認識や人間のような言語の生成など、多くの印象的な偉業を成し遂げることができます。 しかし、AIが人間のような行動をとることができるからといって、AIが人間のように考えたり理解したりできるわけではありません。

人間が世界についてどのように理解し、推論するかを研究する研究者として、AIシステムが「考える」方法と学ぶ方法が人間のやり方とは根本的に異なることを強調することが重要だと思います。そして、AIが真に考えることができるようになるまでには長い道のりがあります。我ら。

広範囲にわたる誤解

AIの開発により、非常に人間らしい動作を実行できるシステムが作成されました。 言語モデル GPT-3 人間の発話と見分けがつかないことが多いテキストを生成できます。 別のモデル、 PaLM、これまでにないジョークの説明を作成できます 前に見た。

最近では、Gatoと呼ばれる汎用AIが開発されました。 何百ものタスクを実行する、画像のキャプション、質問への回答、Atariビデオゲームのプレイ、さらにはロボットアームを制御してブロックを積み上げることも含まれます。 また、DALL-Eは、テキストの説明から変更された画像やアートワークを作成するようにトレーニングされたシステムです。

これらのブレークスルーは、そのようなAIの機能、およびそれが人間の知性について私たちに何を教えてくれるかについて、いくつかの大胆な主張をもたらしました。

たとえば、GoogleのAI企業であるDeepMindの研究者であるNando de Freitasは、既存のモデルをスケールアップするだけで、人間レベルの人工知能を生み出すことができると主張しています。 他の人は エコー このビュー。

すべての興奮の中で、人間のような行動は人間のような理解を意味すると簡単に推測できます。 しかし、AIと人間の考え方と学習方法には、いくつかの重要な違いがあります。

ニューラルネットと人間の脳

最新のAIは 人工ニューラルネットワーク、または略して「ニューラルネット」。 「神経」という用語が使用されるのは、これらのネットワークが人間の脳に触発されているためです。人間の脳では、ニューロンと呼ばれる何十億もの細胞が相互に複雑な接続の網を形成し、信号をやり取りするときに情報を処理します。

ニューラルネットは、生物学の非常に単純化されたバージョンです。 実際のニューロンは単純なノードに置き換えられ、ノード間の接続の強さは「重み」と呼ばれる単一の数値で表されます。

十分な数の層に積み重ねられた十分な数の接続されたノードを使用して、ニューラルネットをトレーニングして、パターンを認識し、さらには「一般化する」は、以前に見たものと類似している（ただし同一ではない）刺激になります。 簡単に言うと、一般化とは、AIシステムが特定のデータから学んだことを取得し、それを新しいデータに適用する能力を指します。

特徴を識別し、パターンを認識し、結果から一般化できることは、ニューラルネットの成功の中心であり、人間がそのようなタスクに使用する手法を模倣しています。 しかし、重要な違いがあります。

ニューラルネットは通常、「教師あり学習」。 そのため、入力と目的の出力の多くの例が提示され、ネットワークが目的の出力を生成するように「学習」するまで、接続の重みが徐々に調整されます。

言語タスクを学習するために、ニューラルネットは一度に1単語ずつ文を提示され、シーケンス内の次の単語を予測することをゆっくりと学習します。

これは、人間が通常学ぶ方法とは大きく異なります。 ほとんどの人間の学習は「教師なし」です。つまり、特定の刺激に対する「正しい」応答が何であるかが明示的に通知されていません。 私たちはこれを自分たちで解決しなければなりません。

たとえば、子供たちは話す方法についての指示を与えられていませんが、これを介してこれを学びます 複雑なプロセス 成人のスピーチ、模倣、およびフィードバックへの暴露の。

もう1つの違いは、AIのトレーニングに使用されるデータの規模が非常に大きいことです。 GPT-3モデルはで訓練されました 4,000億語、主にインターネットから取得。 毎分150語の速度で、これだけのテキストを読むには、人間が4、000年近くかかるでしょう。

このような計算は、人間がAIと同じように学習することはおそらく不可能であることを示しています。 少量のデータをより効率的に利用する必要があります。

ニューラルネットは、私たちができない方法で学ぶことができます

さらに根本的な違いは、ニューラルネットの学習方法に関係しています。 刺激を目的の応答と一致させるために、ニューラルネットは「バックプロパゲーション」と呼ばれるアルゴリズムを使用して、ネットワークを介してエラーを逆方向に渡し、重みを適切な方法で調整できるようにします。

しかし、それは神経科学者によって広く認識されています バックプロパゲーションは実装できません 必要に応じて脳内で 外部信号 それは存在しません。

一部の研究者は提案しました バリエーション バックプロパゲーションの脳は使用できますが、これまでのところ、人間の脳がそのような学習方法を使用できるという証拠はありません。

代わりに、人間は作ることによって学びます 構造化された精神的概念、多くの異なるプロパティと関連付けが相互にリンクされています。 たとえば、私たちの「バナナ」の概念には、その形、黄色、果物であるという知識、持ち方などが含まれます。

私たちが知る限り、AIシステムはこのような概念的な知識を形成しません。 彼らは、トレーニングデータから複雑な統計的関連性を抽出し、それらを同様のコンテキストに適用することに完全に依存しています。

AIを構築するための取り組みが進行中です さまざまなタイプの入力を組み合わせる （画像やテキストなど）–しかし、これらのモデルが、人間が世界を理解するために使用するのと同じタイプの豊かな心象表現を学習するのに十分であるかどうかはまだわかりません。

人間がどのように学び、理解し、推論するかについて、私たちが知らないことがまだたくさんあります。 しかし、私たちが知っていることは、人間がこれらのタスクをAIシステムとは非常に異なる方法で実行することを示しています。

そのような、 多くの研究者は信じています 人間のように真に考え、学ぶ機械を構築する前に、新しいアプローチと、人間の脳がどのように機能するかについてのより基本的な洞察が必要になります。

この記事 ジェームス・フォドール、認知神経科学の博士号候補、 メルボルン大学、から再発行されます 会話 クリエイティブコモンズライセンスの下で。 読む 原著。