なぜビッグテックのAGIがバイナリシステムから出現するのですか？

それは時間です 放射線科医の訓練をやめる。 AIは、犯罪が発生する場所と時期を予測できます。 このニューラルネットワークは、あなたが同性愛者であるかどうかを知ることができます。 2020年末までに100万台のテスラロボタクシーが道路上に存在するでしょう。

私たちは皆、誇張を見てきました。 ビッグテックの最も大胆な主張は、メディアの最も成功した見出しになり、一般大衆は十分に得ることができません。

路上で100人にAIの能力を聞いてみてください。そうすれば、無意味なアイデアの宝庫を手に入れることができます。

完全に明確にするために：私たちは間違いなくより多くの放射線科医を必要としています。 AIは犯罪を予測することはできません。そうでないと言う人は、何かを売っています。 人間が同性愛者であるかどうかを判断できるAIもありません。前提自体に欠陥があります。

そして最後に、あなたが数えているのでない限り、現在、世界には自動運転ロボタクシーはまったくありません。 実験用試験車両。

しかし、これらの神話の少なくとも1つが本物であると信じる可能性はかなりあります。

人工知能の将来についてより穏やかな見方を求める冷静な予言者には、「角を曲がったところに」、信じる人が十数人います。 秘密のソースはすでに発見されています。 彼らにとって、人工知能産業を阻んでいるのは規模だけです。

最近の論文（Gpt3、Palm、dalle2、Gato、Metaformer）に基づいて、おそらく一般的な知性（？！）でも、おそらく「スケールが必要なすべて」であるという意見を形成しています。 すべてをトークンに変換して、次のトークンを予測するだけです。 （1 / n）

— Alex Dimakis（@AlexGDimakis） 2022年5月17日

大きなアイデア

彼らが説いていることは複雑です。ディープラーニングベースのシステムを十分に大きくスケーリングし、十分なデータを供給し、要因によって操作するパラメーターの数を増やし、より優れたアルゴリズムを作成すると、人工的な一般的な知能が出現します。

ちょうどそのように！ 人間レベルのインテリジェンスが可能なコンピューターは、AIの炎から、次の巧妙なアプリケーションの自然な副産物として爆発的に存在します。 もっと力を。 ディープラーニングは暖炉です。 ベローズを計算します。

でもそれは前に聞いたことがありますね。 それは 無限の猿定理。 サルをキーボードで無限に叩くと、たとえばウィリアムシェイクスピアの作品を含む、考えられるすべてのテキストがランダムに生成されます。

ただ、ビッグテクの目的のために、それは実際にはビジネスモデルとしての無限の猿定理の現金化です。

大きな問題

特定の機械学習モデルが人工的な一般的な知能に対応できることを公式に宣言する統治機関はありません。

少なくとも1人の明白な対象分野の専門家がその定義について口論しない主題に関するオープンな学術的議論の単一の記録を見つけるのは難しいでしょう。

DeepMindの人々が突然「Eureka！」と叫んだとしましょう。 そして、彼らが一般的な人工知能の出現を目撃したことを宣言します。

マイクロソフトの人々がでたらめと呼んだらどうなるでしょうか？ または、 イアン・グッドフェロー それは本物だと言いますが ジェフリーヒントン と ヤン・ルカン 同意しませんか？

バイデン大統領がAGIの時代が到来すると宣言したが、EUがそれを支持する証拠はないと言った場合はどうなるでしょうか。

現在、個人または統治機関がAGIの到着を宣言できる単一の指標はありません。

ダンチューリングテスト

アラン・チューリングは数え切れないほどの命を救った英雄であり、悲劇的な終焉を迎えた奇妙なアイコンですが、彼が「人間-レベル。”

チューリングは、彼の独創的な1950年の論文で、「模倣ゲーム」と呼ばれるテストを推奨しました。コンピュータ機械と知性。」 基本的に、彼は、人間をだましてそれが彼らの1つであると思わせることができる機械は、インテリジェントであると見なされるべきであると述べました。

1950年代に戻ると、それは理にかなっています。 世界は、自然言語処理やコンピュータービジョンから遠く離れていました。 マスタープログラマー、世界クラスの数学者、そして歴史上最も偉大なコードブレーカーの1人にとって、最終的に敵対的生成ネットワーク（GAN）と大規模言語モデル（LLM）の出現となるものへの道は1つのように見えたに違いありません。 -人工への道 認知。

しかし、チューリングと彼の同類は、将来、コンピューター科学者やエンジニアがどれだけ優れた仕事をするかを予測する方法がありませんでした。

たとえば、テスラが一般的な知性を生み出すことなく、自律性の限界を可能な限り押し上げることができると予言した人はほとんどいなかったでしょう。 または、DeepMindのGato、OpenAIのDALL-E、またはGoogleのDuplexは、人間のように学習できるAIを発明しなくても可能です。

一般的なAIの探求に関して私たちが確信できる唯一のことは、狭いAIの有用性の表面をかろうじてかじったことです。

意見は異なる場合があります

Turingがまだ生きていれば、狭いAIのみを使用した機械学習システムで人類がどのように多くのことを達成したかを知ることに非常に興味があると思います。

世界的に有名なAIの専門家であるAlexDimakisは最近、チューリングテストの更新を提案しました。

「AGI」という言葉から離れて、人間レベルの知性について話したいと思います。 明確な目標の1つは、10分間のチャットでチューリングテストに合格することです。 私はこれを短いタイムスケールで人間レベルの知性と呼んでいます。 これは、規模と既存の方法だけで発生する可能性があると思います。

— Alex Dimakis（@AlexGDimakis） 2022年5月17日

彼らによると、専門家の裁判官と一緒に10分間チューリングテストに納得のいくように合格できるAIは、人間レベルの知能が可能であると見なされるべきです。

しかし、それは、ディープラーニングをスケーリングするだけでAGIが魔法のように出現するという別の言い方ではありませんか？

GPT-3は時折、目立つように見えるほど一貫性のあるテキストの断片を吐き出します。 理解の幻想を10、20、または30分間維持できることから、本当に遠く離れているのでしょうか。

Dimakisがここの49ヤードラインにゴールポストを置いているように少し感じます。

信じることをやめないで

それは私たちが決してそこにたどり着かないという意味ではありません。 実際、DeepMind、OpenAI、またはその他のAGI-is-nighキャンプが、今日、明日、またはより合理的な時間枠（2100年代頃など）で秘密のソースを理解しないと信じる理由はありません。 。

しかし、数学とyes/noステートメントの巧妙な適用が最終的にAGIにつながると信じる理由もほとんどありません。

惑星サイズのコンピュータシステムを構築することになったとしても ダイソン球、スケーリングで十分であるという考え（コード/アルゴリズムの進歩が一致している場合でも）は、依然として単なる仮定です。

生物学的脳 実際には量子システムかもしれません。 この場合、巧妙なプログラミングの名声と区別できるあらゆる形の知性を発揮できる人工物が、古典的なバイナリシステムから出現するのに苦労するのは当然のことです。

それは、「スケーリングはあなたが必要とするすべてです！」という演じられた戦いの叫びを叱責しているように聞こえるかもしれません。 同様に不快な「すべてのものを量子化」しますが、少なくとも私が推進しているファンタジーには優先順位があります。

人間は存在し、私たちはかなり賢いです。 そして、私たちの知性が量子効果の結果として出現したことを99％確信することができます。 自分自身を模倣することを目的とした人工知能の開発に関しては、手がかりとなる量子コンピューティングの領域に目を向けるべきかもしれません。

あるいは、AGIはそれ自体では何からも「出現」しないでしょう。 実際にインテリジェントデザインが必要になる可能性があります。