企業が「AIファースト」になろうとするのをやめるべき理由

人工知能は、テクノロジー業界の流行語になっています。 企業は、「AIファースト」として自分たちを表現し、「AI」、「機械学習」、「ディープラーニング」という用語をWebやマーケティングコピーで豊富に使用することを熱望しています。

AIを取り巻く現在の誇大宣伝の影響は何ですか？ それは単に消費者やエンドユーザーを誤解させるだけなのか、それとも投資家や規制当局にも影響を及ぼしているのでしょうか。 製品やサービスを作成するための考え方をどのように形作っていますか？ 科学研究と商品開発の融合はどのように誇大宣伝につながっていますか？

これらは、CybraicsのチーフAIオフィサーであるRichardHeimannが彼の新しい本で答える質問の一部です。 AIを行う。 ハイマンの主なメッセージは、AI自体が私たちの目標になると、解決しなければならないすべての重要な問題を見失うということです。 そしてひいては、私たちは間違った結論を導き出し、間違った決定を下します。

機械学習、ディープラーニング、および「AI」という総称に該当する他のすべてのテクノロジーは、明確な目標と問題が発生した後にのみ検討する必要があるとハイマン氏は主張します。 そしてこれが、AIファーストであることはAIを最後に行うことを意味する理由です。

ハイマンが本の中で戻ってきたテーマの1つは、間違った焦点を持っていることです。 企業が「AIファースト」であることについて話すとき、彼らの目標は、AI研究の最新かつ最大の進歩を自社の製品に何らかの形で統合することです（または 少なくともそうするふりをする）。 これが発生すると、会社は解決策から始めて、それを使って解決する問題を見つけようとします。

おそらく、顕著な例は周囲の傾向です 大規模な言語モデル、主流メディアで多くの騒ぎを起こし、自然言語処理の一般的な問題解決者として提示されています。 これらのモデルは本当に印象的ですが、特効薬ではありません。 実際、多くの場合、明確に定義された問題がある場合、 より単純なモデル または、正規表現やルールベースのプログラムでさえ、GPT-3よりも信頼性が高くなる可能性があります。

「私たちはAIファーストを、理由を知らずに文字通りソリューションファーストになるべきであるかのように解釈します。 さらに、問題や顧客の前に置く抽象的な理想的なソリューションを概念化することです。そうすることが賢明かどうか、誇大広告が真実かどうか、ソリューション中心性がどのように影響するかを十分に考慮していません。 私たちの ビジネス」とハイマンは書いています AIを行う。

これは、企業がどのようにしようとしているのかという点で私が何度も遭遇した問題点です。 彼らの製品を売り込む。 私はよく（時には自己矛盾する）AIの専門用語を読み、会社がどのような問題を解決するのかを見つけようと懸命に努力しました。 時々、印象的なものは何も見つかりません。

「問題のサポートなしでAIについて話している人は、おそらく実際のビジネスを作成することに興味がないか、ビジネスが何を意味するのかわかりません」とHeimann氏は述べています。 TechTalks。 「おそらく、これらの志望者は戦略的な買収を探しています。 あなたの夢がグーグルに買収されることであるならば、あなたは必ずしもビジネスを必要としない。 Googleは1つであり、あなたを必要としません。 ただし、Googleがビジネスであるという事実を見逃してはなりません。」

AIの誇大宣伝はこの分野に関心と資金を集めており、スタートアップや研究所に彼らの夢を追いかけるための十分な資金を提供しています。 しかし、それはまた悪影響を及ぼしました。 一つには、曖昧で擬人化された漠然と定義された用語「AI」を使用すると、クライアントとユーザーに高い期待が寄せられ、混乱を招きます。 また、企業はより手頃なソリューションを見落とし、不要なテクノロジーにリソースを浪費する可能性があります。

「覚えておくべき重要なことは、AIは一枚岩ではないということです。 それは人によって異なることを意味します」とハイマンは言いました。 「みんなを混乱させずに言うことはできません。 あなたがマネージャーで「AI」と言うなら、あなたは問題解決者のための外部目標を作成しました。 問題とは関係なく「AI」と言うと、スタッフが任意の解決策に適した問題を見つけるため、ミスアライメントが発生します。」

アカデミックAIの研究は、科学の限界を押し上げることに焦点を当てています。 科学者は、動物や人間の認知、脳、行動を研究して、人工知能を作成するためのヒントを見つけます。 彼らはImageNet、COCO、GLUE、Winograd、ARC、ボードゲーム、ビデオゲームなどを使用しています ベンチマーク AIの進捗状況を測定します。 彼らは自分たちの発見が将来人類に役立つことを知っていますが、彼らの技術が今後数ヶ月または数年で商業化されるのか、それとも製品化されるのかについて心配していません。

応用AI一方、特定の問題を解決し、製品を市場に出荷することを目的としています。 適用されるAIシステムの開発者は、環境によって課せられるメモリと計算上の制約を満たす必要があります。 それらは規制に準拠し、安全性と堅牢性の基準を満たしている必要があります。 オーディエンス、利益、損失、顧客満足度、成長、スケーラビリティなどの観点から成功を測定します。実際、製品開発では、機械学習とディープラーニング（およびその他のAIテクノロジー）は、ユーザーが使用する多くのツールの1つになります。顧客の問題を解決します。

近年、特に営利団体や大手テクノロジー企業が AI研究で主導権を握った、研究とアプリケーションの境界線が曖昧になっています。 今日、Google、Facebook、Microsoft、Amazonなどの企業がAI研究に費やされる資金の多くを占めています。 その結果、彼らの商業的目標はAI研究の方向性に影響を与えます。

「何かではなく、すべてを解決したいという願望は、インサイダーのためのサミットであり、それが彼らが求める理由です。 認知的にもっともらしい解決策」とハイマンは書いています AIを行う。 「しかし、それは解決策がすべての問題のすべてのものであるとは限らないという事実を変えるものではなく、私たちがそれを好むかどうかにかかわらず、ビジネスもできません。 ビジネスは本質的に普遍的ではなく、「幅広い環境で」目標を達成できないことが多いため、事実上、普遍的なソリューションを必要とするビジネスはありません。

例として、2014年にGoogleが買収した英国を拠点とするAI研究所であるDeepMindがあります。DeepMindの使命は、安全な人工知能を作成することです。 同時に、それはする義務があります その所有者のために利益を上げる。

AGIの夢を追いかけるもう1つの研究所であるOpenAIについても同じことが言えます。 しかし、OpenAIは主にマイクロソフトから資金提供を受けているため、科学研究と技術開発のバランスをとる必要があります。 マイクロソフトの製品に統合することができます。

“境界 [between academia and business] 認識がますます難しくなり、経済的要因と動機、不誠実な行動、および相反する目標によって複雑になっています」とハイマン氏は述べています。 「これは、企業が研究を行って論文を発表し、従来の学術機関と同様に振る舞い、学術志向の専門家を引き付けるところです。 また、業界の役割を果たしながらその地位を維持している学者もいます。 学者は膨らんだ主張をし、AIの夏の間に現金を手に入れるのに問題なく解決するAIのみのビジネスを作成します。 企業は学術的支援を受けて大きな主張をしています。 これは、人的資源のパイプライン、一般的には企業の名声をサポートし、「乗数効果」に影響を与えます。」

科学者たちは、多くの問題の解決策が必ずしも人間レベルの知性を必要としないことを何度も発見しました。 研究者たちは、マスターできるAIシステムを作成することに成功しました チェス、行く、 プログラミングコンテスト、 と 科学試験 人間の推論プロセスを再現することなく。

これらの調査結果は、AIが人間の脳をシミュレートするべきか、それとも許容できる結果を生み出すことを目的とするべきかについて、しばしば議論を引き起こします。

「AIは人間と同じように問題を解決するわけではないので、この質問は適切です」とハイマン氏は述べています。 「人間の認識がなければ、これらの解決策は他の問題を解決しません。 私たちが「AI」と呼ぶものは狭い そして、彼らが解決しようとしていた問題だけを解決します。 つまり、ビジネスリーダーは依然として重要な問題を見つけ、適切な解決策を見つけるか、それらの問題を解決するための適切な解決策を設計する必要があります。」

ハイマンはまた、人間のように機能しないAIソリューションは独自の方法で失敗するだろうと警告しました 人間とは違う方法。 これは、安全性、セキュリティ、公平性、信頼性、およびその他の多くの社会的問題に重要な影響を及ぼします。

「それは必然的に、人間が簡単に解決できる単純な問題や、エラーのコストが高く、説明責任が必要な場合には、慎重に「AI」を使用する必要があることを意味します」とHeimann氏は述べています。 「繰り返しになりますが、これにより、解決したい問題の性質に戻ることができます。」

別の意味では、ほとんどのAI研究は認知的妥当性や生物学的妥当性についてほとんど関心がないため、AIが人間の脳をシミュレートする必要があるかどうかという問題には関連性がありません。

「ビジネス志向の人々が、人工ニューラルネットワークが「脳に触発されて…」または「大まかに模倣している」ことについてナンセンスを支持しているのをよく耳にします」と彼は言いました。 「人工ニューラルネットワークのニューロンの側面は、とにかくシリコンと生物学のすべての違いを無視する計算機能主義のための単なるウィンドウドレッシングです。 いくつかの反例を除いて、人工ニューラルネットワークの研究は依然として機能主義に焦点を当てており、ニューロンの妥当性の改善には関心がありません。 インサイダーが一般的に生物学的ニューラルネットワークと人工ニューラルネットワークの間のギャップを埋めることを気にしないのであれば、あなたもそうすべきではありません。」

の AIを行う、Heimannは、十分に複雑な問題を解決するために、機械学習などの高度なテクノロジーを使用する場合があると強調していますが、そのテクノロジーと呼ばれるものは、使用した理由よりも意味がありません。 ビジネスの存続は、ソリューションの名前、AIの哲学、またはインテリジェンスの定義に依存しません。

彼は次のように書いています。「AIが脳のシミュレーションに関するものかどうかを尋ねるよりも、「企業は人工ニューラルネットワークを使用する必要があるのか​​」と尋ねたほうがよいでしょう。 それが質問である場合、答えはノーです。 問題を特定する前に任意の解決策を使用する必要があるという推定は、解決策の推測です。 人工ニューラルネットワークは非常に人気があり、複雑な関数をデータに適合させることができるという狭義の意味でほぼ完璧ですが、データを有用な表現に圧縮することはできませんが、関数をデータに近似するだけでは十分ではないため、ビジネスの目標にはなりません。問題を解決し、問題を解決しない限り、ビジネスの目標にはなりません。」

製品や事業計画の開発に関しては、問題が最初に来て、技術がそれに続きます。 問題のコンテキストでは、テクノロジーを強調することが理にかなっている場合があります。 たとえば、「モバイルファースト」アプリケーションは、ユーザーがコンピューターの後ろに座っていないときに主に直面する問題に対処することを提案します。 「クラウドファースト」ソリューションは、ストレージと処理が主にクラウドで行われ、複数のデバイスで同じ情報を利用できるようにするか、エンドユーザーデバイスの計算リソースの過負荷を回避することを提案します。 （これらの2つの用語は、使いすぎた後も意味のない流行語になりました。企業がオンプレミスインストールからクラウドに、そしてWebからモバイルに移行していた時代に意味がありました。今日、すべてのアプリケーションが利用可能になると予想されています。モバイルで強力なクラウドインフラストラクチャを利用できます。）

しかし、「AIファースト」は、アプリケーションの問題とコンテキスト、およびアプリケーションが解決する問題について何と言っていますか？

「AIファーストは、撞着語とエゴトリップです。 必要な状況を理解する前に何かをすることはできません」とハイマンは言いました。 「AIファーストなどのAI戦略は、何を意味する可能性もあります。 インテリジェンスのように、すべきでないものすべてを含む場合、ビジネス戦略は広すぎます。 実際の問題や実際の顧客に言及するなど、必要なことを含めることができない場合、ビジネス戦略は狭すぎます。 循環戦略とは、ソリューションが目標を定義し、目標がそのソリューションを定義する戦略です。

「問題、顧客、市場固有の情報が不足している場合、チームは空白を埋めて、AIについて考えるときに考えていることすべてに取り組みます。 それでも、「AI」のような抽象的なソリューションの中に顧客を見つけることはまずありません。 したがって、人工知能はビジネスの目標にはなり得ません。そうなると、戦略はより複雑になり、不可能になります。」

この記事は元々BenDicksonによって書かれ、BenDicksonによって公開されました。 TechTalks、テクノロジーのトレンド、それが私たちの生活やビジネスのやり方にどのように影響するか、そしてそれらが解決する問題を調査する出版物。 しかし、テクノロジーの邪悪な側面、新しいテクノロジーのより暗い意味、そして私たちが注意する必要があることについても説明します。 元の記事を読むことができます ここ。