2013年以降、オランダ政府はアルゴリズムを使用して25,000人の親の生活に大混乱をもたらしました。 このソフトウェアは、どの人々が育児給付詐欺を犯す可能性が最も高いかを予測することを目的としていましたが、政府は家族に罰則を科し、何年もの手当を返済するよう要求する前に証拠を待ちませんでした。 家族は、低所得や二重国籍などの「リスク要因」に基づいてフラグが立てられました。 その結果、数万人が不必要に貧困に陥り、1,000人以上の子供たちが里親に預けられました。 ニューヨーク市からカリフォルニアおよび欧州連合に至るまで、多くの人工知能（AI）規制が進行中です。 その目的は、公平性、説明責任、透明性を促進し、オランダの育児給付スキャンダルと同様の悲劇を回避することです。 しかし、これらはAIを公平にするのに十分ではありません。 社会的不平等を悪化させないように、AIを構築するための実践的なノウハウが必要です。 私の見解では、それは社会科学者、影響を受けたコミュニティ、開発者が協力するための明確な方法を設定することを意味します。 現在、AIを設計する開発者は、何がうまくいかないかを予測できる社会科学者とは異なる領域で働いています。 不平等とテクノロジーに焦点を当てている社会学者として、私は技術者や仲間の社会科学者と、問題の報告を超えて生産的な会話をすることはめったにありません。 会議の議事録を見ると、同じことがわかります。社会的ニーズとエンジニアリングの革新を統合するプロジェクトはほとんどありません。 実りあるコラボレーションを促進するには、マンデートとアプローチをより効果的に設計する必要があります。 技術者、社会科学者、影響を受けるコミュニティが一緒に適用して、社会を歪める可能性が低いAIアプリケーションを生み出すことができる3つの原則を次に示します。 生きた経験を含める。 AIシステムへの幅広い参加を求める漠然とした呼びかけは、要点を見逃しています。 ズームを使用したり、reCAPTCHAボックスをクリックしたりして、オンラインでやり取りするほぼすべての人がAIトレーニングデータを利用しています。 目標は、最も関連性の高い参加者から意見を聞くことです。 そうでなければ、私たちは参加を洗う危険を冒します：不平等と排除を永続させる表面的な関与。 一例として、EU AIアライアンスがあります。これは、誰でも参加できるオンラインフォーラムであり、欧州委員会が任命したAIに関する専門家グループに民主的なフィードバックを提供することを目的としています。 私が2018年に参加したとき、それはEUの人口、AI業界、または関連する専門家を代表するものではなく、意見を交換するほとんどの男性のモデレートされていないエコーチェンバーでした。 対照的に、ニューヨーク市のコロンビア大学のソーシャルワーク研究者Desmond Pattonは、イリノイ州シカゴでギャングの経験を持つ黒人の専門知識に依存するギャング暴力に関連するTwitter投稿を特定するのに役立つ機械学習アルゴリズムを構築しました。 これらの専門家は、アルゴリズムの基礎となるメモを確認して修正します。 […]
The post AIを公平にするために、私たちが学ばなければならないことは次のとおりです appeared first on Gamingsym Japan.
