物議を醸す人々をグーグルするとき、言語は重要です

Googleのような検索エンジンの便利な機能の1つは、ユーザーが質問やクエリに対する迅速な回答を見つけることができるオートコンプリート機能です。 ただし、オートコンプリート検索機能は、多くの場合、提供されるため、広く批判されているあいまいなアルゴリズムに基づいています。 偏った人種差別的な結果。

これらのアルゴリズムのあいまいさは、私たちのほとんどがそれらについてほとんど知らないという事実に起因しています。そのため、一部の人はそれらを「ブラックボックス。」 検索エンジンとソーシャルメディアプラットフォームは、それらが採用するアルゴリズムの性質に関する意味のある洞察や詳細を提供しません。 ユーザーとして、Googleには、検索結果の生成に使用される基準と、Googleの検索エンジンアルゴリズムによるユーザーのラベル付け方法など、個々のユーザー向けにそれらがどのようにカスタマイズされているかを知る権利があります。

そのために、リバースエンジニアリングプロセスを使用して、特定のプラットフォームで複数のオンライン検索を実行し、実施されているルールをよりよく理解することができます。 例えば、 ハッシュタグ#fentanylは現在Twitterで検索して使用できますが、Instagramでは使用できません。、各プラットフォームで使用可能なルールの種類を示します。

自動化情報

Googleを使用して有名人を検索する場合、Googleによって自動的に生成される人物に関連付けられた簡単な字幕とサムネイル画像がよくあります。

私たちの最近の研究はどのように グーグルの検索エンジンは、中立的で時にはポジティブな字幕を提供することにより、陰謀論者、憎悪者、その他の物議を醸す人々を正常化します。 仮想プライベートネットワーク（VPN）を使用して場所を隠し、閲覧履歴を非表示にして、検索結果が地理的な場所や検索履歴に基づいていないことを確認しました。

たとえば、アレックスジョーンズは次のように述べています。現代アメリカで最も多作な陰謀理論家、」は「アメリカのラジオホスト」として定義されていますが、David Ickeは、 陰謀を広めることでも知られている人は、「元サッカー選手」と呼ばれています。 これらの用語は、Googleによってこれらの個人の特徴を定義するものと見なされており、一般の人々を誤解させる可能性があります。

動的記述子

2021年秋に調査を行ってから間もなく、検索結果が変わったようです。

最初に特定した字幕の一部が、変更、削除、または置換されていることがわかりました。 例えば、 ノルウェーのテロリスト、アンネシュ・ベーリング 「有罪判決を受けた犯罪者」というサブタイトルが付けられましたが、現在、彼に関連付けられているラベルはありません。

信仰ゴールディ、 ヘイトスピーチを広めたためにFacebookから追放された極右のカナダの白人ナショナリスト、字幕がありませんでした。 しかし現在、彼女の新しいGoogle字幕は「カナダのコメンテーター」です。

コメンテーターが何を示唆しているのかを示すものはありません。 同じ観察がに関連して見られます アメリカの白人至上主義者リチャード・B・スペンサー。 スペンサーは数ヶ月前にはレーベルを持っていませんでしたが、今では「アメリカの編集者」であり、確かに彼の遺産を特徴づけるものではありません。

もう1つの変更は、ローレンサザーンに関連しています。 カナダの極右メンバー、「カナダの活動家」と呼ばれた、やや前向きな言葉ですが、現在は「カナダの作家」と呼ばれています。

一見ランダムな字幕の変更は、アルゴリズムのブラックボックスのプログラミングが静的ではなく、まだ私たちに知られていないいくつかの指標に基づいて変更されていることを示しています。

アラビア語と英語で検索

私たちの調査から得られた2つ目の重要な新しい発見は、選択した言語検索に基づく字幕結果の違いに関連しています。 私はアラビア語を話し、読んでいるので、言語設定を変更し、同じ数字を検索して、アラビア語でどのように記述されているかを理解しました。

驚いたことに、私は英語とアラビア語の間にいくつかの大きな違いを見つけました。 繰り返しになりますが、私が検索したいくつかの図を説明することに否定的なことは何もありませんでした。 アレックスジョーンズは「トークショーのテレビ司会者」になり、ローレンサザーンは誤って「政治家」と呼ばれます。

そして、アラビア語の検索からはさらに多くのことがあります。フェイスゴールディは「専門家」になり、デイビッドアイクは「元サッカー選手」から「作家」に、ジェイクアンジェリは「Qアノンシャーマン」はアラビア語で「俳優」になり、英語で「アメリカの活動家」になります。

リチャード・B・スペンサーが「出版社」になり、ダン・ボンジーノが YouTubeから永久に禁止された陰謀家、英語の「アメリカのラジオホスト」からアラビア語の「政治家」に変身します。 興味深いことに、 極右の人物、トミー・ロビンソン、 は英語では「イギリス英語の政治活動家」と表現されていますが、アラビア語には字幕がありません。

誤解を招くラベル

これらの言語の違いから推測できるのは、これらの記述子は、誤解を招く可能性のある1つまたはいくつかの単語に説明を凝縮するため、不十分であるということです。

アルゴリズムがどのように機能するかを理解することは重要です。特に、誤った情報や不信感が高まっており、陰謀説が急速に広まっているためです。 また、Googleやその他の検索エンジンがどのように機能するかについて、より多くの洞察が必要です。これらの企業に、偏った曖昧なアルゴリズムの責任を負わせることが重要です。

この記事 アーメドアルラウィ、助教、ニュース、ソーシャルメディア、パブリックコミュニケーション、 サイモンフレイザー大学、から再発行されます 会話 クリエイティブコモンズライセンスの下で。 読む 原著。