行ったことのない場所を検索するとき、地域の多くの情報が詰まった Google のクチコミを使えば、お店やレストランなど、あなたにぴったりの場所やビジネスの情報を見つけることができます。
日々、世界中のユーザーから数百万件にのぼるクチコミが投稿されており、Google は情報の有益性と正確性を保つため 24 時間体制でサポートしています。不適切なコンテンツを防ぐための作業の多くはあまり知られていませんが、今回はユーザーがクチコミを投稿した時の舞台裏を紹介します。
ポリシーの作成と実施
クチコミが実際の体験や来店に基づいていることを確認し、関係性のないコメントや不快なコメントを Google ビジネス プロフィールから除外するために、厳格なコンテンツポリシーを作成しています。
世界が進歩するにつれて、Google のポリシーと保護も進化しています。これにより、不正行為の対象となる可能性がある場合に、場所やビジネスをポリシーに違反するコンテンツや無関係なコンテンツから保護することができます。最近の例では、世界各国で政府や企業が特定の場所の利用に新型コロナウイルス感染症のワクチン接種証明の取得を義務付けたことを受け、保健と安全性のポリシーやワクチン接種義務の遵守について企業を批判するクチコミが投稿された際、それらのクチコミを削除するため、Google では追加の保護を導入しました。
ポリシーが作成されると、それを元にオペレーターと機械学習アルゴリズムのトレーニング資料が作られます。これは、チームがポリシー違反コンテンツを捉え、最終的に Google におけるクチコミの有用性と信頼性を保つのに役立ちます。
機械学習を活用したクチコミの管理
クチコミが投稿されると、クチコミがポリシーに違反していないことを確認するために、直ちに管理システムに送られます。Google の管理システムが建物への不正侵入を防ぐ警備員のようであるのに対し、Google のチームは、不適切なコンテンツが Google に投稿されるのを防いでいます。
日々投稿されるクチコミの量を考慮すると、投稿されたコンテンツを管理するためには、人間による微妙なニュアンスの理解と機械による大量の情報の処理の両方が必要であることがわかりました。それぞれは異なる強みを持つため、Google はその両方に多大な投資を継続しています。
パターンの識別に優れる機械は、最初の防衛線の役目を果たします。これらのパターンは、機械によるコンテンツの正当性の判断に役立てられることが多く、虚偽コンテンツや不正コンテンツの大部分は、実際にユーザーが目にする前に削除されます。
Google の機械は、次のような複数の角度からクチコミを調べます：
-
クチコミの内容：不快なコンテンツやトピックに関係のないコンテンツが含まれているかどうか。
-
クチコミを投稿したアカウント：Google アカウントに疑わしいアクティビティの履歴があるかどうか。
-
場所自体：場所やビジネスに対して、典型的でないアクティビティがあったかどうか。たとえば、最近ニュースやソーシャルメディアで取り上げられたなどといった、不正なクチコミが投稿される動機付けがあったかどうか。
許容できるコンテンツとポリシーに違反するコンテンツの違いについて機械をトレーニングするには、微妙なバランス調整が求められます。たとえば、「ゲイ」は蔑称的な用語として使用されることがあり、これは Google のクチコミでは許容されません。ただし、この表現がヘイトスピーチでのみ使用されるという前提で機械学習モデルをトレーニングしてしまうと、同性愛者のビジネスオーナーや LGBTQ+ のセーフスペースに関するクチコミが誤って削除されてしまう可能性があります。Google では、人間のオペレーターが定期的に品質テストを実施し、機械学習モデルからバイアスを取り除くために追加のトレーニングを行っています。特定の単語やフレーズの使用方法についてモデルを徹底的にトレーニングすることで、ポリシーに違反するコンテンツを捉える能力を向上させ、正当なクチコミの公開を誤ってブロックする可能性を減らしています。
システムによってポリシー違反が検出されない場合、クチコミの投稿は数秒以内に完了します。とはいえ、クチコミが公開された後でも、Google の仕事は終わりません。Google のシステムは、提供されたコンテンツの分析を継続して、疑わしいパターンを監視します。これらのパターンは、ビジネス プロフィールの同じクラスターにクチコミを残す特定のグループから、短期間に極端に多くの1つ星または5つ星評価を得るビジネスや場所まで、多岐に渡ります。
クチコミの信憑性と信頼性の維持
ユーザーによる投稿を受け入れている他のプラットフォームと同様に、詐欺や不正使用がマップに表示されないようにする取り組みにも注意を払う必要があります。そうした取り組みの一環として、Google マップを使用しているユーザーは、ポリシーに違反すると思われるクチコミに対して簡単にフラグを立てることができます。Google でポリシーに違反するクチコミを見つけた場合は、Google チームに報告してください。ビジネスがプロフィールに関するクチコミを報告する場合はこちら、ユーザーが報告する場合はこちらをご利用ください。
Google のオペレーターチームは、24 時間体制でフラグが立てられたコンテンツを確認しています。ポリシーに違反するクチコミが見つかった場合は Google から削除し、場合によってはユーザーアカウントの停止や法的措置などの対応を取ります。
Google のチームは、フラグが立てられたコンテンツを確認するだけでなく、潜在的な悪用リスクを積極的に特定し、不正行為が行われる可能性を大幅に減らしています。たとえば選挙など、多くの注目を集めるイベントが予定されている場合、イベントに関連する場所や、ユーザーがマップで検索する可能性のあるその他の近隣のビジネスに対し、高度な保護を適用します。そして、信憑性と信頼性が担保されたクチコミのみを公開するというミッションに従い、不正行為のリスクがなくなるまで、これらの場所やビジネスの監視を継続します。投稿されたコンテンツの潜在的な悪用方法の分析・理解に向けた投資は、悪意を持ったユーザーに対して先手を打つために重要です。
毎月 10 億人以上のユーザーが、道案内や行き先の探索のために Google マップを利用しています。Google は、ユーザーが目にする情報、特にクチコミは、すべてのユーザーにとって信頼できるものであるべきだと考えています。Google は常にシステムを改善し、マップから不正なクチコミを含む悪用をなくすために努力を続けています。この領域における Google の取り組みは終わることがありません。
Posted by Ian Leader, Product Lead, Google マップ