流出した文書でFacebookのコンテンツモデレーションエラーが明らかになった

もちろん、 Facebook はもう1 つのスキャンダルなしで、最も物議を醸した 1 年を終えることはできませんでした。

ニューヨーク・タイムズ( NYT ) は、プラットフォーム上のコンテンツ管理に関する1,400 ページの内部規則へのアクセスを入手し、マーク・ザッカーバーグの会社の誤りが再び明らかになりました。

2018年の新年の抱負の一環として、ソーシャルネットワークのCEO兼創設者である同氏は昨年1月、ケンブリッジ・アナリティカのようなスキャンダルを二度と許さないよう懸命に取り組むと約束した。しかし、彼は目標を達成するには遠く及ばなかった。

テクノロジーの最前線にいることを誇る同社の20,000 人のモデレーターは、世界中の100 以上の言語で22 億人を超えるソーシャル ネットワーク ユーザーに Facebook への投稿が許可されている内容と禁止されている内容について PowerPoint プレゼンテーションに依存しています。 。

今週木曜日に発表されたNYTレポートで取り上げられた文書によると、数十人の従業員が月に2回会合を持ち、コンテンツポリシーを検討している。その後、これらの会議で合意された広範なガイドラインが、さまざまな国の7,500 人を超えるモデレーターに送信されます。

ガイドラインを設定するために集まったフェイスブックの従業員たちは、そのほとんどが若いエンジニアと弁護士であり、非常に複雑な問題を単純な「イエスかノー」のルールにまとめようとしている。

本文が強調しているもう一つの非常に重要な点は、これらの「広範な規則」により、メンローパーク社は「公に認められている、あるいは会社自体が認めているものよりもはるかに強力な世界的議論の裁定者」となるということである。

さらに、モデレーターの作業は外部委託されており、モデレーターの一部はGoogle 翻訳を利用して、何がヘイトスピーチとみなされるかどうかを瞬時に判断していると彼は言います。

多くの場合、これらの従業員は暴力を誘発する可能性のあるコンテンツを投稿するよう求められていますが、これはこの点に関するルールが明確ではなく、「必ずしも意味があるわけではない」ためです。

調査を主導したメディアライターのマックス・フィッシャー氏は、報告書の公開後、自身のツイッターアカウントで、コンテンツモデレーションの取り組みにおけるフェイスブックの最大の間違い、すなわち、過激派グループがミャンマーのプラットフォーム上で公開を続けられるようにした管理上のミス（ロヒンギャ人口に対する）について要約した。 ]、そしてバルカン半島における敵意とナショナリズムの高まりを食い止めるために「整理されていないパワーポイントプレゼンテーション」で書かれた時代遅れのガイドラインも同様です。

報告書が強調しているもう一つの最も懸念すべき側面は、さまざまなモデレーション技術、コンテンツの禁止や削除を実験することでFacebookの政治力が増大していることだ。 「自ら作り出した問題をコントロールしようとして、彼は従業員さえも不快にさせる速さで、おそらく世界で最も強力な政治規制当局の一人に静かに就任した」とNYTは指摘する。

驚く人はほとんどいないが、ドイツのように同社が政府から罰金を科されたり規制されたりする可能性が高い地域では、コンテンツの管理もミャンマーやインドなどの他国よりもはるかに細心の注意を払っているとメディアは推測している。

つまり、Facebook上でのコンテンツモデレーションは、再びザッカーバーグ氏の新年の抱負の1つとなる必要があるだろう。