Facebook のバグにより、数か月間ユーザーが不適切なコンテンツにさらされることになりました

Facebookでのコンテンツのモデレーションは常にデリケートな話題であり、ここ数時間で新たな論争が巻き起こっています。 The Vergeによると、ソーシャルネットワークは障害に見舞われ、フェイクニュースや暴力的なコンテンツなど、通常の状況ではモデレーターのフィルターを通過しない多くの出版物が通常に公開されるようになりました。

問題の規模は、発見から解決までに 6 か月かかったほどでした。前述のメディアによると、メタのエンジニアは10月に問題を発見したが、修復できたのは3月11日だったという。

Facebook の内部調査によると、このバグはメインフィード内の投稿をランク付けするシステムに影響を与えました。このバグにより、モデレーターがすでに不適切としてフラグを立てた投稿のプロモーションが削除される代わりに、通常どおり表示されるようになりました。これらの投稿の閲覧数は世界中で 30% 増加しました。

しかし、本当に驚くべきことは、この問題が発見されるまで、長い間 Facebook のシステムに存在していたであろうということです。このバグは 2019 年に遡るようですが、目に見える後退を引き起こすまで開発者は気付かなかったのです。

レポートの別の情報は、不適切なコンテンツの閲覧の増加がフェイクニュースに限定されなかったことを示しています。また、生々しい暴力やヌードを含む写真やビデオを検出する技術にも影響を与えました。そして、ウクライナ侵攻後のロシアのメディア出版物の遮断が本来よりも効果的でなくなった。

Facebook のコンテンツモデレーションはバグの影響を受けました

The Vergeのレポートは、Facebookの広報担当者の話として、障害を認め、すでに修復されたと保証したと伝えている。問題の広報担当者によると、このバグはマーク・ザッカーバーグが設立したソーシャルネットワークが管理する統計に「重大かつ長期的な」影響を与えていないという。

しかし、この不便さにより、 Facebookが不適切と判断した投稿の可視性を低下させるために使用する方法やシステムに関する議論が再燃している。しばらくの間、このプラットフォームは誤った情報と戦うためのテクノロジーをますます搭載していると自慢してきました。しかし、近年、政治（ トランプ大統領や米国選挙など）、健康（ 新型コロナウイルス感染症）に関連したフェイクニュースや悪意のあるコンテンツを扱う際に見せた重大な失敗により、強い批判の対象にもなっている。 および反ワクチン）、およびFacebook Papersで明らかになった他の多くのデリケートなトピック。

また、ソーシャル ネットワーク上で手動で実行されるコンテンツのモデレーションは、外部委託された作業者によって実行されることも忘れてはなりません。近年、 労働条件の改善を叫んでいるのと同じ人たちだ。そして、メタ社がこれらのタスクについて人工知能にさらに傾倒するというコミットメントにもかかわらず、これらの苦情もあまり成果を上げていないようだ。

確かに、私たちがこれらの行で扱っている事件は、過失または悪意のあるものとして分類されるには値しないように思われます。結局のところ、サービスに影響を与えるバグに一度も対処したことがない企業は存在しません。しかし、Facebook が管理する豊富な情報と技術的および経済的リソースを活用すれば、この種の失敗に迅速に対処できるよう、他の誰よりも優れた準備を整えておく必要があることも現実です。