Facebookの問題は良いか悪いかという話ではなく、もっと大きな問題だ

Facebookが注目を集めています。同社の元従業員であるフランシス・ハウゲン氏が行った文書の漏洩は、ジャーナリスト、弁護士、そして一般の人々から激しい批判の嵐を巻き起こした。同社は人々を犠牲にして経済的利益を優先しているとハウゲン氏は語った。

今週月曜日、これらの文書、いわゆる「フェイスブック文書」に独占的にアクセスできた十数のアメリカのメディアが、ソーシャルネットワークの問題を軽減しようとするスタッフの努力が、悪影響を与えるという理由でどれだけ無視されているかを示す多数の記事を掲載した。あなたの広告ビジネス。ハウゲン氏は、フェイスブックは利益と成長を妨げるため、ソーシャルネットワークが生み出すとされる損害を止めるつもりはないと証言した。

創業者のマーク・ザッカーバーグ氏は今週月曜日の株主との電話会談で、影響を受け緊張した面持ちでの告発に答えた。そして、「フェイスブック内で出回っているすべての文書の一部だけを選択して、同社に関する誤ったイメージを示すのは組織的な取り組みである」と主張して自身を弁護した。また、10 月 28 日に予定されているイベントも検討されており、あらゆる噂の下で、会社の将来と方向転換について話し合う予定です。

社員とリーダーの意見の衝突

この調整された報道から明らかな考えは、従業員と会社の上級幹部の間には大きな距離があるということです。会社は、拡大している問題、または引き起こしている問題を過小評価するか完全に無視します。

Facebook がいかにして過激主義や誤った情報の代弁者になってしまうかについて従業員が警鐘を鳴らしている例は数多くあります。暴力を扇動し、政治的議論を過激化し二極化させます。従業員は自分たちのプラットフォームが社会にとって有害になることを認識し、リーダーに対してさらなる対応を懇願します。しかし、ハウゲンによれば、これらはそれらを無視します。

フェイスブック製品は「子供たちに害を及ぼし、分断を煽り、民主主義を弱体化させている」と元従業員は語った。 「この事態を先取りしたいなら、同社は自らを『道徳的破産』に陥っていると宣言すべきだ。」

最高責任者はザッカーバーグ氏で、流出文書では世界中の30億人以上にサービスを提供する上場テクノロジー企業の絶対主義君主として描かれている。彼は会社の議決権株の過半数を所有し、取締役会を管理しており、 「世界を繋ぐ」という彼の野心的なビジョンに何の犠牲も払わないように見える幹部たちに囲まれている。

Facebook: 悪の発言者?

国会議事堂への襲撃は、フェイスブックが主導的な役割を果たしたアメリカ民主主義の転換点となった。ソーシャルネットワーク内での「 Stop the Steal 」グループの台頭が、ドナルド・トランプ前大統領によって奨励されたこの恥ずかしい事件を引き起こした。

人々があらゆる種類のイベントを結び付けたり、主催したりするために Facebook を使用するのは明らかだと思う人もいるかもしれません。そして彼らの目的はソーシャルネットワーク自体にはほとんど依存しません。人々やコミュニティが過激な目的でコンテンツを共有したり、暴力や誤った情報を扇動したりするコンテンツを共有するのは通常のことです。これは本当です。しかし、流出した文書によると、 Facebook の役割は単純な受動的な普及メディアではありません。しかし憎しみの触媒。ソーシャルメディアが台頭する前は、このようなメッセージを迅速かつ効果的に広めることは困難でした。また、同社はアルゴリズムを通じてグループがより多くのユーザーを引き付けるのを支援しているためです。

一例を挙げると十分です。Facebook は、「いいね！」を、愛、笑い、怒りなどの人間の感覚に関連した反応に置き換えました。正確に言えば、怒りの感情がタグ付けされた投稿には、誤った情報などの基準に反するコンテンツが含まれる可能性が最も高かったのです。そして同社は、反応としての「いいね！」のみを含む出版物に損害を与えるこの種のコンテンツを表示することを優先しています。つまり、怒りや憤慨を持ち、通常はコミュニティに有害なコンテンツは、「非表示」にされないだけでなく、アプリケーションでの使用時間やインタラクションが増加するため、ユーザーのフィード内で優先されます。

宗教としての指標

Facebook と Instagram では、アルゴリズムが投稿に与える内部価値は、ユーザーが投稿に反応する確率によって決まります。その確率が高いほど、フィードに表示される可能性が高くなります。どのコンテンツが共有される可能性が最も高いでしょうか?苦情、誤った情報、怒り、暴力の呼びかけ…

2018年、ザッカーバーグ氏自身は、インタラクションが最も多いコンテンツは常に会社が許可していないもののラインに最も近いものであると指摘した。

大西洋ジャーナリストのエイドリアン・ラフランスは、シリコンバレーの基準から見ても極端な、指標主導の企業文化を説明する元従業員数名に話を聞いた。

同氏は記事の中で、「Facebookの従業員は、会社の成長目標に対する個人の貢献を定量的に証明するという大きなプレッシャーにさらされている」と述べている。 「新しい製品や機能は、それらを提案する従業員がどのようにエンゲージメントを促進するかを実証しない限り承認されません。」

これにより、プラットフォームが社会にもたらす可能性のある損害を軽減する責任を負うインテグリティ チームと、製品およびエンジニアリング チームが直接対立する内部衝突が生じました。

Facebookのアルゴリズムの問​​題

Facebook文書は、同社の主な優先事項が成長し、アルゴリズムを通じて可能な限りあらゆるペニーを絞り出すことであることを示唆している。さらに、すべてのコンテンツを管理するにはモデレーションの取り組みが不十分です。そして多くの場合、経済的利益と直接衝突するため、それらは実行されません。

アルゴリズムが有害な表現を広める傾向があるのであれば、それを削除して、有害な可能性のある特定のコンテンツを優先しないように投稿を時系列で表示してはどうでしょうか?ユーザーがソーシャル ネットワークに費やす時間に直接影響するため、これは行われないと考える人もいるかもしれません。しかし実際には、Facebookはすでにそれを試みており、実験は失敗しました。

2018年、ソーシャルネットワークユーザーの0.5％のニュースフィードで特定のコンテンツを優先するアルゴリズムがオフになった。実験の結果、表示されたコンテンツとのインタラクションは大幅に減少したと結論付けられました。そして、グループの内容がさらに重要な役割を担うようになったということです。驚くべきことに、ユーザーは興味のあるものを見つけるためにより多くの時間を費やす必要があり、その結果、より多くの広告が表示されるため、Facebook はこの変更の恩恵を受けました。

しかし、研究者らによると、アルゴリズムを「オフ」にすると、測定可能なすべての領域でエクスペリエンスが悪化しました。

解決策は言うほど単純ではない

ジャーナリストはフェイスブックが失敗した具体的な事例を説明することに重点を置いている。そして、正しいことを行うよりも成長を優先する危険な文化について説明されています。それは合法であり、報道機関がしなければならない仕事です。しかし、すべての問題は悪人が経営する邪悪な会社の悪行の結果であると主張するのは、愚かとしか言いようがありません。これは非常に危険な単純化です。これは別のものです。コンテンツのモデレートは非常に困難ですが、事実上全員が Facebook を使用している場合はさらに困難になります。

このような記事では、検閲が間接的に推奨されています。もっともっと上手に加減するべきだ、と彼らは言います。そして、いつか Facebook が法律に基づいて、私たちが気に入らないコンテンツを非表示にすることで、物事が正しく行われることを期待してください。しかし、物事をうまくやるとはどういう意味でしょうか？なぜなら、規制とアルゴリズムに決定を委ねると、誤った情報の取り締まりと独立した意見の検閲との間の境界線は非常に薄い可能性があるからです。

Facebook では誰が誰を管理しますか?

さらに、富を生み出すことを主な目的とする企業が自社の事業を攻撃することは期待できません。そしてその一方で、ザッカーバーグ氏が興味深いことに尋ねているように、法律が Google と Facebook だけが許容できる節度基準を課すことは期待できません。株主との電話会議で同氏は、「業界の他のすべての企業が業績を上げ、当社が達成した成果を達成することを望むべきだ」と述べた。この言葉は危険です。 Facebookだけが得たと信じている成果を追求するために、Facebookだけが支払える投資を義務付ける法律の制定を求めている。

ソーシャルネットワークがどのように機能するべきかを本当に政府に決めてもらいたいのでしょうか? Facebook が私たちの社会に問題を引き起こしているからです。しかし、一部の人が要求する治療法は、私たちが治したい、治さなければならない病気よりも悪いものである可能性があります。

この対立はザッカーバーグの過度の野心に起因しているだけではない。特にインドのような発展途上国では、指標への執着や、コンテンツのモデレーションに割り当てられる取り組みが不十分であることもありません。それは人間と社会の仕組みにもその起源があります。今や、近所の狂った人が世界中の狂った人になり、企業が彼ら全員を黙らせることを期待することはできません。違法なものは黙らなければなりません、そしてそれは法律にのみ対応します。あるいは、少なくともそうすべきです。