小児性愛者、モモ、そして「キャプテン・マーベル」：YouTube の成長には問題がある

1 年ちょっと前、ソーシャル ネットワークやその他のコンテンツ プラットフォームの使用に対する批判の矛先はFacebook から YouTube に移りました。マーク・ザッカーバーグの会社はフェイクニュースを防ぐためにアルゴリズムの変更を発表しており、ケンブリッジ・アナリティカのスキャンダルはまだ起きていなかった。当時、 YouTube はデマを広める者、陰謀論を広める者として注目を集めていました。

私たちがHipertextualでテストしたいくつかの実験によると、ビデオを推奨するそのアルゴリズムにより、太陽系に関する有益なビデオを閲覧すると、フラット アースリングに関するビデオが簡単に表示され、特にスペインではそれが終わりのない陰謀の温床となっていました。国中の注目を集めた事件で殺害された未成年のガブリエル少年の死について。

そのときのプラットフォームの奇妙な対応は、協力百科事典に事前に通知することもなく、疑わしいコンテンツにWikipedia の参照ページにつながるリンクを挿入するというものだった。 Cambridge Analytica の発生直後に、Google のプラットフォームへの焦点が薄れ、Facebook に再び焦点が当てられるようになりました。しかし、1 年後、YouTube の問題は異常な方法で再び拡大しており、その管理手段の力にもかかわらず、問題が解決されていないことが示されました。

YouTube、 『キャプテン・マーベル』論争を受けて「注目ニュース」セクションをテスト

YouTube に関連した最近の論争は、 『キャプテン・マーベル』のプレミア上映に関係しています。国際女性デーの真っ只中に劇場に登場したUCM の新しいヒロインは、最も反寛容で性差別的な大衆の反応を引き起こした。ロッテン・トマトでのこの映画のレビューには、この映画が「フェミナチ」の主演であるというレッテルが貼られたコメントがつき、もちろん YouTube にも、この種のコンテンツがあふれていた。これは、北米の最も急進的な右派、そしてその他の右派が生み出したものである。世界はブリー・ラーソンと彼女の新しいキャラクターに対するキャンペーンを開始しました。

フィルターなしで1週間にわたって「ヘイト」を続けた後、 YouTubeはそれを打ち切るために手綱を取ったが、今回はそのアルゴリズムを信頼せず、メディアのレビューのみを表示する新しい「注目ニュース」セクションを挿入した。 The Vergeが最初に発表したこの新機能は、すでにスペインでは導入されているが、これまで見てきたように、キャプテン・マーベルの検索でのみ表示され、たとえばヨーロッパなどのコンテンツの検索が優先されている。報道機関。

私たちは、Brexit やAlita: Battle Angel などの他の映画のような他のホットなトピックでテストを行いましたが、現時点では YouTube はここにそれを埋め込んでいません。これが証拠であるかどうかはわかりませんし、プラットフォームはコメントしていませんが、論理的には、プラットフォームが選択した「信頼できる」メディアのコンテンツと、それほど信頼できないと思われるビデオとの間に線を引くという明確なコミットメントのように見えます。問題は、これが現在このセクションに登場していない YouTuber やその他のクリエイターにどのような影響を与えるか、あるいは、ある時点で登場する場合、登場する人とそうでない人がどのように選ばれるかということです。

これに加えて、 Buzzfeedによると、YouTubeは今度はインドでのサービスで、デマやフェイクニュースの可能性をユーザーに警告する小さなテキストバナーを表示するテストを行う予定で、「間違い’。動画プラットフォームにとって問題だらけの1カ月を経て、新たな措置が講じられた。

小児性愛者のリングスキャンダルからモモのデマまで

なぜなら、ご存知のとおり、ここ数週間、YouTube を巡る論争は遠くから起こっているからです。これらのスキャンダルの中で最初で最も衝撃的だったのは、2月中旬に小児性愛者ユーザーのネットワークが発見されたことで、未成年者のビデオのコメントには、その堕落的な目的に使用される可能性のあるシーンの断片が引用されていた。文字通り、小児性愛者のネットワークが形成され、わずか数クリックで彼らが探しているものを見つけることができ、しばしば推奨アルゴリズムの助けも借りて、彼らが探していたものと同じようなコンテンツをどんどん表示していました。

YouTube のアルゴリズムは小児性愛者の味方です

YouTube の最初の対応は、他のユーザーからの苦情とそのアルゴリズムによって検出された数百万のコメントのおかげで、いくつかのチャンネルをキャンセルすることでしたが、すぐに新たな、さらにねじれたハンディキャップが現れました。一部の「荒らし」は、この苦情の波を利用して、ルールに違反しておらずネットワーク外にあるチャンネルを報告しました。プラットフォームの AI はどの告発が真実であるかを区別できるとされていましたが、YouTube は直後に、ほとんどの子供向けビデオへのコメントを無効にするという制限をさらに強化する決定を下しました。その過程で、ネスレ、エピック ゲームズ（フォートナイト スタジオ）、ディズニーなどのいくつかの広告主は、報告された動画に広告が自動的に挿入されることに気づき、広告を中止しました。

この論争が決着しないまま、プラットフォーム自体が止められなかったと非難されているもの、つまりデマの被害に見舞われた直後。数年前に登場した、醜い女性を映した「不気味なパスタ」であるモモの画像が、自殺を教唆しているとされる YouTube Kids の動画にランダムに忍び込んでいるという噂が Facebook から浮上した。もちろん、それはデマでした。 Momo は実際には、2016 年から WhatsApp で出回っていた日本人アーティストによる彫刻の写真で、現在は YouTube のデマとして生まれ変わりました。

YouTube Kidsへの新たな打撃：子供たちを自殺に誘う動画が発見される

しかし、このデマは現実の事実を利用したものでした。幼児向けのビデオに、子供たちに自殺の方法を説明する俳優の映像が忍び込まれていました。 YouTube は謝罪し、管理を強化し、最終的に Momo に関してはキッズエリアでのサムネイルを禁止し、このテーマについて話したすべての動画を、デマであると説明した動画も含めて収益化を停止しました。

YouTube Kids の CEO である Susan Wojcicki 氏は、YouTube Kids にとって最も重要なのは子供たちの安全であると明言したにもかかわらず、YouTube Kids コンテンツの扱いと管理が再び疑問視されました。このようなことが起きたのはこれが初めてではなく、 2017年には特に暴力的な内容を含むものの、ペッパピッグやパウ・パトロールなどの子供向けキャラクターを映したいくつかの動画も配信され、すべての規制をパスした。それ以来、YouTube に対し、ペアレンタルコントロールに加えて、子供向けエリアにアップロードされた各動画に対する人間によるレビューを検討するよう求める声が数多く寄せられました。今日存在するコンテンツの流れを考えれば理解できない仕事であり、YouTube はそれを検討することに興味がないようだ。

クリエイターもアルゴリズムの影響を受ける

また、多くの YouTuber やクリエイターが、人工知能によって最初に適用されたルールでは、有害ではないコンテンツが有害であると認識されることが多いと苦情を申し立てたことを受け、YouTube はチャンネル停止ポリシーを明確にしました。

例えば、スペインのユーチューバー、ロシオ・ビダル（シュレーディンガーの猫）は、大量のホメオパシー錠剤の摂取方法を実験したが、何の効果も引き起こさなかったという彼女のビデオは、「次のような内容だった」と考えたため削除されたと報告した。暴力行為を扇動したり、危険な行為をしたりする。」 YouTubeのAIはまたしても、ホメオパシーのデマを証明するためにフォロワーの前で数十錠の薬を飲むことに専念したユーチューバーによるホメオパシーのデマに対する苦情と、自殺を教唆したとされる動画の区別に失敗した。ビデオは数日後に復元されました。

Mi vídeo criticando a Youtube ya está el número 7 en tendencias nacionales. Me borráis el vídeo del #suicidiohomeopatico sin ningún sentido y este en vuestra contra me lo ponéis en tendencias. Good job, algoritmo 👍🏽 https://t.co/4tq2MLsanP

— Rocío Vidal (@SchrodingerGata) November 21, 2018

しかし、残された疑問は、 YouTube が取り組んでいると思われるこれらすべての変化と急進が、いずれも宣伝することなくどのように実現するのかを見ることです。ウィキペディアへのリンク、虚偽のデマ通知、注目のニュースは、推奨アルゴリズムが確実に磨き上げられ、プラットフォームの真の推進力であり主役であるコンテンツ作成者が、自分たちの作品が明確なルールの下で扱われるという一定の保証があるまでは、単なるパッチのように見えます。