Facebookは詐欺師や荒らしと戦うシステムを構築中

Facebook は、ソーシャル ネットワーク内の荒らしや詐欺師と戦うためのツールを開発しています。同社の研究部門は、投稿へのコメント、共有、さらには虐待的な行為など、私たちがプラットフォーム上で行うのと同様の行為を実行するボットを備えたシミュレーションシステムについて詳しく説明した文書を公開した。

このシステムはWES: Real Infrastructure and Agent-Based User Interaction Simulationとして知られており、文書の説明によると、数億行のコードで構成されるインフラストラクチャ上でソーシャル メディアインタラクションをシミュレートします。 Facebook は、WES はソフトウェアの変更を修正したりアップデートをテストしたりするのに役立つだけでなく、システムを介したユーザー間の対話にも焦点を当てていると述べています。

実際には、 WES シミュレーションは、ソフトウェア プラットフォーム上で特定の目的を達成するためにプレイヤーのグループが協力するビデオ ゲームに似ています。このシミュレーションでは、人工知能システムを使用して、プレイヤー (この場合はボット) が Facebook の利用規約に違反する行動をするように訓練できます。

ボットは Facebook の縮小された安全なバージョンで対話します

これらのボットは、Facebook の縮小版の安全なバージョンで相互に通信します。ソーシャルネットワークのルールに従って行動する人もいれば、型を破る人もいます。この文書では、ボットを訓練して被害者を詐欺するモデルについて説明していますが、セキュリティ上の理由から具体的な詳細は提供されていません。

「詐欺ボットに対する強化学習の報酬は、適切なターゲットを見つける能力に基づいています」と研究者らは述べています。これらの候補は、可能性のある動作を示す他のルールベースのボットになります。このシステムは多数のアクターを関与させる必要はありませんが、大規模なシミュレーションが可能であるため、このシステムの存在によって利点が得られます。

その他の不正行為としては、他のボットから情報を盗んだり、プラットフォームのルールに違反する禁止されたコンテンツを単に検索したりすることが挙げられます。

一連のステップに従う従来のモデルとは異なり、 WES はプラットフォームの下で特定のアクションを実行するようにボットをトレーニングします。現在、同社は自動テストを実行するための Sapienz テクノロジーを導入していますが、この場合、WES は機械学習アプローチにより異なります。

Facebook によると、このシミュレーションは隔離された安全な方法で実行され、悪意のあるアクターを検出する能力を向上させ、実際のプラットフォーム上で潜在的なプライバシー問題を調査するのに役立ちます。