Instagram はハラスメントと戦うために人工知能を活用する

Instagram は、人工知能を使用してアプリのセキュリティにおいて新たな一歩を踏み出しました。このソーシャル ネットワークは、9 か国語で利用できるスパム ブロックに加えて、メッセージやライブビデオ内の不快なコメントを削除する新しいフィルターを追加しました。

コメントをブロックするオプションはデフォルトで有効になりますが、ユーザーはアプリケーション設定でいつでも無効にすることができます。今のところ、この新しいセキュリティ対策は英語で書かれたコメントに対してのみ利用可能だが、インスタグラムは声明で、間もなく他の言語でもブロックを提供すると述べた。

ただし、スパム ブロック フィルターは英語、スペイン語、ポルトガル語、アラビア語、フランス語、ドイツ語、ロシア語、日本語、中国語で利用でき、ユーザーの投稿内のあらゆる種類のスパムを検索して排除します。

Instagram の CEO 兼共同創設者であるKevin Systrom氏は、「私たちのチームは攻撃的なコメントやスパムを認識する訓練を受けてきました。ツールは時間の経過とともに改善され、コミュニティの共有エクスペリエンスが向上します。」と説明しました。

これまで、ソーシャルネットワークは侮辱として分類されていた言葉を削除し、さらにユーザーが攻撃的だと考える言葉を追加することもできた。新しいフィルターはサービスを改善し、機械学習を使用することで、システムがコメントのコンテキストを考慮し、攻撃的な可能性のあるものをキャプチャして、否定的なフレーズを検出する際のエラーを回避しようとします。

それだけでは違反とみなされる可能性のある単語をシステムが文脈に組み込むことができるという事実は、Instagram の新しい機能の 1 つです。文章の理解と解釈は、否定的なコメントの可能性を検出することを使命とするこのタイプのマシンの問題の 1 つでした。 Instagram で使用されているDeepTextと呼ばれるシステムは、人工知能の進歩のおかげで、具体的には人間の脳内での言語の仕組みを模倣した概念により、機械がコメントの意味を理解できるようになったと同氏は報告した。

Facebook はまた、人工知能を使用して、テロリストを募集することを目的としている可能性のある投稿をブロックし始めています。一方で、嫌がらせを防止し、新たな聖戦戦士を阻止するための措置は、監督者の増員により4,500人から7,500人に強化された。それにもかかわらず、ソーシャルネットワーク上の攻撃的または危険なコメントを制御するには、多くの課題があるようです。

Facebookの検閲は肌の色に関係している可能性がある