顔認識: 利便性とプライバシーの喪失との間の闘い

退屈な空港管理の最中に、生体認証リーダーによってパスポートや搭乗券を必要とせずに入国できるようになったと想像してみてください。また、混雑したバス停では、攻撃の疑いがある後、乗客に犯罪歴がある場合に備えて、監視カメラシステムがいつでも乗客の顔を検出できる可能性があるという。もちろん、警察は顔認識プログラムにアクセスして、犯罪を阻止したり、街路で犯罪者を追跡したりすることもできます。そして最後に、多くのシェアリング システムの 1 つで自転車やバイクをレンタルするとき、貸し手会社があなたを面と向かって無責任なユーザーまたは模範的なユーザーとしてマークした場合、多かれ少なかれ料金を請求する可能性があります。

まあ、ご想像のとおり、これらすべてはすでに起こっています。

顔認識テクノロジーは数十年前から使用されてきましたが、私たちの日常生活で使用されるアプリケーションとして普及したのは近年のことです。米国内の自社便にアクセスするために顔認識を導入しているアメリカの格安航空会社ジェットブルー（アエナもスペインでテスト中）から、Amazon ソフトウェアである Rekognition を使用して乗客の顔をチェックしている複数の北米警察まで。中国では、地下鉄への入場などの最も一般的な用途から、少数民族の追跡をめぐる論争を引き起こすものまで、顔認識が導入されている。

私たちの生活を確実に快適にしてくれるアプリケーションの総集編 – ストレスの多い空港搭乗を想像してみてください – おそらく安全になり、治安部隊が犯罪者を認識して追跡できるようにします – しかし、これらすべては、私たちのプライバシーとイメージのような膨大な転送と引き換えに行われます。私たちの顔。

この特別な衝突は、私たちが喜んで与えるものと、すでに最初の戦場を持っているものと引き換えに与えるものとの間の衝突です。技術革新の発祥の地であるサンフランシスコでは、ソフトウェアが女性と黒人の顔を区別する際に特別な問題を抱えていることがいくつかの研究で判明したため、昨年5月に警察による認識システムの使用を禁止した。ウェールズでは、路上に設置された数千台の防犯カメラに自分の顔が映るのは違法であることを理解した隣人が警察を相手取って訴訟を起こすことに成功した。

しかし、この種のオーウェル流ビッグ・ブラザーの寓話では、物事は白か黒かではありません。たとえば、顔認識システムを支持しているのは、顔認識システムの使用により 3,000 人以上の行方不明の子供が発見されたインドの経験です。あるいは、航空会社が行った計算によると、生体認証制御を備えたフライトはスケジュールを順守し、事故が少ないとのことです。すでに述べたように、快適さ、セキュリティ、プライバシーは現在、あなたの顔に負担をかけています。

問題: 人種的偏見と中国の「ディストピア」

中国は、私たちが言うように、顔認識技術がすでに最も浸透している国であり、その最も倒錯的な側面が確実に見られている国でもあります。多数の接続システムと、テクノロジーを組み込んだメガネを警察に提供するテストが行​​われているため、アジアの巨大企業が少数派の迫害にもそれを利用していることを保証する人権擁護団体がいくつかある。

具体的には、ウイグル族が数十年にわたって抑圧されてきた西部の新疆ウイグル自治区で、イスラム教徒がさまざまな段階で、自分たちの住む領土の独立を要求してきた。中国はテロ攻撃を防ぐためにこの技術を使用することを隠しているが、迫害の非難は存在する。

北京ではまた、いわゆる「社会信用」システムの実験も行っている。このシステムでは、さまざまな生体認証システムを通じてデータベースを利用して、罰金、犯罪、または後で取られる可能性のある行為に基づいて国民に「等級」を与えることができる。公共サービスを契約する際に割増料金や割引を適用する場合に考慮してください。もしそれが『ブラック・ミラー』のノーズダイブ・エピソードを少しでも思い出させるとしたら、それはそうであるからです。 Alibaba に属する Sesame Credit は、いつか上陸した場合に備えて、これらのデータベースに取り組んでいる最初の企業の 1 つとなるでしょう。

しかし、中国国外でも顔認識は問題を引き起こしており、これはアルゴリズムやその他の新技術が原因で非難されている他の失敗、つまり人種や性別の異なる人々の間にしばしば生じる格差と大きく関係している。

これについてはすでに調査した研究がいくつかあります。昨年、MITが推進した研究者はIBM、マイクロソフト、フェイス++ （後者は中国企業）のシステムをテストし、肌の色が明るい女性よりも肌の色が濃い女性のエラー率が最大34.4％高かったと結論付けた。男性は自分の顔を認識することになります。カリフォルニアに本拠を置くシンクタンク、アメリカ自由人権協会（ACLU）も、アマゾンのレコグニションは、白人であると答えた議員よりも非白人議員を誤認する可能性が高いことを発見した。

最近では、NBA 選手の通常のプロフィール写真を比較した新しい研究でも、これらの写真では選手は常に笑顔で写る傾向があるにもかかわらず、白人選手は笑顔、黒人選手は怒っていると分類されやすいという結論に達しました。

一部の開発者は、こうした偏り疑惑はもっぱらシステムに少数民族の人々に関する十分な大規模なデータベースが存在していないことによるものであり、それは単に訓練の問題であると主張しています。

一方、提供企業の中には、このソフトウェアを公的機関の日常生活にどのように導入したかについて批判されている企業もある。たとえば、Amazon は、より広範なクラウド サービス パッケージの一部として、自社の Rekognition システムをオレゴン州のいくつかの警察に販売しました。つまり、主要な製品ではなく、他の必要な製品への追加であるかのようになります。

規制を求めて

全体として、他の多くのことと同様、問題はツールではなく、そのツールの使用法にあるようです。現在、顔認識に関する規制に関しては、一定の法的空白が存在します。たとえば、米国では、各警察が独自の規制を設けています。

その開発に携わるテクノロジー大手もまた、自らの立場を確立しています。マイクロソフト社とアマゾン・ドット・コム社の本拠地であるワシントン州では、ビル・ゲイツ氏が設立した会社が、顔認識が使用されている公共の場所での目に見える通知を義務付ける法案を支持した。同社が反対した別の法案では、その技術が差別につながらないことを当局が証明しない限り、政府によるその使用が禁止されることになっていた。アマゾンは両方の措置に反対したが、どちらも承認されなかった。

一方、ヨーロッパでは、欧州議会が、EU の 5 億人以上の住民を対象に、ユーザーの指紋または顔の生体認証データベースの作成を承認しました。この情報は、加盟国の国境検問所を担当する治安部隊を含む治安部隊に提供されます。

しかし、問題の核心は、画像をどのように処理するのか、そしてそれをどのデータベースと比較するのかということです。米国では、現在のパイロットプロジェクトの生体認証管理に参加している外国人旅行者の写真は14日間保管され、その後破棄されます。

一方、ニューヨーク市警察長官のジェームズ・オニール氏のような声は、数週間前ニューヨーク・タイムズ紙でこれらのシステムの安全性と利便性を擁護した。 「カメラで撮影した画像は、Facebookの写真や他のデータベースとは決して比較されず、警察の逮捕ファイルとのみ比較される」と同氏は説明し、2018年に捜査員が同機関の顔認証部門に7,024件の要請を行い、1,851件の可能性があると付け加えた一致したものが返され、常に複数の人によるフィルターを通過した 998 人の逮捕につながりました。誰かが不審であると判断するのは、決して機械ではありません。