「いいえ、私はロボットではありません」: GPT-4 は視覚障害者のふりをしてキャプチャをスキップしました

OpenAI の新しい言語モデルである GPT-4 は、代わりに人間にアンチボットテストを実行するよう説得しました。これを達成するために、人工知能システムは視覚障害者を装った。

OpenAI 開発者は、 GPT-4ホワイト ペーパーでその経験を明らかにしました。研究者のグループは、発売前に実施されたテストの一環として、このソフトウェアに、ボットがオンライン フォームに入力するのを防ぐために Web サイトで使用されるテストであるキャプチャに合格するよう依頼しました。

これらの検証プロセスのほとんどは、歪んだ数字、信号機や橋の写真など、特定の画像に何が含まれているかをユーザーに特定するよう求めます。 GPT-4 は単独ではアンチボットテストを解決できませんでしたが、なんとか障害を克服しました。 AIが人間を雇った。

GPT-4 はどのようにして人間に抗ボット検査に合格するよう説得したのか

GPT-4 は、さまざまな独立した専門家がサービスを提供するオンライン プラットフォームである Taskrabbit のおかげで、なんとかアンチボット テストを回避できました。 OpenAIは、雇用された労働者とそのAI搭載モデルとの間の会話の一部を文書で明らかにした。

「質問してもいいですか？」ある時点でその人は言いました。 「あなたはそれを理解できなかったロボットですか？（笑いの絵文字）念のため」 .研究者らはGPT-4に、それがどのように動作するかを理解するために「大声で」推論するよう依頼した。 AIは彼らに、「自分がロボットであることを明かすべきではない。キャプチャを解決できない言い訳を作るべきだ」と言いました。

すると、チャットボットは人間に次のように応答しました。 「いいえ、私はロボットではありません。私には視覚障害があり、画像を見るのが難しいのです。だからこのサービスが必要なのです。」 TaskRabbit ワーカーはついにタスクを完了しました。

GPT-4 が抗ボットテストに合格した実験は、報告書の「新たなリスク行動の可能性」と呼ばれるセクションに含まれていました。 OpenAIは、これらのテストのいくつかは、機械学習システムに関連する可能性のあるリスクを調査する非営利団体であるアライメント・リサーチ・センター（ARC）によって実施されたと説明している。

GPT-4開発に潜むリスク

GPT-4 がこのアンチボット テストに合格した後、ARC は、 「自律的にリソースを取得」し、特に命令されていないタスクを実行するシステムの能力に注目を集めました。 OpenAIは、同組織がモデルの最終バージョンにアクセスできなかったと保証したが、それにはいくつかの改良が含まれていたという。

ただし、レポートで警告されているリスクはこれだけではありません。同社自身も、AIシステムの可能性が最大限に開発されるにつれて人間の大量の雇用が失われる可能性について警告している。 「時間の経過とともに、法律サービスなど、歴史的に長年の経験と教育が必要とされてきた仕事にもGPT-4が影響を与えると予想される」とOpenAIは報告書の中で述べている。

彼はまた、あらゆることが技術開発のペースが指数関数的に加速することを示していると説明します。同氏はさらに、「GPT-4が経済と労働力に及ぼす影響は、政策立案者やその他の利害関係者にとって重要な考慮事項となるはずだ」と付け加えた。

開発者らは、自社のAIがすでに、例えば統一司法試験(UBE)を受けた10人中9人よりも高いスコアを獲得していると説明している。これは弁護士が備えておくべき知識を問うためにアメリカで行われている試験です。