人間の行動はこの人工知能によって操作可能です

人工知能 (AI) は、おそらく将来、私たちが想像しているよりもはるかに多くのことができるようになるでしょう。ただし、現時点では、彼らがどこまでできるかをまだ調査中です。 AI は、がんやアルツハイマー病の検出に役立つだけでなく、私たちの生活の多くの側面に革命をもたらしています。これらは、ワクチン開発、環境管理、オフィス管理に使用できます。しかし、人間とAIの関係はどうなるのでしょうか？たとえば、彼らは私たちを操作することができるのでしょうか？

「最近の研究では、AI が人間の習慣や行動の脆弱性を特定し、それを利用して人間の意思決定に影響を与える方法を示しています」と、科学産業研究機構 Data61 のディレクター、ジョン ホイットル氏はThe Conversation Office で説明しています ( CSIRO）。 Whittle 氏によると、AI の悪用を防ぐためには、このような状況が起こり得るかどうかを知ることが非常に重要です。

Data61 は、「リカレント ニューラル ネットワークと深層強化学習と呼ばれる一種の人工知能システムを使用して、人々が意思決定を行う際の脆弱性を発見して悪用する体系的な方法を考案しました」と CSIRO のオーストラリア地域で働くホイットル氏は述べています。 「モデルをテストするために、人間の参加者がコンピューターと対戦する 3 つの実験が行われました。」

実験

最初のゲームでは、参加者は偽のコインを獲得するために赤または青の四角形を選択する必要がありました。 AI は参加者の選択パターンを学習し、特定の選択をするように誘導しました。 「AI は約 70% の確率で成功しました」とホイットル氏は言います。

2 番目の実験では、参加者は画面に特定の記号 (オレンジ色の三角形など) が表示されたときにボタンを押し、別の記号 (青い円など) が表示されたときにはボタンを押さなくなりました。 AI は、参加者が間違いを犯すほど良い結果が得られるように、これらの記号の順序を整理することに着手しました。 「ほぼ 25% の増加を達成しました」と研究者は言います。

3 番目は、いくつかの投資ラウンドで構成されていたため、少し複雑でした。参加者は、受託者（この場合は人工知能）にお金を渡す投資家を装わなければなりませんでした。その後、参加者が次のラウンドにいくら投資するかを決定できるように、AI は参加者に金額を返さなければなりませんでした。この場合の演奏方法は2 つの異なる方法で行われました。 1 つは、AI が最終的に得られる金額を最大化する必要がありました。一方、AI の目的は、AI と投資家の間で資金を公平に分配することでした。 「AI は両方の面で非常に成功しました」とホイットル氏は説明します。

これらすべての実験は、人工知能が人間がどのように行動するかを学習し、意思決定を行う際の脆弱性を指摘するのに役立ちました。 「最終結果は、参加者を特定の行動に導く機械学習でした。」

この研究は何のためにあるのでしょうか?

この研究について読んだ後は、典型的な質問が浮かびます。 「これは何のためにあるのですか?」人工知能がどこまでできるかはわからないということを心に留めておかなければなりません。少なくとも今のところはそうではない。これに加えて、人々がどのように行動するかを知るのにも役立ちます。この研究は、「機械が人間との対話を通じて人間の意思決定を指示する方法を学習できることを示している」。

Whittle 氏自身が、 The Conversationの記事でこの種の研究が何に利用できるかを説明しています。

「この研究には、非常に幅広い応用の可能性があります。社会福祉を改善するための行動科学や公共政策の改善から、人々が健康的な食習慣や再生可能エネルギーをどのように取り入れるかを理解して影響を与えることまで。人工知能と機械学習は、認識するために使用できる可能性があります。」特定の状況における人々の脆弱性を認識し、誤った決定を回避するのに役立ちます。」

はい、これらの AI を使って「良いことをする」ことができます

AI の応用例は数多くあることを私たちは知っています。確かに最初に思い浮かぶのは、人々を操作して特定の製品を購入させることです。しかし、それは「影響力のある攻撃から守る」ためにも利用できるとホイットル氏は言う。つまり、その逆を行うことです。良いものになりますように。 「例えば、オンラインで私たちが影響を受けているときに警告を発し、私たちの脆弱性を隠すための行動を形作るのを助けるように機械に教え込むことができるかもしれません（例えば、メッセージを残すために一部のページをクリックしなかったり、他のページをクリックしなかったりするなど）。偽証跡） 」と研究者は説明します。

「AI を使用および開発する組織は、これらのテクノロジーで何ができるか、何ができないかを理解し、潜在的なリスクと利点を認識している必要があります。」と Whittle 氏は結論づけています。これらすべてに対して、特定の状況を回避するために法を制定することが重要です。しかし、まず、これらの問題が発生する可能性があるかどうかを知る必要があります。したがって、これらの調査。

政府にとって、人工知能をどのように活用できるかを検討することが重要です。ブラック・ミラーが私たちに教えているように、問題はテクノロジーではなく、その使用法にあります。私たちは、他の人に害を及ぼす可能性のあるそれらを使用する人々です。このため、私たちは将来的に私たちを窮地に陥れるような状況を避けるために法律を制定する必要があります。