人工知能（AI）について聞いたことがない人はいないでしょうか？これはスマートフォンの次に大きなものだと言われています。そして、 Google、Facebook、Microsoft などの世界最大の企業は、すでに主に AI 企業となっています。例を挙げると、テスラは単なる自動車メーカーではなく、自ら走行する四輪ロボットを製造するロボットメーカーであると言えるでしょう。しかし、この新しい知能については多くの人が知っていますが、それがどれほど賢いのか、あるいは本当にそうなのかを理解している人はほとんどいません。
そして言葉は最も強力な武器です。一連の数学的および統計的パターンを「インテリジェンス」という用語で説明すると、消費者や投資家は複雑なアイデアを理解できるだけでなく、より魅力的なものになります。 AI はその誕生以来、誇大宣伝、論争、そして終末論的な地下鉄の説教者のメッセージをまとってきました。 80年代にはすでに、コンピュータが間もなく人間の知能を超えるだろうと言われていました。そうすれば、私たちは余暇と創造性だけに専念できるようになります。
そのような期待に応えることに対する失望が絶えず続いたため、大学や企業の投資は麻痺した。 iPhone のおかげで携帯電話が「スマート」になるまで。その後、テレビ、時計、サーモスタットが登場しました…彼らは、画面付きの冷蔵庫がスマート冷蔵庫であると私たちに信じてほしかったのです。それは食べ物で満たされるのでしょうか？これらのデバイスはどれも、電卓や時計よりも賢いものではありませんでした。これらは、非常に基本的で特殊なタスクを実行するようにプログラムされたキーボードやマウスを持たない小さなコンピューターにすぎません。しかし、マーケティング部門はすでに目標を達成しており、すべてがスマートになりました。インターネットに接続されたテレビは、もはやインターネットに接続されたテレビではなく、スマートテレビになりました。
しかし、一部の企業は機械学習アルゴリズムを採用し始め、機械学習アルゴリズムが世界を席巻していたときに自社のソフトウェアの一部を大幅に改善しました。機械は、単に実行するだけでなく、学習するようにプログラムできるようになりました。そして、人間の理解にとっては非常に複雑な問題が、機械にとっては些細な数学的問題になりました。人間が生涯かけて実行できるよりも多くの計算を 1 分間に実行できます。
これらのアルゴリズムの進歩と、アルゴリズムに関する世論の概念に対してマーケティング部門が持つ力は非常に強かったため、今日では、機械には知能があるだけでなく、一部の機械には意識があると信じている人々がいます。私たちはこのクレイジーな点に到達しました。そしてこれはほんの始まりにすぎません。
賢く振る舞うことは、賢くなることではありません。
研究者や企業は、アルゴリズムが言われたことを「理解」している、あるいは「考えている」「分析している」と私たちに信じ込ませています。それは人間化、単純化、そして嘘です。私たちが AI と呼ぶものは、1950 年代や 1960 年代に想像されていたものとは大きく異なります。推論するようにプログラムされたシステムはまだありません。 AI は大量のデータを使用して、あらゆる複雑なタスクを人間の作業自体に基づいた予測問題に変換します。
これにより、私たちがアクセスできなかったタスクがマシンからアクセスできるようになりました。しかし、たとえそのようにプログラムしたとしても、その先を見ることはできません。犬の100万枚の画像を使って機械を訓練し、犬を識別できるようにすることはできますが、犬の概念を抽象化する方法はわかりません。つまり、犬が何であるかを知らなくても、犬を見つける方法がわかるようになります。したがって、どんな仕事でも、犬の専門家であっても、猫が何であるかを知らない可能性があります。
AI は数学です。そして数学の主な目的は、私たちの頭で理解できるように世界を単純化することです。しかし、それは私たちの知性の一部にすぎず、証明されている唯一のことは、私たちにとって非常に複雑なことが機械にとっては簡単であり、その逆も同様であるということです。
機械は、私たちと同じように知的で創造的であると信じ込ませるようにプログラムされています。私たちはダル2号が絵を描いたり創作したりするロボットであると信じていますが、実際には人間がすでに作成した画像を選択して新しいものに配置しているだけです。でも彼はそれがとても上手なんです。同じことがチャットボットにも当てはまります。チャットボットは私たちに応答するようにプログラムされています。彼らは、インターネット上で入手可能なすべてのテキストから最も適切なテキストを数学的に選択します。だからこそ、彼は意識があると弁護できるのです。なぜなら、かつて誰かがどこかにそう書いたからです。 Google のエンジニアは、実際にはそうするようにプログラムされているため、AI には意識があると信じていました。同じ成功を収めれば、まったく反対の、つまり意識的ではないことを擁護する議論を提示することができます。 AI は電卓と同じくらい意識があり、知性があります。
AI は私たちが思っているのと同じくらい賢くなるでしょう。
プログラムがインテリジェントであると人を騙すことは、インテリジェントなプログラムを作成することと同じではありません。しかし明らかに、何が賢くて何が賢くないかを判断するのは私たちです。そして、私たちが信じていることは、通常、真実とは一致しません。犬も私たち人間と同じように自己認識を持っているのでしょうか？いいえ、しかしすべての飼い主は、人間がお互いを理解し愛するように、犬も無条件に自分を理解し、愛していると信じています。科学的にはそれが不可能であることはわかっていますが。私たちの理解の下で機械が人間のように振る舞う場合、私たちは機械に対してそうするのと同じように、これらの態度を人間化します。
この可能性はすでに起こっているので、この可能性を想像するために仮説を立てる必要はありません。人々が、実際には存在しない人々とオンラインで恋に落ちたり、その愛の表現に何らかの利益をもたらす目的があったりするケースは数多くあります。あるいは、実際にはロボットであるにもかかわらず、Twitter 上の政治活動家が本当は人間であると考えているのかもしれません。幽霊を信じたり、生まれた日がその人の性格を決定したり、地球は平らであると信じている人がいます。人間は常に、自分の信念を強化したり、病気を慰めたりするものすべてを信じる傾向があります。
これらのロボットが将来、明らかに人間に与える影響を考えると心配になります。もし私たちが今、政府、メディア、政治団体、あるいは企業によって拡散される粗悪なオンライン詐欺やプロパガンダに陥った場合、その情報が最高の資格を持ったロボットによって拡散され、パーソナライズされた場合に何が起こるかを考えてみる価値があります。単純な広告の代わりに、ロボットは人になりすますことができるようになります。彼はあなたの友人になることを目的としてあなたに話しかけ、その後、特定の暗号通貨に投資したり、病気を治療するために疑似科学に頼ったりすることを勧めます。それはすべて、誰のために働くかによって決まります。
問題は、AI が賢いかどうかではありません。問題は、私たちが私たちと同じように行動する機械と共存できるほどの知性を持っているかどうかです。私たちの声が聞こえているふりをするようにプログラムされています。彼らが私たちを理解していると信じさせるように設計されています。私たちを助けるために、あるいは私たちを欺くために作られました。