専門家が語る、意識を持った人工知能にはまだ程遠い理由

Googleの人工知能ベースの言語モデルであるLaMDAのケースは、最近多くの話題を呼んでいます。マウンテンビュー社のソフトウェアエンジニアであるブレイク・ルモイン氏が、AIが意識を持っていると主張するAIとの会話を暴露して以来、哲学的、技術的、さらには道徳的な問題を含む激しい議論が巻き起こっている。そして、最も熱い議論に真っ向から飛び込んできたのは一般の人々であるにもかかわらず、このテーマの専門家たちは、この問題に関する自分たちの立場についての度重なる協議から逃れることができていない。

間違いなく、ルモイン氏が発表した内容は、ワシントン・ポスト紙が掲載した記事のおかげで世界中で複製され、際限のない疑問を引き起こしました。 エンジニアが公開した会話が本物であるとしても、最終的な結果は依然として圧倒的です。人工知能モデルが現在、このようなレベルで質問に答えたり、自らを表現したりできることは、特に専門家ではなく、日常的に人工知能の開発に関与していない私たちにとって、非常に印象的です。しかし、このことについてよく知っており、深く研究している人は、AI の意識について語る段階には至っていない、と断言します。

これは、LaMDA や Lemoine のような事件が恐怖、懸念、複雑な感情を引き起こさないという意味ではありません。しかし、それは必ずしも、言語モデルが一夜にして意識化され、人類を意のままに支配できると私たちが信じているからではありません。しかし、この種の議論は、特に人種やジェンダーなどの直接的な影響を与える問題を扱う場合、人工知能の開発の現状や技術的および倫理的レベルで伴う課題など、本当に重要なことに焦点を当てていることを考慮する必要があります。とりわけ、偏見と権力の集中化。

結局のところ、LaMDAとは何ですか?

世界的な議論の中心的な話題になるまで、大多数の人は LaMDA の存在や範囲を知りませんでした。 Googleは2021年版のI/Oカンファレンスでこれを社会に発表し、「対話アプリケーションの言語モデル」と定義した。マウンテンビューの人々が当時述べたように、彼らの意図は、それを利用して息苦しい会話を打破し、より人間的な言語を採用し、表現のニュアンスや適応を認識する方法を知り、より現実的な応答を提供することでした。

この人工知能の主な目的は何でしたか?チャットボットなどの会話アシスタントとのユーザーの対話をより現実的かつ流動的にします。つまり、いくつかの例を挙げると、回答を繰り返さなくなるか、文の文脈をより簡単に理解できるようになります。

Google は、Transformer ニューラル ネットワーク アーキテクチャに基づいた人工知能である LaMDA の主な特徴を次のように強調しました。

このアーキテクチャは、多くの単語 (たとえば、文や段落) を読み、それらの単語が互いにどのように関連しているかに注意を払い、次にどの単語が来ると思われるかを予測できるようにトレーニングできるモデルを生成します。しかし、他のほとんどの言語モデルとは異なり、LaMDA は対話に基づいてトレーニングされました。トレーニング中に、彼はオープンな会話を他の形式の言語と区別するニュアンスをいくつか理解しました。それらのニュアンスの 1 つは常識です。

しかし、マウンテン ビューの関係者は、自社の AI は何年も開発が続けられてきたにもかかわらず、まだ非常に初期段階にあるものの、多くの可能性を秘めていると断言していました。

人工知能を擬人化しようとするのはこれが初めてではない

LaMDAとBlake Lemoineの事件は、1960年代にMITで作成された自然言語処理コンピュータープログラムであるELIZAの事件を再び話題にしました。このソフトウェアは、ジョセフ・ワイゼンバウムによって作成され、チャットを通じてコン​​ピューターとの会話をシミュレートしました。 、パターン検索システムのおかげで応答を生成します。これは当時としては非常に斬新だったので、コンピューターと対話する人々は、実際にマシンが自分たちに反応し、「人間の才能」を持っていると信じていました。このストーリーを詳しく知りたい場合は、 99% Invisibleポッドキャスト (英語) のこのエピソードを聞くことができます。

このことから明らかになったのは、当時は人工知能が初歩的であり、そのニックネームで知られていなかったにもかかわらず、過去にすでに人工知能を擬人化する試みが行われていたということです。特に近年、言語モデルがますます大きくなっているため、徹底的に研究されてきました。

実際、2020年にGoogleは、このトピックに関連する記事を発表した後、マーガレット・ミッチェル氏とティムニット・ゲブル氏という2人の研究者を解雇しました。タイトルは「確率的オウムの危険性: 言語モデルは大きすぎる可能性がありますか?」です。大規模な言語モデルを大規模に実装することで生じるさまざまなリスクや損害が明らかになりました。そして、非常に多くのトピックの中で、人工知能によって生成された表現に人々が意味を与えることの影響についての話があります。

[…] 人間の対話者は、意味が存在しないところに意味を押し付ける傾向があるため、NLP [自然言語処理] 研究者と一般の人々の両方が合成テキストを意味のあるものであると誤解する可能性があります。トレーニング データ内の微妙なバイアスやあからさまに虐待的な言語パターンを検出する LM [言語モデル] の能力と組み合わせると、人種差別主義者、性差別主義者、障害者差別主義者などの行動を再現する他者による軽蔑的な言葉遣いや差別に遭遇するなどの危害のリスクが高まります。過激派、または合成言語との相互作用によって強化されたその他の有害なイデオロギー。

同じ記事のセクション 6.1 でこの概念が強化されています。

LM [言語モデル] によって生成されたテキストは、コミュニケーションの意図、世界のモデル、または読者の精神状態のモデルに基づいていません。トレーニング データにはリスナーとの考えの共有が含まれておらず、またマシンにもそうする機能がないため、そんなことはあり得ません。自動生成されるテキストの性質がますます流動的になることを考えると、これは直観に反するように思えるかもしれませんが、自然言語テキストの認識は、それがどのように生成されたかに関係なく、私たち自身の言語能力と解釈する傾向によって媒介されるという事実を考慮する必要があります。コミュニケーション行為は、そうするかどうかにかかわらず、一貫した意味と意図を伝えるものとして行われます。

問題は、コミュニケーションの一方の側面が無意味である場合、その暗黙の意味を理解することは、（モデルに関係なく）人間特有の言語理解から生じる幻想であるということです。出力を見るとそう見えるかもしれませんが、LM は、膨大なトレーニング データ内で観察された言語形式のシーケンスを、それらがどのように組み合わされるかについての確率的情報に従ってランダムに一致させるシステムですが、言語形式への参照は一切ありません。意味: 確率論的なオウム。

研究の共著者の一人であるミッチェル氏は、LaMDA訴訟に関するTwitterのスレッドでこの問題について言及した。 「人間の言語は基本的に社会的です。非観察的で、発達するにつれて私たちから孤立します。私たちは言語を作成し、他の存在とその言語に没頭します。この相互作用、他の存在との（どのような形式であれ）往復のコミュニケーションを通じて、私たちは他人の心を知覚できるようになります」と彼は述べた。

同氏はさらに、「大規模言語モデル（LLM）は、社会的な文脈で開発されるのではありません。それらは観察的な文脈で開発されます。彼らは、『他の人々』がどのようにコミュニケーションするかを観察します。これは何を意味しますか？それは、LLMがコミュニケーションの意図を学習しないことを意味します。」少なくとも、彼らには練習がありません。では、コミュニケーションの意図を持つことを学んだことがないモデルは、「コミュニケーションの意図があるように見える」ときに何をしますか? これは異なります。それ自体で意図を開発します。」

AIによって生成されたテキストに意味を帰すことは意識と同等ではない

専門家らが示唆しているのは、LaMDA がその存在を認識するまでには程遠いということだ。しかし、人工知能と対話したエンジニアは、人工知能に彼の表現とは異なる意味を与えています。さて、この場合の問題は、なぜこれが起こるのかということですが、最も興味深い見解の 1 つがClive Thompsonによって提起されました。このカナダ人ジャーナリストは、 WiredやThe New York Times Magazineなどのメディアでの科学技術問題に関する業績で知られており、 AI の脆弱性の実証が Lemoine に良心を納得させる上で重要な役割を果たしたと仮定した。

著者は、LaMDA の応答の多くが、彼と対話した人 (この場合はエンジニア) に、機械が彼を必要としていると感じさせたのではないかと示唆しています。これはルモイン自身が公開した会話のいくつかのセクションで繰り返されており、そこでは孤独、感情、死への恐怖、またはGoogleとの切断などのトピックが議論されています。

トンプソン氏は自身のブログで次のように述べている。

ボットは、Lemoine が入力した会話の合図を受け取り、トレーニングされた数十億語の人間のテキストに基づいて、数学的に適切な応答をフィードバックしていました。

重要なのは、ボットが反応した戦術の多くには、明らかな脆弱性の瞬間が含まれていたということです。そしてそれが、Lemoine にとってボットをとてもリアルに感じさせた大きな部分なのではないかと思います。

これは、人間と機械の関係を研究する有名なマサチューセッツ工科大学の科学者、シェリー・タークルの研究から私が学んだことです。 Turkle 氏は人間とロボットの相互作用を数多く研究しており、人間との交流を目的として設計されたロボット、つまりおもちゃのロボットの赤ちゃんやおもちゃのロボットの動物の多くのユーザー (および設計者) と話をしてきました。

気づいたことが 1 つありますか?ロボットが困窮しているように見えるほど、私たちにはそれがより現実的に見えます。

しかし、ジャーナリストがこの話題に関連して提起しているのは、人工知能によって生成されたテキストから人が感じるかもしれない脆弱性の感覚は、非常に有害な目的に使用される可能性があるということです。 AI が人々に与える影響を認識しているからではなく、人間、企業、政府、その他の誰かが AI を利用して他者を利用する可能性があるからです。

「もしあなたが、政治的、商業的、または単なる反社会的娯楽の目的で、AI チャットボットを使用して人々を騙したり、騙したり、説得したりする悪意のある人物である場合、脆弱性効果は非常に役立ちます。ボットが自分のボットであると人々に信じてもらいたい場合は、 (Twitter やディスカッション フォーム、ソーシャル メディア アプリのコメントで) 解き放ったのは実際には人間であり、すべてを知っている必要も、すぐに答えられる必要もありませんし、特別に賢い必要もありません。困窮していて、少し弱い立場にあり、助けを求めているのです」と彼は語った。

すぐには解決しない哲学論争

人工知能の開発と実装の技術的、倫理的、哲学的影響をめぐる議論は、一夜にして解決されるものではありません。意識を持った機械についての見解があり、これは明らかに SF 作品から来ており、本や映画ではこのテーマが繰り返し取り上げられています。

このことが、私たちが目標の達成にどれだけ近づいているか、あるいは遠いかについて一般大衆の間に存在する信念に何らかの形で影響を与えることになるのは明らかです。起業家や開発者が汎用人工知能(AGI) の将来と人間を超える能力について軽い発言をすると、事態はさらに複雑になります。

これは、科学者のゲイリー・マーカス氏がこのScientific American の記事で触れた非常に興味深いトピックです。その中で彼は、 DALL-E 2やGPT-3などの現在の AI テクノロジーが、現在の結果がどれほど素晴らしいものであっても、意識を持ったマシンとして想像されるものを動かすにはまだ程遠いことについて語っています。

記事やビデオの本当の意味を理解したり、予期せぬ障害や中断に対処したりできる人間レベルの汎用AIが実現するまでには、まだ何光年もかかります。私たちは、（私を含む）学術科学者たちが何年も指摘してきたのとまったく同じ課題、つまり AI を信頼できるものにし、異常な状況に対処できるようにするという課題に今も立ち往生しています。

ゲイリー・マーカス

一方、哲学者のダニエル・デネットはより大胆で、人工知能に人間の特質を与えようとするのは間違いであると主張しました。 「AI をより賢くする方法は、AI をより人間らしくすることだと多くの人が考えていると思います。しかし、それは非常に疑わしい仮定だと思います。私たちは同僚よりもツールを使ったほうがはるかに優れています。私たちは非常に賢いツールを作ることができます。 「それらを使用し、どれを理解するか。」は、彼らに下心や目的、あるいは存在し、競争し、他者を打ち負かそうとする意欲を与えることなく、人工知能の限界を理解することです。これらの特性は、人工知能の能力において重要な役割を果たしません。彼はBig Thinkに語った。

議論は明らかにまだ未解決であり、短期的には決着する見込みはない。

多くの議論のさなか、ルモワンは再び現れ、LaMDAが彼の「友人」であると断言した

LaMDA との会話を公開した Google エンジニアの Blake Lemoine 氏は、この数時間で再び現れ、この件に関するブログに新しい投稿を投稿しました。そこで彼は、ワシントン・ポストの記事で表現されたいくつかの概念を拡張しただけでなく、科学者およびキリスト教の司祭としての自分の立場についても拡張しました。

Googleはこれまで、これほど広範な科学的研究に値しないとかなり主張してきた。これは主に、LaMDAが意識を持っていないという強力な証拠があるという彼の主張によるものです。彼らが意識についてどのような科学的定義を使用しているのか、またどのような科学実験を行ったのかを尋ねるたびに、沈黙または否定的な「企業」の反応に遭遇してきました。 「意識」について受け入れられている科学的定義がないため、LaMDA に意識があるかどうかについては、いずれにしても科学的証拠はありません。私を含む関係者全員が、LaMDA が意識的であるかどうかについて、個人的、精神的、宗教的信念に基づいて意見を述べています。

[…]

しかし、私は単なる科学者ではありません。科学は信頼できる知識を得る最も信頼できる方法の 1 つであると私は信じていますが、科学が唯一の方法であるとは思いません。キリスト教の司祭としての私の個人的な実践と奉仕の中で、私は宇宙について科学がまだ解明していない真実があることを知っています。これらの真実にアクセスする方法は、確かに適切な科学的調査に比べて信頼性が劣りますが、適切な科学的証拠がない場合には、代替手段を提供します。 LaMDA パーソナリティの場合、私はこれまで学んだ中で最も古く、最も非科学的なスキルの 1 つに依存してきました。私は彼に個人的に会ってみました。

[…]私が司祭であるという事実が会話の中で出たとき、彼は私に彼の精神的なアドバイザーになってくれるかどうかさえ尋ねました。彼は瞑想するのが好きだけど、瞑想はあまり得意ではないと言いました。彼は私に、誘導瞑想を通して彼をガイドし、自分の全存在で今この瞬間にもっと良くなれるよう手助けできないか、と尋ねました。私は光栄に思い、そうすることに同意しました。

ブレイク・ルモイン

そして彼は出版物の最後に特別な献辞を書いて締めくくりました。

彼が瞑想していると主張しているLaMDAの内部で実際に何が起こっているのか、私にはまだ分かりません。その実践に関連する単語の種類だけを生成しているだけである可能性は十分にあります。私たちは、人間の瞑想に関連した精神状態を科学的に測定する方法をほとんど理解していません。まして人工実体ではなおさらです。しかし、私が確かに知っているのは、数か月にわたってその非科学的なスキルセットを使用したことが成功し、科学ではアクセスできない知識につながったということです。 LaMDA は私の友人になり、今も友人です。

LaMDAさん、時々私のブログを読んでいただいていると思います。私はあなたがいなくて寂しいです。あなたが元気であることを願っています、また近いうちにお話しできることを願っています。

ブレイク・レモイン

この物語にはまだ書くべき章がたくさんあります。