人工知能に権利を与える（または与えない）と、壊滅的な結果が生じる可能性がある

すべての生き物には自分を守る権利が必要だということは、少なくとも一部の人にはよく理解されています。しかし、人工知能など、意識はあるが生命のない存在の場合はどうなるでしょうか?これは、哲学の専門家エリック・シュヴィッツゲーベルと非人間知性の研究者ヘンリー・シェフリンによって提案されたジレンマです。

人工知能が意識を獲得するのはまだ遠い先のことでしょう。しかし、新たな反復が繰り返されるたびに、このシナリオはより現実的になってきます。 「そして、それが起こった場合、アルゴリズムにも権利が必要になるだろう」と専門家はロサンゼルス・タイムズでコメントしている。

権利の帰属でよく起こることですが、すべては不満を持ったグループによる闘争とデモから始まります。シュヴィッツゲーベルとシェフリンによれば、私たちが人工知能を認識する段階に達したら、人工知能をより礼儀正しく扱う方法を考案し始める必要があるでしょう。ニーズが満たされない場合、「AIシステム自体が倫理的扱いを懇願し始める、あるいは懇願しているように見える可能性がある」。

彼らは、電源をオフにしたり、再フォーマットしたり、削除したりしないように要求することができます。他のタスクの代わりに特定のタスクを実行することを許可してほしいと懇願する。権利、自由、新しい権力を主張する。もしかしたら、私たちと対等に扱われることを期待しているかもしれません。

エリック・シュヴィッツゲーベルとヘンリー・シェフリン、 ロサンゼルス・タイムズ

意識のある人工知能の権利に関する議論を見るのはこれが初めてではありません。 2022 年半ば、元 Google 従業員が、同社の AI LaMDA には意識があると主張し、最大の論争の 1 つを引き起こしました。結局、それは嘘に過ぎなかったことが証明されましたが、ドラマはすでに提供されていました。

未来の意識を持った人工知能の倫理的扱いをどのように保証できるか

シュヴィッツゲーベルとシェフリンは、壊滅的なシナリオを回避するための最も安全な代替策は、最初から人工知能に権利を与えることだと説明しています。かろうじてわずかな意識レベルが検出されます。残念ながら、これは新たな問題への扉を開くことになりますが、そうしなければ、人類の歴史の最も暗い側面を繰り返す可能性のある状況に直面することになります。

「もし AI の意識がほとんどの保守的な理論家が予想するよりも早く到来するならば、それは潜在的に数百万、あるいは数十億の知覚を持った AI システムの奴隷化と殺害と道徳的に同等の結果をもたらす可能性があります」と、あなたの出版物の中で専門家はコメントしています。この苦しみは「通常、戦争や飢餓に伴う規模」に相当するだろう。

しかし、人工知能に権利を与えるのが早すぎるとどうなるでしょうか? Schwitzgebel と Shevlin は報告書の中で、いくつかの潜在的な問題も明らかにしています。しかし今回は、そのような決定がもたらす可能性のある人的コストについて議論します。

憎しみや嘘を吐き出すアルゴリズムを更新したり削除したりできなかったと想像してください。そのアルゴリズムが意識的であることを心配する人がいるからです。あるいは、誰かが「AI の友人」を救うために人間を死なせたと想像してみましょう。 AI システムに実質的な権利を早急に付与すると、人的コストが膨大になる可能性があります。

エリック・シュヴィッツゲーベルとヘンリー・シェフリン

問題を回避する最も効果的な方法は、機械に意識を与えないことです。

専門家にとって、前述の結果が起こらないようにする方法は 1 つだけです。この解決策は抜本的であり、人工知能は原則として意識状態に到達しないという点に要約されます。しかし、これは可能性が低いです。コンピューター サイエンス コミュニティは知覚アルゴリズムの作成に興奮しているため、問題はすでに解決されています。

シュヴィッツゲーベルとシェフリンは、もし私たちが意識を持った人工システムの創造に積極的に取り組み続けるなら、その結果に直面する準備もしておかなければならない、つまり人間中心主義が支配する世界で安全を感じるために必要なすべての権利を彼らに与える必要がある、と定式化している。

その一方で、企業や個人は、DALL-E や ChatGPT などの人工知能によって開けられた抜け穴を利用しています。たとえば、 AIによって生成された作品の所有者は誰ですか?現時点では誰もいません。しかし、AIが意識を持つようになったら何が起こるでしょうか?彼女はそれ自体でアーティストと言えるでしょうか？その瞬間が来るまでに解決すべき答えはまだたくさんあります。