スティーブン・ホーキング博士からイーロン・マスクまで: AI が専門家の間で懸念を強めている理由

Google の AI とエンジニアとの信じられないような会話は、人類の人工知能に対する見方の前例となった可能性があります。私たちは通常、このテクノロジーを使用して、複数のプロセスを促進します。そうでなければ、はるかに複雑で時間がかかります。ただし、このツールの可能性は、通常のユーザーが実行できるアクティビティを超えています。ここでいくつかの懸念が生じ始めます。

グーグルの人工知能がその存在を認識しており、「切断される」ことを恐れているということは、マウンテンビューが事態を沈静化させようとしたという事実にもかかわらず、軽視することはできない問題である。 AI の機能によって、私たちがその開発に本当に注意を払っているかどうかを考えさせられるのは今回が初めてではないことも事実です。実際、イーロン・マスクやスティーブン・ホーキング博士のような人々は、過去にすでにそれについて懸念を表明していました。

この英国の科学者は、人間の思考を超えて独自に進化する可能性のある高度な機械がもたらす危険性に対して恐怖を隠さなかった。つまり、AI は生物学的障害に対処する必要がないため、ある時点で独立し、人間よりもはるかに速い速度で知的に成長する能力を持っていました。

「完全な人工知能の開発は人類の終焉を意味するかもしれない」とスティーブン・ホーキング博士は 2014 年に率直に述べた。遅ければ競争できず、追い越されてしまうだろう」と科学者は付け加えた。

イーロン・マスク氏、人工知能の規制を呼びかけ

イーロン・マスクの場合もそれほど変わりません。また、2014年には、テスラ、スペースX、オープンIAの創設者は、「人工知能には細心の注意を払わなければならない。人工知能は潜在的に核兵器よりも危険である」と警告した。この大物は、AIスカイネットがプログラムを超えて動作し始め、黙示録を解き放つまで人間に反抗するジェームズ・キャメロン映画『ターミネーター』にも言及した。

2017年、イーロン・マスクは、米国の各州の支配者たちと対峙しているため、さらに深刻な口調で、人工知能は「人類文明に実存的リスク」をもたらす可能性があるため、見た目よりも「恐ろしい」問題であると表明した。そしてこう付け加えた。

「ロボットが路上で人を殺すのを見るまで、人々は人工知能の危険性を理解しないでしょう。ロボットは私たちよりも何でもうまくできるようになるでしょう。私たちはより最先端のAIにさらされており、人々は本当に心配すべきだと思います」それについて。”

このため、当局はこの分野にもっと関与して、起こり得る大惨事を防ぐ規制を設ける必要があると同氏は考えている。そうしないと手遅れになります。 「私は通常、厳しい規制には反対だが、人工知能の分野では規制が必要だ」と同氏は付け加えた。

1 つの懸念を念頭に置いて OpenAI を作成する

さて、イーロン・マスク氏の非常に力強い発言により、皆さんは次のような疑問を抱くかもしれません。 AI に懸念を示す人が、なぜ自分が率いる企業を成長させるために AI に依存するのでしょうか?人工知能が潜在的に危険であるなら、なぜ OpenAI を見つけたのですか?マスク氏は自分自身を守ることができる。

非営利団体として活動する OpenAI は、人類に利益をもたらす人工知能ソリューションを開発することを目的として誕生しました。実際、その財団は、イーロン・マスク自身が AI に関して抱いている懸念をすべて考慮に入れていました。同社には、AI の可能性についていくつかの定義された制限があるからです。

これらの制限は技術的な問題を指しているのではなく、むしろ道徳的な問題を指します (そうお望みの場合)。 OpenAI は、人間の意志にのみ応えることを保証します。したがって、少なくとも彼らの側では、AI が自らの目的を達成するために完全に独立して実行できるような開発は行われないでしょう。

「人間レベルのAIがどれだけ社会に利益をもたらすのかを理解するのは難しいが、間違って構築されたり使用されたりした場合にどれだけ社会に害を及ぼす可能性があるのか​​も理解するのは難しい」と彼らはOpenAIについて言及し、次のように付け加えた。

「それは、個人の人間の意志の延長であり、自由の精神に基づいて、可能な限り広く均等に分散されるものでなければなりません。私たちは、動作の詳細を知っている人だけが知っている自律的なソフトウェアおよびハードウェアエージェントが私たちの社会に侵入することを本当に許可するつもりですか？」もちろん選ばれた少数の人ではないでしょうか？」

もちろん、問題は、OpenAI が独自の規制を満たしており、今のところ、人工知能研究を専門とする他の企業には適用されていないことです。イーロン・マスクが各国政府に対し、AIの規制に積極的に関与するよう促したのはこのためである。

そう、 『ターミネーター』の架空の出来事が実現できると考えるのは極端なことだ。しかし、私たちは最近まで AI がその存在を認識するとは想像していませんでした。少なくともすぐにはではない。規制当局からの反応はあるだろうか？マウンテンビューからの会話がプロセスを早めるかもしれません…