Google AIの先駆者が辞任：「制御できるかどうかが分かるまで、これ以上進めるべきではない」

彼は人工知能（AI）の「ゴッドファーザー」として知られています。 2012 年、ジェフリー ヒントンは、ここ数カ月で世界に革命をもたらしたシステムの基礎となるテクノロジーを発明しました。彼はチューリング賞受賞者で、最近まで Google で AI 開発に携わっていました。同氏は、問題なく警告できるよう辞任したと述べ、 「制御できるかどうかが分かるまで、これ以上進めるべきではない」と述べた。

ヒントン氏の警告は、「責任ある」行動をとったGoogleだけに関するものではない。これは、昨年 11 月の ChatGPT の発表以来、AI システムの発表の流星群に巻き込まれている業界全体に対する警鐘です。同氏はニューヨーク・タイムズ紙とのインタビューで、「悪意のある人物が悪事に利用するのをどうやって防ぐことができるのか理解するのは難しい」と語った。

タイムズ紙によると、ヒントン氏（75）は4月にGoogleに辞任を通知し、先週の木曜日にCEOのサンダー・ピチャイ氏と直接話したという。彼は同社で 10 年以上勤務し、その間、この分野で最も尊敬される発言者の 1 人になりました。 「私の心の中には、自分の人生をかけた仕事を後悔している部分がある」と科学者は認めている。

元Google社員の当面の懸念は、AIが雇用にもたらすリスクと偽情報キャンペーンへの影響という2つのことに関係している。 「重労働は取り除かれますが、最終的にはすべてを奪ってしまう可能性があります」とヒントン氏は警告する。

AI開発の中心人物

ヒントンは、スコットランドのエディンバラ大学の大学院生だった 1972 年に「ニューラル ネットワーク」の概念を採用しました。これは、人間の脳が情報を処理する方法をエミュレートする数学システムです。彼のキャリアのほぼすべてがその開発に捧げられました。

ヒントンは 1980 年代にカナダに定住し、トロントの大学院生 2 人とともに、数千枚の写真を分析し、犬や車などの共通の物体を識別する方法を学習できるニューラル ネットワークを構築しました。その後、Googleはヒントンと彼の2人の学生が設立した会社を買収するために4,400万ドルを支払った。

これら 2 人の学生のうちの 1 人はIlya Sutskever で、すぐに ChatGPT の発案者である OpenAI の主任科学者になりました。 2018年、ヒントン氏はニューラルネットワークの研究で「コンピューティング界のノーベル」に相当するチューリング賞を受賞した。

Google と OpenAI がニューラル ネットワークの開発を開始した初期の頃、ヒントンはニューラル ネットワークが機械が言語を理解して生成するための優れたメカニズムであると考えていました。しかし、企業がはるかに大量のデータからシステムを開発し始めた昨年、彼は心配し始めた。彼は、ある面で、これらの AI が人間の知性を置き去りにしていることに気づきました。

「こうしたものが実際に人間よりも賢くなる可能性があると考えた人はほとんどいませんでした」とヒントン氏は言う。 「私を含め、私たちのほとんどは、これはまだ遠い先のことだと信じていました。私はそれがさらに30年か50年先のことだと思っていました。明らかに、私はもう同じようには考えていません。」

元Google社員もAIに関する警鐘に加わる

ヒントンは、AI の将来のバージョンが人類に対する脅威になる可能性があると考えています。分析するデータが大量であるため、これらのシステムは予期しない動作を学習することがよくあります。ヒントン氏は、真の自律型兵器がいつか現実になるのではないかとさえ懸念している。

このことは、Google CEOのサンダー・ピチャイ氏もすでに認識しており、先月、同社のAIチャットボットであるBardにはまだ理解していない機能がいくつかあると述べた。彼は、 彼のモデルは、推論、計画、創造性など、最近のテストでいくつかの予期せぬ新機能を経験したと述べました。

科学界の何人かの代表者はすでに AI に関連するリスクに注意を払っています。 3月には1000人以上の専門家が大企業に対し、「AIの効果がプラスになり、リスクが管理可能になる」ことが確実に分かるまでAIモデルの開発を中止するよう要請した。彼らは、Twitterの所有者でOpenAIの共同創設者であるイーロン・マスクを含む数人の業界幹部が署名した別の公開書簡を通じてこれを行った。

他の元Google従業員もヒントンと同じ方針で指摘している。たとえば、GoogleのAI製品のアナリスト2人は、 Bardの発売を阻止しようとした。技術者らは、同社が開発したチャットボットが虚偽または危険なコンテンツを生成するリスクについて、書面で懸念を報告書に残した。