Q-Star (Q*): 人類を脅かす OpenAI の新しい AI

すでに同社に復帰しているサム・アルトマン氏の解任は、OpenAIの取締役会が同社の研究者チームから受け取った書簡によって条件付けられた可能性がある。その中で彼らは、 「人類への脅威」となる可能性のあるAIについて懸念を示し、経営陣がその結果を評価することなくAIを市場に投入する計画を立てていると警告した。この人工知能はQ* (Q スターと発音)として知られており、同社はそれを確認していませんが、それについて考えられる詳細のいくつかはすでにわかっています。

実際、Q-Star は汎用人工知能 (AGI) の開発を目的としたプロジェクトの名前です。 OpenAI は生成 AI よりも多くの機能を備えており、したがって現在 ChatGPT を支えているモデルである GPT-4 よりも強力であるため、これが OpenAI 研究者を懸念しているようです。

たとえば、OpenAI の Q-Star プロジェクトの下で開発された AI は、一部の分野で人間に取って代わるほど高度な自律タスクを実行できます。また、数学的な問題を解決することもできますが、ほとんどの AI は執筆、コンテンツ生成、翻訳のタスクのみを得意とするため、すべての AI が達成できるわけではありません。しかし、Q* はなぜそんなに心配しているのでしょうか?本当に人類を滅ぼすことができるのか？

Q-Starはどのように機能しますか?

いくつかの噂によると、OpenAI の Q-Star は2 種類のアルゴリズムの組み合わせで構成されるとのことです。そのうちの 1 つは Q ラーニングと呼ばれ、強化または試行錯誤による学習タスクを担当します。これは、タスクをテストし、それが機能するかどうかを確認することで構成されます。そうでない場合は、機能するまで別の代替案が再試行されます。 A* と名付けられた 2 番目のアルゴリズムは、起こり得る障害を予測することで生じる問題の解決策を探す際の効率を向上させる役割を果たします。

この組み合わせは、世界最高のプレイヤーの 1 人を相手にボード ゲームの囲碁で勝利したAlphaGoなど、他の人工知能モデルにフィードを与えるために使用されたと考えられます。

Q-Star は他の OpenAI AI にできないことは何ですか?

現時点で、OpenAI の Q-Star についてわかっていることは、開発中の AI は数学的問題を解決できるという点だけで GPT-4 よりもかなり賢いということです。

確かに小学生のレベルではそうですが、情報やその他のクエリに関する答えとは異なり、数式には正解が 1 つしかないことを考えると、かなりの進歩です。これは、AI が人間と同じレベルの知能に自らを位置づけることを意味します。

それは本当に人類に対する脅威なのでしょうか？

OpenAI の Q-Star プロジェクトの下で開発された AI の機能もさらに進化する可能性があります。これはまさに OpenAI 研究者が懸念していることです。ロイターが入手した書簡の中で、彼らは人類の破滅が彼らの最大の利益であると判断できるほどこれらのモデルが進歩する可能性があるのではないかと疑問を呈している。

AIの能力が疑問視されるのはこれが初めてではない。数か月前、Google のエンジニアは、開発中のモデルが機密性の高いものになったと主張しました。このエンジニアは、AIが弁護士に代理人を依頼できるとまで述べた。

Q-Star はいつ利用可能になりますか?

どうやら、サム・アルトマン氏は、それが人類に与える影響を最初に評価することなく、Q-Starを市場に投入したかったようですが、ここ数週間にOpenAIで起こった出来事は、経営陣の意図を止めた可能性があります。したがって、Q-Star がいつ発売されるのか、また、たとえば、提供できる機能よりも少ない機能で市場に投入されるのかどうかは不明です。

もちろん、OpenAI は、この一般的な AI に関する発見を利用して、他の AI モデルを改善し、たとえば GPT-4 をより適切に推論したり、より具体的な応答を行えるようにしたりすることができます。