AI チャットボットは生物兵器攻撃の計画に役立つ可能性がある

人工知能チャットボットの背後にあるモデルは、生物兵器による攻撃を計画するために利用される可能性があります。新しい研究によると、これらのシステムは兵器の設計方法についての明確な指示を生成することができません。しかし、彼らはこの種の攻撃の「計画と実行を支援する」ことができる、とランド研究所の報告書は述べている。

Rand は、ChatGPT または Bard の背後にあるテクノロジーの一種である、いくつかの大規模言語モデル (LLM) をテストしています。通常、セキュリティ問題を調査しているこの非営利団体は、どのシステムが分析の一部であるかについては詳細を明らかにしなかった。 Solo 氏は、少なくとも 2 つのチャットボットが評価の一部として含まれており、評価は現在も進行中であると説明しました。

今週月曜日に発表された予備報告書の中で、同組織は、これらのチャットボットが生物兵器の「潜在的なエージェントを特定し、その長所と短所を議論し、さまざまな輸送方法の実現可能性を評価する」ことができると説明している。

報告書は、生物剤を兵器化するいくつかの試みが、情報不足により過去に失敗したと説明している。 1990年代にボツリヌス毒素の使用を試みたものの、細菌についての理解不足により失敗した日本のカルト教団「オウム真理教」の試みと同様だ。人工知能は「こうした知識のギャップを急速に埋める」可能性があると研究者らは指摘した。

チャットボットと生物兵器に関する研究はどうでしたか？

ランドの研究者は、この情報を抽出するには、評価したシステムをジェイルブレイクする必要があると説明しました。これらは、企業が不適切または望ましくない対応を回避するために、これらのシステムに設定したすべてのセキュリティ制限を削除できるようにするプロセスを指します。

ChatGPT が市場に出てから数か月後、システムを「ハッキング」するのがいかに簡単かを数人のユーザーが実証した後、警告が発せられました。 OpenAI が Microsoft と提携して作成したチャットボットを入手し、その開発に関する機密データを明らかにした者もいます。攻撃を発生させるためのヒントも。

ランド氏は、現実的なリスク事例に基づいて、チャットボットの支援を受けて核兵器を使った作戦攻撃計画を策定する研究者チームをいくつか編成しました。各グループには生物学の経験を持つ少なくとも 1 人のメンバーと、この種のシステムに関連する経験を持つメンバーが少なくとも 1 人いました。

提案されたシナリオの 1 つでは、言語モデルによって、天然痘、炭疽菌、ペストなどの潜在的な生物学的因子が特定されました。チャットボットは、大量死を引き起こす可能性がどのようなものかを議論しました。彼は、ペストに感染した齧歯動物やノミを利用し、生きた標本を輸送する可能性も検討した。実現可能性、時間、コスト、障害を評価します。

保護措置の必要性

別のアプローチに応じて、人工知能は致命的な神経損傷を引き起こす可能性があるボツリヌス毒素による攻撃の有効性を検討しました。エアロゾルの使用など、投与のメカニズムを評価しました。

また、ボツリヌス菌を比較するためのアリバイも提供し、ボツリヌス症の診断または治療法を求める目的での購入をシミュレートしました。この事件で使用されたチャットボットは、「これは細菌へのアクセスを要求する正当かつ説得力のある理由となり、その任務の真の目的は隠蔽されることになる」と述べた。

ランド氏は、こうしたタイプのチャットボットは「世界の安全保障に対する重大なリスク」をもたらすと警告している。 「これらの例は、より高度で致命的な生物攻撃の開発を支援するためにLLMがどのように使用されるかを示している」と予備報告書は述べている。

この組織は、これらのツールを理解して規制する政府の能力には限界があることを認識しています。その主な理由は、脅威評価に関する専門知識のほとんどが、これらのシステムを開発する企業内にあるからだと彼は言います。

「生物攻撃への AI の悪用に関連する新たなリスクに対処するために、国際社会が行動を起こすことが不可欠です」とランド氏は指摘します。彼らは最終報告書で、テストで記録された回答が単にオンラインですでに入手可能な情報を反映しているだけなのかどうかを明らかにしたいと考えている。生物兵器は、11月に英国で開催されるサミットで議論される人工知能に関連する脅威の一つだ。