ChatGPTはより多くの犯罪を助長するとユーロポールが警告

ChatGPT は警察に赤信号を点灯させました。チャットボットの人気の爆発は、さまざまな分野で無限の応用をもたらしただけでなく、詐欺や恐怖の蔓延ももたらしました。現在、ユーロポールの報告書は、犯罪者による AI の悪用の可能性について警告しています。

最近、欧州機関はチャットボットのマイナスの可能性に対処するための一連のワークショップを開催しました。レポート「ChatGPT: 法執行機関に対する長い言語モデルの影響」の中で、ユーロポールは、犯罪者がさまざまな犯罪を犯すのに AI がどのように役立つかを説明しています。犯罪のリストは多岐にわたり、詐欺、なりすまし、ハッキング、テロ、プロパガンダ、偽情報などが含まれます。

ユーロポールによると、ChatGPT のような長言語モデル (LLM) は創造的な作業が可能であることが証明されています。これらは一般大衆や企業に利益をもたらしますが、同時にあなたの安全に対するリスクももたらします。 2022 年末に一般公開されて以来、チャットボットは何百万人もの人々によって使用されており、その中には詐欺行為をしたり、テロ攻撃を計画したり、 OpenAI によって課されたセキュリティ ルールを破ろうとしたりする目的を持つ人もいます。

レポートでは、本物のように見えるテキストを再現できるため、フィッシング行為が容易になると述べています。詐欺師はスタイルや文法をチェックすることを心配する必要がなく、詐欺メールを作成するときに定義されたスタイルを採用するようにChatGPT に要求することもできます。 「LLM の助けにより、この種のフィッシングやオンライン詐欺はより迅速に、より本物らしく、そしてかなり大規模に作成できるようになります」とユーロポールは述べています。

ChatGPT: 犯罪者のための学校?

このレポートで注目を集める部分の 1 つは、情報の即時性と関係しています。ユーロポールによると、潜在的な犯罪者が特定の犯罪分野について何も知らない場合、 ChatGPT は捜査プロセスを大幅にスピードアップできます。状況に応じた質問をするだけで、犯罪の理解と実行が「大幅に」容易になります。

ChatGPT を使用すると、事前知識がなくても、住宅への侵入方法からテロ、サイバー犯罪、児童性的虐待に至るまで、多数の潜在的な犯罪地域に関する情報を入手できます。

ユーロポール

知識がほとんどまたはまったくない人に対して不正行為を促進するというこの概念の一例は、サイバー犯罪に見られます。欧州機関は、さまざまなプログラミング言語でコードを作成できるため、小規模な犯罪者がフィッシング Web サイトや悪意のあるスクリプトを作成できる可能性があると述べています。 ChatGPT が作成できるツールはシンプルですが、このモデルの開発が進むにつれてより複雑になります。

学校で強盗やテロを計画する ChatGPT の能力をすでにテストしている人もいます。自然言語のトリックを使用してセキュリティ ガイドラインを回避し、ユーザーはチャットボットに住宅強盗の手順を指示させました。おそらく最も悲惨な事件は、被害額を最大化することでテロ攻撃を誘発するという要求を隠蔽した元アマゾン社員、ヴァイバフ・クマールの事件だろう。

ユーロポールは、OpenAI および LLM モデルを開発するその他の企業が従うべき一連のガイドラインをリストしています。責任ある AI の実践に加えて、当局は将来の規制を重視しています。現在、欧州連合は人工知能アプリケーションを規制するための法案の策定に取り組んでいます。