SlashNext、サイバー犯罪者に利用される「WormGPT」などサイバー攻撃に対するLLMについての概要を発表

SlashNextは7月13日(現地時間)、サイバー犯罪者に利用される「WormGPT」についての概要を発表した。

「WormGPT」は、ChatGPTに類似しているが、サイバー犯罪に悪用できるような学習が中心に行われており、かつChatGPTに存在しているセーフティ機能が搭載されていない。このため、サイバー犯罪者にとってはより高度な詐欺などに悪用できてしまう。

これらの大規模言語モデル(LLM)実装系は、標的にパーソナライズした説得力のある偽のメールを自動生成する能力を与える。詐欺の電子メールを作成し、ターゲットの国の言語に翻訳し、さらにそれをGPTにかけて、さらに説得力のある文章にブラッシュアップする。これによって、特定の言語に堪能でなくても、容易にフィッシング詐欺メール、ビジネスメール詐欺攻撃メールを作成できてしまう。

SlashNextは、生成AIを悪用したサイバー攻撃に対応する方法として、次の2つのアドバイスを挙げている。

〇人工知能によって強化されたビジネスメール詐欺攻撃に特化したトレーニングの実施
〇人工知能によって強化されたビジネスメール詐欺から身を守るための厳格な電子メール検証プロセスの実施

ChatGPTをはじめとする大規模言語モデル(LLM)系の技術は、社会を大きく変えようとしているが、この動きはサイバーセキュリティの世界にも波及しており、攻撃は今までとは比較にならないほど巧妙になると予想される。インターネットユーザは十分な注意を払うことが必要となる。

(川原 龍人/びぎねっと)

[関連リンク]
Blogによる記事