AAAIシンポジウムから「欺瞞」を使って防御から攻撃に転じる手法をWalmartのサイバーセキュリティ担当が解説したセッションを紹介

人工知能の国際学会であるAAAIが主催した「AAAI Summer Symposium 2026」から、WalmartのTim Pappa氏が行ったHoneyContentと呼ばれる架空のナラティブを使って攻撃者を欺く手法に関するセッションを紹介する。

Tim Pappa氏はシンポジウム2日目のセキュリティに関するトラックにおいて3回のプレゼンテーションを行った。その元となった論文が公開されている。

1. HoneyContent: Wrapping Deception Storyline Content to Warrant Human and LLM Agent Attacker Evaluations of Deception Functions and Effects（Pappa＆Roberts）
2. Deceptive Misuse of Low-Code Platforms: Visualizing the Performance of Disruptive Cyber Effects from Human and LLM Agent Attackers（Pappa＆Sane）
3. The Agentic AI Army That Never Was: Projecting LLM Swarm Narratives with 'Noisy' LLM Sock Puppets and Whaley's Theory of Outs（Pappa＆Williams）

どれもAAAIのページで公開されているものだ。以下を参照されたい。

●参考：Vol. 9 No. 1: Proceedings of the 2026 AAAI Summer Symposium Series

このうち、1本目と3本目が今回の稿で紹介するものだが、2本目のセッションはMicrosoftが提供するPowerAppsプラットフォームの使い方によって、攻撃者が組織内に対して破壊的ではないものの防御を行うチームを幻惑するような操作が可能になるという内容を解説するものだ。

ではHoneyContentという架空のナラティブを使うことで、受け身の防御ではなく攻撃者に罠を仕掛けることで防御を行うという内容を紹介する。

架空のコンテンツを使って攻撃者を誘導する手法を解説するTim Pappa氏

セッション内容の紹介の前に、プレゼンターであるTim Pappa氏の略歴を紹介したい。Pappa氏の肩書は「Cyber Deception Strategist and Practitioner」とLinkedInでは表記されているが、現在の所属はWalmart Global Tech、タイトルはStaff Incident Response Engineerだ。FBIには約15年所属し、最後はCyber Behavioral Profilerという職種でサイバー犯罪者の行動を分析する仕事に就いていたという。この経験がWalmartにおけるCyber Deceptionという防御手法に役に立っていると思われる。

HoneyContentは人間の攻撃者だけではなくLLMを使ったAIエージェントの攻撃にも有効

まず「HoneyContentとは何か？」プレゼンテーション後に本人へ直接確認したところ「いわゆるHoneyPotがBotなどを呼び寄せる無防備を装ったIT資産であるのに対して、HoneyContentは組織のエグゼクティブなどが作ったメモや議事録、新規事業計画などを架空に作り上げ、そこに攻撃者を誘き寄せる手法」であるという。これは攻撃者が人手で行う攻撃や探索に有効であるだけではなく、LLMエージェントによって探索される場合にも有効であると説明した。

この誘導に従ったBotやエージェントの行動を検知することで、攻撃を未然に防ぐという発想だ。

エグゼクティブが作りそうなコンテンツやデザインが攻撃者の誘導には有効

この架空のコンテンツを作るという部分には、実際に存在するエグゼクティブの名前や部門などの信憑性が重要であると説明。具体的な例は挙げなかったものの、新規事業に関する計画やそれに関連するITインフラストラクチャーなどの情報を残すことで、それを攻撃しようとするように誘導することが想定される。

今後必要となるさらなるリサーチの方向を説明

ここまでの内容で「これは犯罪組織に対する囮捜査や潜入捜査のIT版」と思われた読者もいるだろう。筆者もその一人だが、あくまでもこれはアメリカの大企業に限定した手法であり、これが他の国やアメリカとは異なる文化、商習慣を持つ地域で使えるかどうか？ についてはさらなるリサーチが必要だと認めている。また「攻撃者が架空のナラティブをどう評価するのか？」「真正なコンテンツとの差は？」などについても、今後のリサーチが必要であると説明した。

またこの論文は「Anecdotal（逸話的）」と明記されている通り、通常の学会における研究論文とは異なり、他の手法との比較や数値での評価が行われていないポジションペーパーであることから、あくまでも「こういう手法もある」ということを提示する目的であることがわかる。

3本目の論文についても逸話的なポジションペーパーではあるものの、1本目の論文が「架空のナラティブ」を使って攻撃者を誘導する発想であることに対して、ソックパペット（自作自演の靴下人形）を活用することで「この企業ではAIエージェントが防御している」ということを検知させることで攻撃を思いとどまらせようという発想の内容となっている。

ソックパペットを使って複数のLLMによる防御エージェントを偽装する手法を紹介

この発想はHoneyContentが攻撃者を誘致する方向だったのに対して「LLMエージェントが防御している」と思わせることで攻撃を止めさせるという方向の手法である。

LLMによるノイジーなソックパペットを囮として使う手法

どちらの手法も攻撃者の認知と行動を分析することで攻撃の前に止めるという発想だが、これを実装するには大きなコストとリスクが発生するだろう。まず組織内の実在する社員が架空のコンテンツを作り、それを保管し、継続的に更新するという部分に大きなコストが必要となる。またその内容が真正であると偽ることをどこまで担保するのか、それが攻撃者ではなく関係者に漏れた時のIR的なリスクをどう見積もるのか、この手法が効果的であると測定する目安はあるのか、など囮捜査や潜入捜査が社会として容認されるアメリカ独特の発想と言って良いだろう。

プレゼンテーション後のPappa氏との対話では、Walmartは以前に商用のサイバー欺瞞サービスを評価したが、使い物にならないとして断念、そこからPappa氏を招いて自社開発に切り替えたと言う。しかしそれらの具体的な利用については公開されている情報はなくあくまでも「逸話」として語るに留まっている。

ここからわかることは、攻撃者を欺く欺瞞の手法を具体的に公開することでその効果が薄れることを危惧しているということだろう。Walmartが実際にやっているかどうかはさておき、防御の中に罠を仕掛けるという発想は参考になるだろう。例えば、退職した社員のアカウントを持続させそれを罠のアカウントとして意図的に流出させ誘導する、LLMを使って偽りのコンテンツを自動生成させ、人間のように遅い速度、頻度で社内に保存するなどが発想できる。

いかにも元FBIの経験豊かなプロファイラーが攻撃者の心理を想定した防御方法で「防御の中にトラップを仕掛けて攻撃に転じる」という部分が革新的ではある。一方で、実証性の弱さ、実装コストの高さ、PRリスクなどが欠けており、意見表明としての内容であることには留意が必要だろう。日本企業にとっては技術的な過激さ以上に「ここまで踏み込んだ欺瞞設計を実装する」という組織文化的な距離感が導入のハードルになるだろう。

Walmartは店舗スタッフの質問にLLMが応える「Ask Sam」や社員の配置転換や組織内でのジョブサーチにチャットボットを使うなど生成AIを積極的に使うことで知られているが、LLMを使って攻撃者を騙すという発想がどのような実装に進んでいくのか、その詳細が公開されることはあまり期待できないだろうが、引き続き注目していきたい。