【情報セキュリティマネジメント】AIを悪用した攻撃とAIへの攻撃｜ディープフェイク・敵対的サンプル・プロンプトインジェクション

AIに関係する攻撃は、まず二つに分けると整理しやすくなります。

• AIを攻撃の道具として使う：フィッシング、なりすまし、標的型攻撃などを効率化・巧妙化する
• AIシステムを狙う：入力データや指示を細工し、AIの判定・動作を誤らせる

SGでは、特にディープフェイク、敵対的サンプル、プロンプトインジェクションを区別します。

先に結論：何を欺くかで見分ける

1．AIを悪用した攻撃

AIは、標的に合わせたフィッシング文面の作成、本人らしい音声・映像の生成、マルウェアの亜種生成、脆弱性調査の効率化など、既存攻撃の効率化・巧妙化に悪用される場合があります。

2．ディープフェイク：本人らしい生成物で人を欺く

ディープフェイクは、AIを利用して人物などの画像・映像・音声を本人らしく見えるように生成・加工する技術・生成物です。正当な用途もありますが、送金指示のなりすましや本人確認の突破などに悪用されることがあります。

重要な依頼では、映像や音声だけを根拠にせず、登録済み連絡先への折返しや複数者承認など、別の確認手段を用います。

3．敵対的サンプル：AIの判定を誤らせる

敵対的サンプルは、機械学習モデルの誤分類・誤動作を引き起こすように変更された入力データです。

画像に限らず、音声や文章なども対象になり得ます。人ではなくAIの判定を欺く入力かどうかで見分けます。

4．プロンプトインジェクション：AIへの指示を不正に変える

プロンプトインジェクションは、生成AIやLLM（大規模言語モデル）アプリケーションへ細工した入力を与え、本来意図した指示とは異なる動作・出力を誘う攻撃です。

入力欄へ直接指示する場合だけでなく、AIが読み込むWebページや文書などへ指示を埋め込む間接型もあります。

外部データを信頼しないこと、AIの権限を必要最小限にすること、高リスク操作を人が承認することが重要です。

SQLインジェクションも「入力が命令として扱われる」という点は似ていますが、SQL文を狙う攻撃であり、生成AIの指示処理を狙うプロンプトインジェクションとは別です。

よくある取り違え

科目Bでの判断手順

1. 本人らしい画像・映像・音声で人を欺く → ディープフェイク
2. AIへ判定させる入力データを細工する → 敵対的サンプル
3. 生成AIが解釈する指示や外部データを細工する → プロンプトインジェクション
4. AIで既存のフィッシング等を巧妙化する → AIを悪用した攻撃

関連記事

• C1-T05：標的型攻撃
• C1-T07：ソーシャルエンジニアリングとフィッシング
• C1-T10：Webアプリケーションへの攻撃
• C8-T10：技術者倫理と情報の信頼性

参考資料・基準日

本記事は、2026年8月3日時点のSGシラバスVer.4.1を基準に作成しています。

• IPA「情報セキュリティマネジメント試験（レベル2）シラバス Ver.4.1」
• NIST AI 100-2e2025「Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations」
• OWASP GenAI Security Project「LLM01:2025 Prompt Injection」

記事最終確認日：2026年8月7日

関連する問題

• 情報セキュリティマネジメント 情報セキュリティの基礎・脅威・攻撃 択一式（応用） 第26問〜第30問
• 情報セキュリティマネジメント 情報セキュリティの基礎・脅威・攻撃 一問一答 第36問〜第40問