深層学習を用いたフィッシング検知におけるバックドア攻撃の検知

カテゴリ: 研究会(論文単位)

論文No: CMN24008

グループ名: 【C】電子・情報・システム部門 通信研究会

発行日: 2024/01/22

タイトル(英語): Detecting Backdoor Attacks in Phishing Detection Using Deep Learning

著者名: 西浦 幸来(同志社大学),木村 共孝(同志社大学),程 俊(同志社大学)

著者名(英語): Nishiura Koko(Doshisha University),Kimura Tomotaka(Doshisha University),Cheng Jun(Doshisha University)

キーワード: バックドア攻撃|深層学習|Ａｄｖｅｒｓａｒｉａｌ　Ｅｘａｍｐｌｅｓ|Backdoor Attack|Deep Learning|Adversarial Examples

要約(日本語): 近年，オンラインサービスの利用が急増し，それに伴いフィッシング詐欺による被害も増加している．フィッシング詐欺を防ぐために深層学習を用いた検知システムが提案され，その有効性が示されている．しかし，深層学習には学習時にトリガーを仕掛けることで意図的に誤判定を引き起こすバックドア攻撃が懸念されている．本稿では，バックドア攻撃を受けた深層学習モデルの検知手法を提案する．本提案手法はバックドア攻撃を検知できるだけでなく，トリガーが挿入された場所を検知するためにAE (Adversarial Examples)を使用する．AE技術は，入力データに摂動を加えることで所属していたクラスとは異なるクラスに誤分類を引き起こす．AE技術で生成した摂動を制限しながら足し合わせることで，トリガー部分に摂動がかかり，入力データとは異なるクラスに判定される．摂動の制限部分とトリガー部分が一致した場合，トリガーが作用するため入力データと判定クラスが一致する．そのため，トリガーを含むURLが複数個存在した場合，トリガーを特定することができ，攻撃者の特徴を分析することができる．フィッシングサイトのURLのデータセットを用いた実験を通して，提案手法がバックドア攻撃に対抗できることを示す．

要約(英語): In recent years, the use of online services has increased rapidly, and with it, the number of phishing attacks has also increased. In order to prevent phishing attacks, a detection system based on deep learning has been proposed and shown to be effective. However, there is a concern that deep learning may be subject to a backdoor attack in which a trigger is inserted during the learning process to intentionally cause misclassification. In this paper, we propose a detection method for deep learning models subjected to backdoor attacks. The proposed method not only detects backdoor attacks, but also uses AE (Adversarial Examples) to detect where the trigger was inserted. By adding the perturbations generated by the AE technique while restricting them, perturbations are applied to the triggers, which are determined to be in a different class than the input data. If the restricted part of the perturbation and the trigger part match, the trigger acts and the input data and the decision class match. Therefore, if there are multiple URLs containing triggers, the triggers can be identified and the characteristics of the attacker can be analyzed. Through experiments using a dataset of URLs of phishing sites, we show that the proposed method can counter backdoor attacks.

本誌: 2024年1月25日-2024年1月26日通信研究会

本誌掲載ページ: 43-46 p

原稿種別: 日本語

PDFファイルサイズ: 604 Kバイト