AI特有の脅威の概要とリスク評価への取り組み

カテゴリ：部門大会

論文No：TC14-7

グループ名：【C】2025年電気学会電子・情報・システム部門大会

発行日：2025/8/20

タイトル(英語)：Security and Safety Risks in AI - An Overview and Our Approach

著者名：小松 みさき（（株）東芝）,花谷 嘉一（（株）東芝）

著者名(英語)： Misaki Komatsu (Toshiba Corporation Corporate Laboratory),Yoshikazu Hanatani (Toshiba Corporation Corporate Laboratory)

キーワード：

要約(日本語)：近年、AIを用いたシステムの社会実装が進む一方で、AI特有の脅威が懸念されている。たとえば、入力データを微小に改変して誤動作を誘発するadversarial attackや、学習データの偏りに起因し差別的な出力が生じるデータバイアスなどが報告されている。AIシステムを開発・提供する事業者にとって、これら脅威に備えるためのリスク評価と適切な対策の実施は不可欠である。
本発表では、代表的なAI特有の脅威とリスクの概要、および対応の必要性を概説する。さらに、AIをブラックボックスとして扱い、入出力挙動のみを用いてリスク評価を支援する著者らの研究の取り組みを紹介する。

本誌掲載ページ：576-581p

原稿種別：日本語

PDFファイルサイズ：551Kバイト