熊谷 瞭さん（理工学研究科　情報工学専攻　修士課程1年、吉川雅弥研究室）

2023年3月25日

Explainable AI based Adversarial Examples and its Evaluation

　AIを利用するためには、AIのセキュリティリスクを正しく評価することが重要です。AIの判断を誤らせる（騙す）攻撃にAdversarial Examplesがあります。一方で、AIの判断について、一般的にはその根拠が不明です。そこで、AIの判断根拠を明示する技術に、説明可能AIがあります。本研究では、この説明可能AIをAdversarial Examplesに応用することで、従来手法より、効率よくAIの判断を誤らせる技術を開発しました。

　この研究成果について、The 6th International Conference on Electronics, Communications and Control Engineering (ICECC 2023) で発表したところ、 Best Presentation Awardを受賞しました。