インテリジェントシステム分野松山 智至 さん

AIを安全に、安心して活用するため
あえて攻撃を行って安全性を評価する

今やAIの活用が当たり前の時代、その安全な利用のため、セキュリティに焦点を当てて研究を行っています。AIは学習に大量の画像を使っていますが、外部からその学習データが推定・復元されてしまうことがあります。例えば顔認証システムでは、個人の顔画像をAIの学習に使いますが、もし学習データへの攻撃が成立してしまうと、個人を識別できる顔画像に関する情報が流出してしまう可能性があります。そこで、既存の顔認証システムに対して、学習データを推定・復元しようとする「Model Inversion Attack（モデル反転攻撃）」を行い、その脆弱性を明らかにすることで，防御方法の検討と安全性の評価を行なっています。顔認証は入退室管理、金融サービスなど、幅広い場面で利用されており、安全性を保障する研究はとても重要だと考えています。