脱ReLU！敵対的学習では、滑らかな活性化関数を使うべし！ （）

3つの要点 ?? 一般的に敵対的学習によって機械学習モデルのロバスト性が向上するが精度が低下する。 ?? 活性化関数ReLUの非平滑な性質が敵対的学習を阻害していることが明らかになった。 ?? ReLUを滑らかな関数に置き換えるだけで、計算量や精度を変えずにロバスト性を向上することができた。 Smooth A…