Yihui Jin による 2026 年 10 月 19 日公開の論文では、Boundary-Aware Model Obfuscation (BMO) と呼ばれる防御手法が、敵対的攻撃に対して平均 68.68% の防御成功率を達成しました。最も強力なベースライン防御は 22.32% にとどまりました。この手法は、デバイス上での機械学習における弱点を標的としています。すなわち、デバイスが侵害されると、そのモデルが露呈し、攻撃者が他のデバイスを標的にするのを助けてしまうという点です。
デバイス上で機械学習を実行することは、低レイテンシかつプライバシー保護という利点をもたらしますが、侵害が 1 台のデバイスにとどまらない可能性があります。攻撃者はアプリケーションをリバースエンジニアリングして、デプロイされたモデルへのホワイトボックスアクセスを獲得し、ピアデバイス上のモデルに関する知識を抽出できます。論文ではこれをクロスノード攻撃と呼び、1 台の侵害されたデバイスが脅威となりうると説明しています。
本記事は人工知能の支援を受けて作成され、編集チームによる確認を経ています。




