基于标签的无数据的成员推理攻击
网络安全与数据治理 2023年第5期
杨盼盼，张信明
（中国科学技术大学计算机科学与技术学院，安徽合肥230026）
摘要： 成员推理攻击根据模型的预测结果推断特定记录是否为模型的训练数据成员，在隐私保护等领域具有重要应用意义。现有的基于标签的无数据的成员推理攻击方法主要利用对抗样本技术，存在查询和计算成本较高的问题。对此提出一种新的成员推理攻击方法，该方法利用影子模型来减少多次攻击的查询代价，并提出数据筛选与优化策略以提高攻击模型的性能。实验在两个常见的图像数据集上进行，结果表明该方法同时具有较高的攻击成功率和较低的查询成本。
中圖分類號(hào)：TP181
文獻(xiàn)標(biāo)識(shí)碼：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：楊盼盼，張信明.基于標(biāo)簽的無(wú)數(shù)據(jù)的成員推理攻擊［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023，42（5）：44-49.
文獻(xiàn)標(biāo)識(shí)碼：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：楊盼盼，張信明.基于標(biāo)簽的無(wú)數(shù)據(jù)的成員推理攻擊［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023，42（5）：44-49.
Label-based data-free membership inference attack
Yang Panpan，Zhang Xinming
(School of Computer Science and Technology, University of Science and Technology of China, Hefei 230026, China)
Abstract： Membership inference attack infers whether a specific record is a training data member of a model based on the model′s prediction results, which has important application significance in the field of privacy protection. Existing labelbased datafree membership inference attack methods mainly use adversarial sample technology, which has a high query and computation cost. This paper proposed a new membership inference attack method that uses a shadow model to reduce the query cost of multiple attacks, and proposed data filtering and optimization strategies to improve the performance of the attack model. Experiments were conducted on two commonly used image datasets, and the results showed that the proposed method has both a high attack success rate and a low query cost.
Key words : membership inference attack; datafree; labelbased
0 引言
目前很多機(jī)器學(xué)習(xí)模型以服務(wù)的形式對(duì)外提供查詢接口，返回模型的預(yù)測(cè)結(jié)果。這些模型很容易受到成員推理攻擊。成員推理攻擊是一種針對(duì)機(jī)器學(xué)習(xí)模型的隱私攻擊，主要目的是根據(jù)模型的預(yù)測(cè)結(jié)果，推斷特定記錄是否為模型的訓(xùn)練數(shù)據(jù)成員。成員推理攻擊在實(shí)際應(yīng)用中具有重要的意義，例如在隱私保護(hù)領(lǐng)域中，攻擊者可能通過(guò)成員推理攻擊來(lái)揭示個(gè)人數(shù)據(jù)是否包含在某個(gè)模型的訓(xùn)練數(shù)據(jù)中。
本文詳細(xì)內(nèi)容請(qǐng)下載：http://www.ihrv.cn/resource/share/2000005333
作者信息：
楊盼盼，張信明
（中國(guó)科學(xué)技術(shù)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，安徽合肥230026）
此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。