首页>>人工智能->人工智能生成的Master人脸,真的能破解和冒充人脸识别吗?

人工智能生成的Master人脸,真的能破解和冒充人脸识别吗?

时间:2023-11-29 本站 点击:1

所谓“master face”的想法,即由机器学习算法生成的一组假图像,通过冒充人来破解面部生物识别系统,上周成为引人注目的海外头条新闻。但仔细研究该研究会发现明显的弱点,它不太可能在现实世界中发挥作用。

本月早些时候在 arXiv 上发布的这篇论文解释说:“一张master face是一张人脸图像,它通过了大部分人口的基于人脸的身份验证。”“这些面孔可以用来冒充任何用户,而且成功的可能性很高,而无需访问任何用户信息。”

特拉维夫大学的三位学者继续说,他们建立了一个模型,该模型生成了 9 张master face,能够代表 40% 的人口,绕过了“三个领先的深度人脸识别系统”。乍一看,这似乎令人印象深刻,而且这些声明在需要面部识别的应用程序中构成了明显的安全风险。

首先,该团队使用 Nvidia 的 StyleGAN 系统来创建假脸的逼真图像。每个假输出都与 Labeled Faces in the Wild (LFW) 数据集中代表的 5,749 个不同人的一张真实照片进行比较。单独的分类器算法确定与数据集中的真实人脸相比,人工智能生成的假人脸的相似程度。

分类器相似度得分高的图像被保留,其他图像被丢弃。这些分数用于训练进化算法,以使用 StyleGAN 创建越来越多看起来像数据集中的人的恶搞面孔。

随着时间的推移,研究人员能够在数据集中找到一组代表尽可能多的图像的主人脸。简而言之,他们只能用 9 张图像来代表 Labeled Faces in the Wild 数据集中 5,749 个不同人的 40%。

接下来,他们使用这些主人脸来欺骗三种人脸不同的人脸识别模型:Dlib、FaceNet 和 SphereFace。这些系统在对 LFW 数据集上测试的最佳人脸匹配算法进行基准测试的竞赛中排名最高。

然而,快速浏览能够绕过这三个模型中的每一个的得分最高的主面孔,就会发现研究存在明显的局限性。它们几乎都是白发、眼镜和胡须的白人老年男性的假照片。如果这些相同类型的图像能够代表大量的 LFW 数据集,那么该数据集肯定存在一些缺陷。

发布在托管数据集的网站上的免责声明证实了这一点:“许多群体在 LFW 中没有得到很好的代表。 例如,孩子很少,没有婴儿,80岁以上的人很少,女性比例相对较小。 此外,许多种族的代表性非常低或根本没有。”

九个master face的分数反映了 LFW 数据集的局限性。 女性、肤色较深和较年轻的面孔排名较低,并且不太可能绕过测试的三个模型。

“虽然理论上 LFW 可用于评估某些亚组的表现,但该数据库的设计目的是没有足够的数据来得出关于亚组的强有力的统计结论。 简单地说,LFW 不够大,无法证明某个特定软件已经过彻底测试,”根据 LFW 网站上列出的另一份免责声明。

尽管能够模拟大部分人脸以解锁人脸识别系统的master face的想法很有趣,但这里的研究只是使用有缺陷的数据训练和测试机器学习模型的另一个案例。 正如他们所说,垃圾进,垃圾出。

LFW 数据集缺乏多样性,因此计算机生成的主人脸更有可能覆盖该数据集的更大比例。 这些图像不太可能在现实世界中也能正常工作。

“LFW 确实受到其官方网站中描述的局限性的影响,但尽管存在这些局限性,LFW 仍然是学术文献中广泛使用的数据集,用于评估人脸识别方法,”该论文的合著者兼研究员 Tomer Friedlander特拉维夫大学电气工程学院告诉 The Register。

“我们的论文提出了人脸识别系统可能存在的漏洞,攻击者可以利用该漏洞。因此,人脸识别方法的开发者和用户都应该考虑到这一点。我们还没有针对现实生活中使用的商业人脸识别系统测试我们的方法,所以我们不能参考现实生活中的系统。”

他说,有可能使模型适应更好的数据集,这些数据集更加多样化,以尝试和欺骗现实世界中的系统。 “我们有兴趣进一步探索使用我们的方法生成的主面部的可能性,以帮助保护现有的面部识别系统免受此类攻击。我们将其留作未来的研究。”

不要被那些声称这些大师面孔可以闯入“超过 40% 的面部 ID 身份验证系统”或它们“非常成功”的骇人听闻的头条新闻所迷惑。几乎没有证据支持这些说法。

关于人脸识别技术

人脸识别的目的是从人脸图像中抽取人的个性化特征,并以此来识别人的身份。

基于特征的人脸检测技术

通过采用颜色、轮廓、纹理、结构或者直方图特征等进行人脸检测。

基于模板匹配人脸检测技术

从数据库当中提取人脸模板,接着采取一定模板匹配策略,使抓取人脸图像与从模板库提取图片相匹配,由相关性的高低和所匹配的模板大小确定人脸大小以及位置信息。

基于统计的人脸检测技术

通过对于“人脸”和“非人脸”的图像大量搜集构成的人脸正、负样本库,采用统计方法强化训练该系统,从而实现对人脸和非人脸的模式进行检测和分类。

由于人脸图像在高维空间中的分布是一个不规则的流形分布,能得到的样本只是对人脸图像空间中的一个极小部分的采样,如何解决小样本下的统计学习问题有待进一步的研究。值得一提的是,任何算法都不会100%识别准确,由于噪声、误差、算法、训练集、图像背景、人物动作等影响,某些时候也会出现一些错误识别,造成对视频中人脸检测不准确。

人脸识别的应用

目前,从我国人脸识别技术应用来看,主要集中在三大领域:考勤门禁、安防以及金融。具体如:安防监控、视频中的人脸检测、人脸识别、人流量统计等,广泛应用在小区、楼宇的智能门禁,周界可疑人员徘徊检测、景区人流量统计等等。

TSINGSEE青犀视频基于多年视频领域的技术经验积累,将AI检测、智能识别技术融合到各个应用场景中,典型的示例如EasyCVR视频融合云服务,具有AI人脸识别、车牌识别、语音对讲、云台控制、声光告警、监控视频分析与数据汇总的能力。


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:/AI/1030.html