愚弄人脸识别系统的艺术展

世界上最无聊的艺术展已经上线了。它仅包含同一幅画的100张图像：100份蒙娜丽莎。人类看到100张相同的蒙娜丽莎图像；但是面部识别系统可以看到100个不同的名人。该展览是初创公司Adversa的创意，旨在发现并帮助减轻人工智能中不可避免的和可利用的不安全感。在这种情况下，面部识别系统的弱点被突显。Adversa在其博客报告中解释道，这种感知差异是由称为对抗样本的人工智能的偏见和安全漏洞引起的，网络犯罪分子可能会利用这些漏洞来破解面部识别系统、自动驾驶汽车、医学成像、金融算法——或者实际上是任何其他人工智能技术。这个欺骗AI的演示基于从已发布照片中获取的8,631个不同名人的库。面部识别模型是FaceNet，在最流行的面部识别数据集VGGFace2上进行训练。VGGFace2被描述为用于跨姿势和年龄识别人脸的数据集。它包含超过300万张图像，分为9,000多个类别，这使得该数据集成为训练面部识别深度学习模型的热门选择。FaceNet是谷歌的人脸检测模型。Adversa在本次蒙娜丽莎展览中的目的不仅仅是展示面部识别AI可以被颠覆，而是更广泛地表明AI本身可以被用于恶意目的而被颠覆。

https://www.securityweek.com/art-exhibition-fools-facial-recognition-systems