人工智能生成的脸比真实的脸更值得信任


最(上排)和最少(下排)的人脸能准确分类真实人脸(R)和合成人脸(S) ©版权(c) 2019, NVIDIA Corporation
最(上排)和最少(下排)的人脸能准确分类真实人脸(R)和合成人脸(S)

JDB电子游戏人员表示,人们无法区分人工智能(使用StyleGAN2)生成的脸和真实的脸, 谁呼吁采取措施防止“深度造假”.

AI-synthesized text, audio, image, 视频已经被用于所谓的“复仇色情”, fraud and propaganda.

JDB电子游戏的索菲·南丁格尔博士和加州大学的哈尼·法里德教授, Berkeley, 在实验中,参与者被要求区分StyleGAN2合成的人脸和真实的人脸的状态,以及这些人脸唤起的信任程度.

The results 揭示了合成人脸不仅具有高度的照片真实感, 但与真实面孔几乎难以区分,甚至被认为更值得信赖.

Writing in the journal, 他们说:“JDB电子游戏对人工智能合成人脸的照片真实感的评估表明,合成引擎已经通过了恐怖谷,能够创造出比真实的脸更难以区分、更值得信赖的脸。.”

JDB电子游戏人员警告说,人们无法识别人工智能生成的图像可能带来的影响.

“也许最有害的后果是在数字世界中,任何图像或视频都可以被伪造, 任何不方便或不受欢迎的录音的真实性都会受到质疑.”

· In the first experiment, 315名参与者将从800张面孔中选取的128张面孔分成真实的和合成的. 他们的准确率为48%,接近50%的机会表现.

· In a second experiment, 219名新参与者接受了如何对人脸进行分类的培训并得到了反馈. 他们从第一次实验的800张面孔中提取出128张面孔,并对其进行分类——尽管经过了训练, 准确率仅提高到59%.

JDB电子游戏人员决定找出可信度的感知是否能帮助人们识别人工图像.

“面孔提供了丰富的信息来源, 仅仅几毫秒的曝光就足以对个人特质(如可信度)做出隐含推断. JDB电子游戏想知道合成人脸是否会激活同样的可信度判断. 如果不是,那么信任感可以帮助区分真实的和人造的脸.”

第三项JDB电子游戏要求223名参与者对同一组800张面孔中的128张面孔的可信度进行打分,打分范围从1(非常不值得信任)到7(非常值得信任).

合成人脸的平均评分为7分.比真实面孔的平均信任度高7%,这在统计学上是显著的.

“Perhaps most interestingly, JDB电子游戏发现合成的脸比真实的脸更值得信赖.”

·黑人的面孔被认为比南亚人的面孔更值得信赖,但除此之外,这在种族间没有影响.

女性被认为比男性更值得信赖.

“微笑的脸更可能被认为是值得信任的,但65.5% of the real faces and 58.8% of synthetic faces are smiling, 因此,单凭面部表情并不能解释为什么合成人脸更值得信赖.”

JDB电子游戏人员认为,合成人脸可能更值得信赖,因为它们与一般人脸相似——而一般人脸本身也被认为更值得信赖.

保护公众免受“深度造假”, 他们还提出了合成图像的创建和分发的指导方针.

“Safeguards could include, for example, 在图像和视频合成网络中加入鲁棒水印,为可靠的识别提供下游机制. 因为正是这种强大技术的民主化带来了最大的威胁, JDB电子游戏还鼓励重新考虑通常对公众采取的放任政策,以及不受限制地发布代码,让任何人将其纳入任何应用程序.

“At this pivotal moment, 正如其他科学和工程领域所做的那样, JDB电子游戏鼓励图形和视觉社区为合成媒体技术的创造和传播制定指导方针,其中包含JDB电子游戏人员的伦理指导方针, publishers, and media distributors.”

Back to News