最近《纽约时报》进行了一项测试。他们找到了市场上五种常见的人工智能鉴别器,并给它们提供了 100 多张照片进行测试。结果发现,AI 鉴别器不仅将 AI 照片误认为是真实的,而且还将真实照片归类为 AI 生成的。
这张马斯克和机器人女友的照片,5个鉴别器里有2个都觉得是真的:
还有这张人类和3米巨人的照片,五位鉴别者一致判定为真:
在这项测试中一共使用了5个AI鉴别器,分别是:
Umm-maybe
Illuminarty
A.I or Not
Hive
Sensity
使用的AI创作工具包括Midjourney、Stable Diffusion、Dall-e等。
AI识别的判断标准是什么?
一般来说,它们的判断标准与人类不同。人类一般依赖于图像内容的合理性,而人工智能则从图像参数入手,如像素排列、清晰度、对比度等。
所以这就解释了为什么一开始的巨幅照片,为什么所有的鉴别者都认为它是真实的。
在AI画画大火一年多以后,如今市面上已经出现了非常多鉴别器。有的就是直接放在Hugging Face上供大家免费使用,有的则是已经成立公司,只提供API接口形式。
这次的测试带来了一个更深层次的问题:AI造假之后,又遇到AI无法鉴别真假的情况下,我们该如何应对AI时代的危机?