指南

如何判断一张图片是不是 AI 生成的(以及每种检查会在哪里失灵)

视觉破绽、来源元数据和以图搜图:每种检查能看出图片的什么,在哪里失效,以及如何给你自己生成的图片做标注。

阅读约 1 分钟
一把黄铜放大镜放在一张深色光面相纸上,相纸表面空白,镜片里亮着紫色的光,桌面近乎全黑

一张城市上空风暴的照片被发到群聊里,有人问出了如今半数网络爆款图片都会引来的那个问题:这是真的吗?我们整天都在做 AI 图像,所以两边的情况都清楚。有一些诚实的方法可以提高或降低你对一张图片的信心。但无论是你还是我们,都没有办法仅凭文件本身得出确定的结论。下面是一份按我们自己会用的顺序排列的清单,每一步旁边都写明了它的局限。

第 1 步:先看全图,再放大

先以正常尺寸看整个画面,问问自己这个场景作为一个真实事件是否说得通。当时谁会拿着相机站在那里?这一刻是不是太完美了,每个元素都像是为这张照片摆好的?真实事件通常会留下许多不完美的照片。生成的场景往往只留下唯一一张无可挑剔的。

局限: 这是关于背景情境的问题,不是关于像素的问题。真正的摄影师也可能拍到一张完美的画面,而细心的造假者也可以发出几张不同的版本。

第 2 步:视觉破绽,以及它们为何越来越少

现在放大来看。模型画的是可能出现的东西,而不是前后一致的东西,所以错误会集中在那些必须在整个画面里都成立的规则上。

  • 手和关节。 数一数手指,再看手是怎么拿东西的:杯柄穿过手指,戒指融进皮肤,手臂上看不出明确的肘部。
  • 文字和符号。 招牌、标签、车牌和书脊远看像文字,近看却变成了似是而非的字母。标志几乎就是某个知名品牌,但又不完全是。
  • 倒影和阴影。 镜子或橱窗映出的是另一个房间,镜前的人在倒影里消失了,同一个太阳下的影子却指向两个方向。
  • 光线逻辑。 场景里唯一的窗户在右边,人脸却被左边的暖光照亮。主体身后什么都没有,却有一圈轮廓光。
  • 重复的纹理。 砖块、树叶、人群或地毯图案在自我复制,背景里的几张脸是同一张脸,头发变成一团光滑的涂抹。

局限: 这些破绽随着每一代模型变得越来越少,而且它们恰恰是细心的创作者会去修掉的东西。我们自己就写过这方面的指南:修复 AI 图像中的手和文字。真实照片也会因为镜头和手机的处理而出现各自的怪异之处。检查结果干干净净什么也证明不了;一个奇怪的细节也证明不了多少。

第 3 步:读取来源数据

文件可以携带关于其来源的信息。相机拍摄的照片通常带有基本的元数据,比如设备和拍摄时间。在此之上,还有一种用于签名来源记录的开放标准,展示给用户时通常叫作 Content Credentials(内容凭证):一份附在文件上的记录,可以说明是哪个工具创建或编辑了它、过程中改动了什么,并且受到保护,篡改可以被发现。有些相机、编辑应用和生成工具会写入这种记录,有些平台会把它显示为一个可点击的小标签。

免费的在线检查工具会把文件里仍然保留的来源信息展示给你。如果你找到一份签名记录,说明这张图片是生成的或经过大幅编辑,那就是有力的证据。如果记录说是由相机拍摄的,并且签名验证通过,那就是反方向的有力证据。

局限: 没有记录说明不了任何问题。截图、重新保存或上传到大多数社交网络都会去掉元数据,而且很多工具从来不写入它。普通的元数据字段可以轻易修改。来源记录只有在存在且有效时才能告诉你一些东西,一旦消失,就什么也说明不了。

第 4 步:以图搜图

把图片,或者裁出最有辨识度的一部分,上传到以图搜图引擎,并按日期排序结果。你要找的是最早的那一份。真实事件的照片通常可以追溯到新闻机构、摄影师,或者一个有同一地点其他照片的本地账号。生成的图片往往追溯到 AI 艺术社区、分享提示词的账号,或者找不到比那条爆款帖子更早的来源。

局限: 一张全新的图片没有任何历史可查,无论它是真是假。裁剪、镜像和滤镜都可能让图片躲过搜索,而找到更早的副本只能告诉你这张图片有些年头了,并不能说明它是怎么做出来的。

第 5 步:谨慎对待检测应用

自动检测工具会给你一个百分比,看起来很科学。把它当作又一个意见就好。它们是用开发时已有的模型训练的,缩放或噪点就能骗过它们,而且两个方向都会出错,包括把真实照片标记为生成图。永远不要只凭检测分数去指控别人。

综合起来

  1. 问问这个场景作为事件是否说得通,还有谁应该也拍下了它。
  2. 检查手、文字、倒影、光线和重复纹理,尤其是在背景里。
  3. 检查文件的来源信息,并记住缺少数据不算证据。
  4. 以图搜图,找到最早的副本及其来源。
  5. 综合权衡。几个指向同一方向的弱信号,比一个看起来很强的信号更有价值。

最后诚实的答案往往是“很可能”,而不是“肯定”。这没关系。真正有用的是你怎么对待“很可能”:不要把它当作事实分享出去;如果要分享,请说明你检查了哪些方面。

另一面:你自己生成的图片

如果你自己生成图片,无论是在工作室里还是在别处,同一份清单也能告诉你如何在网上做一个好邻居。人们没法可靠地分辨,所以责任落在发布图片的人身上。

  • 做好标注。 在说明文字里写明图片是 AI 生成的,平台提供 AI 标签时就用上。现在很多平台都要求这样做。
  • 不要把生成图冒充成真实事件的照片、真实的产品测试或真实的人。把虚构场景作为虚构内容展示没有问题;同一张图片当作新闻发布就不行了。
  • 别把真人牵扯进来,除非他们同意。一张能认出是谁的逼真图片,恰恰是人们无法核实的东西。
  • 保留记录。 对你发布的任何内容,都保存提示词、模型和日期,这样有人问起时,你可以说明图片是怎么做出来的。我们的文章AI 生成图像归谁所有讲了商业方面的其余内容。

模型目录里有许多模型生成的图片足以骗过随意的一瞥。这正是它们适合用于概念艺术和讲故事的原因,也是标注之所以重要的原因。

常见问题

有没有工具能确切地告诉我一张图片是不是 AI 生成的?

没有。视觉检查、来源数据、以图搜图和检测应用各自只能提供部分证据,而且每一种都可能被骗过或一无所获。把它们结合起来,把结果当作一种可能性来看待。

如果一张图片没有元数据,是不是就说明它是假的?

不是。截图、重新保存和大多数社交网络同样会去掉真实照片的元数据。缺少来源信息不能说明任何一方面;只有存在且有效的记录才算证据。

我应该给自己生成的图片做标注吗?

应该。在说明文字里写明是 AI 生成的,平台有 AI 标签时就使用它。这样你能遵守大多数平台的规则,也能避免观众把生成图误认为照片。

#指南#图片#许可

继续阅读

全部文章 →