相机、内容真实性以及不断演变的针对AI图像的斗争
相机、内容真实性以及不断演变的针对AI图像的斗争

相机、内容真实性以及不断演变的针对AI图像的斗争

据报道,尼康、索尼和佳能预计将在2024年支持内容真实性倡议(CAI)的C2PA数字签名系统。随着CAI调整其信息传递策略以抵御AI的操纵,这三大摄影巨头的加入无疑将为内容的真实性和数据安全提供更坚实的支撑。

2024年,有望看到主要的摄影机制造商都在某种程度上推出内容真实性功能,特别是聚焦于高端和专业级别的摄像机。到目前为止,只有徕卡发布了一款已经配备了CAI数字签名系统的相机,但索尼已经宣布将在即将推出的a9 III、Alpha 1和a7S III中引入这项技术。该技术已经通过了与美联社合作进行的测试。

佳能尚未就将支持的具体相机型号作出任何官方公告,但《日经亚洲》报道称,佳能可能会在今年早些时候发布一款具备这些功能的新相机。许多人猜测这可能是备受瞩目的R1。

佳能和索尼显然也正在独立地探索如何为视频添加数字签名,尽管两者都尚未确认此事。

除了支持CAI的Verify系统,这是一个能够显示图像来源的网络应用,只要图像已嵌入正确的数字签名,佳能还据报道正在开发一个图像管理应用程序,该应用程序可以判断图像是否真的是由人类拍摄的,还是由AI生成的。

尼康最近宣布,计划将图像真实性功能整合到其Z9相机中,该功能包括由CAI开发的Content Credentials系统。

“尽管目前还在开发中,但此功能支持通过附加信息(包括其来源和出处)来确认图像的真实性。Z9中特别实施的功能采用了C2PA规范中新增的一种新的哈希值记录方法(称为General Boxes Hash assertion)。”尼康解释道。

C2PA是CAI开发的数字签名核心标准,用于验证照片的来源。

“此外,尼康已将此记录方法应用于尼康数码相机中使用的多图片格式(MPF),我们正在稳步推进开发,以将此功能纳入相机中。”

值得注意的是,该公司并未明确这些功能何时将推出。

“确实,我们正在开发和验证相关技术,但目前还没有决定何时上市发布。”=

与AI抗争?

最近关于CAI及其Verify系统的讨论大多与对抗AI生成的图像的兴起有关。然而,尽管将CAI置于当前技术趋势的背景下,这一角度显然忽略了CAI的核心目的,并且可能无法实现图像真实性的未来。

Verify系统并不是设计用于检测AI生成的图像,尽管它至少能够验证图像是否附带了CAI的数字签名,这在伪造的图像中是不存在的。从这个意义上说,它并不真正是一个旨在识别伪造品的系统,而是一个用于识别和确认包含CAI数字签名的照片的系统。

鉴于世界上拍摄的大部分照片都不会带有CAI数字签名,而且这种情况在很长一段时间内(如果真的会改变的话)都不太可能改变,期望它总是能够识别编辑过或直接使用AI生成的伪造图像,无论是前进还是回溯的情况下,都是一个不切实际的目标。

但这并没有阻止CAI本身更加强烈地倾向于反对AI。根据Wayback Machine的数据,过去几个月,该组织的Content Credentials网站已经进行了根本性的改版,重点强调对抗deepfakes和AI。

内容真实性背后的最初前提并不是为了与AI斗争 —— CAI的倡议和溯源标准早于AI图像的大量传播 —— 而是作为出版物认证一张照片在拍摄后没有被修改的方式。

当CAI最初在Adobe的内部构想时,目标是为媒体提供一个避免发布“经过Photoshop处理”、传达了实际未发生事件的照片的方式。这仍然是目标,虽然Verify系统确实可以防止媒体不知情地发布AI生成的图像,认为它是真实的,但这并不是主要目标,而是一个附带的结果。

这一信息显然随着AI成为对话中更大的一部分而发生了转变。

内容真实性意味着什么?它实际上有什么作用?

最近关于CAI及其所报道的与AI的斗争的报道显示,内容真实性的传达方式、它将如何运作以及它实际上是设计来做什么的,被广泛误解。

关键是像美联社、路透社或《纽约时报》这样的媒体机构将能够制定一个政策,即除非图片具有完整的数字签名,否则不会发布图片,从而保护它们不会不知情地分享一张假图片。这实际上是CAI和Verify网应用程序能够做到的全部。当然,要实现这个目标还需要相机制造商的支持。幸运的是,他们已经得到了支持,今年将广泛推出。

但该系统的工作方式意味着图片仍然可以被修改,AI图像生成器仍然可以被用来创建可能从未发生的事件的版本 —— 这些图片只是不符合实际检查来源的出版物的发布标准。

这一系统并不能关键性地阻止一张假照片在社交媒体上走红。这是不能在没有社交媒体公司的合作下发生的。误信息的最大问题在于社交媒体,到目前为止,主要的社交媒体平台都没有显示出对CAI的努力的任何兴趣。Meta、Twitter和TikTok都没有出现在CAI成员名单上。

没有他们的支持,确定真相的责任就落在了最终用户身上。

CAI设想未来所有的图片都会嵌入元数据,允许检查它们的来源,使在线观众能够信任他们看到的内容,甚至允许创作者在各个平台上保持其作品的信誉。

“消费者的意识至关重要,以大规模地对抗错误信息,我们鼓励每个人在信任某内容之前验证其真实性。”CAI的高级主管Andy Parsons说。

“这个概念是,对于重要的内容,如病毒图片或新闻图片,当有人试图向您证明他们说的是真的时,Content Credentials可以提供人们需要的上下文,以便决定是否信任它。Content Credentials赋予消费者验证,然后信任的能力。重要的内容应该附带认证。如果某事没有认证,我们认为消费者应该持怀疑态度。这是我们大规模对抗错误信息的方式。”

要求社交媒体用户检查他们在线看到的“照片”的来源可能对普通用户来说要求过高,但目前似乎这是唯一的方法。

“我们设想消费者会形成一种新的‘数字素养’习惯,定期检查Content Credentials,就像他们在食物上查找营养标签一样,”Parsons补充说。

CAI和像Nikon、Canon、Sony和Leica这样的相机制造商只能做到这么多,而开始的最佳地点是确保未来的图像确实具有C2PA认证。对于已经存在的数十亿张照片以及将用没有内置CAI支持的相机制作的数十亿张照片,现在仍有争议,但正在进行的工作是开始的最佳地点。