EU AI Act 第50条与AI编辑图像：标签、标识及检测方法

欧盟 AI 法案第 50 条简述

欧盟 AI 法案（Regulation (EU) 2024/1689）第 50 条为与人互动或生成内容的 AI 系统设定了透明度规则。对于 AI 编辑的图像，该条款将责任分为两部分：

• 专业用户（“部署者”）负责标注。 自 2026 年 8 月 2 日起，使用 AI 创建或编辑属于“深度伪造”（deep fake）图像的企业或专业人士，必须披露该内容是人工生成或操纵的。该法案将深度伪造定义为 AI 生成或操纵的内容，其与现有的人、物体、地点、实体或事件相似，且会让人误以为是真实或可信的。该披露必须清晰明了，且最迟在人们首次看到该图像时提供。对真实公寓进行虚拟家居布置的照片可能符合该定义。
• 工具提供商负责标记。 生成式 AI 系统的提供商必须以机器可读的格式标记其输出，并使其可被检测为 AI 制作。对于在 2026 年 8 月 2 日之前投放市场（首次在欧盟市场上提供）的系统，该义务自 2026 年 12 月 2 日起适用。
• 不可见标记不能替代标注。 欧盟委员会关于第 50 条的指南指出，部署者“不能依赖提供商嵌入内容中的机器可读标记”。
• 目前该怎么做。 找出可能被误认为是真实的 AI 编辑图像，对每一张进行清晰可见的标注，说明修改了什么并保留原始图像。清单列出了每个步骤，Roomagen 的“下载时添加 AI 标签”设置可以在您的下载内容中添加“AI”角标。

本指南适用于房地产经纪人、房产摄影师、室内设计师、建筑师、酒店和度假屋短租、家具和电子商务团队，以及使用图像 API 的开发者。本指南仅涵盖图像：关于情绪识别和生物特征分类的第 50 条第 3 款，以及 AI 生成文本的规则均不在讨论范围内。

关于本指南中的图像：封面图像由 AI 生成，下文的示例图像经过 AI 编辑。

第 50 条对 AI 图像的要求

• 工具与聊天对比。 欧盟委员会的指南将“AI 辅助产品可视化（例如虚拟试穿、房间布置、产品渲染）”列为不直接与人互动的系统，因此第 50 条第 1 款涉及的是聊天助手而非布置工具。
• 常规编辑。 标记义务不涵盖“常规编辑的辅助功能”，例如轻微裁剪或色彩校正。以改变图像含义的方式移除、替换或插入对象则需要标记。
• 最新进展。 2026 年 7 月 20 日，欧盟委员会批准了其第 50 条指南的内容，并表示将在所有语言版本可用后正式采纳。该指南不具有约束力。AI 法案第 50 条实践准则（正式名称为AI 生成内容透明度实践准则）是自愿加入的：委员会表示，未签署该准则“并不构成对 AI 法案的不合规”。2026 年 7 月，欧盟委员会和 AI 委员会评估认为该准则充分有效；签署方可依靠其中的措施证明合规性，而非签署方必须证明其自身措施充分有效。

提供商与部署者：各自职责

• 提供商： 任何开发 AI 系统或让人开发 AI 系统，并“以其自己的名称或商标提供该系统，无论是有偿还是免费”的个人或实体（第 3 条第 3 款）。当您使用 Roomagen 编辑图像时，Roomagen 是提供商，而 Google 的 Gemini 图像模型负责生成结果。根据指南，提供商可在其模型提供商的标记合规的范围内依赖该标记，但仍有责任证明其自身合规。
• 部署者： 任何“在其权限下”使用 AI 系统的个人或实体，但在“个人非专业活动中”使用的除外（第 3 条第 4 款）。在工作中使用 AI 图像工具的中介机构、摄影师、设计师、酒店或商店均属于部署者。

特殊情况：

• 个人使用。 为自己的房屋尝试家具创意的房主无需承担部署者义务（第 2 条第 10 款），但提供商仍需标记输出内容。
• 业务链条。 当自由职业者代表公司并在其控制下操作该系统时，公司仍属于部署者。当图像从摄影师传递给中介机构再传递到门户网站时，指南期望添加标注的一方采取“相称的措施”使其传达到受众，例如通过合同约束。
• 门户网站。 仅托管他人 AI 内容的平台不属于该内容的部署者，但指南强烈鼓励它们保留标记和标注。
• 欧盟境外。 该法案涵盖其他地区的提供商和部署者，“只要 AI 系统生成的输出在欧盟境内使用”（第 2 条第 1 款 (c) 项）。指南将“在全球可访问的互联网上发布深度伪造内容”视为预见到了此类使用，但不包括通过部署者既无法预见也无法控制的渠道流入欧盟的内容。
• API 集成商。 根据指南，修改现有生成式系统并以自己的名义投入使用的公司将成为新系统的提供商。对于基于第三方图像 API 构建的产品，例如 Roomagen 的图像 API，这取决于具体事实情况。
• 欧洲经济区（EEA）。 截至 2026 年 10 月 24 日，冰岛、列支敦士登和挪威仍在审查将 AI 法案纳入 EEA 协定的事宜。

关键日期：2026 年 8 月 2 日和 12 月 2 日

• 2027 年 2 月 2 日不是标记截止日期。 委员会在 2025 年 11 月提出了这一日期，但 2026 年 7 月 8 日通过的综合法规将其定为 2026 年 12 月 2 日，且仅适用于已在市场上存在的系统的标记义务。
• 较早的内容。 2026 年 8 月 2 日之前生成的图像无需追溯标注，但委员会鼓励在可能的情况下进行标注。

谁负责执行第 50 条，罚款数额是多少？

第 50 条主要由国家市场监管机构执行；欧盟 AI 办公室的作用有限。罚款可达 1500 万欧元或全球年营业额的 3%，以较高者为准（第 99 条第 4 款 (g) 项），但对于包括初创企业在内的中小企业，适用两者中较低的数额（第 99 条第 6 款）。成员国制定处罚规则，其中也可包括警告（第 99 条第 1 款），任何有理由怀疑存在违规行为的人都可以向市场监管机构投诉（第 85 条）。

AI 编辑的图像何时属于“深度伪造”？

欧盟 AI 法案关于深度伪造的定义（法案中拼写为“deep fake”）位于第 3 条第 60 款。它涵盖“与现有的人、物体、地点、实体或事件相似，且会让人误以为是真实或可信的 AI 生成或操纵的图像、音频或视频内容”。指南补充说明：

• 建筑物也算在内。 “物体”包括建筑物和消费品，“地点”是指现实中的位置。只要与“可能合情合理存在”的事物相似，就满足“现有”这一检验标准；该图像还必须让人误以为是真实或可信的。
• 上下文起决定作用。 这一检验是客观的，考察图像本身、展示的位置以及受众的预期。不需要具有欺骗意图，仅凭逼真度本身并不能起决定作用。
• 细微编辑可能不算。 移除路人、光照调整、色彩校正和降噪可能不会构成深度伪造，但这“取决于上下文”。在产品广告中，“出于明确的美学目的”替换背景也很可能只产生轻微影响。
• 产品图像。 广告中误导其实际外观的产品 AI 图像，例如使其“比现实中更具吸引力或具有更好的质量”，就属于深度伪造的例子。将真实产品置于 AI 生成的背景中则不属于深度伪造，“只要广告不太可能产生误导”。

指南没有讨论房产房源，但欧盟委员会关于欧盟标注图标的页面使用 AI 配备家具的空置公寓真实照片作为其“Partially AI-Modified”（部分经 AI 修改）图标的示例。同一页面指出：“并非所有 AI 生成或操纵的内容都需要标注。”

房源信息不太可能算作创意作品。 第 50 条第 4 款对“明显属于艺术、创意、讽刺、虚构或类似”的作品允许更简略的披露。指南排除了“主要出于功能或技术考量”的作品以及“纯粹具有信息性或商业性”的内容，因此房源、预订和产品照片不太可能符合条件。

哪些 AI 编辑需要可见标注？

虚拟家居布置是最明确的情况：欧盟委员会关于欧盟 AI 法案的官方材料将其作为示例。其他编辑情况尚不那么明确。“可能需要”意味着该编辑会使真实房产或产品的图像在并不真实的情况下看起来真实可靠。

如有疑问，请进行标注。 简短、准确的标注成本很低，而在工作中发布未披露的深度伪造内容则违反了第 50 条第 4 款。设计师或建筑师向知情的客户展示设计提案，与中介将同一张图像作为房源照片发布，所处的情况截然不同。指南没有给出设计提案的示例，但指出展示给并不预期其为真实的受众的内容可能不构成深度伪造。因此，无论在何处展示，请务必将其作为提案呈现（参见我们的室内设计师 AI 工具指南）。

如何满足欧盟 AI 法案的标注要求

根据欧盟 AI 法案，图像标注是部署者的职责，且该法案规定的是结果而非具体格式。

• 针对每个深度伪造内容，面向每位查看者。 最迟在有人首次看到该图像时，披露必须清晰且易于辨别（第 50 条第 5 款）。指南将此要求适用于每个输出内容以及看到它的每个人，因此请为每张需要标注的图像进行标注，而不仅仅是对房源整体进行标注。
• 清晰可见，不可隐藏。 它应该是无需借助工具即可察觉的；隐藏在使用条款、手册或菜单中的文本不算有效披露。
• 图像内部的标注可随图传播。 照片说明在您自己的网站上可能有效，但图像内部的标注在被重新分享或下载时会随文件一直保留。委员会表示，其欧盟图标“在重新分享或下载内容时必须可见”。
• 在角落标明“AI”是一种可选方案。 实践准则要求签署方围绕大写的首字母缩略词“AI”（在语言法规排除英语的国家/地区使用本国语言）构建标注，右上角是示例放置位置。欧盟图标是可选的，仅使用它们“本身并不能确立法律合规性”。

用通俗易懂的语言说明修改了什么。委员会报告称，其图标在配合“modified”（已修改）等文字标注时，在用户测试中的表现更好。例如：“Virtually staged with AI”（经 AI 虚拟家居布置）、“AI-edited: furniture removed”（AI 编辑：已移除家具）、“AI visualisation of a proposed renovation”（拟议翻新方案的 AI 可视化展示）或“Sky edited with AI”（天空经 AI 编辑）。为使用屏幕阅读器的用户在照片说明或替代文本（alt text）中重复该披露，更多内容请参见我们的免责声明措辞示例。

保留未经编辑的原始图像，要求门户网站和客户保留您的标注，并检查裁剪是否会将其切掉。

其他规则仍然适用。 独立于 AI 法案，欧盟的不公平商业行为指令（2005/29/EC）将欺骗或可能欺骗普通消费者关于产品主要特征的交易者行为视为误导性行为。该行为还必须导致或可能导致消费者做出在其他情况下不会做出的决定。该指令对“产品”的定义包括不动产。遵守第 50 条并不能使 AI 图像在其他法律下自动合法（鉴于条款 137），因此标注无法弥补隐藏损坏或虚构景观的照片。在欧盟境外，加州 AB 723 等规则有所不同；请参阅我们的 AB 723 指南和各国披露规则。

机器可读标记：C2PA、IPTC 和 SynthID

欧盟 AI 法案的水印要求是技术中立的：第 50 条第 2 款要求采用软件可读取和检测的标记，鉴于条款 133 列举了水印、元数据、加密溯源方法、日志记录和数字指纹作为示例。提供商还必须使其解决方案“在技术可行的范围内有效、具有互操作性、稳健且可靠”（第 50 条第 2 款）。法案、指南和实践准则均未直接点名 C2PA、IPTC 或 SynthID。指南允许使用单一技术或组合技术，只要整体解决方案具有机器可读性、可检测性并满足这四项要求即可。实践准则要求其签署方在图像上至少包含两个层级，即签名元数据和不易察觉的水印，只要单一技术本身无法满足这些要求，该规定就一直有效。

Google 表示，使用“列出的模型创建或修改的图像均由 Google LLC 自动进行数字签名”，并且“使用非 C2PA 工具对符合 C2PA 标准的媒体文件进行的任何修改均被视为篡改”（Google Cloud）。IPTC 值未经签名，因此易于读取，但也容易丢失。

如何检查图像中的 AI 标记

检查原始文件：对图像进行重新编码、调整大小或编辑的工具通常会丢弃其元数据标记。

使用免费的 ExifTool，在带有标注的 Roomagen 下载文件上检查：

$ exiftool -XMP-iptcExt:DigitalSourceType -XMP-xmp:CreatorTool result-ai-label.jpg
Digital Source Type             : http://cv.iptc.org/newscodes/digitalsourcetype/compositeWithTrainedAlgorithmicMedia
Creator Tool                    : Roomagen

在 IPTC 词汇表中，compositeWithTrainedAlgorithmicMedia 表示“Edited using Generative AI”（使用生成式 AI 编辑），而 trainedAlgorithmicMedia 表示“Created using Generative AI”（使用生成式 AI 创建）。在保留了 Google Content Credentials 的文件上，ExifTool 还可以显示其内容（即使在照片编辑中也是“Created by Google Generative AI”），但它不会验证其签名。

使用 c2patool 或浏览器。 要检查 C2PA 元数据及其签名，请结合官方 C2PA 信任列表运行来自开源 c2pa-rs 项目的 c2patool：

$ c2patool result.jpg trust --trust_anchors https://raw.githubusercontent.com/c2pa-org/conformance-public/main/trust-list/C2PA-TRUST-LIST.pem

保留了 Google 凭据的文件会报告“Trusted”；带标注的副本则报告“No claim found”。如果没有命令行环境，可将文件上传至 Content Credentials Verify。

使用 Google 的工具。 自 2026 年 10 月 7 日起，Google 的 SynthID Detector 已向所有人开放，提供英语界面，适用于使用 Google 或其合作伙伴的 AI 制作的图像、视频和音频。Gemini 应用程序也可以检查文件。根据 Google 的说法，如果没有检测到 SynthID 水印，则该图像并非由 Google AI 创建或编辑，“但它可能是由其他 AI 系统创建的”。

缺少标记并不能证明什么：元数据容易丢失，而且某些工具根本不添加标记。

Roomagen 为支持标注所做的努力

Roomagen 通过机器可读标记、可选的可见标注和应用内通知来支持欧盟 AI 法案标注。可见披露本身仍由作为部署者的您来负责。

文件中的机器可读标记

• SynthID。 结果由 Google 的 Gemini 图像模型生成，根据 Google 的说明，该模型在生成每张图像时都会添加 SynthID 水印。
• Content Credentials。 Roomagen 严格按照 Google 模型返回状态保存的结果会保留 Google 签名的 Content Credentials。当 Roomagen 必须将结果写入为新文件时，这些凭据无法随之保留。例如，当结果缩放到您原始照片的尺寸或裁剪回您平面图的画幅时，就会发生这种情况。
• IPTC 标签。 自 2026 年 10 月 24 日起，Roomagen 写入为新文件的每个结果都会带有 IPTC Digital Source Type 标签，创建工具为“Roomagen”，不包含模型名称、账户数据或日期。在此类文件中，通过 3D模型、平面图可视化、草图数字化 或 平面图上色 根据平面图或草图制作的图像，会被标记为“Created using Generative AI”（使用生成式 AI 创建）。其他用于编辑照片的工具生成的结果，则被标记为“Edited using Generative AI”（使用生成式 AI 编辑）。

“下载时添加 AI 标签”设置

该设置位于设置页面，就在外观正下方。它默认处于关闭状态并保存在您的账户中，因此适用于每台设备。

开启此设置后：

• 角标。 您下载的每个结果都会在其右上角获得一个微小的“AI”角标：半透明深色底板上的白色字母，高度约为图像短边的 5.5%。它在所有应用语言中均显示为“AI”，不再包含其他内容，因此请在您的照片说明或房源文本中说明修改了什么。
• 覆盖范围。 从结果界面、图片库、设计助手、修改和批量处理 ZIP 包下载的内容均会添加标注。单个带标注的下载文件会在文件扩展名之前添加“-ai-label”；ZIP 包内的文件则保留其原有名称。
• 原始文件。 您在图片库中的原始文件保持不变，带标注的副本不会被存储，并且您自己上传的照片绝不会被添加标注。
• 标记。 带标注的副本带有角标和 IPTC 标签，但不带有 Google 的 Content Credentials，因为它是新生成的文件。如需未加标注的原图，请关闭该设置并重新下载。
• 仅限下载按钮。 通过其他方式保存的图像（例如右键点击“另存为图片”）是未加标注的原始图像。

根据指南，提供商可以添加可感知的标注，作为针对部署者的补充措施。该角标是 Roomagen 自己的设计，而非欧盟委员会的欧盟图标。

应用内通知

• 欧盟和 EEA 卡片。 欧盟、冰岛、列支敦士登和挪威的用户在控制台和结果界面上会看到一张一次性卡片“要在欧盟发布吗？”，带有“开启 AI 标签”和“暂不”选项。它不会阻碍任何操作，仅在标注关闭时出现，一旦做出选择便不再显示。其他国家/地区（包括英国和瑞士）的用户不会看到它。
• 设计助手。 聊天编辑器在每次对话开始时都会提示：“设计助手是一款AI助手，其回复和图像均由AI生成。”该提示无法关闭，并以所有九种应用语言显示。
• 服务条款。 服务条款禁止故意删除、篡改或遮蔽“嵌入在输出中用于将其标识为 AI 生成或 AI 修改的标记”，并禁止在会产生误导的情况下将 AI 图像作为未经编辑的照片展示。它们还禁止未经同意制作真实人物的私密图像以及儿童性虐待材料。它们指出，在欧盟发布可能需要用户进行可见披露。
• API。 API 结果不附带“AI”标注；API 文档的 AI 内容标记页面介绍了其中的 Google 标记以及哪些操作会将其移除。

Roomagen 不会做的事情

• 它不决定图像是否需要标注，并且除非您开启该设置，否则不会添加可见的“AI”标注。
• 开启标注本身并不能使发布内容自动合规；您的披露必须在您发布的场所清晰明确。
• 它不会签署自己的 Content Credentials：Roomagen 重新写入的文件带有未经签名的 IPTC 标签。

在欧盟发布前的检查清单

1. 找出 AI 图像，即那些可能被误认为是真实地点、建筑物或产品的真实照片的图像。
2. 清晰地标注每一张图像，在图像上或旁边标明，展示在人们首次看到它的任何位置。
3. 用通俗易懂的语言说明修改了什么，并在照片说明或替代文本中重复该说明。
4. 如果图像将被重新分享，请将标注置于图像内部；在 Roomagen 中，在设置中开启“下载时添加 AI 标签”。
5. 保留未经编辑的原始文件。
6. 检查图像是否公允： 标注不能成为使用误导性图片的借口。
7. 保留标记： 尽可能发布下载的原版文件，切勿故意剥离元数据。
8. 叮嘱您的合作伙伴保留该标注。
9. 基于 API 进行开发？ 请在您的产品中提供可见标注，并检查您自己是否属于提供商。

本文不构成法律建议

本指南反映了截至 2026 年 10 月 24 日的欧盟法规和 Roomagen 功能，不属于法律建议。指南不具有约束力，主管机构和法院将逐步确立第 50 条的具体适用方式，并且仍有一些问题尚无定论，例如深度伪造检验如何适用于房源照片。如有具体案件，请咨询您发布业务所在地的律师。

规则、标记和 Roomagen 功能均已根据官方欧盟文本、委员会页面、IPTC 和 Google 文档、C2PA 工具以及截至 2026 年 10 月 24 日的 Roomagen 代码和线上服务进行了核对。封面图像由 AI 生成，示例图像经过 AI 编辑。