图片来源：由无界AI生成
AI 驱动的图像生成正在蓬勃发展，这是有充分理由的：它有趣且易于使用。虽然这些模型带来了新的创意可能性，但它们可能会引起人们对不良行为者潜在滥用的担忧，这些不良行为者可能会故意生成图像来欺骗人们。即使是为了好玩而创作的图像也可能会像病毒一样传播并可能误导人们。例如，今年早些时候，教皇方济各穿着一件华丽的白色蓬松夹克的图片在网上疯传，特朗普被逮捕的照片引发热议。这些图像不是真实的照片，但很多人都被愚弄了，因为没有任何明确的指标来区分这些内容是由生成式 AI 创建的。
Meta 研究人员近日发布了一篇新的研究论文和技术代码，详细介绍了一种为 AI 图片添加隐形水印的技术，用于区分开源生成式 AI 模型何时创建的图像。隐形水印将信息合并到数字内容中。这些水印肉眼看不见，但可以通过算法检测到——即使人们重新编辑了图像。虽然围绕水印还有其他研究方向，但许多现有方法在生成 AI 图像后创建水印。
据 Everypixel Journal 报道，用户已经使用三个开源存储库的模型创建了超过 110 亿张图像。在这种情况下，只需删除生成水印的行即可删除不可见水印。Stable Signature 提出了一种方法来避免水印被删除。
01
Stable Signature 方法的工作原理
论文地址：
https://arxiv.org/abs/2303.15435
Github 地址：
https://github.com/facebookresearch/stable_signature
Stable Signature 通过将水印扎根于模型中，并使用可追溯到图像创建位置的水印，消除了删除水印的可能性。
让我们通过下面的图表来看看这个过程是如何工作的。
Alice 训练了一个主生成模型。在分发之前，她对模型的一小部分（称为解码器）进行了微调，从而为 Bob 生成给定的水印。该水印可以标识型号版本、公司、用户等。
Bob 收到他的模型版本并生成图像。生成的图像将带有 Bob 的水印。Alice 或第三方可以对它们进行分析，看看图像是否是由使用生成式 AI 模型的 Bob 生成的。
这通过两步来实现：
1. 联合训练两个卷积神经网络。 一种将图像和随机消息编码为水印图像，另一种则从水印图像的增强版本中提取消息。目标是使编码和提取的消息匹配。训练后，只保留水印提取器。
2. 对生成模型的潜在解码器进行微调以生成包含固定签名的图像。在此微调过程中，会对批量图像进行编码、解码和优化，以最大限度地减少提取的消息与目标消息之间的差异，并保持感知图像质量。这种优化过程快速有效，只需要小批量和很短的时间即可获得高质量的结果。
02
评估 Stable Signature 的性能
我们知道人们喜欢分享和转发图像。如果 Bob 与 10 个朋友分享了他创建的图像，然后每个朋友又与另外 10 个朋友分享了该图像，结果会怎样？在此期间，有人可能会更改图像，例如裁剪、压缩或更改颜色。研究人员构建了Stable Signature以应对这些变化。无论人们如何转换图像，原始水印都可能保留在数字数据中，并且可以追溯到创建它的生成模型。
研究人员发现 Stable Signature 相对于被动检测方法的两大优势：
首先，能够控制和减少误报的产生，当将人类生成的图像误认为是 AI 生成的图像时，就会发生误报。考虑到在线共享的非 AI 生成图像的盛行，这一点至关重要。例如，最有效的现有检测方法可以发现大约 50% 的编辑生成图像，但仍会产生大约 1/100 的误报率。换句话说，在每天接收 10 亿张图像的用户生成内容平台上，大约 1000 万张图像将被错误标记，从而仅检测到一半的 AI 生成图像。
另一方面，Stable Signature 以 1e-10 的误报率（可以设置为特定的期望值）以相同的精度检测图像。此外，这种水印方法允许追踪同一模型的不同版本的图像——这是被动技术无法实现的能力。
03
如果一个大模型经过了微调，
Stable Signature 如何检测到微调版本生成的图像？
AI 大模型的一种常见做法是采用基础模型并对其进行微调，以处理有时甚至为一个人量身定制的特定用例。例如，可以向模型显示 Alice 的狗的图像，然后 Alice 可以要求模型生成她的狗在海滩的图像。这是通过 DreamBooth、Textual Inversion 和 ControlNet 等方法完成的。这些方法作用于潜在模型级别，并且不会更改解码器。这意味着我们的水印方法不受这些微调的影响。
总体而言，Stable Signature 与矢量量化图像建模（如 VQGAN）和潜在扩散模型（如 Stable Diffusion）配合良好。由于这种方法不修改扩散生成过程，因此它与上述流行模型兼容。通过一些调整，稳定签名也可以应用于其他建模方法。
04
AI 水印真的靠谱吗？
通过添加隐形水印的方式来识别 AI 生成图像的技术最近受到很多争议。Google DeepMind 最近宣布针对图像生成推出一种添加水印的工具 SynthID，同时识别 AI 生成的图像。通过扫描图像中的数字水印，SynthID 可以评估图像是由 Imagen 模型生成的可能性。
但 AI 水印是否能够被轻易去除？据外媒 Engadget、Wired 等报道，美国马里兰大学的一个研究小组对 AI 生成内容的“数字水印”技术可靠性进行研究，发现这一技术可被轻易破解。
该校计算机科学教授 Soheil Feizi 面对 AI 生成图像的水印现状时直言不讳：“目前我们没有任何可靠的水印技术，我们破解了所有的水印。”
在测试过程中，研究人员可轻松避开现有的水印方法，并发现在非 AI 生成的图像上添加“假水印”更为容易。同时，该团队还开发出了一种“几乎无法”从图像中去除的水印技术，且不会完全损害图像的知识产权。
AI 水印这种方式仍旧不过成熟，并不能成为百分百有效的工具。我们需要期待未来能够出现新的技术来为生成式 AI 图像保驾护航，避免虚假图片泛滥，避免版权侵害。
,Meta开源探骊得珠 新的AI图像水印技术，但真的靠谱吗？相关：
这一次，哈马斯为何孤注一掷？巴勒斯坦伊斯兰抵抗运动（哈马斯）在犹太假日期间对以色列发起的突然军事行动，在交火规模、伤亡人数等方面已然造成双方50年来最激烈的冲突。以色列总理内塔尼亚胡宣布进入“战争状态”，让很多人回想起1973年的赎罪日战争（第四次中东战争）。而在这次交火前，2023年巴以冲突造成的死亡人数已经超过去年全年，近年来冲突的频次和频率更是超出以往。战争阴云再度笼罩，各方博弈仍在进行：有人摆出“孤注一掷”的姿态，有人似乎“..
以色列连锁超市对水和鸡蛋等基本商品实施限购财联社10月10日电，鉴于当地民众大量储备食品，以色列最大的连锁超市Shufersal宣布对包括水和鸡蛋在内的基本商品实施限购措施。在此之前，以色列国防军后方司令部建议每个家庭至少储存可用三天的水、食物和其他物资。该通知促使当地居民迅速涌入超市并清空了货架。
印军招募中文翻译，部署在中印边界争议地区《印度快报》10月8日报道，印陆军辅助军事组织——领土部队（Territorial Army）招募中文翻译，以部署在中印边界争议地区。印领土部队成立于1948年，其通过协助应对自然灾害、增派援建基础设施项目等方式向印军队提供支持服务。消息人士称，中文翻译招聘始于2023年1月，面试者需考核普通话写作、阅读理解、口语能力。8月，已有5名中文翻译前往中印边界前沿地区入职。此外，领土部队还拟招募网络安全专家参与反恐等工作。
美又有四千汽车工人加入罢工参考消息网10月10日报道 据法新社10月9日报道，美国汽车工人联合工会（UAW）宣布，美国工业汽车制造商麦克卡车公司的雇员8日投票否决了一项劳资协议，并将加入到该工会约2.5万名会员的罢工行列中。报道称，该工会在社交媒体X（前身为推特）上发帖称：“麦克卡车公司的UAW会员已投票否决了一项临时协议，并将于9日上午7时起开始罢工。”该公告称，罢工行动将涉及麦克卡车公司的4000名雇员。这家工业车辆制造商的总部位于北卡罗来..
美媒刊文：美国功能失调给经济外交努力蒙上阴影美国财长耶伦（资料图）海外网10月10日电 美媒《纽约时报》网站9日刊发专栏文章《美国功能失调给经济外交努力蒙上阴影》，表示在美国财长耶伦与国际同行会面之际，她所代表的国家正面临潜在的政治失灵问题，这将在国际货币基金组织和世界银行年度会议上削弱美国的信誉。今年夏季以来，美国一度濒临债务违约，美政府也两次面临政府关门危险。这些事件的高潮是众议院议长麦卡锡被罢免，这一事态发展引发了人们对美国是否能够真正..
美军最高将领警告伊朗：别插手巴以冲突（观察者网讯）据路透社报道，美军最高将领、新任参谋长联席会议主席查尔斯·布朗10月9日接受采访时表示，他不希望本轮巴以冲突继续扩大，并警告伊朗不要插手这场危机。报道称，布朗在飞往布鲁塞尔的飞机上接受记者采访，当被问及想对伊朗发出的信息时，布朗说：“不要插手。”“我们想传递一个非常强烈的信息。我们不希望事态扩大，我们一定要非常清楚地向伊朗传达这个信息。”这是布朗上月从米利手中接过美军联席会议主席一职..
美国援助以色列 拱火巴以冲突 国际社会呼吁政治解决以色列同巴勒斯坦加沙地带武装组织爆发的激烈冲突仍在继续。截至当地时间9日，冲突已造成双方近1600人死亡。美联社报道截图然而，美国在这个时候仍然在拱火。美国白宫8日发布声明称，美国总统拜登当天与以色列总理内塔尼亚胡再次通话。拜登表示，美国向以色列国防军提供的额外援助正在运往以色列的途中，未来几天，美国还将提供更多援助。同一天，美国防长奥斯汀发表声明称，他指示美军“福特”号航母打击群前往靠近以色列的地中..
以色列“全面围困”加沙，美向以方援助军需“已在路上”巴以新一轮大规模冲突进入第三天，双方持续向对方进行猛烈空袭。以色列当地时间9日宣布重新控制加沙地带附近的社区，并将对巴勒斯坦伊斯兰抵抗运动（哈马斯）控制的加沙地区进行“全面围困”。据以色列和巴勒斯坦医疗机构最新消息，冲突已造成超1600人死亡。面对持续升级的局势，绝大多数国家都呼吁双方克制，避免局势进一步升级恶化，但以色列的亲密盟友美国已有所动作，宣布派遣多艘军舰和飞机靠近以色列，并向以军提供更多弹..
TikTok电商遭印尼政府关闭，直播带货该不该禁？（文/贺喜格 编辑/张广凯）近期，直播电商行业发生了件大事。TikTok关闭了其在印度尼西亚的电商业务，以遵守当地的新规。不久前，印尼官员呼吁将社交媒体和电子商务服务分开，认为社交电商正在威胁当地的中小型企业。TikTok给卖家的相关通知印尼是TikTok电商业务在东南亚最大的市场，但事件的影响绝不仅限于印尼。其他东南亚国家是否会效仿印尼政策的担忧，已然摆上台面，这给出海卖家们的前途蒙上了一层阴影。从某种意义上讲，..
江苏扬州双宁运河世界遗产园开工建设 助力古运河重生 中新网扬州10月10日电 (记者 崔佳明)10日，江苏扬州双宁运河世界遗产园开工建设。扬州运河文投集团党委书记、董事长李继业在开工仪式上表示，“双宁运河世界遗产园由扬州运河文投集团出资，由江苏省文投集团建设运营，这是省属国有文化企业和市属国有文化企业的第一次联袂，相信在省文投集团和我们的共同努力下，双宁运河世界遗产园一定能成为扬州文旅的标志性建筑、扬州旅游独具特色的城市名片和扬州文化新的展示高地。”..