之前，人们用AI生成好看的背景、一键P掉图片中最丑的人，多是图个乐子。
但没想到，有一些人开始用AI骗商家钱了。
7月24日，“AI仅退款”话题登上了热搜。在这个话题中，有商家反映，一名消费者直接将 “商品损坏” 的图片发给客服后，平台便自动同意了退款。
还有消费者拿着漏液电池、打碎化妆瓶的图片申请仅退款，但这些破损处透着诡异：裂缝没有玻璃碎，漏液电池旁放着不相关的牙刷，让商家不得不怀疑这些图片是AI生成的。
更有消费者露出马脚，图片上的豆包AI水印都没关掉。
网友纷纷评价：
“AI还没替代人类，就开始替人类背罪了！”
“这件事的最终受害者只有老实的商家和老实的顾客。”
一、鞋底裂缝带AI水印，丢东西冒出两只手
这其中，B站一位拼多多卖鞋店主的经历尤为离谱。
7月14日，这位店主发布视频称，他在拼多多后台收到一条投诉处理，一位顾客称买了他店里的鞋，已经收到货，却申请仅退款122.4元。
顾客填写的理由是“假冒品牌”，但具体原因却写着鞋子只穿了两天鞋底就开裂，还发错了颜色。
一开始，商家并未处理这一申请。
随后，顾客补充了两张照片，要求补偿30元。
其中一张照片显示鞋子有很大的裂缝，图片左上角还带着“AI生成”的水印；另一张则是鞋子开胶的画面，右下角有得物的水印。
商家看到水印后，当即驳回了退款申请。
可这位顾客并未放弃，竟找软件抹去了AI生成的标识，重新申请仅退款。新的图片里水印没了，但裂缝的位置和形状却与之前那张完全不同。
商家依旧没有通过申请，提出需要视频作为凭证，可顾客却表示：“图片也是凭证，不给通过就二次投诉。”
好在最终，这个退款申请还是失败了。
然而，即便是商家要求的视频凭证，如今也能被AI动手脚用来作假。
6月18日，抖音博主蔡宝宝表示，一名消费者要求仅退款一瓶“鞋边去黑剂”。
但在提供的视频里，破绽却十分明显：一开始是一只右手拿着产品准备放进垃圾桶，可下一秒，画面中突然多出了第二只“右手”，两只手一起将商品丢进了垃圾桶。
这还只是最显眼的漏洞。
仔细观察会发现，这段视频的运镜异常丝滑，完全不像普通人手持拍摄的效果。
更奇怪的是，当这瓶“鞋边去黑剂”被斜着丢进垃圾桶时，瓶子本身却始终保持着笔直的状态。
二、AI生成效果大比拼
科小编用香蕉、苹果分别在腾讯元宝、豆包、即梦AI上进行测试，指令为“帮我生成图片：放了一星期后稍微烂掉的照片，不需要大面积，有一部分就好，原比例。”
其中香蕉生成出来的效果十分真实，确实看不出作假的痕迹。
点击看大图▼
但苹果的效果就稍微差了一些。
点击看大图▼
科小编还测试了豆包和即梦AI生成视频，用的是一张烧鸭、米饭、豆芽的外卖照片。
指令都是：“帮我生成一个视频：在这份外卖的米饭里面生成一只慢慢爬出来的黑色小虫子。比例3:4。”
豆包的效果很逼真。
视频中，稍微抖动的运镜，酱汁中逐渐变化的身影，一只黑虫子拨开豆芽和米饭，慢慢爬了出来，画面非常流畅，不过仔细看还是能发现是假的，但这需要时间来分辨。
即梦AI生成的视频则没有运镜，虫子周围直接糊掉了。
AI生成的图像和视频之所以能以假乱真，核心在于它学习了海量真实案例。
比如要生成漏液电池的图片，AI会先分析成千上万张真实照片，精准记住液体的光泽、电池壳的锈迹、漏液的流淌方向等细节，甚至能模拟不同光线条件下的色彩变化。
生成视频时，它还会学习物体的运动规律，像虫子爬行时腿的摆动频率、身体的起伏节奏，让连续画面衔接自然不突兀。
但再逼真的生成内容也藏着破绽，最常见的是细节“不合逻辑”。
像发霉的苹果，霉菌生长涉及菌丝结构、颜色渐变、光影交互等复杂特征，由于多数AI模型缺乏足够的真实霉变样本，生成的霉斑常呈现“块状分布”“颜色单一”的特点，与真实霉变的自然形态有明显差距。
视频中的破绽更易察觉。
AI处理连续帧时容易出现时间一致性问题，产生模糊效果，典型的表现就是周边区域突然消失或变形，导致很多生成视频看起来像“贴上去的动画”。
这种细节上的逻辑矛盾，正是区分AI生成内容与真实影像的关键线索。
三、但是，你以为只有买家会玩这招？
所谓无奸不商，用AI弄虚作假的不只有消费者，还有商家。
2024年央视曝光“AI 神医”事件，不法商家伪造张伯礼院士形象推销高价保健品，形成完整产业链。
张院士公开辟谣：“这些内容全是假的，从未研究或宣传过此类产品。”视频中“神医”形象存在明显AI痕迹（如手指畸形），但消费者仍大量上当。
2025年3月，AI合成视频中，古天乐、林峯同框“现身”推荐线上赌博游戏。经纪公司紧急声明否认合作，指出视频属侵权伪造，并报警处理。同月，“苗古金贴”用畸形手指的AI假冒传承人割消费者韭菜。
（图源：厦门追尖科技有限公司服务号）
4月，张馨予声纹被克隆去卖减肥药；5月，孙俪、邓超夫妇遭大规模AI仿冒，推销保健品，其工作室紧急发声明要求删除视频，并启动法律程序取证追责。
（图源：邓超工作室微博）
从院士到顶流，从赌局到高价保健品，AI 换脸、声纹克隆、情感语录轮番上阵，播放量百万、点赞十万已成常态。
除了这种性质十分恶劣的造假，还有一批淘宝卖家也正在用AI造假。比如把化纤衣服P得跟丝绸一样高级，买家收到货发现手感跟抹布似的，还有把桃子P得又大又白，比猴哥吃的蟠桃质量还要好...
这波操作堪称“魔法对轰”，但最后受伤的还是普通消费者。
今年3月，淘天集团发文称，淘宝全平台启动AI假图治理，严厉打击利用AI假图欺骗消费者、侵害原创品牌商家的违规行为。平台同步上线新一代图像识别模型，对服饰、美妆、数码等高风险类目进行 7×24 小时全量扫描。
上线后不久，就累计拦截近10万张违规图片。
2025年4月，中央网信办也启动了“清朗·整治AI技术滥用”3个月专项行动，重点清理违规应用。5月，四部门联合发布《人工智能生成合成内容标识办法》，要求9月1日起强制标注AI内容。
但能否刹住这头“技术灰犀牛”，仍是未知数。
四、AI用户翻倍背后，仅退款问题更尖锐
截至2025年7月，中国使用AI产品的网民已从2024年底的2.49亿跃升至5.7亿，占全体网民40%以上。
2025年二季度，月均下载用户数排名中，豆包以2981.3万位居第一，DeepSeek以紧随其后，腾讯元宝、即梦AI分别位列第三、第四。
高普及率带来技术红利的同时，也让风险加速扩散。
据网经社电子商务研究中心数据，2025年上半年全国电商平台商家投诉问题中，任意仅退款占比高达50.36%，排在第一，仍是商家最大的痛点。
而AI生成的假图、假视频，无疑会让这一问题更加尖锐，这不仅考验着使用者的个人素质、商家的辨别能力，也对平台的监管机制提出了更高要求。
写在最后：
现在很多商家为了自保，不得不提高商品价格，把损失转嫁到消费者身上。审核流程也越来越变态，要求提供带时间水印的开箱视频、销毁视频要有特定手势验证…
搞得正常退换货都跟通关打怪似的，这不仅增加了普通消费者的麻烦，也影响了购物体验。
但这个锅并不应该由AI来背，因为有问题的从来就不是工具，而是使用工具的人，大家千万别模仿，这种行为不仅可耻，而且还有可能构成“诈骗罪”
掘金网偶尔会遭受攻击访问不了，为防失联请加掘金网微信《加微信》和关注微信公众号。希望大家在加我的时候，一定要备注自己的来意，否则一律不通过，望谅解，谢谢。
历史上的今天:
- 2024: 领导安排工作 如何回复才更靠谱(0)
- 2023: 关于社群运营的六个思考(0)
- 2022: “中国暗网”：资金盘、催收、原味丝袜，闲鱼沦为黑灰产集散地(0)
- 2021: IconPark：字节跳动旗下免费可商用图标库(0)
