网购时遇到商品问题，随手拍张照片申请售后，本是消费者维权的常规操作。可近期，不少电商商家反映，有买家使用AI伪造出来的“问题图”申请仅退款，不用退货还能白拿商品，这让商家叫苦不迭。
对此，部分网友推荐使用国家反诈中心App近期上线的“AI内容鉴定”功能，用户可通过上传图片、视频、音频或文本来检测AI生成痕迹，主要用于识别诈骗场景中的伪造内容。
也有部分网友提出疑问，用AI治理恶意AI能有效果吗？是否能利用“AI内容鉴定”功能进行维权？
元股证券:ygzq.hk买家以AI伪造枯黄果苗图片
申请“仅退款”
河北辛集市的张先生是一名无花果树种植户，上个月他把店开到了某直播电商平台，售卖无花果苗。然而仅卖出12单，他就收到了一份“仅退款”申请，对方的理由是收到的无花果苗已干枯死亡，随申请附上的，是一张叶片全黄、毫无生机的果苗图片。
张先生满心疑惑，自己明明是带盆发货，两天时间果苗怎么会完全枯死？“直播选的苗，他选了一棵特别健壮的。我是带盆发货的，发货之前也会保证土壤湿润。发货到客户收到就两天时间，苗不可能干到颜色枯黄。缺水枯黄至少要5天到7天。”
凭借多年种植经验，张先生找出了图片中的破绽。“如果真的失水，就是运输途中有问题的话，它的叶子不会展开，应该是皱且下垂的。这个图片枯萎死亡的状态，完全是把正常植物的叶片改成枯黄的颜色，稍微有点经验的人都能看出来。”
张先生断定，这就是AI造假。他随即驳回了申请，并联系买家退货退款，但买家直接申请了平台介入。尽管张先生据理力争，平台还是依据顾客发来的这张图片，几分钟内就批准了“仅退款”申请。最终，这笔45元的订单让张先生直接启动退店流程，不再在该平台卖苗。
配资炒股记者调查发现，张先生的遭遇并非个例。在社交平台上，不少商家现身说法，讲述自己见过的AI伪造售后图片。五只衣架在同一位置整齐断裂、塑料手机壳断裂边缘出现毛刺、手串破碎后呈空心壳状……记者梳理多位商家晒出的疑似AI造假图发现，这些图片虽然乍看逼真，但细看却漏洞百出，存在逻辑硬伤。
国家反诈中心App上线鉴定功能
记者体验AI鉴真工具使用效果
在AI生成图像泛滥的当下，如何精准鉴别真伪已成为绕不开的现实问题。近期，国家反诈中心App正式上线“AI内容鉴定”功能，引发网友关注。该功能支持图像、视频等内容的AI识别检测，与此同时，各互联网平台也在积极布局“AI鉴真工具”。
记者在网络上随机选取了十张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果无一例外，均被系统判定为“图像含AI生成痕迹”。张先生提供的干枯无花果图片也被系统认定“图像含AI生成痕迹”。与之相对比，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹”。
某网络平台安全内容视觉算法负责人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码；此外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。
“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些AI鉴真工具，来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”
业内人士：应对AI造假
核心在于“以AI治AI”
业内人士表示，应对AI造假，核心在于“以AI治AI”。目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI造假内容。
AI伪造图片骗取退款的行为，本质是民事欺诈，若不及时遏制，将威胁电子商务的正常秩序与健康发展。AI鉴真工具能大幅降低商家的辨别成本，既能震慑不法分子，也能作为商家与平台交涉、维护自身权益的有力证据。
北京邮电大学互联网治理与法律研究中心主任谢永江表示，现在从技术上已经有相应的AI内容鉴定工具了，平台有义务引进这种技术手段来维护平台上的交易秩序，维护商家和消费者的合法权益。
来源：央视新闻
海量资讯、精准解读，尽在新浪财经APP
责任编辑：田思琦 配资证券开户是否需要面签
配资管理监察网提示：本文来自互联网，不代表本网站观点。
