在这个信息爆炸的时代，我们早已习惯了‘眼见为实’的逻辑。但随着AI技术的飞速发展，一张看似真实的照片、一段视频，可能根本就不是现实。那些刷屏的‘冰雹比鸡蛋还大’的图片，那些张伯礼院士‘代言’的护肤品广告，背后都藏着一个令人不安的事实：AI正在悄悄篡改我们的视觉认知。
导读
AI造图，不只是技术问题
很多人以为AI生成图片只是个炫酷的技术工具，比如用Stable Diffusion画一幅艺术作品，或者用Midjourney设计一个LOGO。但当这项技术被滥用，它就成了制造谎言的利器。
“这些内容全是假的。”——张伯礼院士面对AI伪造自己形象推销保健品时如是说。
这不是孤例。在小红书、抖音、百度等平台上，一些账号利用AI生成虚假图片，制造耸人听闻的新闻标题，吸引眼球、博取流量，甚至进行诈骗。而更可怕的是，这些图片已经越来越难以分辨真假。
从医疗骗局到天气谣言，AI造假无处不在
最近曝光的一起案例中，广东某地出现了“冰雹比鸡蛋还大”的图片，在社交平台上疯传。然而经核实，这些画面完全是AI合成的，目的是夸大灾情，制造恐慌情绪。
同样，电商平台也未能幸免。部分不良商家使用AI生成的精美商品图，吸引消费者下单，结果货不对板，消费者投诉无门。淘宝在今年3月首次出台针对AI假图的规定，试图规范这一乱象。
“图文不符”“货不对板”现象频发，AI假图正成为电商欺诈的新温床。
普通人如何识别AI假图？这几点你必须知道
面对AI造假，我们并非束手无策。虽然AI生成的图像越来越逼真，但仍有一些蛛丝马迹可以辨别：
- 细节异常： AI生成的图片往往在细节上存在不合理之处，比如手指数量异常、光影不自然、背景模糊不清。
- 风格统一性差： 同一场景下不同物体的画风差异较大，或人物表情僵硬。
- 文字错误： 图片中的文字可能出现拼写错误或字体不一致。
- 使用工具辅助： 可以借助一些反AI检测工具，如GAI Detector、Hive Moderation等。
平台与监管，谁来守住真相的底线？
面对AI造假的泛滥，平台和监管部门也在积极应对。中国电信广西北海分公司通过AI反诈模型成功拦截一起诈骗案件；网信部门多次曝光利用AI编造虚假信息的典型案例，并呼吁加强人工审核和技术治理。
“在享受AI技术红利的同时，必须警惕技术被滥用的风险，及时筑牢治理防线。”
与此同时，淘宝、京东等电商平台也开始制定规则，限制AI假图的使用。国家层面也在推动相关立法，加强对AI生成内容的监管。
发表评论 取消回复