AI图片乱象调查：虚假内容“裸奔” 平台监管承压

中域市县领导决策网报道  近日，一起由AI图片引发的乌龙事件引发关注。安徽一名女子使用AI生成"流浪汉卧坐餐厅"的逼真图片发给在外就餐的丈夫，导致其丈夫信以为真并报警。民警核实后对女子进行提醒，指出此类行为会造成公共资源浪费。

类似事件并非个例。在广州某小区，有孩子用AI制作"流浪汉试图闯门"图片在业主群传播引发恐慌；电商平台上，部分买家利用AI伪造商品质量问题申请退款；山东一网民更是因编造"在监狱直播带货"的AI图片被处以行政处罚。

今年9月正式实施的《人工智能生成合成内容标识办法》要求对AI生成内容进行显著标识，标志着AI内容进入"持证上岗"时代。然而记者调查发现，新规落地效果参差不齐，大量未标识内容仍在各大平台传播。

调查显示，当前网络上存在多款AI制图软件，仅需简单指令就能在几秒内生成高度逼真的图片。专家指出，如今AI生成内容已很难从技术层面识别真伪，若不作标识极易误导公众。

记者在一周内对6个主流平台的600条内容进行统计发现，约60%有作者主动标识，30%获平台补充标识，但仍有部分内容处于无标识"裸奔"状态。更有甚者，一些账号利用AI生成内容进行商业推广：有的塑造"成功家庭"形象兜售高价课程，有的在电商平台使用失真的AI宣传图误导消费者。

测试发现，平台对AI内容的识别能力存在明显漏洞。记者通过购买去水印服务，成功使多个平台无法识别经过处理的AI内容。市面上还存在提供低价去水印服务的商家，仅需6元即可获得终身可用的去水印软件。

业内专家指出，平台在AI内容标识的落地执行方面仍有较大提升空间。在完善技术监管的同时，亟需加强公众网络素养教育，提升对AI内容的辨识能力与社会责任意识。