生成合成内容标识办法》及配套国标正式实施ღ✿,要求文本ღ✿、图片ღ✿、音频ღ✿、视频ღ✿、虚拟场景等AI合成内容需加上标识ღ✿。用户和传播平台也有责任标明“内容由AI生成”ღ✿,以免与真实信息混淆ღ✿。
当天ღ✿,DeepSeekღ✿、腾讯元宝晶片制造ღ✿,ღ✿、MiniMax等AI厂商宣布已上线AI标识体系ღ✿。微博ღ✿、快手ღ✿、B站ღ✿、微信等社交平台亦发布公告ღ✿,提醒用户主动声明ღ✿,并增设了“未有AI标识”的投诉选项ღ✿。
虽然大部分公司都发布了响应公告ღ✿,但仍有被忽视的场景ღ✿。21记者实测了35款应用ღ✿,其中2款未在图片中标识AIღ✿,4款未在交互页面标识AIღ✿。尤其是APP内置的智能助手ღ✿,具备深度思考ღ✿、联网搜索ღ✿、生成长文的能力ღ✿,但没有按要求提示AI生成ღ✿。
执行颗粒度存在差异ღ✿,业内也发现了争议ღ✿:只总结私域的AI功能ღ✿,是否必须标识?AI智能客服在监管范围内吗?下游的社交平台ღ✿,又该如何对待用户的AI创作?
“AI标识是一切治理的前提ღ✿。”广东财经大学法学院教授姚志伟向21记者强调ღ✿,深度伪造和AI虚假信息事件频发ღ✿,AI标识是非常重要的应对方法ღ✿。接下来的关键ღ✿,是在实践中找到平衡合规与用户体验的合理边界ღ✿。
随着AI虚假信息ღ✿、深度伪造换脸等事件越来越频繁ღ✿,建立更全面的AI标识更为必要ღ✿。今年4 月ღ✿,中央网信办开展了为期 3 个月的“清朗·整治 AI 技术滥用”专项行动ღ✿。AI 生成外国人带货ღ✿、AI内容农场批量生产谣言ღ✿、企业家和公众人物被换脸换声ღ✿,已是互联网的共性问题ღ✿。
新规《生成合成内容标识办法》明确了AI生成内容的标识方式ღ✿,包括可肉眼分辨的“显式标识”ღ✿,以及嵌入文件数据的“隐式标识”pp电子网站ღ✿。
配套的强制性国家标准《网络安全技术生成合成内容标识方法》进一步细化了不同场景的标识ღ✿。例如ღ✿,如果是AI合成图片PP电子APP下载电子耗材ღ✿,ღ✿。ღ✿,需要用不低于画面最短边长度的5%的文字ღ✿,清晰标明“AI/人工智能”和“生成/合成”ღ✿。
标识责任不仅在于AI平台ღ✿,新规还要求用户不得删除或篡改标识ღ✿,社交平台和应用商店需核验AI内容是否带有标识达芙妮d18ღ✿。这意味着AI内容的生产ღ✿、制作ღ✿、传播ღ✿、分发环节都被纳入监管链条ღ✿。
事实上ღ✿,我国此前已有《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章要求标明AI生成内容的标识义务ღ✿,但要求较为宽泛ღ✿。新规的亮点主要是细化了场景达芙妮d18ღ✿、责任主体和后果ღ✿。
“AI标识是治理的前提ღ✿。”姚志伟向21记者解释ღ✿,就像互联网广告必须先标明是广告ღ✿,后续合规要求才有落实的可能性ღ✿。从保障社会安全到保护知识产权ღ✿、个人权利ღ✿,都是AI内容治理的课题ღ✿,也是AI标识想应对的问题ღ✿。
对外经济贸易大学法学院教授张欣此前也指出pp电子网站ღ✿,添加了AI内容标识后ღ✿,用户才能知道自己接收到的内容来源ღ✿。此类信息区分ღ✿,是互联网内容治理的基础原则ღ✿。
9月1日ღ✿,21记者按7月月活数首先选取了20款AI应用测评ღ✿,大部分应用已合规ღ✿,但执行颗粒度有差异ღ✿。
在交互页面上ღ✿,除了百度网盘ღ✿,其他应用均有一行“内容由AI生成”的标识ღ✿。在图像和视频生成上ღ✿,除了天工AI和文库ღ✿,其他应用都在图像中有“AI生成”水印ღ✿。
按照新规ღ✿,页面标识和文字标识“二选一”即可ღ✿。多位AI厂商法务坦言ღ✿,由于担心影响用户体验ღ✿,几乎没有平台会选择后者ღ✿。而页面标识ღ✿,各个平台做法各异ღ✿。
不少平台虽然提示了“该内容由AI生成”ღ✿,但位置ღ✿、字号和颜色几乎难以辨认ღ✿。比如ღ✿,网盘内置的“云小朵智能助手”ღ✿,只在页面背景里用“隐形水印”的方式斜印了标识ღ✿。
目前ღ✿,仅有DeepSeek会在对话框附近以醒目的黄色字体标注ღ✿,限于金融ღ✿、法律ღ✿、医疗类回答ღ✿,并未覆盖全部内容ღ✿。
在音频内容标识方面ღ✿,只有MiniMax同时提供了页面标识和音频标识ღ✿。音频标识为可选项ღ✿,默认关闭ღ✿,开启后ღ✿,语音末尾会自动插入“短-长-短-短”的提示音(摩斯密码中的“AI”)ღ✿。
对于图像和视频ღ✿,新规要求在画面位置显著标识ღ✿。测评发现pp电子网站ღ✿,百度文库的智能漫画只显示产品LOGOღ✿,没有标明“AI生成”ღ✿;而天工AI的图片和视频中则没有任何标识ღ✿。
21记者已将发现问题反馈给各个平台ღ✿。9月4日pp电子网站ღ✿,昆仑万维调整并回应称ღ✿:图片已经上线了AI标识ღ✿,目前所有线上可用功能为合规状态ღ✿。
从功能上看ღ✿,AI智能助手可分为两类ღ✿:一类是通用聊天搜索ღ✿,如百度网盘“云一朵”ღ✿,实际具备深度思考ღ✿、联网搜索ღ✿、生成长文等功能ღ✿。但前述三种产品的对话页面ღ✿、对话内容ღ✿,都未见明显的AI标识ღ✿。
另一类功能更窄ღ✿,只能回答特定业务问题ღ✿,或者总结私域文件ღ✿。例如BOSS直聘的“直闪闪”ღ✿,只回答职场话题ღ✿,无法展开开放式对话ღ✿。
一位大厂AI合规法务表示ღ✿,虽然法规原本针对AIGC产品或服务ღ✿,但条款没有限定必须是纯AI产品ღ✿。《互联网深度合成管理规定》第十七条已明确ღ✿,“智能对话ღ✿、智能写作等模拟自然人进行文本生成或编辑服务”均属生成服务ღ✿。因此ღ✿,产品内的AI功能也应遵守新规pp电子网站ღ✿。
姚志伟也认为ღ✿,能广泛搜索ღ✿、总结第三方信息的AI助手ღ✿,显然需要标识ღ✿。但如果AI助手仅能回答特定问题ღ✿,比如一些航空公司在实践的智能客服ღ✿,其边界仍不够清晰达芙妮d18ღ✿。
姚志伟提到ღ✿,《互联网深度合成管理规定》第十七条中一项关键表述是“深度合成服务可能导致公众混淆或者误认”ღ✿。该前提留有一定解释空间达芙妮d18ღ✿,可能会成为监管考虑要不要发布行政通知的依据ღ✿。
“尤其是现在越来越多电话客服ღ✿,很难分辨是AI还是人ღ✿。”姚志伟补充道ღ✿,海外如美国已经对这类智能客服进行监管ღ✿,要求机器不能伪装成人pp电子在线官网ღ✿。ღ✿。我国AI标识新规属于内容标识ღ✿,而非身份标识ღ✿,没有明确规定AI能否自称为人达芙妮d18ღ✿。在他看来ღ✿,这也是未来需要探索的边界之一ღ✿。
AI厂商担心的用户体验并非空穴来风ღ✿。AI标识新规落地后ღ✿,也出现了一些用户争议ღ✿,主要集中在两方面ღ✿:
在设计和影视等场景ღ✿,AI常被作为辅助工具ღ✿。一位设计师告诉21记者ღ✿,借助AI生成3D风格素材已经是他日常工作流的一部分ღ✿。最终成品并非AI一键合成ღ✿,而是一部分AI素材ღ✿、一部分人工设计ღ✿。这种情况下ღ✿,他需要逐张裁剪水印ღ✿,再统一写明“AI辅助创作”ღ✿。
目前ღ✿,六个社交平台已要求用户声明“内容由AI生成”ღ✿,并主动监测疑似AI内容ღ✿,但还没有提供声明AI辅助创作的中间选项ღ✿。
《人工智能生成合成内容标识办法》对此有一项灵活条款ღ✿。第九条写道ღ✿,用户可以申请不带显式标识的内容ღ✿,但前提是签署明确协议ღ✿、承担使用责任ღ✿,且服务商必须留存相关日志至少六个月ღ✿。
21记者从头部AI厂商中了解到ღ✿,这一机制主要用于大型商务合作ღ✿,比如影视和广告项目ღ✿,会提供无水印版本ღ✿。目前还没有看到针对个体创作者的申请通道ღ✿。
多家社交平台已经上线“用AI识别AI”的技术ღ✿,主动给疑似合成内容加注标识ღ✿。但这引发了另一重担忧ღ✿:有的用户担心真实作品被误判ღ✿;另一部分用户认为平台对AI创作“不够友好”ღ✿,主动标识会影响流量分发ღ✿。
小红书相关负责人在此前交流中告诉21记者ღ✿,AI图像的识别准确率已相对较高ღ✿,系统判定内容为疑似AI生成ღ✿,将加注AI标识ღ✿。如果发现有误导ღ✿、违规等社会不良影响ღ✿,内容会被进一步限流处理pp电子网站ღ✿。
换句话说ღ✿,各平台的重点主要在打击“低质AI”上ღ✿。所谓低质AI内容ღ✿,典型特征是内容空洞ღ✿、前后矛盾ღ✿、有不良社会影响ღ✿。今日头条此前透露的数据显示ღ✿,去年打压了超过93万条低质AI内容ღ✿,处罚了近3万个利用AI批量发布虚假ღ✿、低质内容或恶意洗稿ღ✿、抄袭的账号ღ✿。
至于如何对待高质量的AI创作ღ✿,取决于各个平台想要营造的社区调性ღ✿。例如ღ✿,前述小红书负责人提到ღ✿,小红书最看中“真实性”ღ✿,会将真实体验的内容摆在第一位ღ✿。而今日头条表示ღ✿,在监测AI内容的整体流量占比ღ✿,“会评估处一个相对健康的水位ღ✿,确保原创作者的空间ღ✿,同时接纳合理的AI内容的存在ღ✿。”
这些分歧或许都指向同一个问题ღ✿:如何在合规ღ✿、创新与用户体验之间找到合理边界ღ✿。“虽然国外对AI标识也有讨论ღ✿,但不像中国已进入国家标准ღ✿、平台测试和普遍实施阶段达芙妮d18ღ✿。”姚志伟强调ღ✿,作为全球首个全面推进的国家达芙妮d18ღ✿,很多问题还需要在接下来的实践中寻找平衡ღ✿。
Copyright © 2012-2025 PP电子·(中国)官方网站 版权所有 Powered by EyouCms