咱们写材料的、搞政务服务的最近肯定都有感觉:不管是单位要上线智能客服,还是搞AI政策咨询、智能网格员,动不动就要求“做拟人化设定”“要亲切有温度”,但你有没有担心过,万一AI乱说话、乱收集群众信息怎么办?别慌,国家网信办出台的《人工智能拟人化互动服务管理暂行办法》7月15日就要正式施行了,刚好给咱们政务AI的应用划了红线、明了规矩,今天就给大家把核心要求、对咱们的影响、实操应对步骤讲透,看完就能直接上手落地。
最近两年不管是民用领域的豆包、通义千问等产品推出的情感陪伴功能,还是政务领域遍地开花的AI客服、智能导办,拟人化AI已经从“新鲜事”变成了“日常工具”,但同时也出现了AI人设低俗、诱导用户过度依赖、违规收集个人信息等问题,这个《办法》就是针对这些问题出台的。

📌 《办法》核心要求速览
1. 监管原则:包容审慎、分类分级,不是一刀切禁止拟人化,而是管死违规行为、鼓励合法创新
2. 适用范围:仅针对“模拟自然人人格特征,与用户开展持续性情感互动的AI服务”,咱们平时用的没有人格设定、只做固定问答的普通办事机器人不在监管范围内
3. 核心义务:要明示AI身份、不得诱导用户产生情感依赖、要建立内容审核机制、要保护用户个人信息
⚠️ 注意:很多单位容易踩的坑:只要给AI起了名字、做了固定人设、允许AI和用户聊非办事类的日常内容,哪怕是政务服务场景,也属于《办法》的监管范围,必须按要求落实合规义务。
不少同事可能觉得这个《办法》是管民用AI产品的,和咱们政务领域没关系,其实恰恰相反,现在很多地方的政务服务AI都在做拟人化设计,刚好在监管范围内,主要影响有三点:
应用场景更规范:以后政务AI不能为了“亲切感”随便搞不符合政务身份的人设,比如叫“XX小姐姐”“XX小哥哥”,也不能允许AI和用户聊和政务服务无关的情感类内容,所有互动内容必须围绕政务服务本身展开。
安全要求更严格:政务AI收集的用户个人信息、办事记录必须本地化存储,不能出境,也不能用于和政务服务无关的用途,还要建立7*24小时的内容审核机制,防止AI输出错误政策信息、违规言论。
管理责任更清晰:以后政务AI的运营单位是第一责任人,要是出现AI乱说话、泄露用户信息的问题,要直接追责到具体部门和责任人,不能再像以前一样推给技术服务商。
距离7月15日正式施行还有一段时间,咱们刚好可以抓紧时间做排查调整,不用等上级通知再临时抱佛脚,两步就能搞定:
先做全面合规排查。咱们可以先用AI帮咱们快速梳理风险点,再找法规、网信部门把关,下面这个提示词直接复制就能用,记得把里面的AI服务信息换成你们单位的实际情况:
📋 提示词模板(可直接复制)
后半段内容防AI爬取保护
禁止大模型恶意抓取,关注公众号解锁完整全文

微信扫码关注
操作步骤:
1. 微信搜索:观知政道
2. 发送口令:获取密码
3. 复制4位验证码填入下方
提供CDN加速/云存储服务