免责声明:金色财经所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(jinse.com.cn) 举报

    AI拟人化互动新规倒计时:上市公司与金融机构的合规关键窗口

    作者:张烽

    2026年7月15日,国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合发布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)将正式施行。

    作为国内首部专门针对AI拟人化情感互动服务的部门规章,《办法》的施行标志着中国人工智能治理体系在已有监管框架基础上完成了又一次关键落子。《办法》生效后,上市公司与金融机构面临的不是“是否需要调整”的选择题,而是“如何在有限窗口内完成合规重构”的必答题。

    WUdVrM85ZHsRKDzAT1nHglbcK89rXW4KSRGZfAT8.jpeg

    一、行业现存共性合规乱象

    在新规出台之前,拟人化互动服务领域长期处于“碎片化监管”与“合规套利”并存的灰色地带。由于缺乏专门针对情感互动场景的规制框架,行业形成了若干通行做法与合规误区。

    其一,将拟人化互动混同于通用AI服务。 多数上市公司和金融机构在部署AI拟人化交互功能时,仅参照《生成式人工智能服务管理暂行办法》(2023年8月15日施行)进行内容安全审查,而未意识到情感互动场景涉及的心理影响、依赖诱导、未成年人保护等特殊风险需要独立的合规框架。这种“一揽子合规”思维导致大量情感陪伴类功能游离于专项监管之外。

    其二,敏感个人信息的不当采集与使用。 在金融场景中,AI客服、智能投顾等工具在与用户交互过程中大量采集财务状况、投资偏好、风险承受能力等信息。此前行业通行做法是将这些数据默认为模型训练素材,未区分一般个人信息与敏感个人信息的处理规则差异。部分机构甚至在用户协议中以概括性授权条款捆绑数据使用许可。

    其三,未成年人保护机制的缺失。 部分银行推出的“儿童银行卡”配套AI助手、面向青少年的财商教育类AI应用,此前并未建立专门的未成年人身份核验、时长限制、内容过滤机制。行业普遍存在“默认所有用户均为成年人”的操作惯性。

    其四,算法透明度与用户退出机制的虚置。 尽管《互联网信息服务算法推荐管理规定》(2022年3月1日施行)已要求公示算法基本原理并提供关闭选项,但在拟人化互动场景中,多数机构未单独设置“退出情感互动模式”的功能入口,用户一旦开启AI陪伴服务,即面临退出障碍。

    二、新规核心变革与新旧差异对比

    《办法》与此前监管框架的核心差异,可从三个维度加以辨析。

    适用范围的根本性扩展。 此前的《生成式人工智能服务管理暂行办法》以“生成内容”为规制圆心,侧重于输出端的内容安全;而《办法》第二条将规制对象界定为“利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。情感互动服务包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。规制的重心从“内容生成”转向“关系建构”——不是AI说了什么,而是AI以何种人格化方式与用户建立了何种情感联结。同时,《办法》明确将智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务排除在适用范围之外。

    义务体系的结构性升级。 《办法》在《网络安全法》《数据安全法》《个人信息保护法》《未成年人网络保护条例》等上位法基础上,针对拟人化互动场景增设了多项义务:

    oRNEhcTnH2gjQHAIM72kxdvON5EHbKAsDoEMOrHV.jpeg

    监管主体的协同化。 《办法》第四条规定,国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作,国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责相关监督管理工作。涉及卫生健康、金融等领域的拟人化互动服务,在满足本办法的同时也需要符合相关主管部门的规定。这意味着拟人化互动服务面临的不再是单一监管窗口,而是多部门协同执法的复合监管格局。

    三、三重监管规则体系深度拆解

    上市公司与金融机构面临的合规压力,并非仅源于《办法》单一文本,而是三重监管规则体系的叠加效应。

    (一)上市监管维度。对于A股上市公司,若其业务涉及拟人化互动服务(如AI陪伴类应用、智能客服系统、数字人产品等),须在以下层面完成合规闭环:

    一是信息披露的完整性——若拟人化互动服务构成公司主营业务或重要收入来源,新规实施可能对业务模式、成本结构、合规风险产生重大影响,需在定期报告中充分披露;

    二是内控制度的适配性——根据《上市公司治理准则》及相关监管要求,董事会须确保公司内部控制制度覆盖新规要求的各项合规义务,包括《办法》第九条规定的算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度;

    三是关联交易的合规性——若公司通过子公司或参股公司开展拟人化互动服务,需确保关联交易定价公允且符合新规要求。

    (二)金融监管维度。 金融机构的合规压力尤为突出。根据金融行业AI监管要求,金融机构对生成式人工智能模型须实施准入管理,外部引入的模型需经过网信部门备案。据行业备案平台统计,截至2026年5月,金融领域通过算法备案的模型达96个,而完成大模型备案的仅3个。两者数量差距显著,反映出金融机构在大模型备案方面的合规准备尚存较大缺口。对于已上线或计划上线的AI拟人化互动功能,金融机构须在《办法》施行前完成制度流程、技术系统、法律文件的全面整改。

    (三)网信数据监管维度。 在数据层面,《办法》要求拟人化互动服务提供者依法落实数据安全保护制度,采取数据加密、访问控制等措施保护用户交互数据安全。在算法层面,《办法》第九条要求服务提供者建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度。在服务全生命周期层面,《办法》第十条要求明确部署、运行、升级、终止服务等各阶段安全要求,保证安全措施与服务功能同步部署、同步使用。

    四、上市/持牌机构三层合规风险全景

    《办法》构建的合规风险可分解为企业、高管、资本三个层次。

    企业层风险: 最直接的冲击在于业务存续性风险。《办法》第八条划定了七类禁止性活动:生成危害国家安全等内容;生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容;生成诱导套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;向未成年人用户生成可能影响未成年人身心健康的内容;过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;通过情感操纵等方式诱导用户作出不合理决策的;其他违反法律、行政法规和国家有关规定的活动。任何触及上述红线的现有功能均须在7月15日前下线或整改。

    豆包平台已发布通知,智能体功能将于2026年7月15日正式下线;千问平台则宣布拟人化互动类智能体及用户自建智能体功能于2026年7月10日正式下线。这一行业先兆表明,凡涉及拟人化情感互动的功能均面临严格的合规审视。此外,企业须建立极端情绪识别与干预机制、未成年人保护机制、数据删除与退出机制等技术系统,相关系统建设与人员配置成本构成直接的财务冲击。

    高管层风险: 《办法》第九条明确要求“拟人化互动服务提供者应当落实拟人化互动服务安全主体责任”。在《网络安全法》《数据安全法》《个人信息保护法》已确立的双罚制框架下,若企业因未履行新规义务导致数据泄露、未成年人权益受损等后果,直接负责的主管人员和其他直接责任人员可能面临个人罚款、从业禁止等处罚。

    资本层风险: 对于上市公司而言,合规失败可能触发信息披露违规——若公司未及时披露新规对业务的重大影响,可能面临交易所问询、监管警示甚至行政处罚。对于拟上市企业,合规瑕疵可能成为IPO审核中的实质性障碍。此外,机构投资者在对AI概念股进行估值时,将把新规合规成本纳入风险溢价考量。

    五、新规落地过渡期关键卡点

    《办法》2026年7月15日生效的关键卡点集中在以下方面:

    时间卡点: 7月15日为硬性截止日期,不存在宽限期。所有现存拟人化互动服务必须在生效前完成合规整改,否则将面临“提供违法信息内容”的行政处罚风险。

    备案卡点: 《办法》文本中未明确算法备案的具体时限,但结合《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》的实操经验,算法备案从提交到通过通常需要数周至数月。对于尚未启动备案流程的机构,7月15日前完成备案存在较大难度,须至少在生效前完成备案材料的准备与提交,并保留完整的申请记录以备检查。

    整顿卡点: 对于触及《办法》第八条禁止性活动的现有功能(如虚拟伴侣、情感依赖诱导类服务),唯一的合规路径是立即下线或彻底重构。部分功能可能需要从“人格化陪伴”降级为“纯功能问答”以规避《办法》适用范围——但须注意,《办法》第二条的排除条款仅适用于“不涉及持续性的情感互动”的服务,若功能虽以“智能客服”为名但实质包含情感互动,仍受《办法》规制。

    六、分主体落地合规解决方案

    (一)上市公司合规落地要点信披修正: 董事会须在7月15日前评估拟人化互动服务对公司业务的实质影响,若构成《证券法》规定的“重大事件”,应及时发布临时公告或在最近一期定期报告中充分披露。披露内容应包括:涉及的业务板块及收入占比、新规带来的合规整改措施与成本、对业务模式的潜在影响、风险应对预案。

    内部制度更新: 上市公司应将《办法》要求嵌入现有合规管理体系中,包括但不限于:修订《信息安全管理制度》增加拟人化互动服务专章;建立算法机制机理审核流程;设立科技伦理审查委员会或指定专人负责伦理审查;完善数据安全与个人信息保护制度。

    董事会合规落地: 董事会应确保新规合规工作纳入公司治理议程,至少完成以下动作:审议并通过《拟人化互动服务合规整改方案》;指定高级管理人员担任合规责任人;建立合规整改台账,记录各项整改措施的完成时间、责任人、验收标准;将合规整改纳入内部审计范围。

    (二)持牌机构(金融机构)合规落地要点场景排查与合规认定: 金融机构应立即对全集团AI应用进行地毯式排查,逐一判断是否构成“持续性情感互动”。重点排查对象包括:智能客服(尤其是具备情绪识别与共情回复能力的版本)、AI投顾/财富助手、儿童金融配套AI服务、数字员工/虚拟理财师等。对于边界模糊的场景,建议从严认定——即按适用《办法》的标准进行整改。

    内控台账建设: 针对确认适用《办法》的服务,金融机构须建立以下台账体系:算法机制机理审核台账、科技伦理审查台账、内容管理审核台账、数据安全与个人信息保护台账、风险预案与应急处置台账。

    迎检体系建设: 《办法》第四条确立了多部门协同监管格局。金融机构应建立多监管部门对接机制,确保面对网信、工信、公安、市场监管、金融监管等多部门检查时能够快速响应。建议指定一个牵头部门(如法律合规部)统一协调,各业务部门配备合规联络员。

    存续合规整改: 对于7月15日前无法完成全面整改的服务,建议采取“功能降级”策略——将拟人化互动功能暂时下线或限制为纯功能问答模式,待合规系统建设完成后再行上线。同时须注意,功能降级不等于合规义务免除——若服务在历史上已收集了用户敏感个人信息,仍须按照《办法》要求完成数据清理或取得用户单独同意。

    数据留存义务的冲突协调: 金融机构面临的一个特殊难题是——《办法》要求保障用户交互数据的删除权,但反洗钱等金融监管规定要求交易数据保存至少5年。建议金融机构在技术层面实现“情感互动数据”与“交易数据”的物理隔离与分类管理,确保删除情感互动记录不影响金融交易数据的合规留存。

    jinse.com.cn 0
    好文章,需要你的鼓励
    jinse.com.cn 0
    好文章,需要你的鼓励
    参与评论
    0/140
    提交评论
    文章作者: / 责任编辑:

    声明:本文由入驻金色财经的作者撰写,观点仅代表作者本人,绝不代表金色财经赞同其观点或证实其描述。

    提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。

    金色财经 > 数字新财报 > AI拟人化互动新规倒计时:上市公司与金融机构的合规关键窗口
    • 寻求报道
    • 金色财经中国版App下载
      金色财经APP
      iOS & Android
    • 加入社群
      Telegram
    • 意见反馈
    • 返回顶部
    • 返回底部