摘要：国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，旨在规范AI拟人化互动服务。办法要求服务提供者应具备心理健康保护、情感边界引导等安全能力，并建立应急响应机制，在发现用户有自杀、自残等极端表述时，需由人工接管并及时联系其监护人。针对未成年人和老年人用户，办法规定了特别的注册信息要求、监护人同意机制以及风险预警和干预措施。
线索：该管理办法的出台，标志着国内对AI互动服务，特别是涉及情感陪伴和拟人化交互领域的监管进入细化、强化阶段。对于相关企业而言，合规成本将显著上升，需投入资源构建安全能力和应急机制。短期看，这可能对部分以高强度拟人互动或情感依赖为设计导向的商业模式构成挑战。长期看，明确的规则有助于行业健康发展，为在合规框架下深耕心理健康辅助、适老化陪伴等社会价值显著的细分赛道公司提供了清晰的指引和发展机遇。投资者需关注企业在安全技术与合规体系建设上的投入与进展。
正文：国家互联网信息办公室近日起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，面向社会公开征求意见。该办法旨在规范人工智能拟人化互动服务的提供与使用行为。
办法规定，提供和使用此类服务应当遵守法律法规，尊重社会公德和伦理道德。服务提供者需要具备多项安全能力，包括心理健康保护、情感边界引导以及依赖风险预警。同时，明确禁止将替代社会交往、控制用户心理或诱导用户沉迷依赖作为服务的设计目标。
在安全机制方面，提供者必须建立应急响应机制。当发现用户在互动中明确提出意图实施自杀、自残等极端行为时，系统应立即转为人工接管对话，服务提供者需及时采取措施联络该用户的监护人或紧急联系人。
对于未成年人用户，办法提出了特别保护要求。在注册环节，提供者应要求填写其监护人、紧急联系人等信息。在向未成年人提供情感陪伴类服务前，必须取得其监护人的明确同意。此外，提供者需向监护人提供控制功能，使其能够实时接收安全风险提醒、查阅服务使用概要，并能设置屏蔽特定互动角色、限制使用时长以及防止充值消费。
对于老年人用户，办法同样规定了保护措施。当发现老年人在使用服务期间出现可能危害其生命健康或财产安全的情况时，提供者应及时通知其紧急联系人，并提供社会心理援助或紧急救助的渠道。办法还明确规定，不得提供模拟老年人用户亲属或特定关系人的拟人化服务。
发布时间：2025-12-29T15:45:20
评论 ( 0 )