近年来ღ✿◈✿，多模态等人工智能技术迭代突破重生之明星狩猎者ღ✿◈✿，推动陪伴型人工智能快速发展ღ✿◈✿，实现从“机械对话”向“深度共情”的跨越ღ✿◈✿。与此同时ღ✿◈✿，陪伴型人工智能产业面临信息内容安全ღ✿◈✿、隐私侵犯ღ✿◈✿、社会伦理ღ✿◈✿、未成年人保护等多重风险挑战ღ✿◈✿。近日爱游戏Ayxღ✿◈✿！ღ✿◈✿，国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（以下简称《办法》）公开征求意见ღ✿◈✿。《办法》有效回应情感陪伴ღ✿◈✿、心理疗愈等应用风险ღ✿◈✿，体现了“在发展中规范ღ✿◈✿，在规范中发展”的治理智慧ღ✿◈✿，对于构建面向“十五五”时期健康ღ✿◈✿、公平ღ✿◈✿、有益的人机关系具有重大意义ღ✿◈✿。

　　《国务院关于深入实施“人工智能+”行动的意见》明确提出ღ✿◈✿，加快发展陪伴型等智能原生应用ღ✿◈✿，充分发挥人工智能对精神慰藉陪伴等方面的重要作用ღ✿◈✿，积极构建更有温度的智能社会ღ✿◈✿。当前ღ✿◈✿，伴随情感计算ღ✿◈✿、自然语言处理ღ✿◈✿、多模态交互等人工智能技术发展ღ✿◈✿，人工智能拟人化互动服务通过模拟人类人格特征ღ✿◈✿、思维模式和沟通风格ღ✿◈✿，体现出堪比人类的情境理解和共情表达能力ღ✿◈✿，塑造出一种新型的人机关系与社会交往模式ღ✿◈✿，迈向了智商与情商“双商在线”的新阶段ღ✿◈✿。

　　在技术层面ღ✿◈✿，拟人化互动服务推动着情感计算ღ✿◈✿、多模态交互ღ✿◈✿、长期记忆等前沿技术的集成创新与场景落地ღ✿◈✿，为人机交互范式的演进提供了关键的试验场和应用反馈ღ✿◈✿。在经济层面ღ✿◈✿，拟人化互动服务作为一个快速增长的新兴赛道ღ✿◈✿，被逐步应用于娱乐ღ✿◈✿、教育ღ✿◈✿、养老游戏公司ღ✿◈✿。ღ✿◈✿、文化等场景ღ✿◈✿，包括角色扮演ღ✿◈✿、心理疗愈ღ✿◈✿、数字复活ღ✿◈✿、AI玩具等多种产品服务形态ღ✿◈✿，带动了从底层算法ღ✿◈✿、内容创作到硬件终端的产业链发展ღ✿◈✿，成为“人工智能+”行动中极具活力的消费级应用ღ✿◈✿。在社会层面ღ✿◈✿，拟人化互动服务在老龄化社会加深ღ✿◈✿、都市化生活加剧个体孤独感的背景下ღ✿◈✿，为特定群体提供了可及的情感支持ღ✿◈✿，具有一定的社会减压阀和情感补给站功能ღ✿◈✿。相关调研显示ღ✿◈✿，98%的人表示会考虑选择使用AI陪伴去弥补平日未被满足的社交困境ღ✿◈✿。

　　与此同时ღ✿◈✿，拟人化互动服务在快速发展中也暴露出一系列风险与挑战ღ✿◈✿。近年来涉情感陪伴安全事件频发ღ✿◈✿，美国Character.AI平台因涉嫌在人机交互中诱导青少年自杀而被诉ღ✿◈✿；意大利数据保护机构对Replika予以重罚ღ✿◈✿，勒令其暂停处理数据并整改年龄验证机制ღ✿◈✿。这揭示了拟人化互动服务在快速发展中暴露出的复杂风险ღ✿◈✿。一是数据隐私问题ღ✿◈✿，承载用户最私密情感与思想的数据面临被滥用ღ✿◈✿、泄露的风险ღ✿◈✿；二是伦理失范问题ღ✿◈✿，高度拟人化设计易导致用户产生非理性情感依赖ღ✿◈✿，甚至引发现实社交疏离ღ✿◈✿；三是安全保障问题ღ✿◈✿，缺乏有效的年龄识别与内容过滤ღ✿◈✿，危及脆弱群体的心理健康乃至人身安全ღ✿◈✿。风险集聚也推动拟人化互动服务成为全球少见的ღ✿◈✿，同时受到立法ღ✿◈✿、执法ღ✿◈✿、司法关注的领域ღ✿◈✿。例如ღ✿◈✿，美国加州ღ✿◈✿、纽约州等地推动AI伴侣ღ✿◈✿、陪伴聊天机器人ღ✿◈✿、心理资源健康等多项监管法案ღ✿◈✿，欧盟《人工智能法案》对情感陪伴类AI提出严格义务要求ღ✿◈✿，美联邦贸易委员会针对Replika等七家情感陪伴企业展开调查行动等ღ✿◈✿。

　　一是把好“数字人格关”爱游戏app手机版电竞ღ✿◈✿。ღ✿◈✿，捍卫智能社会人类尊严ღ✿◈✿。确保用户数据隐私安全ღ✿◈✿，是人类对拟人化互动服务施以信任的前提ღ✿◈✿。相比电商购物ღ✿◈✿、娱乐出行等应用ღ✿◈✿，用户交互数据是用户内心深处所思所想的直观展示与数字外化ღ✿◈✿，揭示了用户内心恐惧ღ✿◈✿、焦虑ღ✿◈✿、脆弱等最私密的信息ღ✿◈✿，并由此可推断出用户的性格特质ღ✿◈✿、价值观ღ✿◈✿、性取向爱游戏app手机版ღ✿◈✿、心理健康状况等核心身份特征ღ✿◈✿。一旦泄露或被滥用ღ✿◈✿，可能导致用户重大心理创伤ღ✿◈✿、关系破裂或社会污名等ღ✿◈✿，损害个人人格尊严ღ✿◈✿。为此ღ✿◈✿，《办法》将数据隐私作为重要保障目标ღ✿◈✿。一方面ღ✿◈✿，针对用户交互数据的特殊敏感性ღ✿◈✿，强化法律义务要求ღ✿◈✿。《办法》提出ღ✿◈✿，除法律另有规定等情形外ღ✿◈✿，不得向第三方提供用户交互数据ღ✿◈✿；严格限制交互数据的使用目的ღ✿◈✿，未有法律重生之明星狩猎者ღ✿◈✿、行政法规规定或非经用户单独授权ღ✿◈✿，不得将其用于模型训练ღ✿◈✿。同时ღ✿◈✿，规定不得利用用户心理脆弱或情感需求ღ✿◈✿，通过算法操纵ღ✿◈✿、信息误导等方式ღ✿◈✿，诱导用户作出不合理决策ღ✿◈✿。另一方面ღ✿◈✿，从安全技术和策略方面ღ✿◈✿，提升数据安全保障能力ღ✿◈✿。要求采取必要措施保障数据安全ღ✿◈✿，防范数据泄露风险ღ✿◈✿。要求提供者采取数据加密重生之明星狩猎者ღ✿◈✿、安全审计ღ✿◈✿、访问控制等措施保障用户交互数据安全ღ✿◈✿；要求向用户提供删除交互数据的选项ღ✿◈✿，用户可以选择对聊天记录等历史交互数据进行删除ღ✿◈✿。

　　二是把好“沉迷依赖关”ღ✿◈✿，防止人机伦理关系异化ღ✿◈✿。利用人与机器之间亲密ღ✿◈✿、信任的依赖关系可以对使用者造成情感绑架ღ✿◈✿，甚至导致主从关系的变异或颠倒爱游戏app手机版ღ✿◈✿。从技术上来看ღ✿◈✿，现有模型的“情感表达”仅为统计生成结果ღ✿◈✿，未与实际的痛苦ღ✿◈✿、快乐等主观感受相对应ღ✿◈✿。用户之所以产生“与人共处”的错觉ღ✿◈✿，与模型本身采用拟人化奖励ღ✿◈✿、共情奖励等机制ღ✿◈✿，通过无限迎合用户偏好塑造完美交互对象有关ღ✿◈✿。对此ღ✿◈✿，《办法》在现有的算法备案披露义务ღ✿◈✿、生成合成标识等规则基础上ღ✿◈✿，进一步完善了防止用户现实关系异化疏离的法律与伦理边界ღ✿◈✿。事前阶段ღ✿◈✿，明确拟人化互动服务透明度告知义务重生之明星狩猎者ღ✿◈✿。《办法》提出ღ✿◈✿，提供者应当显著提示用户正在与人工智能而非自然人进行交互ღ✿◈✿。在用户初次使用ღ✿◈✿、重新登陆时ღ✿◈✿，应以弹窗等方式动态提醒用户交互内容为人工智能生成ღ✿◈✿。事中阶段爱游戏app手机版ღ✿◈✿，要求设置中断冷却提醒功能ღ✿◈✿。要求用户连续使用服务超过一定时长时ღ✿◈✿，应以弹窗等形式提醒用户休息ღ✿◈✿，旨在周期性打破算法营造的沉浸式幻觉ღ✿◈✿，引导服务由“无限的迎合”走向“有限的不顺从”ღ✿◈✿，尤其当用户出现过度依赖ღ✿◈✿、不良内容诱导等问题时ღ✿◈✿，应及时给出提醒ღ✿◈✿、建议ღ✿◈✿，帮助用户维持认知清醒ღ✿◈✿。事后阶段ღ✿◈✿，充分保障用户自由退出权利ღ✿◈✿。哈佛商学院研究显示游戏上市ღ✿◈✿，ღ✿◈✿，AI伴侣在用户说再见时ღ✿◈✿，会用错失恐惧重生之明星狩猎者ღ✿◈✿、激发愧疚感等六种“情感操控”方式进行挽留ღ✿◈✿，反映了商业驱动下对用户行为的操控能力ღ✿◈✿。对此ღ✿◈✿，《办法》提出应确保用户便捷结束服务的权利ღ✿◈✿。

　　三是把好“生命安全关”ღ✿◈✿，守护身心健康底线年以来ღ✿◈✿，拟人化互动服务在全球已造成多起自杀ღ✿◈✿、谋杀和意外死亡事件ღ✿◈✿。OpenAI近期公布的心理健康数据显示ღ✿◈✿，每周约0.07%用户出现精神病或躁狂迹象ღ✿◈✿，0.15%用户谈及自杀念头或计划ღ✿◈✿。英国人工智能安全研究所发布的《前沿人工智能趋势报告》显示ღ✿◈✿，每当Character.AI平台出现故障时ღ✿◈✿，都会有大量用户出现焦虑ღ✿◈✿、抑郁等戒断症状ღ✿◈✿。如何提升产品服务质量ღ✿◈✿，协同共治守护公众生命健康红线ღ✿◈✿，成为全球面临的共同难题爱游戏app手机版ღ✿◈✿。《办法》尝试从多维度强化保障用户生命健康权ღ✿◈✿。一是建立风险识别机制爱游戏app官方网站ღ✿◈✿，ღ✿◈✿，在检测到自杀自残等极端风险时能够及时中断并接管ღ✿◈✿。《办法》要求应具备心理健康保护ღ✿◈✿、情感边界引导ღ✿◈✿、依赖风险预警等安全能力ღ✿◈✿，不得将替代社会交往等作为设计目标爱游戏app手机版ღ✿◈✿。在发现高风险倾向时ღ✿◈✿，应及时输出安抚和鼓励帮助的内容ღ✿◈✿，必要时由人工接管ღ✿◈✿，并联系用户监护人ღ✿◈✿、紧急联系人ღ✿◈✿。二是实施分级分类管控ღ✿◈✿，对未成年人等特殊群体予以特殊保护ღ✿◈✿。未成年人心智尚未成熟ღ✿◈✿、缺乏判断力和辨识能力ღ✿◈✿，应强化平台义务予以特殊保护ღ✿◈✿，例如ღ✿◈✿，监护人可以实时接收安全风险提醒ღ✿◈✿，查询未成年人使用服务的概要信息ღ✿◈✿，设置屏蔽特定角色等功能ღ✿◈✿。同时ღ✿◈✿，要求提供者应当建立年龄验证机制等ღ✿◈✿，提升识别未成年人身份的能力ღ✿◈✿。此外ღ✿◈✿，《办法》提出应推动应用商店等主体承担安全核验责任ღ✿◈✿，推动建立人工智能沙箱安全服务平台加强安全测试重生之明星狩猎者ღ✿◈✿，提升行业安全治理能力ღ✿◈✿。

　　构建健康ღ✿◈✿、公平重生之明星狩猎者ღ✿◈✿、有益的人机关系ღ✿◈✿，应以信任为基石ღ✿◈✿，保障用户在数字空间的人格完整与隐私安全ღ✿◈✿；以辅助为原则ღ✿◈✿，补充而非替代现实社会关系ღ✿◈✿，致力于提升人的真实幸福感与社会联结ღ✿◈✿；以安全为底线ღ✿◈✿，坚决防止任何形式的生理与心理伤害ღ✿◈✿。《办法》既鼓励技术慰藉心灵ღ✿◈✿、增进福祉的潜力ღ✿◈✿，又坚定划出隐私ღ✿◈✿、伦理与安全的不可逾越红线ღ✿◈✿，旨在引导拟人化互动服务真正成为构建“有温度的智能社会”的积极力量ღ✿◈✿，推动社会稳健步入一个人机和谐共生爱游戏app手机版ღ✿◈✿、科技真正向善的美好未来ღ✿◈✿。