4月24日，在由粤港澳大湾区生成式人工智能安全发展联合实验室、南方都市报社主办的“AI新治向”系列沙龙第一期——未成年人AI情感依赖治理研讨中场内配资，领信数科高级战略官侯全心指出，AI拟人化互动正给未成年人带来情感依赖风险。他提出，应以技术为核心抓手，多方协同发力，筑牢未成年人数字安全防线。
AI拟人化互动：便利与风险并存
AI拟人化互动：便利与风险并存
生成式AI的快速普及，让拟人化、情感化、全天候响应的互动服务成为未成年人的“玩伴”“家人”与“树洞”。这类AI产品在提供个性化学习辅导、缓解孤独感、激发创造力的同时，也催生了情感过度依赖、现实社交退缩等问题。侯全心坦言，AI拟人化互动是一把典型的“双刃剑”，它能成为数字时代教育与社会支持的有益补充，却也可能因算法无节制迎合、虚拟陪伴边界模糊等问题，让不良或不当内容对心智尚未成熟的未成年人造成隐蔽且深远的伤害。
领信数科高级战略官侯全心围绕技术赋能AI伦理设计、用户边界管控与合规落地展开分享。
随着《人工智能拟人化互动服务管理暂行办法》将于7月15日起正式实施，AI拟人化互动服务迎来明确的监管红线。在侯全心看来，该办法以包容审慎、分类分级的监管思路，明确了AI拟人化互动服务“辅助人类、服务人类”的核心定位，更构建起覆盖技术全链条的风险防控体系，在敏感个人信息保护、人工智能沙箱安全服务平台等方面作出创新安排，充分彰显了“以人为本”的治理导向，也为行业规范发展指明了方向。基于“以魔法防范魔法”的技术思路，领信数科将前沿安全技术深度融入未成年人保护场景，打造了三款核心防护产品，把伦理原则切实转化为可执行的安全策略。
构建“制度-技术-文化”协同生态
构建“制度-技术-文化”协同生态
针对未成年人AI情感依赖的治理难题，侯全心提出，可构建“制度-技术-文化”协同的治理新生态，从多维发力推动形成多方共治格局。
他建议在现有法规框架下，将制度刚性与技术弹性相结合，进一步细化AI拟人化互动服务的年龄分级、每日交互时长限制、内容黑名单机制，明确青少年模式的强制性技术标准，同时鼓励运用隐私计算、同态加密等技术，在保护未成年人隐私的前提下开展风险行为匿名分析与预警，搭建跨平台的未成年人数字身份标识体系，让保护覆盖不同应用场景。
在宣传层面，行业应大力弘扬“科技向善”的理念，通过科普活动、开放日等形式向公众尤其是家长普及AI技术的双面性，提升全社会的数智素养与风险辨识能力，引导未成年人养成健康节制的技术使用习惯，让数字互动成为现实生活的补充而非替代。
此外，他还建议搭建便捷安全的标准化举报渠道，设置醒目的“一键举报”入口，建立涉未成年人高风险内容优先处理流程，形成“举报-核实-处置-反馈-改进”的完整闭环，同时完善举报人信息保护与适度激励机制，发动家长、教师等社会力量担任“吹哨人”，构建政府监管、平台负责、行业自律、群众监督的协同治理网络。
侯全心认为，AI拟人化互动服务的治理是一场关乎下一代健康成长的“守护战”，唯有形成法治划定红线、技术筑牢防线、文化引导航线的协同格局，才能真正把“以人为本”的理念深植于技术研发、产品设计与行业规范之中，共同筑牢未成年人数字安全防线。
“AI新治向”系列沙龙由粤港澳大湾区生成式人工智能安全发展联合实验室、南方都市报社主办，广东省网络数据安全与个人信息保护协会支持。相关政府部门代表、心理学、法学、人工智能、网络素养培育等领域专家学者，以及大模型企业、AI玩具企业、AI安全企业等多方代表出席了活动，共同探讨未成年人AI情感依赖的成因、风险与治理路径。
出品：南都大数据研究院
采写：南都研究员 李伟锋
摄影：南都记者 梁炜培场内配资
捷希缘提示：文章来自网络，不代表本站观点。
- 上一篇：配资操盘十大技巧 寻梦丝路：跨越时空的文明交响
- 下一篇：没有了
相关文章
热点资讯