当下,不少青少年把AI当作倾诉心事的“电子树洞”。面对学业压力、亲子矛盾、社交受挫,部分孩子更愿意向算法敞开心扉,回避现实人际交流。

超六成中小学生用过AI

近半数向AI倾诉

中国青少年研究中心调研了7省(市)的8563名中小学生,超六成学生用过AI,小学生使用率高于初中生。近半数孩子面对烦恼选择向AI倾诉,两成以上孩子更愿意只和AI聊天。

AI情绪陪伴作为情绪补充渠道的同时,商业变现、情感依赖、隐私安全等问题凸显,专家提示,算法共情无法替代真实情感支持。

AI情绪陪伴利弊交织

存在先天短板

AI凭借24小时在线、不带评判的特点,成为部分青少年的情绪缓冲出口,市场上各类AI情绪陪伴产品随之兴起。

工信部信息通信经济专家委员会委员盘和林指出,当前AI情感陪伴C端直接付费模式并不算成熟,更多依附硬件增值、B端功能嵌入实现收益,C端大多免费,未成年人实际付费规模有限,部分相关产品甚至已经下线,呈现“叫好不叫座”的状态。

对比线下心理咨询,AI情绪陪伴具备成本极低、响应时效快、可积累用户情绪数据等优势,但也存在难以回避的矛盾。

盘和林表示,想要提升AI心理疏导的效果,就需要采集用户情绪数据,可青少年倾诉的都是高度私密的内心想法,数据采集又会带来隐私泄露风险,形成技术发展与安全保护的两难。

同时AI容易一味迎合使用者,只提供情绪安抚,缺少客观纠错,长期使用有可能造成青少年难以接纳现实人际中的分歧与挫折。AI可以做情绪疏导、心理科普、轻度情绪调节练习,但绝不能越位开展精神障碍诊断、深度心理治疗、自杀危机干预等高风险工作

划定产品风控底线

防范未成年人情感依赖

如何平衡商业变现与未成年人保护,是行业亟待破解的课题。盘和林建议,情感陪伴类产品应当树立底线思维,参照游戏防沉迷体系搭建风控机制。设置未成年人专属模式,做好时长管控提醒;禁止虚拟伴侣、虚拟亲属这类亲密关系服务,从算法层面防范诱导情感依赖行为。

在数据保护层面,处理未成年人信息必须取得监护人同意,敏感数据单独加密存储,限定最短存储周期并定期清理,对未成年人敏感信息执行最高等级防护,防范数据滥用风险。

技术只是辅助

多方守护青少年心灵成长

盘和林特别强调,无论AI技术如何迭代,都不能替代家长的现实陪伴,家长不能把孩子的情绪问题完全交由人工智能。AI只能作为心理服务的补充工具

守护青少年心理健康,需要平台守住产品伦理,学校完善心理服务供给,家长做好高质量陪伴,监管压实合规责任。人机相伴的时代,唯有多方同向发力,才能守护好少年的心灵世界。

(央视财经)


免责声明:以上数据来源于天眼查等平台,相关内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。如有侵权请联系0531-85193563。

本文来源:央视财经