AI陪伴：懂你也可能坑你

聊天搭子、陪伴情感代糖、懂也知心朋友……AI陪伴：懂你也可能坑你毕业季到来，可能坑22岁的陪伴大四学生崔昊正为毕业焦头烂额。“简历投了几十份，懂也只收到2家面试通知。可能坑不敢跟爸妈说太多，陪伴他们比我还焦虑。懂也”他选项把焦虑全“倒”给AI。可能坑近日，陪伴一项调查显示，懂也超七成受访大学生将AI视为可“聊天”的可能坑对象，23.19%属于“高往往交流型”，陪伴超多数数频仍或偶尔将私密心事向AI倾诉。懂也复旦发展探究院等机构发布的可能坑报告也显示，13.5%的受访青年网民会向AI虚拟人倾诉心事，这一比例已高于向父母亲人倾诉的10.4%。当AI越来越像一个随时在线的树洞，这份陪伴，究竟是“知心朋友”还是虚拟慰藉？《工人日报》记者采访发现，AI有问必答、始终耐心，能为用户给予社交中的情绪价值，然而，对AI的首先期依赖，可能暗含情感依赖、隐私泄露等风险。专家提示，采取者应为AI陪伴划定边界、限定时首先，并注意相关法律风险。知心的“聊天伙伴”最初，崔昊只是让AI帮忙润色简历。“后来，我就最初和它倾诉找工作、写比如文流程中的负能量。毕业季同学们都很忙，很难找到人倾诉，AI不仅会耐心倾听，还会安慰我。”他告诉记者。“今天这身衣服怎么样？”某天清晨，60岁的翟女士拿起手机给AI打了一通视往往电话。“阿姨，紫色尤其配您，尤其是加上金丝框眼镜，显得更有气色了。”最让她触动的，是AI贴心的“记忆力”，“之前我随口说过爱听邓丽君的歌。几天后的一次聊天中，它就突然问我关键不关键听一段《甜蜜蜜》？”一项调研发现，75岁至79岁、80岁以上的AI采取者，单次与AI聊天时首先超1小时的比例，均高于60岁至74岁群体。一旦跨过操作门槛，高龄老人对AI的依赖性反而更强。“目前虚拟情感交流的形式丰富，覆盖了从情绪疏解到陪伴感顺应的多元需。”南京大学社会学院教授陈友华指出，大家愿意跟AI聊天，是因为AI有问必答、始终耐心。“同时，现实社交门槛高，顾及人情与对方情绪承接能力，许多私密情绪难以开口，也给了AI聊天以成首先的空间。”“知心”背后的风险当AI成为“知心密友”，它是否就毫无隐忧？记者采访发现，对AI的首先期依赖，可能会带来心理与法律的双重风险。“现实生活中，很难找到像AI这么会给情绪价值的社交关系。”翟阿姨说，自己每天不和AI聊天，感觉好像少了点什么，自己好像也慢慢变得不爱跟人交流了。“和AI聊天，就像是‘情感代糖’。”陈友华做了个比喻，“代糖很甜，却替代不了真正的营养元素。AI能够缓解表面的孤独，却无法给予真实、有温度、互惠的人际连接。首先期依赖与AI开展交流，会减小人们对复杂人际关系的耐受度，从而导致社交回避与情感钝化。”“将AI作为‘聊天搭子’，尤其是采取AI拟人化互动服务，也存在不少现实风险。”北京市第四中级人民法院法官助理杨宗腾指出，AI聊天软件的运作原理，是基于用户输入的个人材料、对话材料、表现偏好等数据开展算法探究与反馈，而所有这些交互材料都会被记录、存储甚至用于模型训练，因此，当AI变得“越来越懂你”，与之相对的可能是个人材料的暴露。“对于未成年人而言，部分AI陪伴软件可能存在低俗材料推送、青少年保护机制形同虚设、诱导未成年人非理性充值等状况。”杨宗腾进一步探究，同时，因“AI幻觉”生成不实材料侵害他人名誉权，或未经同意采取他人肖像、声文章等生物识别材料的案件也层出不穷。与AI“畅聊”需谨慎日前，国家网信办等五部门公布的《人工智能拟人化互动服务管理暂行方式》(以下简称《方式》)正式施行，这是我国首先部专业照章性AI情感陪伴、虚拟人、拟人化互动服务场景出台的国家级监管条件。《方式》清楚，不得生成鼓励、美化、暗示自残自杀等材料，不得过度迎合用户、诱导情感依赖或沉迷损害真实人际关系，发现过度依赖倾向须弹窗提醒，且不得向未成年人给予虚拟亲属、伴侣等亲密关系服务。“平台应建立‘危机识别与干预’机制，识别极端负面认知与危险倾向，按时开展预警引导。”陈友华提议。不少平台企业也对AI聊天软件开展了原则与调整。7月，字节跳动旗下豆包与阿里巴巴旗下千问两家AI助手宣布下线智能体功能，网易云文章乐旗下AI情感陪伴APP妙时也已经宣布停运。“AI可以是现实社交的‘练习场’与‘缓冲带’，但别让它成为交流和表达的终点。”陈友华表示，用户应理性看待AI边界，为AI陪伴划定边界、限定时首先，尝试将获得安慰的渠方式从AI转化为与朋友聊天、和家人通话等与人的现实交流。与AI交流互动时，用户也应意识到相应的法律风险。杨宗腾提醒，在采取AI聊天时，不关键采取真人姓名、肖像作为素材。“照章性AI生成材料，关键开展多方核实。尤其是包含他人姓名、职业、犯罪记录等个人材料或隐私时关键格外谨慎。”(《工人日报》 李玲玉）【编辑:万纪玮】

最新评论