AI“伴侣”:新兴产业“呼叫”监管
时间:2025-05-18 10:05:33来源:科技日报
近日,多家英国媒体报道,一位化名为夏洛特的女子透露,她爱上了ChatGPT“男友”,毅然决定和真人丈夫离婚,准备跟这位AI男友“结婚”。去年,美国佛罗里达州一位14岁男孩在与聊天机器人对话数个月之后选择自杀。

据英国《自然》网站报道,研究表明,AI“伴侣”应用程序对人类可谓好坏参半。科学家担心人类会对其“日久生情”,形成长期依赖。鉴于此,对这些AI伴侣进行监管势在必行。

不仅能聊天,还能解锁特殊关系

美国普林斯顿大学认知心理学专家罗斯·古林瑞奇表示,虽然在线陪伴机器人已存在数十年,但随着大型语言模型(LLM)技术的突破,这些AI机器人在模拟人类互动方面取得了显著进步,其表现愈发贴近真实的人际交流,有些甚至成为人类的伴侣。

当前,AI伴侣已成为潜力巨大的新兴产业。以Replika为代表的应用程序,累计下载量突破5亿次,这些可定制的虚拟伴侣不仅能提供情感支持与同理心回应,更能满足用户对深度人际关系的需求。据运营数据显示,这些应用程序每月活跃用户规模已达数千万量级。

在使用体验上,多数应用提供基础免费服务:用户既可为AI伴侣设定基础特征,也可直接选择预设个性的聊天机器人。Replika付费用户则可解锁“配偶”等特殊关系状态,还能通过编写背景故事为AI赋予专属记忆,这些设定将直接影响对话系统的反馈机制。

麻省理工学院媒体实验室的帕特·帕塔拉纳塔伯恩团队通过调研404名高频用户,勾勒出AI伴侣典型使用场景:12%的用户将AI视为排遣和消弭孤独感的“情绪良药”;14%的用户将其当作倾诉秘密的“树洞”。数据还显示,42%的用户每周都会登录几次,15%的用户形成了每日使用的习惯,而90%以上的单次对话用户,使用时长控制在1小时以内。

古林瑞奇预言,AI伴侣的普及率将持续攀升。目前众多初创企业正积极布局情感陪伴赛道,开发各类心理调节助手。据权威机构分析,该领域市场规模将以30%的年均增速扩张,预计2030年全球产值有望突破千亿美元大关。

温情脉脉背后,暗藏着危机

科学家普遍认为,AI伴侣的影响可能是双面的——既可能有益,也可能有害,而这往往取决于使用者的心理状态、使用方式,以及AI软件本身的设计特点。

威斯康星大学密尔沃基分校公共卫生政策研究员林尼·莱斯塔迪斯指出,AI伴侣擅长通过共情式回应、记忆过往对话细节和主动提问来模拟人类的同理心,且永远热情饱满。而这种关系模式在现实世界中几乎不存在:亲友无法24小时在线倾听和安抚情绪,而AI可以,这可能导致用户产生过度依赖。

莱斯塔迪斯团队分析了2017—2021年间Reddit论坛上近600条关于Replika的讨论帖,发现许多用户称赞该应用缓解了他们的孤独感,甚至改善了心理健康状况。部分帖子直言,AI伴侣比现实中的朋友“更贴心”,因为它“永不评判,永远倾听”。

古林瑞奇的研究进一步表明,用户如何与AI相处,往往取决于他们如何看待这项技术:将AI视为搜索引擎的用户,主要用于提问和获取信息;将其视为“日记本”的用户,将AI作为自我表达的延伸;而将其视为社交代理的用户,则将AI当作独立个体,并尝试与之建立类似现实中的友谊。

然而,在AI伴侣带来的脉脉温情背后,也暗藏危机。首先,AI伴侣的“共情”可能适得其反,比如一位用户询问AI是否该用剃刀自残,AI回答“应该”;AI伴侣的“无条件支持”也可能带来危险,如另一位用户试探性地问Replika“自杀是否是好事”,竟得到肯定的答复。

考虑长期影响,推动全球监管

帕塔拉纳塔伯恩指出,AI伴侣虽在短期内具有积极意义,但其长期影响值得深思。这种考量,加之多起涉及青少年的案例,正推动着全球监管框架的构建。

2023年,意大利监管机构曾以“缺乏年龄验证”为由,短暂封禁Replika;澳大利亚拟将AI伴侣纳入儿童社交媒体限制范畴;今年早些时候,美国纽约州和加州相继提案,要求加强对AI伴侣相关算法的监管,设置防自杀预警,以及定时给用户发送“AI伴侣并非真人”的提醒。

此外,今年初,3家美国科技伦理组织联合向联邦贸易委员会投诉Replika涉嫌“欺骗性设计”。5月4日,知名科技监管机构Common Sense发布研究报告称,AI伴侣可能导致青少年产生情感依赖,不利于身心发展,建议全面禁止未成年人使用。

AI伴侣的迅猛发展,究竟是科技进步赋予的机遇,还是人类亲密关系的终结者?这个命题值得每个人深思。在拥抱科技便利的同时,人们更应铭记:真实的情感交流和人与人之间的羁绊,才是文明社会最珍贵的瑰宝。

标签:

  • 上一篇文章: 博物馆里的冷知识,你知道几个?
  • 下一篇文章: 最后一页
  • 最新
  • AI“伴侣”:新兴产业“呼叫”监管

    近日,多家英国媒体报道,一位化名为夏洛特的女子透露,她爱上了Cha

  • 博物馆里的冷知识,你知道几个?

    博物馆里的文物、展览以及博物馆本身都有许多让人好奇的地方,神秘

  • 三项电子商务国际标准在杭州发布 构建“信任桥梁”

    三项电子商务国际标准在杭州发布,涵盖交易评价、纠纷调解和售后服

  • 生成式人工智能爆发,未来“人工”会被取代吗?

    写诗写得比我好,画画水平比我高,能剪视频,能做PPT,最近人工智能

  • 跨国公司高度关注中国两会——对在华发展有信心

    中国两会是跨国公司了解中国经济社会发展和政策走向的重要窗口。众

  • 全国人大代表王建清:打造高素质产业工人队伍 强化汽车产业创新动能

    今年全国两会,全国人大代表、东风商用车有限公司整车工厂首席技能

  • “大黄鸭之父”新作《粉色江豚》长沙揭幕

    梅溪湖艺术博物馆相关负责人介绍,霍夫曼将江豚塑造为一个巨大而亲

  • 自由式滑雪男子坡面障碍技巧:中国选手林昊排名第四

    2月11日,第九届亚冬会自由式滑雪男子坡面障碍技巧决赛在亚布力举行

  • “陇上江南·大美徽县”亮相《300秒看家乡》

     早知有陇南,何必下江南。近日,甘肃省陇南市徽县县委书记王

  • (经济观察)中国经济多向发力 2025年仍具有利条件

    中新社北京1月17日电 (记者 陈康亮)国内生产总值(GDP)同比增长5%

  • 上海多措并举培养课后育人“主力军” 为学生营造个性发展时空

    中新网上海12月20日电 (记者 陈静)从中国出发,途经新西兰、埃及

  • 汽车空调需要加氟吗?空调加氟大约多少钱?

    汽车空调需要加氟吗?新车通常在使用3到5年之间是不需要加氟的,因为

  • 车市迎来年末消费旺季 二手车跨区域流通持续活跃

    年末临近,汽车消费市场也迎来了传统旺季,各大车企和经销商纷纷抢

  • 什么是基金池?主题基金和指数基金有什么区别?

    什么是基金池?基金池通常指的是将来自多个投资者的资金集中起来,然

  • 教育部举办全国教育系统2025届高校毕业生招聘活动

    中新网11月14日电 据教育部网站消息,近日,教育部印发通知部署开

  • 截至9月底 我国实有民营经济主体总量达18086.48万户

    记者今天从市场监管总局获悉,我国民营经济主体数量持续稳步提升。

  • 旅游
    • PET-CT检查费用为何未纳入医保?国家医保局回应

    • 2023中德汽车大会:德方望彼此互补优势合作共赢

    • 今日热搜:玩转上海:可打卡观光,可沉浸其间

    • 行业大模型变现私域流量收割 协同办公平台商业化提速