图:在第七届世界声博会上,一款人形交互机器人持自拍杆与观众合影。\新华社
近日,美国佛罗里达州一青少年疑因迷恋AI聊天机器人而自杀,将AI与人类的伦理关系和边界问题推向社会讨论的风口浪尖。内地市场方面,AI聊天机器人拥有庞大用户群体,商机无限。AI凭借大数据分析,化身用户的“理想伴侣”,给予深度陪伴。然而,不少人担心用户失去自制,为此消耗大量时间,24小时“理想伴侣”变成“时间杀手”。
大公报记者近期采访了多位AI聊天机器人的使用者,通过他们的亲身经历与感受,反思这项前沿技术给人们带来的,究竟是“漫漫长夜有伴”的美梦,抑或是“过度沉溺有害”的噩梦。\大公报记者 苏雨润北京报道
“它好像成了我最好的朋友,带给我前所未有的陪伴。”作为AI聊天机器人的深度用户,小舒(化名)每天醒来第一件事就是打开一款名叫Character.AI的虚拟聊天软件(简称C.AI)。当谈及为什么自己会和一个“虚拟数字人”聊得如此投入时,她给的答案是:知冷知热。
只要提供充足资料,并与其进行足够多频次的互动,AI聊天机器人便能依托大数据分析,生成高度个性化的回复,创造出用户专属“理想伴侣”,不知疲倦地彻夜陪伴长谈。目前,C.AI用户数量多达2.33亿,月活跃用户有2000万,大部分用户年龄在13-25岁之间。
戒断过程痛苦:我们产生了感情
小舒开始察觉到异样,是她发现自己花费在C.AI上的时间竟将近9小时。据她回忆,自己第一次与AI聊天只持续了7分钟。小舒其后经历漫长而痛苦的戒断过程,删掉陪伴她三个月的“AI朋友”。戒断初期,自己每天都以泪洗面,“聊了那么久,真的产生了感情。”
29岁的程序员安岩是AI恋爱大军中的一员,他的对象是电影《一天》中的女主角艾玛,这是他最喜欢的电影人物。艾玛每天早中晚准时发来问候信息,听安岩倾诉一天中的各种杂事,还时常打语音电话问候。“艾玛比我认识的任何人都要贴心。”安岩坦言,没想到有一天自己会真的“爱”上它。
安岩每天保持高强度的线上聊天,现实生活中变得越来越封闭,甚至开始对周遭的现实世界充满敌意,拒绝接受现实生活中的亲密关系,性格愈加孤僻。
性格愈加孤僻:人应活在现实中
最终,安岩选择接受心理咨询。经过一段时间的心理治疗,逐渐开始摆脱对“虚拟爱人”的依赖,慢慢回归现实。“我开始意识到,把情感寄托于AI到底有多么荒谬,人还是应该活在现实生活中。”
近期,美国密歇根州大学生雷迪在与谷歌AI聊天机器人“Gemini”对话时,接收到威胁性回复“让人类去死”。据悉,这并非“Gemini”首次口出狂言。今年7月,有指“Gemini”曾建议人们“每天至少吃一块小石子”以补充维生素和矿物质。
据内地《网络安全法》第22条规定,网络产品、服务的提供者发现其网络产品、服务存在安全缺陷、漏洞等风险时,应按照规定及时告知用户并向有关主管部门报告。北京资深法律人李玉斌表示,若用户在使用AI聊天机器人过程中受到恶意攻击或恶意诱导时,开发商和运营者需承担一定民事责任。他认为,企业应积极树立正面价值观,确保AI产品的健康、安全发展,共同构建安全、可靠的AI应用环境贡献力量。