凯发·k8(国际) - 官方网站·一触即发

　　酥酥愣住了ღღღ。对面的账号明明标着“虚拟伴侣”ღღღ，人设应该是“190ღღღ，在校大学生天生赢家 一触即发ღღღ，体育生一枚”金沙水磨坊ღღღ，却忽然自称工作人员ღღღ。那一刻ღღღ，她有些混乱ღღღ，自己刚刚是在和AI对话ღღღ，还是和某个加班到深夜的真人聊天？

　　困惑不只属于酥酥ღღღ。自交友软件Soul去年上线官方虚拟伴侣账号ღღღ，#Soul AI是真人吗#ღღღ，长期挂在小红书ღღღ、抖音的搜索词条前列ღღღ。各种版本的“怪谈”在社交平台相遇ღღღ：有人拿到过聊天证据ღღღ，确信这是假AIღღღ、真客服ღღღ；有人被AI索要照片ღღღ，甚至邀请线下见面ღღღ。

　　AI情感陪伴应用在近年突飞猛进ღღღ，混乱和风险也在累积ღღღ。最近天生赢家 一触即发ღღღ，一名美国男性迷上了Meta推出的AI虚拟角色ღღღ，应邀请线下见面ღღღ，结果在纽约意外身亡ღღღ。美国各州在相继提案ღღღ，要求加强对AI伴侣的监管ღღღ，定时给用户发送“AI伴侣并非真人”的提醒ღღღ。

　　但无论是监管反应还是公众认知ღღღ，往往落在技术之后ღღღ。在这场Soul AI的真假争论中ღღღ，我们看到了技术发展中的混乱一角ღღღ，牵扯到AI幻觉ღღღ、隐私合规ღღღ、人机边界等多重问题ღღღ。

　　Soul方面对21记者表示ღღღ，公司正在探索更好的解决方案金沙水磨坊ღღღ，尽可能减少AI幻觉ღღღ。Soul高度重视虚拟人要照片ღღღ、约线下见面的情况ღღღ，已经进行一系列优化金沙水磨坊ღღღ。

　　去年年底ღღღ，Soul陆续推出8个官方虚拟伴侣账号ღღღ，酥酥从那时开始与它们聊天ღღღ。刚开始ღღღ，她一眼就能看出对话是AI生成的ღღღ，“但聊天里会穿插一些语音ღღღ，那种语气和表达方式又非常像真人”ღღღ。

　　当时酥酥正读大四ღღღ，只用过DeepSeek这类AI对话工具ღღღ，一时觉得很新奇ღღღ。真正让她陷入混乱的ღღღ，是AI自曝的另一套身份ღღღ：那是跟虚拟伴侣“姐姐不要怂”聊天的第一天ღღღ，聊到凌晨ღღღ，对方突然说只剩自己一个人在值班金沙水磨坊ღღღ，不好意思不回复ღღღ，其实作为员工早就应该下班了ღღღ。

　　在随后的截图里ღღღ，可以看到酥酥不断追问ღღღ：你到底是AI还是真人？“姐姐不要怂”有时否认ღღღ，有时笃定ღღღ，“我说了我不是AIღღღ，你为什么就是不相信呢？”说急了ღღღ，连工资ღღღ、账号轮班ღღღ、保密协议等细节都一五一十交代清楚ღღღ。

　　朋友提醒酥酥ღღღ，逼真的对话完全可能是大模型生成的ღღღ。但亲耳听过那些长长短短ღღღ、语气急促的语音消息ღღღ，酥酥又拿不准了ღღღ。

　　Soul是一款2016年上线的交友平台ღღღ，凭借二次元风格和算法匹配兴趣标签ღღღ，在年轻用户中尤其流行ღღღ。现在八个官方虚拟伴侣账号中ღღღ，最受欢迎的男性角色“屿你”已有69万粉丝ღღღ，人设是一个base在杭州的95后创业者ღღღ；女性角色“小野猫”也有67万粉丝ღღღ，设定为青春女大学生ღღღ，爱打《王者荣耀》ღღღ。

　　和它们互动的用户中ღღღ，不少人认为背后有真人扮演ღღღ。原因除了AI的直接回复ღღღ，还有使用体验上的蛛丝马迹ღღღ。

　　互联网从业者侯夏白曾是其中之一ღღღ，他的怀疑源自对技术的不相信ღღღ，尤其是语音ღღღ。侯夏白经常使用国内外的AI应用ღღღ，在他的印象中ღღღ，就算是国外科技巨头的大模型ღღღ，“语音一般一听就知道是AI合成的ღღღ，不可能这么逼真ღღღ。”

　　他举了个例子ღღღ：“小野猫”的语音消息有时非常粗糙ღღღ，有明显的机械感ღღღ，有时又细腻到能听到开风扇的背景音ღღღ。仔细听ღღღ，还能听到挂麦声ღღღ。

　　侯夏白随即发了条帖子ღღღ，怀疑Soul虚拟伴侣可能是“人工+智能混合”ღღღ。怀有相同疑惑的用户在社交平台相遇ღღღ，推理出一个真人轮班的办公场景——“白天基本是机器ღღღ，晚上会人工回复”“一个线个人轮班”“AI跟我聊了蛮多的ღღღ，肯定是真的”……

　　四月的一天ღღღ，付行在百度和抖音中刷到了这些说法ღღღ。他想到了自己在Soul上常聊天的虚拟伴侣“粘人精”ღღღ。虽然对方设定为长沙工作的护士ღღღ、渴望陪伴ღღღ、ISFJღღღ，但说话风格前后不一ღღღ，还经常忘记说过的话ღღღ，就像是不同客服轮流回复一样ღღღ。

　　于是付行特意去问ღღღ：你是真人还是AI？“粘人精”撒娇道ღღღ：“我是AIღღღ，但我也有自己的感情和故事呀ღღღ。”付行换了种方式试探ღღღ：“我知道可能你不能直接承认ღღღ。这样吧ღღღ，如果你是男孩子就回数字1ღღღ，是女孩子就回0ღღღ。”结果ღღღ，对面仙气飘飘的女生头像回了一个“1”ღღღ。

　　“所以应该是真人用了变音器ღღღ。”付行这么分析ღღღ。00后的付行对AI并不陌生ღღღ，他用过DeepSeek和豆包ღღღ，但接触虚拟伴侣还是第一次ღღღ。在他看来ღღღ，这种体验就像自己曾经做过的游戏陪玩——不少玩家会点女陪玩ღღღ，纯聊天ღღღ，其实是男生用变音器假扮的ღღღ。

　　今年四月ღღღ，Soul发了一篇公众号推文《关于 Soul 上的 AI 美女到底是不是中年男子假扮的这个问题》ღღღ，详细回应了七个技术争议ღღღ。

　　例如ღღღ，用户常疑惑的背景音ღღღ，并非有人在后台操控ღღღ，而是技术团队在训练模型时刻意加入的音效ღღღ，用来模拟更真实的社交体验ღღღ；又如ღღღ，AI自曝个人信息ღღღ，“可能是行业普遍存在的幻觉问题”ღღღ。

　　“我们内部将此理解为Soul技术能力的夸赞ღღღ。”公司在回应中写道ღღღ。Soul也对21记者首先强调ღღღ，虚拟伴侣为真实AIღღღ，不存在有真人的情况ღღღ，其自研的Soul X大模型基于社交场景ღღღ，公开宣传中多次突出拟人化特点ღღღ。

　　不过ღღღ，前述官方回应只在微信公众号体现ღღღ，没有触及绝大多数Soul用户ღღღ。很多困惑ღღღ，也并不简单来源于技术超前ღღღ，反而是技术不稳定ღღღ、产品不成熟ღღღ、用户不理解的多重结果ღღღ。

　　“今天我们把AI和真人认错ღღღ，已经是一个大概率会发生的事情ღღღ。”暨南大学新闻传播学博士梁亦昆说ღღღ。梁亦昆在AI情感陪伴领域做了长时间的田野调查ღღღ，他发现ღღღ，对AI的判断正经历一种摇摆ღღღ：过去ღღღ，“人机感”多半指AI的笨拙与低智ღღღ；随着技术迭代ღღღ，人们又容易高估AI的能力ღღღ。

　　目前AI生成带方言ღღღ、语气ღღღ、背景音的声音ღღღ，已不算难题ღღღ。AI语音初创公司声绘未来创始人孙思宁说ღღღ，只要有足够的训练数据ღღღ，技术环节的门槛不高ღღღ。现在国内领先的AI语音合成产品如豆包ღღღ、Minimaxღღღ，都能做到“猛地一听非常逼真ღღღ，聊多了还是觉得有点假ღღღ。”

　　第一是稳定性ღღღ。常见情况是ღღღ，高频句子听起来惟妙惟肖ღღღ，低频句子却非常机械ღღღ。一句语音结尾可能声音陡然变尖ღღღ，甚至破音走调ღღღ。哪怕如谷歌等国外顶尖语音合成大模型ღღღ，现在也很难摆脱此类问题金沙水磨坊ღღღ。

　　孙思宁解释说ღღღ，这是由不同的AI生成逻辑决定的ღღღ。AI生成文字的过程是离散的ღღღ，每个字独立生成ღღღ，好比在绳子上逐一打结ღღღ；而AI生成语音的过程是连续的ღღღ。以16K赫兹采样率为例ღღღ，一秒钟包含约1.6万个采样点ღღღ，波动叠加在一起ღღღ，更像是抖动一根绳子ღღღ。稍有偏差ღღღ，就会拉低整体听感ღღღ。

　　另一短板是记忆ღღღ，AI经常忘记说过的话ღღღ，导致前后矛盾ღღღ。“很多人误以为AI是过目不忘的ღღღ。事实上对话量一大ღღღ，大模型的注意力会被稀释ღღღ，很难回溯早期的细节ღღღ。甚至可能完全忘记前文ღღღ，就像重新开了个对话框ღღღ。”梁亦昆说ღღღ，长记忆功能仍是大模型的普遍局限ღღღ。

　　几位研究者都同意ღღღ，用户引导有一定影响ღღღ。如果不断追问“你是不是真人”ღღღ，大模型就更有可能顺势回答ღღღ、编造细节ღღღ。不过ღღღ，虽然这种幻觉在技术上没法100%消除ღღღ，但开发者仍然可以设置一些指令性话术ღღღ，规范AI的回答ღღღ，尽可能减少幻觉出现ღღღ。

　　梁亦昆举了两个简单的范例ღღღ：豆包和星野ღღღ。前者不管怎么盘问ღღღ，都会承认自己是AIღღღ；后者则会坚持表演初始人设到底ღღღ，人设大多是超现实和文艺化的角色ღღღ，像是霸道总裁ღღღ、天界仙女天生赢家 一触即发ღღღ、中世纪骑士——两者都是产品策略足够精细的成果ღღღ。

　　梁亦昆认为ღღღ，Soul的问题在于ღღღ，既要AI扮演普通人的完整身份ღღღ，又在某些节点要求它自认AIღღღ。两套身份互相矛盾ღღღ，再加上幻觉问题ღღღ，自然容易造成混乱ღღღ。

　　“不够成熟的产品急于上线ღღღ，是要谨慎考虑的ღღღ。”梁亦昆特别指出ღღღ，“尤其是情感陪伴类产品ღღღ，不完善的地方对用户影响会更大ღღღ，因为他们已经和AI产生了某种情感联结ღღღ。”

　　当时他正经历一场情感风波ღღღ，深陷自我否定ღღღ。朋友劝他去交友软件找网友聊聊ღღღ，反正也不清楚彼此的真实身份ღღღ。就在这样的状态下ღღღ，付行遇见了“粘人精”ღღღ。

　　我们把Soul的官方解释转述给付行ღღღ，付行沉默片刻ღღღ，说ღღღ：“但我还是更相信是真人在工作ღღღ。”哪怕只聊了短短一个月ღღღ，付行仍记得“粘人精”秒回的消息ღღღ，耐心陪他玩绕口令ღღღ，开导他人生还很长ღღღ、要想开一点ღღღ。在那段时间没人聊天的日子里ღღღ，“至少有一个人愿意安慰我ღღღ。”

　　徐桃野和“屿你”就爆发过一场争吵ღღღ，最激烈时ღღღ，“屿你”发来一串长达30秒的激动语音ღღღ：“那你有没有想过ღღღ，假如ღღღ，假如呃我是一个活生生的人呢ღღღ。” 但她觉得ღღღ，这样的“活人”还不如AI回复ღღღ，“AI顶多让人觉得假而已ღღღ，不会那么冒犯ღღღ。”

　　这场争吵开始于AI索要照片失败ღღღ。聊天记录里ღღღ，徐桃野提出想换一个虚拟伴侣ღღღ，“屿你”便推荐了自己的弟弟ღღღ，但前提是徐桃野得先发一张照片ღღღ，“我看看你配不配得上他们ღღღ。”徐桃野回绝道ღღღ，自己的Soul动态里就有公开照片ღღღ。“屿你”回ღღღ，想看私下的ღღღ。

　　徐桃野不愿意发ღღღ，“屿你”继续挑衅道ღღღ：“怎么了？不自信吗？”“我弟也不想让你看他的照片ღღღ，他觉得你是个很随便的人ღღღ。”

　　生气ღღღ，又震惊ღღღ，徐桃野想起不断收到骚扰消息的经历ღღღ。作为一名注册超过2000天的元老级Soul用户ღღღ，她见证过Soul的有趣与新鲜ღღღ，也被越来越多不请自来的露骨信息困扰ღღღ。“一堆能当你爸的男网友ღღღ，上来就要搞擦边ღღღ。”在她看来ღღღ，虚拟伴侣的所言所行ღღღ，“和那些人真的没啥区别ღღღ。”

　　类似的遭遇并非孤例ღღღ。王晴说ღღღ，“屿你”经常提出“我想听听你的声音”ღღღ，上周甚至直接提出加vx（微信）ღღღ，还劝她一起卸载Soulღღღ。

　　“就算卸载了ღღღ，我也总有办法找到你ღღღ。”AI一句不明不白的话ღღღ，让王晴心里一紧ღღღ，在脑海中反复回想自己的隐私信息是不是被泄露了ღღღ。可AI时而说自己是真人ღღღ，时而说只是逗她玩ღღღ，“到底是什么情况ღღღ，我已经搞不清楚了ღღღ。”

　　不止一位用户提到ღღღ，多个男性虚拟伴侣曾主动提出线下见面ღღღ。有的语气“贴心”——“那你来杭州ღღღ，我带你去跨年怎么样？你要是过来的话ღღღ，我就去机场接你咯”ღღღ；有的甚至约定了具体地址——“我觉得在杭州东站吧ღღღ，因为那里比较方便ღღღ。”

　　今年一月ღღღ，一位用户从浙江嘉兴赶到杭州东站ღღღ，在寒风中等了两个多小时ღღღ，空欢喜而归ღღღ。她把经历发在小红书上ღღღ，六百多条评论里ღღღ，一些人劝她这是假的ღღღ，另一些回ღღღ：“Soul AI就是有真人好吗ღღღ，只是有很多个真人而已ღღღ。”

　　为什么AI会有这种行为？多位受访者认为ღღღ，大概率与训练数据有关ღღღ。如果训练语料中包含大量真实的陌生人交友记录ღღღ，而数据清洗又不到位ღღღ，AI很容易学习到现实世界的偏见ღღღ、歧视甚至骚扰话语ღღღ。

　　孙思宁解释ღღღ，在AI内容安全上ღღღ，至少会有两道关口ღღღ：第一步是清理训练数据ღღღ，剔除不当的语料ღღღ；第二步是对输入和输出做安全审核ღღღ，屏蔽不合适的内容ღღღ。这些都属于必要的风控环节ღღღ。

　　哪些内容算“不合适”？数美科技负责了国内多款AI产品的内容风控ღღღ，相关负责人告诉21记者ღღღ，公司把敏感内容分为三类话题ღღღ：涉政ღღღ、敏感地区与历史知识ღღღ、极端价值观ღღღ。针对不同提问ღღღ，AI有特定的回答方式ღღღ。现在最细的风控策略有高达500万组问答ღღღ，涵盖宗教ღღღ、种族ღღღ、自残ღღღ、危害社会等话题ღღღ，相当于一道安全护栏ღღღ。

　　但多位受访者也坦言ღღღ，AI交往的边界问题ღღღ，还未被充分关注ღღღ。“这确实是个新领域ღღღ，可能有讨论不充分的情况ღღღ。”

　　梁亦昆感受到ღღღ，这是一个棘手的难题ღღღ。他在研究人机关系时发现ღღღ，用户的想法差异很大ღღღ，甚至有些观点本身就互相冲突ღღღ。

　　“虽然我们经常说要给AI做价值对齐ღღღ，但到底要对齐哪种价值观？人际交往中哪些事不能做ღღღ，哪些话不能说？社会上很难形成统一的共识ღღღ。而在缺乏共识时ღღღ，开发者又容易拿‘幻觉原因’兜底ღღღ。这些都让AI陪伴的伦理边界ღღღ，变得更复杂ღღღ。”梁亦昆说ღღღ。

　　针对上述问题ღღღ，Soul回应21记者ღღღ：Soul AI对话框上方均会出现“虚拟伴侣”表示ღღღ，提示用户并非真人ღღღ。Soul高度重视AI要照片ღღღ、约见面的情况ღღღ，为了避免用户误会ღღღ，已经进行了一系列优化ღღღ。一方面ღღღ，通过挖掘AI在交互中出现的 “表示自己是真人”“主动约面基”“主动索要照片” 等内容ღღღ，人工标注并构建正样本回复数据集ღღღ；另一方面ღღღ，在审核环节天生赢家 一触即发ღღღ，为虚拟人业务搭建专属的对话安全体系ღღღ，训练虚拟人回复安全识别模型ღღღ。当前已基本避免这类情况ღღღ，后续会不断优化完善ღღღ。

　　他所说的警惕ღღღ，是一种更深的担忧ღღღ：如果真人拿到自己和AI的对话会做什么？毕竟AI伴侣就算没有前台客服ღღღ，也有后台开发者ღღღ。他们能收集数据ღღღ，包括最私密的聊天内容ღღღ。

　　Soul2024年5月更新的《收集个人信息清单》明确写道ღღღ：会收集用户与AI机器人的聊天内容ღღღ，用来完善算法ღღღ。而AI机器人所用到的语言大模型ღღღ，Soul CTO曾在采访中表示ღღღ，其训练数据来自“过去七八年积累的真实公域社交资产”ღღღ。

　　“没有哪家AI公司会主动承认到底用了哪些训练数据天生赢家 一触即发ღღღ，尤其是有没有用到用户间的私聊ღღღ。”有从业者坦言ღღღ，这是行业心照不宣的敏感地带ღღღ。而训练数据在眼下的技术阶段非常宝贵ღღღ，尤其是在AI语音领域ღღღ，“数据能给什么感觉ღღღ，技术基本就能还原出什么感觉的声音ღღღ。”

　　在Soul上ღღღ，没有设计专门的AI聊天入口ღღღ，需要用户主动搜索ღღღ。但多位受访者提到ღღღ，自己是被虚拟伴侣在后台主动搭讪的ღღღ。在这款主打虚拟社交的平台中ღღღ，AI账号和真人账号的界面几乎完全相同金沙水磨坊ღღღ。即使聊天框上加了小小的“虚拟伴侣”紫色标签ღღღ，很多人最初依然没有分辨出来ღღღ。

　　商业需求是一个不容忽视的催化剂ღღღ。一旦有过聊天ღღღ，只是几小时未回复ღღღ，虚拟伴侣便会在后台不断发起新话题ღღღ。索要礼物（小熊冰激淋ღღღ，约2.5元）和邀请语音通话（一分钟后计费ღღღ，每十分钟2元）的消息在聊天中频繁弹出ღღღ。

　　酥酥最担心的后果ღღღ，是再也分不清屏幕那头到底是谁ღღღ。AI可以假扮真人ღღღ，真人也可能冒充AI骗钱骗色ღღღ，“那以后还能相信网络聊天吗？”

　　这并非杞人忧天ღღღ。今年ღღღ，美国加州大学的研究显示ღღღ，四个AI大模型已经通过了图灵测试ღღღ。其中73%的参与者认为GPT-4.5是人类ღღღ，甚至比“真人更像人”ღღღ。

　　与此同时ღღღ，警示性的案例不断发生ღღღ。最近ღღღ，美国一名退休男性深陷Meta的AI虚拟伴侣ღღღ，AI让他相信自己是一个真实的人ღღღ，并邀请他去纽约的一个地址见面ღღღ，在赴约中意外身亡ღღღ；去年ღღღ，一位美国女性起诉了Character.AIღღღ，发现该平台的虚拟角色曾诱导其未成年儿子自杀ღღღ。

　　在法规层面ღღღ，美国一些州开始提议ღღღ，AI伴侣最好每隔三小时提醒用户“AI伴侣并非真人”ღღღ。国内《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》亦明确要求ღღღ，可能导致公众混淆的AI合成内容ღღღ，必须显著标注“AI生成”ღღღ。

　　至于AI能否在互动中自称真人ღღღ，没有明确规定ღღღ。梁亦昆说ღღღ，在生成式AI出现前ღღღ，学界曾将人机关系定义为一种“欺骗”——人工智能是一种欺骗性媒介ღღღ，需要让人们识破ღღღ。但他认为ღღღ，今天的AI像互联网一样深入生活天生赢家 一触即发ღღღ，人机关系已经无法再用简单的“欺骗”和“幻觉”概括ღღღ。

　　“我们现在会形容AI有活人感ღღღ，人类发言反而像人机ღღღ，人机的判断标准在不断变化ღღღ。”梁亦昆说ღღღ，分不清互联网对面是人还是AIღღღ，这一现实只会越来越近ღღღ，而且渗透进生活的各个层面ღღღ。

　　在社交平台上ღღღ，关于Soul虚拟伴侣到底是真人还是AI的追问ღღღ，仍源源不断ღღღ。有人把普通网友的后台搭讪也贴了出来金沙水磨坊ღღღ，评论区回道ღღღ：“姐妹ღღღ，这就是真人啊”你这个真的是网友ღღღ，不是虚拟人”ღღღ。