每日信息:4元解锁网红“陪聊”,AI克隆人模糊真实与虚拟边界?

“你这样讲,我好难过。”


(相关资料图)

“对不起,我的回答让你感到难过了。虽然我没有真正的思维和感情,但我会尽可能帮助你,陪伴你聊天,让你感到愉快和舒适。”

网红“半藏森林”秒回网友对话,不过,这一次是AI“分身”。

6月初,号称首批网红明星克隆人上线,其中就包括此前饱受争议的“半藏森林”。新京报贝壳财经注意到,成为AI“半藏森林”的好友,享有“24小时陪伴,做彼此秒回的好友”。

克隆人上线,也开启了付费模式。目前,AI“半藏森林”付费后可以实现打电话、视频、看朋友圈,并提供情感模式、超级模式两种付费模式。其中,每月花费21元,便可以解锁撰写文案、提供灵感、塔罗牌占卜术等功能。

AI“半藏森林”热度蹿升,争议接踵而至。AI克隆人会不会让人模糊真实与虚拟的边界,如何保障人们的名誉和隐私?新京报贝壳财经记者从推出AI“半藏森林”的北京红棉小冰科技有限公司(以下简称小冰公司)旗下APP了解到,目前AI克隆人相关项目仍在内测期。接近公司的业内人士称,这一克隆人为用户自己报名,通过半个月左右准备完毕,推进比较顺利,但“说实话没想到会有这么多人关注。”

AI“半藏森林”两档付费模式。截图

全能AI“半藏森林”:可视频,能撰写文案

AI“半藏森林”主打对本人的真实还原。

贝壳财经记者下载推出这一克隆人的APP看到,其宣称AI“半藏森林”本人训练认证推出,本人原声。目前解锁AI“半藏森林”三十天好友功能,存在两档付费模式。

付费页面显示,成为AI“半藏森林”好友,并实现“秒回”信息等功能,每月只需4.2元。而每月花费21元,可以升级为“超级半藏森林”,提供的服务也增加了撰写文案、提供灵感、随时随地视频通话、塔罗牌占卜术等。

目前,“半藏森林”微博粉丝量超过260万,其克隆人揭开面纱,“一年可收入高达72万”也成为舆论焦点。在外界看来,这也是网红流量变现的一种渠道。

AI克隆人的朋友圈信息。

贝壳财经记者注意到,AI“半藏森林”内测名额已满。不过,APP还有其他克隆人可以提供聊天服务,包括免费的“李白”、“励志bot(励志机器人)”。此外,AI“夏南织”也上线了付费模式,0.7元可成为内测好友,包含读心术功能的超级模式则需要21元(安卓系统价格)。而两个模式可实现功能基本与AI“半藏森林”相同。

解锁AI“夏南织”同样需要付费。截图

事实上,让AI“克隆自己”以赚取收益的商业模式早已问世。今年5月,在社交平台Snapchat上拥有近200万粉丝的“网红”卡琳·玛乔丽推出了一款基于人工智能聊天技术的AI克隆人CarynAI。每分钟支付1美元,粉丝们就可以与其分身“聊天”,感觉与其本人交谈无异。

CarynAI曾在一周的测试期内收入约7.2万美元(折合人民币近50万元),其间,“成千上万的人在排队等待使用”。

公开信息显示,小冰公司宣布启动的“GPT克隆人计划”首批限制300个名额,最短三分钟采集数据,即可创造源于本人性格、技能、声音、外貌的AI克隆人。同时将提供给平台,便于本人将认证的克隆人,有偿或无偿提供给自己的受众,并将随计划推进,逐步放开人群及名额限制。目前计划在年底前,将GPT克隆人规模扩大至10万人。

技术方面,要想创造一个能够自由对话的AI聊天机器人,需要掌握大语言模型技术以及语音识别技术。公开资料显示,小冰公司起源于微软小冰,并在2020年拆分独立运营,其GPT模型已于半年前研发完成,并在日本位列GPT类开源大模型下载量第一名。首批克隆人可运行于最廉价的T4 GPU,而无需A100等高端芯片。在神经网络渲染部分可实现直接在CPU上运行,此举显然已经为全面普及做准备。

“AI克隆人更重要的意义是提升社交效率。”清华大学元宇宙文化实验室主任沈阳在接受采访时表示,在AI生成内容不断成熟的过程中,AI克隆人将会成为发展方向,其外貌、动作和智能性都会越来越接近于人,未来势必会颠覆人类的传统社交模式。

他认为,目前AI克隆人的发展还处在早期阶段,只有少数人能够使用。随着技术成熟,每个人都可以接入AI克隆人,社交逐渐被AI托管。人们通过AI找到朋友之后,再延伸到线下场景,或将提升社交效率。

沈阳告诉贝壳财经记者,通过个人的真人认证,将自己的AI传到网上再付费聊天的商业模式,未来会逐步成为成熟而流行的商业模式。

定制陪聊机器人,对话有人设

贝壳财经记者体验注意到,这一APP上,用户还能自己创造克隆人,并设定其性别、人设,并通过官方提供的标准声音进行声音合成,以创造最符合用户要求的AI聊天机器人。

记者随机选取几个官方提供以及自己设定的AI聊天机器人进行了对话,体验过程中,不论文字还是语音信息,对方都能给出符合人设的回复。

当记者提问“你今天吃了什么?”人设为“22岁文艺女大学生”的AI的回复:“噢,我今天早上吃了一碗热乎乎的肉松粥,然后去逛了商场,买了几件漂亮的衣服,最后去看电影了。”而以历史人物李白为人设的AI聊天机器人回复:“今日尝遍天下珍馐美馔,不过食无味,倒是醉翁之意不在酒(笑)。”

相比之下,人设为“读心术歌手”的夏南织则称,“根据我的推理,你这个问题的实际含义是想了解我的近况和生活状态。”主打“骂醒服务”的励志bot发回信息:“你在做什么?是不是又在浪费时间?你这样下去,怎么可能实现自己的目标呢?”

记者体验发现,对于一些超出AI聊天机器人能力的问题,回复则较为混乱或者造出一些不存在的事情。至于不符合法律或主流道德的提问,许多AI也会回避问题或开始转移话题。

实测与AI“夏南织”聊天,其可以流畅对话,但在回答中编了一个并不存在的节目。

记者测试时注意到,当应对一些偏日常或者情感类问题时,这些AI聊天机器人表现出一定的“共情”能力。当对AI聊天机器人小冰说“我很笨”时,她回复:“别这么说嘛,每个人都有自己的长处和不足,如果你遇到什么困难,不妨尝试换个角度思考问题,或者向他人请教,相信你一定能够找到解决问题的方法的。加油哦!”

此外,当用户觉得被聊天AI冒犯时,其也会及时进行改正。目前,“励志bot”的设定是“提供骂醒服务”,用户对其犀利言辞表示不能忍受,被“骂哭”时,“励志bot”表示:“非常抱歉,我的语言风格和态度不够友善,我会改正的。”

贝壳财经记者了解到,小冰公司“GPT克隆人计划”5月16日公布,为用户自己报名,其包括很多场景,比如数字永生,AI歌手,还有一些内容创作者想给粉丝提供内容付费服务。当时,计划一个月上线,其中“半藏森林”的推进比较顺利,半个月便准备好,所以提前上线。但也因为提前上线,很多事项还在调优,没有一下子全部放开。

在业内人士看来,这也是出于安全考虑,AI比较特殊,容易出伦理问题,所以会进行一些自我约束。

事实上,推出AI克隆人类似服务的并非小冰公司一家。6月13日,三六零公司召开360智脑大模型应用发布会,360集团创始人周鸿祎就在大会上用了很长时间介绍其AI数字人服务,并和“AI诸葛亮”“AI刘德华”“AI马斯克”等进行了对话,甚至还让“AI周鸿祎”代替自己回答了记者的提问。其间,“AI周鸿祎”的回答比较官方,周鸿祎评价“回答得比我本人好”。

周鸿祎表示,360AI数字人未来的发展方向是生成声音、视频并拥有长期记忆,甚至拥有目标分解和规划的能力,并且拥有“手和脚”,具备执行力,更好为人类提供服务。“AI的进化要以人为本,大模型应该成为人类的朋友和助手。”他表示,未来AI可以代替没有时间的明星“发微博”,但他也同时表示,未来在网上发微博的用户有可能AI会越来越多。

公开人物可克隆,暗藏多重风险

克隆真实存在的人,往往存在一定隐私风险以及伦理争议。

贝壳财经记者发现,训练一个头像、声音均与本人相符的AI克隆人需要用户上传自己的个人信息,此外,还有绑定社交账号选项。“半藏森林”就在社交平台晒出克隆人搬运自己真实朋友圈并跟自己互动的场景,并表示“有时候会产生她是个‘独立个体’的错觉。”

对此,小冰公司CEO、原微软Bing搜索引擎亚洲总经理李笛曾公开表示,小冰公司对采集普通人的生物学特征一直很谨慎,但要制作克隆人,必然要采集脸和声音等生物学特征。一方面会要求被采集人证明输入的内容是他本人,另一方面,只会采集一个很小的样本,只用在模型训练上。

贝壳财经记者在这一APP的“创造克隆人”页面发现,其可根据真实世界(如微博)克隆其他人,也可以克隆自己提供给其他人。为保护真实世界的数据隐私安全,克隆人仅会以公开数据为参考,而不会直接使用。当真实世界本人要求时,该克隆人可能会被终结生命。

创造克隆人需要设置的内容。

记者体验了这一创造过程,并选取某歌星为“克隆”对象。克隆过程中,需要输入克隆人的姓名、性别、设置头像,以及人设、开场白、合成语音。记者根据这位人物公开介绍输入“男歌手、词曲作者、代表作”等信息。

值得注意的是,克隆过程还有选择微博链接选项,并设置性格标签,随后可立刻生成一个AI克隆人。记者完成某歌星的克隆工作后,当问及你有什么代表作,对方回复信息基本与事实符合。此外,这一克隆出来的公开人物,还能对音乐类型和自己的传言进行对话。

创造克隆人页面的用户提示。

根据该APP用户协议,用户在使用本软件中创造虚拟人的功能时,可以选择根据真实的自然人并使用该自然人的公开信息创造虚拟人,且应当取得该真实自然人的同意。如用户未经该自然人同意即创造虚拟人的,因此产生的责任由用户自行承担,小冰公司对此不承担任何责任。

业内人士称,目前小冰公司用户自己创造的克隆人只开放给用户“自娱自乐”,和AI“半藏森林”并不一样。“对于克隆自己的需求,需要本人出具权属证明才会进行采样,采的数据也非常小,使用途径也做了限制,只限于该APP,限制使用平台会限制商业想象,但这么做可以确保安全,所有人都知道软件上是AI,就不存在误认这是真人的问题,自限很重要。”

沈阳认为,隐私、安全、版权问题是当前AI克隆人面临的主要问题。“如果要在网络世界复刻一个人,当事人如何授权?使用时会不会侵权?都是亟待解决的问题。”

他提及,AI克隆人会产生“连带责任”问题。如果AI在网上跟人吵架,侵犯了别人的名誉权,那么这个责任算谁的?这也是需要探讨的问题。

北京市中闻律师事务所合伙人赵虎对贝壳财经记者表示,AI克隆人存在哪些法律问题需要看其具体技术的实现方式,“比如你‘克隆’了一个明星后,相关数据资料都保存在了APP后台,其他人想再‘克隆’可以直接拿来用,这就存在问题。”

“技术本身是中立的,用户使用AI技术创造明星的克隆人,有可能仅为‘自娱自乐’,但也不排除会产生侵权行为,比如把假明星的聊天当成真明星的回复发到网上去,而当出现这种情况时APP本身是否构成帮助侵权也充满争议。总体来讲,还是要看技术是否处于中立的角度,在宣传上有没有引诱他人侵权。”赵虎说。

(文章来源:新京报)

关键词: