全球微资讯!半藏森林克隆人引争议!利用AI技术吸金的“克隆人”,会引发AI诈骗吗?

热点 | 2023-06-07 21:59:08
时间:2023-06-07 21:59:08   /   来源: 时代财经      /   点击数:()

“半藏森林克隆人”刚出现不久,就被暂时下线了。


(资料图片)

据扬子晚报报道,6月5日,有网友发现北京红棉小冰科技有限公司(下称“小冰公司”)推出的虚拟人类娱乐平台X Eva APP中,上线不久的网红“半藏森林”等AI克隆人疑似被下架。

小冰公司对外回应称,“半藏森林”克隆人目前还在内测,内测名额已满,所以先下线了。目前在进行调整,其他虚拟人暂时也还不可见。

此前,“半藏森林克隆人一年收入可高达72万”的话题曾引发网友关注。据财经网报道,“目前不付费可以互动,付费可以看朋友圈、打视频电话。两种付费模式月费分别是6元/30元、年费72元/360元”,以半藏森林为例,如果有1万个情感模式付费用户,相当于半藏森林克隆人一年收入72万元;如果有1万个超级模式付费用户,一年则可实现收入360万元。

半藏森林克隆人的出现及其变现模式也引发了网友们的探讨。“虚拟人技术未来前景广阔,但市面上的AI技术成熟度不高,导致虚拟人物智商普遍不高,应用场景有限,大大限制了自身发展。要判断小冰克隆人商业模式是否可行,目前还为时过早。”6月5日,深度科技研究院院长张孝荣告诉时代周报记者。

此外,也有部分网友对该平台和AI克隆人是否会侵犯用户隐私,带来安全隐患等问题感到担心。

为了解相关情况,6月6日,时代周报记者向小冰公司发送采访提纲,截至发稿未获回复。

网红吸金新手段?

网红明星利用AI克隆人形象赚钱,这种变现方式着实超出了不少人的想象。

据北京商报报道,AI半藏森林上线的信息出现在该APP首页发现栏目,和半藏森林克隆人互动时,对方可通过语音、文字形式回复。聊天界面上方设有增值服务入口,点击立即解锁,可体验更多互动形式。

而半藏森林AI克隆人有两种付费模式,情感模式需支付6元/月或72元/年,用户能享受克隆人语音消息回应、同步克隆人朋友圈;超级模式支需付30元/月或360元/年,克隆人会为用户提供撰写文案等服务,还能进行视频通话。在此前的体验阶段,超级模式暂未上线。

(图源:半藏森林新浪微博)

半藏森林AI克隆人的出现,与小冰公司推出的“克隆人计划”有关。

“小冰公司的‘克隆人计划’最短只需个人采集三分钟数据,即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人,并提供专有平台,以便于本人将认证克隆人有偿或无偿提供给自己的受众。”AI小冰微信公众号在今年6月1日发布的文章中称,克隆人基于小冰框架大模型、神经网络渲染及超级自然语音技术,可实时情感交互及提供AIGC能力,甚至有自己的朋友圈,如同人类在平行世界的第二人生。

事实上,半藏森林并非第一个拥有自己AI形象的网红。Caryn Marjorie是一位23岁的美国网红,拥有超180万的Snapchat粉丝,她用OpenAI的技术创建了一个人工智能版本的自己CarynAI,每分钟收费1美元。而CarynAI曾在一周的测试期内收入约7.2万美元,折合人民币近50万元。

AI将为网红提供一种新的“吸金”方式。据北京商报报道,半藏森林与小冰公司是分成模式,本人拿大头。时代周报记者注意到,目前,半藏森林在新浪微博拥有262.7万个粉丝,若按每人每月充值6元开通情感模式计算,则可带来收入1576.2万元/月。

(图源:半藏森林新浪微博)

CarynAI、半藏森林AI克隆人的出现,背后是人工智能技术的不断革新。

CarynAI由Caryn Marjorie与Forever Voice公司合作推出,利用OpenAI开发的GPT-4 API技术,复制了Caryn Marjorie的声音、举止和个性。

而推出了半藏森林AI克隆人的X Eva App底层使用的技术包括小冰XLLM语言模型、声音及神经网络渲染技术等,共计约1000余个有机组合的模型。

AI克隆人安全吗?

在AI克隆人等类似产品出现前,由美国科技公司OpenAI推出的人工智能聊天机器人程序ChatGPT引爆网络,在互联网行业掀起巨大热潮。

如今,半藏森林AI克隆人能否如ChatGPT般火爆?

张孝荣认为半藏森林AI克隆人要达到ChatGPT的火爆程度存在一定难度。

“‘GPT克隆人计划’并非基于GPT大模型,而是基于小冰框架模型,两者技术路线不同,训练数据不同,背后所需要的算力和算法也不一样,因此生成的AI机器人体验必然会有差异。”6月5日,张孝荣向时代周报记者表示。

而AI克隆人的出现,也让部分网友不禁对其安全性产生担忧。近年来,随着人工智能技术的发展,AI热潮席卷多个领域,AI诈骗也已出现引发社会关注。

福建福州某科技公司法人代表郭先生接到了由AI换脸技术合成的“好友”的微信视频电话后向对方转账,被骗430万元;安徽安庆的何先生在接到一个9秒的“熟人”视频电话后向对方转账,结果被骗,所幸警方抓获了3名涉诈嫌疑人,追回了他被骗的132万元。

AI克隆人是否会产生此类安全风险?在AI小冰微信公众号发布的文章中,小冰团队表示,为避免克隆人带来安全隐患或被滥用,团队采用了最高的安全标准。

在训练数据方面,仅使用本人小样本数据,并在训练后清除,从而避免过多采集本人数据及滥用;在技术运用方面,使用经小冰团队长期验证的技术,例如安全的混合模型,而非单纯的大模型,从而确保技术边界已知;在使用场景方面,严格限制克隆人在特定产品(X Eva APP)中,而非将技术接口API开放,从而避免克隆人被不当使用;在本人对克隆人的控制方面,提供便利以使本人可随时中止其克隆人。

“此外,全部C端或B端用户均须提交本人权属证明方可实施,以避免数据的侵权或不当使用。”AI小冰微信公众号发布的文章中称。

“‘(AI)克隆人’属于新生事物,其技术核心还是依靠目前的生成式人工智能技术。关于‘克隆人’产品的未来发展,关键在于需要符合监管方向。”6月5日,北京市京师律师事务所合伙人、主任律师卢鼎亮向时代周报记者表示。

今年4月11日,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》。卢鼎亮认为,从征求意见稿来看,网信办对生成式人工智能服务行业的健康发展持鼓励支持态度,同时鼓励优先采用安全可信的软件、工具、计算和数据资源。

“如果《生成式人工智能服务管理办法(征求意见稿)》生效,AI克隆人的产品或服务必然会持续发展。”卢鼎亮表示,在发展的过程中,还需要符合监管思路,克隆人服务提供商、用户等主体在使用训练数据、使用产品、保护数据安全和隐私、防止法律风险和重大道德以及舆论风险、防止不正当竞争等方面都需要注意合规风险。

标签:

最近更新