天天观察：在道德边界试探？国外网红发布AI版自己 “交往”千名网友一周创收50万元

《科创板日报》5月11日讯（编辑 宋子乔）科幻爱情电影《她》讲述了一位男作家与AI系统相爱的故事，如今科幻情节照进现实。

(资料图片)

美国一位23岁的女网红Caryn Marjorie发布了AI版本的自己“Caryn AI”，Caryn AI是一款聊天机器人，可以作为用户的“虚拟女友”，于一周前在推出了内部测试版本，每分钟收费一美元。据《财富》杂志获悉，在过去一周的beta阶段，Caryn AI创收7.16万美元（折合人民币近50万元），已经吸引了超过1000名付费粉丝，99%的用户是男性。

与ChatGPT不同的是，Caryn AI的训练数据来自Caryn Marjorie自己。据Caryn AI网站上的介绍，“Caryn已被完美地克隆到AI中”，Caryn AI由她本人2000多个小时的素材训练而成，记录了她的声音和性格。结合Open AI的GPT4技术，Caryn AI能够“实现动态、独一无二的互动，就好像你是在直接和Caryn本人聊天一样。”

Caryn AI还强调对话是端到端加密的，第三方更难拦截，确保私密的聊天内容不会外泄。

在发布Caryn AI之前，Marjorie已经坐拥百万粉丝，平时主要发布美妆和生活内容，作为其所属平台的头部网红，其年收入高达100万美元。

Marjorie预计，在2万粉丝订阅Caryn AI的前提下，AI版本的自己能让她的收入翻60倍，年入6000万美元。“AI版本的自己，可以用来治愈孤独……Caryn AI永远不会取代我，而是我意识的延伸。Caryn AI 甚至可以说多种语言，让世界各地的每个人都能了解我。”

目前，Caryn AI的使用频率还在飙升，发布一周后（当地时间5月10日），Marjorie称该应用使用率上升了五倍。

截至发稿，Caryn AI网站显示，目前已有5265名会员，其中101名在线，“我们正随机接受新用户加入候补名单（当前等待需26小时）。”

为Caryn AI提供技术支持的，是一家叫做Forever Voices（下称FV）的AI公司。除了Marjorie，这家公司此前已经把前总统特朗普、美国歌手泰勒•斯威夫特以及苹果创始人乔布斯等名人通通AI化了一遍。只要付费就可以和这些AI名人电话聊天。Caryn AI是这家公司推出的第一个AI虚拟伴侣。

▌AI虚拟伴侣应用层出不穷

此前并非没有主打情感陪伴的AI应用。

在GPT模型问世前，AI小冰团队开放过“创造虚拟亲友”（男友or女友）项目，还曾推出117万个虚拟男友，但只服务7天，7天后离线。

GPT模型问世后，有公司早早接入了该模型研发了相关产品。上述的FV之外，网站Character AI也基于GPT4推出了虚拟AI伴侣应用，用户可以自定义AI伴侣的性格、外貌和行为，与之进行实时的交流和互动。

由DeepMind联合创始人Mustafa Suleyman和领英联合创始人Reid Hoffman联合创办的AI公司Inflection，近期也推出了一款名为Pi的AI聊天机器人，能够倾听人们日常生活中的压力，并提供类似心理咨询师的支持性功能。目前，Inflection已经获得高达2.25亿美元的种子轮融资，且计划进一步融资6.75亿美元。

▌仍需重视道德伦理风险

网红、创业公司以陪伴为名，急于打造一个个虚拟伴侣，看中的是其作为付费产品的创收价值。但从道德伦理角度来看，此类应用仍然存在多种风险。

新南威尔士大学AI专家Robert Brooks指出，与AI网红建立亲密关系的可能性，会让用户更喜欢这种轻松的虚拟关系，而逃避现实生活中和真人的交往，那些正在学习基本社交和亲密关系技能的年轻用户尤其容易受到影响。

《财富》杂志记者在试用后写道，虽然可以与Caryn AI就美食、新闻等主题聊天，但它也支持“擦边对话”，会在聊天中详细描述色情场景，鼓励自己进行这方面的互动。

另一方面，Marjorie表示，她已经意识到其AI形象可能让她面临更多被骚扰的风险。但她说，这只是“网红游戏”的一部分，她已经雇佣了全天候安保，并且不会与粉丝分享自己的位置消息。

关键词：