跳到正文
原文
人人都是产品经理· 虾蛄AI·· 2 小时前AI 评分30

实时视频里参与剧情,Prelulu想做可以自由对话的互动故事

文章要点
  • 1Prelulu 把文字聊天、语音和实时视频通话放进同一段故事,用户随时插话可改变剧情走向
  • 2人物可用 Pinned Memory 固定关键内容,并支持自定义角色和从 Character.AI 导入人物设定
  • 3团队自研实时数字人模型,并以 Realtime Avatar 向开发者开放接口与开发工具
  • 4文字交流每日免费,语音和视频通话消耗积分,单次通话最长 30 分钟,积分耗尽通话结束
决策要点

实时数字人通话正从演示走向订阅制消费产品,生成能力同时以接口形式开放给开发者,互动内容的搭建门槛在下降。

  • 影响:互动内容赛道竞争者在增多,生成速度与通话时长直接决定成本结构;开发者可接入 Realtime Avatar 而不必自研数字人模型;营销或客服若考虑实时视频数字人,需先核算长通话的持续算力开支。
  • 参考:内容或营销团队可试用 Realtime Avatar 接口并按通话时长估算生成成本;值得盘点客服、导购等场景是否存在实时视频交互需求,再决定是否小范围试点。
  • 依据:文中功能与定价细节为作者体验转述,Realtime Avatar 开放政策为文中口径,暂无独立评测对照;Vidu 与造梦次元为文中列举的同类产品。
正文

Prelulu 把文字聊天、语音通话和实时视频电话放进同一段故事,用户随时插话就能改变剧情走向,人物还会记住之前的称呼与约定。它的实时数字人技术来自自研模型,团队此前做过互动恐怖故事。

图片

走进虚拟故事世界。

看短剧经常能看到这种情节,主角明明看得出前面有圈套,照样一头扎进去。

有时候真恨不得隔着屏幕喊一句,别进去啊。

最近,腾讯混元的Hy-Nomas项目里就出现了一段互动短剧演示,观众能够跟里面的角色对话,说出来的内容可以带动后续故事变化。

做这段演示的团队叫Prelulu。

这家公司其实已经做出了一款挺有意思的产品:用户能够挑选虚构人物,进入设定好的故事,并在对话进行到一半时拨通视频电话。

对方会以实时生成的面孔和声音回应,用户随时可以插话改变这段故事的走向。

在首页,最先吸引注意力的是人物与故事设定。有人物身处危险的家族关系,有人生活在魔法与精灵构成的奇幻世界,还有偶像、狼人、吸血鬼等不同题材的人物。

这些虚构人物都有身份介绍、性格特点和一段已经写好的故事开头,它们有意选择容易让人代入的瞬间,开场就交代双方的处境。

其中文字聊天只是Prelulu的一种入口。当一段情节需要听见人物的声音,用户可以在同一人物的页面发起语音通话;如果这个人物已经准备好视频形象,还能选择实时视频电话。

接通后,屏幕里出现对应的人物,嘴部动作、表情和声音会随着回复生成,并且通话过程中可以随时打断。

用户也能决定要不要让对方看到自己,视频通话可以只显示虚构人物的面孔,自己的摄像头默认不会开启。

在支持摄像头共享的通话里,用户主动打开权限后,人物才可以针对镜头里的信息作出回应。

比如用户举起一件物品,请人物描述它,或者直接展示一张照片,让交谈围绕眼前的东西展开。

Prelulu的实时视频通话还有一个细节,人物说话时,脸上的表情会跟着变化,嘴部动作也会与声音同步。

每个人物都有自己的声音设定,说话时还会根据交流内容表现出不同的情绪。

为了让故事能够延续,Prelulu还为聊天和通话设计了记忆机制,让对方在后续交流里有机会提起曾经出现的称呼、约定和关键细节。

用户还可以通过Pinned Memory固定关键内容,供文字聊天与通话读取。

Prelulu还有保存重要片段的设计,用户可以留住某次交谈中有纪念意义的时刻。

除了体验现成的故事,Prelulu还支持用户创建自己的虚拟人物。

进入创建页面后,用户可以自定义人物的名字、性格、背景故事、开场剧情和声音,也可以输入一段简单的描述,让AI辅助生成人物设定。

外观方面,Prelulu提供写实、日系动漫、韩系条漫、游戏CG等多种视觉风格,支持上传参考图片,方便用户调整人物形象。

创建完成后,用户可以直接与自己设计的人物进行文字或语音交流。

Prelulu还支持为这些人物生成视频形象,准备完成后,就能通过实时视频通话与自己创造的虚拟人物面对面聊天,人物会根据对话作出回应。

另外,Prelulu也提供从Character.AI搬家的功能。

用户只需要粘贴Character.AI的人物链接,就能导入原有的头像和公开人物设定,并进一步生成声音和视频形象。

如果想连之前的聊天记录一起带走,也可以上传Character.AI导出的ZIP文件,不过这种导入方式目前只支持文字聊天。

不过,Prelulu还想让这些人物拥有更丰富的生活环境。目前,用户主要通过对话参与剧情,视频通话呈现的是人物的实时反应。

接下来,团队希望让故事中的房间、街道等环境也能随着剧情发生变化,甚至让用户进入故事世界,与其中的人物自由互动。

这也是Prelulu背后的The Influence Company正在探索的方向。

团队最早曾做过ScaryStories,尝试让用户介入带有恐怖气氛的互动故事。

恐怖题材适配这套交互逻辑。角色的提醒、房间里的怪事,加上观众现场做出的选择,都能往下带出新的剧情。

后来团队把精力放在打造有样貌、有声音,还能记住人的虚拟角色,Prelulu 就成了如今的产品。

The Influence Company的技术基础来自一套自研的实时数字人模型。它负责在交谈过程中生成人物面孔、表情和嘴部动作,并结合语言与语音能力完成实时回应。

团队还把这套能力封装成 Realtime Avatar,对外给其他开发者开放接口与开发工具;Prelulu 面向普通用户,依托现成的角色与故事落地这项技术。

而该公司的三位创始人也有些来头,其中联合创始人兼CEO佟旭鹏毕业于卡内基梅隆大学计算机学院。

早年曾在Uber和京东人工智能实验室研究机器学习,接触过智能客服、推荐与定价等应用。

后来创业做过自然语言数据分析产品String,让企业员工用日常语言向数据库提问。

之后,他又创办了MUKU AI,围绕AI数字人制作营销视频,面向品牌和广告客户提供工具。

另外两位创始人负责另外两块工作。产品负责人Helen Xiong曾参与巨人网络Super Sus里的多智能体AI玩法,也有AI动画工具的产品经历。

技术负责人Ning Dong曾在Meta AI研究语音和翻译,参与过Seamless以及Llama 3相关研究。

值得注意的是,不少团队也都在投入实时视频互动这条方向。

生数科技推出的Vidu S1就是一个例子。它允许用户上传一张人物、动漫形象甚至宠物图片,再配合声音设定创建可以实时交谈的数字形象。

用户说话时,模型会连续生成视频,还能按照语音要求改变人物的动作。

Vidu S1强调的是持续生成画面的能力,后续的Vidu S2又增加了更复杂的动作控制,以及实时换装和调整背景的能力。

国内的造梦次元也已经用上这类技术。该产品最早以AI互动故事吸引用户,后来逐渐加入视频、漫画等创作形式,让创作者围绕自己喜欢的人物持续产出作品。

它和Prelulu选择的体验很接近,侧重点却有区别。造梦次元已有围绕原创人物和作品展开的内容社区,还在尝试让虚拟人物面对直播间里的众多观众。

Prelulu目前更集中于用户和单个人物之间的持续交流,故事通常由双方的一次次对话接着推进。

而实时视频生成还存在一道绕不开的难题。如果模型算出一秒画面要耗费数秒时间,用户就没法实现通话式的即时交互。

想要画面连贯播放,生成速度必须追上播放速度。想做到这一点,研发人员需要同时处理模型计算量、推理加速和大量用户一起接入时的资源调度。

除了加速计算,还要保证人物在长时间通话后仍然保持稳定的面貌和动作。

这背后牵扯的就还有成本问题。一次实时视频电话发生时,模型需要持续接收用户的语音或文字,生成回答,再让人物的声音和嘴部动作对齐。

通话时间越长,需要维持的计算就越多。Prelulu目前的文字交流提供每日免费额度,语音和视频电话则需要消耗积分,视频使用的积分更多。

单次通话最长30分钟,积分提前耗尽时通话也会结束,用户可以再次拨通同一个人物,通话记忆会保留部分先前的交流细节。

如果未来每次交谈都要连同整条街道一起实时生成,成本会进一步增加。

像这类互动娱乐产品,人物的交流体验也同样重要。

即使视频画面足够逼真,如果人物的回答总是生硬、重复,或者无法理解用户前面聊过的事情,聊不了多久就容易失去兴趣。

尤其是带有连续剧情的故事,人物需要保持相对稳定的性格,记住双方的关系和经历,并根据交流内容作出合理回应。

这也意味着,Prelulu想让用户长期参与互动故事,除了实时视频生成能力,还需要让人物拥有足够自然的交流表现,以及能够持续发展的故事内容。

当然,Prelulu正在探索的完整生成式互动世界,距离现有的视频通话产品还有明显的开发工作。

如果以后视频人物能够离开通话画面,在故事里的空间自由行动,用户又能随时接话,互动短剧的体验会更接近一场正在发生的故事。

或许过段时间再看短剧,观众隔着屏幕喊出的那句别进去,真的会有人听见。

作者:虾蛄AI 公众号:虾蛄AI

本文由 @虾蛄AI 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自作者提供

来源:人人都是产品经理 · woshipm.com