实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


走进虚拟故事世界。


看短剧经常能看到这种情节,主角明明看得出前面有圈套,照样一头扎进去。


有时候真恨不得隔着屏幕喊一句,别进去啊。


最近,腾讯混元的Hy-Nomas项目里就出现了一段互动短剧演示,观众能够跟里面的角色对话,说出来的内容可以带动后续故事变化。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


做这段演示的团队叫Prelulu。


这家公司其实已经做出了一款挺有意思的产品:用户能够挑选虚构人物,进入设定好的故事,并在对话进行到一半时拨通视频电话。


对方会以实时生成的面孔和声音回应,用户随时可以插话改变这段故事的走向。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


在首页,最先吸引注意力的是人物与故事设定。有人物身处危险的家族关系,有人生活在魔法与精灵构成的奇幻世界,还有偶像、狼人、吸血鬼等不同题材的人物。


这些虚构人物都有身份介绍、性格特点和一段已经写好的故事开头,它们有意选择容易让人代入的瞬间,开场就交代双方的处境。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


其中文字聊天只是Prelulu的一种入口。当一段情节需要听见人物的声音,用户可以在同一人物的页面发起语音通话;如果这个人物已经准备好视频形象,还能选择实时视频电话。


接通后,屏幕里出现对应的人物,嘴部动作、表情和声音会随着回复生成,并且通话过程中可以随时打断。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


用户也能决定要不要让对方看到自己,视频通话可以只显示虚构人物的面孔,自己的摄像头默认不会开启。


在支持摄像头共享的通话里,用户主动打开权限后,人物才可以针对镜头里的信息作出回应。


比如用户举起一件物品,请人物描述它,或者直接展示一张照片,让交谈围绕眼前的东西展开。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Prelulu的实时视频通话还有一个细节,人物说话时,脸上的表情会跟着变化,嘴部动作也会与声音同步。


每个人物都有自己的声音设定,说话时还会根据交流内容表现出不同的情绪。


为了让故事能够延续,Prelulu还为聊天和通话设计了记忆机制,让对方在后续交流里有机会提起曾经出现的称呼、约定和关键细节。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


用户还可以通过Pinned Memory固定关键内容,供文字聊天与通话读取。


Prelulu还有保存重要片段的设计,用户可以留住某次交谈中有纪念意义的时刻。


除了体验现成的故事,Prelulu还支持用户创建自己的虚拟人物。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


进入创建页面后,用户可以自定义人物的名字、性格、背景故事、开场剧情和声音,也可以输入一段简单的描述,让AI辅助生成人物设定。


外观方面,Prelulu提供写实、日系动漫、韩系条漫、游戏CG等多种视觉风格,支持上传参考图片,方便用户调整人物形象。


创建完成后,用户可以直接与自己设计的人物进行文字或语音交流。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Prelulu还支持为这些人物生成视频形象,准备完成后,就能通过实时视频通话与自己创造的虚拟人物面对面聊天,人物会根据对话作出回应。


另外,Prelulu也提供从Character.AI搬家的功能。


用户只需要粘贴Character.AI的人物链接,就能导入原有的头像和公开人物设定,并进一步生成声音和视频形象。


如果想连之前的聊天记录一起带走,也可以上传Character.AI导出的ZIP文件,不过这种导入方式目前只支持文字聊天。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


不过,Prelulu还想让这些人物拥有更丰富的生活环境。目前,用户主要通过对话参与剧情,视频通话呈现的是人物的实时反应。


接下来,团队希望让故事中的房间、街道等环境也能随着剧情发生变化,甚至让用户进入故事世界,与其中的人物自由互动。


这也是Prelulu背后的The Influence Company正在探索的方向。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


团队最早曾做过ScaryStories,尝试让用户介入带有恐怖气氛的互动故事。


恐怖题材适配这套交互逻辑。角色的提醒、房间里的怪事,加上观众现场做出的选择,都能往下带出新的剧情。


后来团队把精力放在打造有样貌、有声音,还能记住人的虚拟角色,Prelulu 就成了如今的产品。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


The Influence Company的技术基础来自一套自研的实时数字人模型。它负责在交谈过程中生成人物面孔、表情和嘴部动作,并结合语言与语音能力完成实时回应。


团队还把这套能力封装成 Realtime Avatar,对外给其他开发者开放接口与开发工具;Prelulu 面向普通用户,依托现成的角色与故事落地这项技术。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


而该公司的三位创始人也有些来头,其中联合创始人兼CEO佟旭鹏毕业于卡内基梅隆大学计算机学院。


早年曾在Uber和京东人工智能实验室研究机器学习,接触过智能客服、推荐与定价等应用。


后来创业做过自然语言数据分析产品String,让企业员工用日常语言向数据库提问。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


之后,他又创办了MUKU AI,围绕AI数字人制作营销视频,面向品牌和广告客户提供工具。


另外两位创始人负责另外两块工作。产品负责人Helen Xiong曾参与巨人网络Super Sus里的多智能体AI玩法,也有AI动画工具的产品经历。


技术负责人Ning Dong曾在Meta AI研究语音和翻译,参与过Seamless以及Llama 3相关研究。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


值得注意的是,不少团队也都在投入实时视频互动这条方向。


生数科技推出的Vidu S1就是一个例子。它允许用户上传一张人物、动漫形象甚至宠物图片,再配合声音设定创建可以实时交谈的数字形象。


用户说话时,模型会连续生成视频,还能按照语音要求改变人物的动作。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


Vidu S1强调的是持续生成画面的能力,后续的Vidu S2又增加了更复杂的动作控制,以及实时换装和调整背景的能力。


国内的造梦次元也已经用上这类技术。该产品最早以AI互动故事吸引用户,后来逐渐加入视频、漫画等创作形式,让创作者围绕自己喜欢的人物持续产出作品。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


它和Prelulu选择的体验很接近,侧重点却有区别。造梦次元已有围绕原创人物和作品展开的内容社区,还在尝试让虚拟人物面对直播间里的众多观众。


Prelulu目前更集中于用户和单个人物之间的持续交流,故事通常由双方的一次次对话接着推进。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


而实时视频生成还存在一道绕不开的难题。如果模型算出一秒画面要耗费数秒时间,用户就没法实现通话式的即时交互。


想要画面连贯播放,生成速度必须追上播放速度。想做到这一点,研发人员需要同时处理模型计算量、推理加速和大量用户一起接入时的资源调度。


实时视频里参与剧情,Prelulu想做可以自由对话的互动故事


除了加速计算,还要保证人物在长时间通话后仍然保持稳定的面貌和动作。


这背后牵扯的就还有成本问题。一次实时