Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

Pika推出音画同步新功能一天后,翻车视频来了

Pika 的音效新功能「Sound Effects」,有大大的惊喜,也有小小的「惊吓」。

Sora 的出现让文生视频模型及应用火了起来。不过,此类模型生成的视频大多数都是无声的。因此,人们开始探索为 AI 生成的视频「配音」。

这一领域的代表有 AI 语音克隆初创公司 ElevenLab,此前该公司为 Sora 的演示视频生成配音,音效与视频画面几乎没有违和感。
现在,曾经引爆了 AI 圈的视频生成初创公司 Pika 终于有了新动作 —— 推出 Sound Effects,可以为 Pika 生成的视频无缝加音效了。

Pika 生成音效的方式有两种:一种是给出 prompt,描述你想要听到的声音;一种是直接根据视频内容自动生成声音。
图片
至于音效与视频内容的匹配效果如何?我们先一睹为快。
不过,Pika 的 Sound Effects 功能只对超级合作者(Super Collaborator)和 Pro 用户开放测试。普通用户只能再等等了。
图片
目前,Pika 官方放出了许多 Demo。
体验地址:https://pika.art/

例如滋滋啦啦的烤肉声音,还能隐约看到烤肉时冒出的烟雾,高清的画面配上逼真的音效,让人顿时感觉焦酥,鲜咸,麻辣涌入舌尖:
如果你想换个声音,也没问题,点击视频下方的 Redo 按钮,在出现的对话框中,输入你想要的音频描述就可以了:
图片
小青蛙趴在荷叶上呱呱的叫,如果你仔细聆听,还能听见远处的蝉鸣声(不过生成的视频看起来缺陷很明显,例如荷叶是红色的,青蛙腹部有腿):烟花在空中绽放,绽放瞬间发出响亮的爆竹声,点卡的很准: 
以上只是官方示例,生成的音频效果到底如何,我们还得看看第一波体验用户的真实感受。

第一批试用体验出炉:有惊喜,也有翻车

在 Pika 推出 Sound Effects 功能之后,第一批试用用户已经晒出了他们加上音效的 AI 视频。

比如用户 @TomLikesRobots 生成的雨中人物视频,他表示音效似乎与视频非常匹配,增添了很多氛围感。
图片比如用户 @RetropunkAI 生成的兔子大片,生成的音效非常有趣。 
比如用户 @AiFreak_tool,为生成的视频添加了不同的音效。
图片
当然,Sound Effects 生成的音效并不总是能够契合视频主题和画面,比如下面这个示例。
图片
                            图源:@TomLikesRobots

还有用户 @DavidmComfort,他表示生成音效有时会驴头不对马嘴,但毕竟 beta 阶段,情有可原。
图片
虽然偶有翻车,但更多人还是期待 Pika 可以赶紧开放 API。
图片
产业Sound EffectsPika
暂无评论
暂无评论~