使用 AudioLDM 合成音效、音乐和对话的构建器指南

对 AudioLDM 文本到音频 AI 模型的调查。了解如何将文本和音频提示转换为项目的新音乐、声音效果或对话框。图片来源于创作者网站
在文本到音频AI模型领域,创造更逼真,身临其境的体验的竞争一直在升温。在这场比赛中,一个有前途的跑步者是 AudioLDM,它使用一些新技术从文本或音频提示生成语音、声音效果或音乐。但是AudioLDM究竟是如何实现这一目标的呢?更重要的是,这项技术的工作方式告诉我们可以用它构建什么样的产品?

Screen-Shot-2023-07-28-at-8.49.00-AM-3
在AudioLDM中生成的声音效果,来自Arxiv论文。AudioLDM可以从自然和人类环境中生成人类语音和声音效果。

在本文中,我们将研究 AudioLDM,看看是什么让它与众不同,并了解如何利用这些不寻常的特殊功能来构建有趣的新创业产品。让我们开始吧。

订阅或在推特上关注我以获取更多此类内容!

音频LDM概览

LDM 代表 潜在扩散模型。AudioLDM 是一种新颖的 AI 系统,它使用潜在扩散从文本提示生成高质量的语音、声音效果和音乐。它可以仅从文本创建声音,也可以使用文本提示来指导所提供音频文件的操作。

创作者的项目网站上查看此视频演示,展示模型可以创建的一些独特世代。我最喜欢欢快的流行音乐,我也觉得孩子们唱歌虽然令人毛骨悚然,但很有趣。

AudioLDM的主要特点:

  • 使用潜在扩散模型 (LDM) 合成声音
  • 在大型未标记音频数据集上以无监督方式训练
  • 在连续的潜在空间而不是离散的令牌中运行
  • 采用跨模态潜在对齐预训练 (CLAP) 来映射文本和音频
  • 可以从文本提示文本和音频提示的组合生成语音、音乐和声音效果
  • 允许控制说话人身份、口音等属性。
  • 合成逼真的音效和音乐
  • 产生不限于人类语言的声音(例如自然声音)
  • 生成长达 10 秒的音频样本
generative-overview
来自LilLog博客的各种类型的生成模型的比较。扩散模型逐渐添加噪点,然后将其删除以了解如何从提示生成项目。AudioLDM 将其与潜在空间表示相结合,以从文本或输入文件创建音频。

简而言之,AudioLDM 突破了可控音频合成的界限,让我们构建了一些以前难以构建的创新文本到音频产品和服务。在游戏、有声读物、可访问性等方面都有机会。让我们看看一些。

音频LDM用例

有许多改变世界的人工智能产品等待着构建,所有这些都由AudioLDM提供支持。创建高质量、可定制的合成声音的能力不仅仅是在Arxiv上阅读的有趣理论成果,它还为文本到音频技术提供了许多新的有影响力的应用程序。以下是一些:

  • 释放身临其境的游戏体验:借助 AudioLDM,您可以打破通用游戏对话的束缚。想象一下,每个角色都有独特的声音和语音模式。您的游戏将不再只是玩,它们将成为充满个性的活生生的数字领域,从而增强游戏玩家的沉浸感。您还可以使用该模型仅通过文本提示创建声音效果。
  • 彻底改变有声读物格局:是时候带听众踏上旅程了。使用 AudioLDM 创建有声读物,其中每个角色都以独特的声音说话。将聆听体验从独白转变为动态对话,为观众创造剧院般的沉浸感。
  • 重新构想学习平台:学习是个人的,学习平台也应该是个人的。使用 AudioLDM 提供个性化的声音,以满足您的语言学习应用程序或在线媒体中的个人学习者需求。使学习过程更加高效、愉快和包容。
  • 推动无障碍发展:借助 AudioLDM,您可以让残障人士更容易获得技术。无论是屏幕阅读器还是语音助手,您都可以自定义和控制合成语音,使您的用户体验更加个性化和有效。

正如你在这里看到的,有很多潜在的创业公司等待建立。您将如何使用 AudioLDM 构建一个文本到音频产品,从而重塑您的行业?让我们剥开这些层次,了解是什么让 AudioLDM 运转起来,以及如何利用它的力量来推动您的初创公司的发展。

音频LDM背后的技术

如果您正在考虑将 AudioLDM 作为创建下一个产品的工具,您需要了解使该 AI 模型与众不同的独特技术原理。AudioLDM的文本到音频功能建立在三大支柱之上:它使用“非配对学习”,它在“连续潜在空间”中的操作,以及一种称为“跨模态潜在对齐预训练”(CLAP)的特殊技术。这些元素中的每一个都有助于其合成可控的高质量声音的能力。

Screen-Shot-2023-07-28-at-8.47.13-AM
AudioLDM 如何从音频生成文本(左)并使用文本提示操作现有音频(右)。请注意所有生成过程(LDM 名称由此派生)核心的潜在扩散分量。图片来自Arxiv论文。

让我们更详细地看一下每个元素,以了解它们的重要性。

非配对学习

大多数 AI 模型期望在训练期间获得对齐的输入-输出对的整洁数据集 – 例如,与其文本转录完美匹配的大型音频剪辑表。AudioLDM 撕毁了这个剧本,完全从未配对的音频数据中学习,没有任何随附的文本。

它依赖于一个聪明的自我监督预训练方案。该模型尝试从这些声音的压缩潜在表示中重建音频波形。通过最小化重建误差,它被迫将自然语音的所有最显着特征编码到潜在空间中。

一旦 AudioLDM 学会了以这种紧凑的形式表示音频数据,它就可以根据文本提示调整其内部生成模型。这种不配对的方法意味着我们绕过了繁琐的标记数据集,而是在未标记音频数据的海洋中释放模型。

Screen-Shot-2023-07-28-at-8.48.24-AM
潜在空间中音频文件的紧凑表示。从论文中。

潜在空间与代币

许多语音模型将音频生成为一系列离散的分类输出 – 例如将乐高积木放在一起以形成声音。但是AudioLDM摆脱了这种限制性范式。

它在平滑、连续的潜在空间中运行,该空间通过使用变分自动编码器(VAE)压缩音频频谱图而获得。频谱图是声音中频率频谱随时间变化的视觉表示。它显示不同频率的强度级别,因为它们通过音频剪辑而变化。频谱图是通过应用傅里叶变换将声波分解为分量频率来创建的。

变分自编码器(VAE)是一种用于降维和生成建模的神经网络。它由编码器和解码器组成。编码器将输入数据压缩到低维潜在空间中。解码器尝试从潜在空间中的点重建原始输入。VAE用于许多不同的型号,并且经常用于图像生成器,如Anything v3 VAE

在VAE中,编码器为每个潜在维度输出均值和方差。这些定义了潜空间中的高斯分布。从这些分布中采样并通过解码器传递样本允许生成类似于输入的新数据。

因此,对于AudioLDM,VAE将音频频谱图压缩成一个平滑的潜在空间。潜在向量之间的插值混合了不同的声音和声音。解码器利用从训练数据中学习的模式将潜在点转换回逼真的音频。这赋予了AudioLDM富有表现力的生成能力。

VAE_Basic
VAE工作原理的简单图表,来自维基百科。输入被编码为潜在空间表示形式,然后进行解码。

这种连续性还编码了语音固有的自然变化和不确定性。对潜在点进行采样会产生不同的输出,即使文本提示保持固定也是如此。低维潜在建模大大降低了计算开销。

桥接模态与跨模态条件

这是一个技巧,它允许 AudioLDM 合成语音,而无需显式训练对齐的文本-音频对。它使用 CLAP(跨模态潜在对齐预训练)在两种模态之间创建共享嵌入空间。

从本质上讲,CLAP向模型传授文本概念与其相关声学模式之间的内在关系。AudioLDM 利用这些共嵌入,使用音频端表示其内部生成模型,使用文本端提供指导语音输出的条件输入。

这种技术使 AudioLDM 在从自由格式的文本提示合成语音方面具有极大的灵活性。即使对于不寻常的文本输入,跨模态嵌入也会传达植根于自然语音结构的信息指导。例如,在论文中,创作者证明了AudioLDM可以从非常不寻常的文本提示中创建声音,例如“狼在唱一首美丽的歌”。

Screen-Shot-2023-07-28-at-8.51.39-AM
演示可以通过提示 AudioLDM 创建的异常声音和声音效果

因此,通过非配对学习打破常规,通过连续的潜在建模开辟更多的可能性,并利用跨模态条件反射,AudioLDM 设法为可控语音合成开辟了新的视野。其技术创造力为创造更身临其境、更具表现力的对话体验打开了令人兴奋的大门。

AudioLDM的优势和劣势

虽然 AudioLDM 在可控音频合成方面取得了领先的成就,但它在某些任务上比其他任务更出色。让我们来看看它在关键音频生成用例中的功能和限制。

多样化的音频创作和语音合成

AudioLDM在产生文本提示中描述的新颖音效和音乐方面大放异彩。在AudioSet等各种数据集上进行训练使其能够合成各种声音。其连续的潜在空间可实现平滑插值以生成音符和过渡。这些特征使 AudioLDM 成为音频创作者的多功能工具。

Screen-Shot-2023-07-28-at-8.54.57-AM
使用文本提示的 AudioLDM 中的音乐生成示例。从论文中。

可理解但不完美的语音

对于语音合成,AudioLDM 可以从文本生成可理解的声音,并根据提示操作说话人身份等属性。它能够从文本生成可理解的语音,并可以根据提示使用说话人的身份等属性。但是,语音质量达不到专门的最先进的TTS模型。强调和节奏等微妙之处可能无法准确翻译,并且通常可以听到音损。

长格式音频仍然是一个挑战

当前的限制是 AudioLDM 最适合长达 10 秒的短片。在较长的时间尺度上保持一致是困难的,因为输出是以小步骤自动递减产生的。生成连贯的长格式音频(如播客或有声读物)仍然是一个悬而未决的研究问题。您可能希望检查这些类型的应用程序的其他模型。

语音和数据依赖关系的细微差别

尽管取得了突破性的成就,但 AudioLDM 仍在努力应对人类语音的复杂性。虽然它可以产生各种各样的声音,但它往往无法复制人类语言固有的微妙情感细微差别和自然节奏。这意味着强调、讽刺和声音丰富等元素有时会在翻译中丢失。

此外,AudioLDM的不配对训练方案虽然减少了对标记数据的需求,但仍然是一个数据饥渴的野兽。该模型需要大量未标记的音频数据进行预训练,这可能超出了早期初创公司的能力范围。数据合作伙伴关系可以提供解决方案,但也有自己的一系列法律和隐私问题。

AudioLDM 的复杂性不仅限于数据需求。该模型的高级神经架构需要大量的计算资源进行训练,这对硬件能力有限的初创公司来说可能是一个挑战。虽然基于云的人工智能服务可以抵消这些需求,但它们将不可避免地产生相当大的成本。

精确编辑限制

作为一种生成模型,AudioLDM 专为随机合成而不是精确的音频编辑而设计。语音转换或声音过滤等操作需要超出其能力的专门技术。如果需要编辑精度,AudioLDM 可能不足以满足其当前形式。

黑匣子输出

像许多神经网络一样,AudioLDM的内部工作是不透明的。这使得调试质量问题和诊断合成语音中的意外偏差变得更加困难。窥视黑匣子内部并深入了解故障模式的机制将有助于负责任的开发。

通过了解这些限制,您可以做出有关将 AudioLDM 集成到产品中的明智决策,并将研究工作引导到缓解漏洞上。像AudioLDM这样的人工智能进步不可避免地带来了新的挑战。立足于他们的缺点对于引导进展朝着正确的方向发展至关重要。

比较苹果与苹果:音频LDM与其他产品

有几种 AI 模型可用于从文本提示生成音频。在这里,我们将比较一些流行的 AudioLDM 选项,以帮助确定适合您需求的选项。

裂缝

Riffusion使用稳定的扩散来实时生成音乐音频。它对于构建交互式音乐应用程序之类的东西很有用。AudioLDM 也可以创建音乐,但不是专门用于实时生成的。如果您需要动态的即兴音乐,请考虑Riffusion。

音乐根

Musicgen将文本提示转换为音乐作品。这使得它对于帮助音乐家、作曲家或音乐学生很有用。AudioLDM具有更广泛的声音合成功能,而不仅仅是音乐。Musicgen可能会为音乐提供更高的质量和更多的控制。

树皮

Bark 从文本中生成逼真的语音和声音效果。语音听起来比 AudioLDM 更自然,如果您正在构建语音助手或有声读物,Bark 非常适合使用。树皮专注于高保真语音,而 AudioLDM 具有更多样化的声音效果。对于以语音为中心的应用程序,树皮可能更可取。

TTS

Tortoise TTS 将文本转换为听起来自然的语音。像Bark一样,它对语音助手,有声读物和语音合成很有用。Tortoise TTS专注于类似人类的声音,但AudioLDM可以实现更好的语音控制和变化。根据语音质量需求进行选择。

总结

对于专门的音乐生成,请考虑Riffusion或Musicgen。对于以语音为中心的应用程序,Bark 或 Tortoise TTS 可能是理想的选择。AudioLDM 提供多功能的声音合成和语音控制,但不太关注定制领域。

以下是音频生成模型的比较表,使用来自AIModels.fyi的数据。

造物主 每次运行成本 平均运行时间 硬件 使用案例
裂缝 裂缝 $0.0066 12 秒 英伟达 T4 GPU 实时音乐生成,交互式音乐应用程序
音乐根 乔胡佛 $0.0943 41 秒 英伟达 A100 GPU 协助音乐家、作曲家、音乐学生
树皮 苏诺爱 $0.0297 54 秒 英伟达 T4 GPU 语音助手、有声读物、音效
TTS 阿菲亚卡87 英伟达 T4 GPU 语音助手、有声读物、语音合成

总结:AudioLDM 是您的文本转音频产品的最佳模型吗?

AudioLDM展示了可控音频合成的尖端创新。它的新技术开辟了曾经无法想象的新创意可能性。然而,与任何新技术一样,在将其集成到产品中之前,需要权衡权衡。

考虑以下关键问题:

  • 您的应用是否需要专门的音乐生成或异常自然的语音?像Riffusion,Musicgen,Bark和Tortoise TTS这样的模型可能更适合。
  • 您能满足 AudioLDM 的大量数据和计算要求吗? 如果没有,请选择更轻、更方便的替代品。
  • 精确编辑至关重要吗?AudioLDM 更适合生成用例,而不是编辑工作流。
  • 模型的可解释性和透明度重要吗? AudioLDM的“黑匣子”性质可能会带来挑战。
  • 您的团队是否具有 ML 运维成熟度,可以使用 AudioLDM 负责任地进行开发?如果没有,您可以利用模型托管提供商或平台(如 Replica),但成本会增加。
  • 您的最终目标是否集中在小众音频领域? 更专业的模型可能更适合。

通过权衡这些关键因素与 AudioLDM 提供的突破性功能,您可以确定现在是否是在您的产品中进行试点的合适时机。通过勤奋的评估,您可以战略性地利用 AudioLDM 的强大功能来提供令人愉悦的用户体验并颠覆行业。请记住,人工智能模型一直在改进,未来的进步可能会改变关键因素,这些因素可能会使天平有利于实施该模型。请务必密切关注像这样的模型,看看它们是如何改进和改变的。感谢您的阅读!

未经允许不得转载:统信UOS之家 » 使用 AudioLDM 合成音效、音乐和对话的构建器指南

相关文章