mcpField
S
stable-audio

stable-audio

github.com/calesthio创意与媒体219105 次安装15 周前更新
代码仓库

关于 stable-audio

面向 Stability AI Stable Audio 的制作指南,涵盖托管 API 与开放权重路线,用于生成音乐和声音设计,并指导模型选择、授权、提示词、参数及素材管理。

主要功能

  1. 01文本生成音频
  2. 02音频到音频转换
  3. 03局部修补与续接
  4. 04托管 API 与开放权重路线选择
  5. 05授权与素材记录指导

适用场景

  1. 01制作器乐配乐
  2. 02生成音效与环境声
  3. 03改编已获授权的音频
  4. 04延长或替换音频片段

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/calesthio/generative-media-skills --skill stable-audio

安装后在 Claude Code 中输入/stable-audio确认已加载。

附带文件EVAL.md

详细介绍

Stable Audio 制作指南

Stable Audio 是 Stability AI 的生成式音频系列,用于生成音乐和声音设计素材,不适用于语音、声音克隆、对话或最终混音/母带处理。当项目需要器乐音乐、循环片段、分轨/创意点子、音效、拟音类素材、环境音、提示音、转场,或基于已获得使用权的音频进行风格调整/续写时,请使用它。语音、配音、旁白、转录对齐和响度母带处理应改用相应的语音/音频后期工具。

本指南中的所有易变信息均于 2026-07-10 根据 Stability AI 官方页面、Stability API OpenAPI 规范、官方模型卡/代码库和 Stability 政策页面核实。

能力概览

有文档记录的事实:

  • Stability 托管 API 提供两类 Stable Audio 路由:
    • Stable Audio 2 端点位于 /v2beta/audio/stable-audio-2/...,model 可选 stable-audio-2 和 stable-audio-2.5。
    • Stable Audio 3 端点位于 /v2beta/audio/stable-audio/...,model=stable-audio-3。
  • 支持的托管工作流包括文本生成音频、音频生成音频,以及局部修复/续写。
  • 托管输出为 44.1 kHz 立体声,输出格式可选 mp3 或 wav。
  • Stable Audio 2/2.5 托管端点成功时会同步返回音频。Stable Audio 3 托管端点会返回 HTTP 202 和生成 ID;轮询 GET /v2beta/audio/results/{id},直到 HTTP 200 返回音频。
  • Stable Audio 2/2.5 托管端点的时长限制为 1-190 秒。用于音频生成音频和局部修复的音频上传时长必须为 6-190 秒,格式须为 mp3 或 wav,请求大小上限为 50 MB。
  • Stable Audio 3 托管端点的时长限制为 1-380 秒。用于音频生成音频和局部修复的音频上传时长必须为 6-380 秒,格式须为 mp3 或 wav,请求大小上限为 100 MB。
  • 提示词长度上限为 10,000 个字符。
  • seed 设为 0 或省略时会随机生成;可记录显式指定的种子,以便复现结果。
  • 不同模型的 steps 取值范围不同:Stable Audio 2 接受 30-100 步,默认值为 50;Stable Audio 2.5 和 Stable Audio 3 接受 4-8 步,默认值为 8。
  • cfg_scale 的取值范围为 1-25。API 文档将其描述为提示词遵循强度;Stable Audio 2、Stable Audio 2.5 和 Stable Audio 3 的默认值分别为 7、1 和 1。应将其视为次要控制项,优先调整提示词、时长、模型、步数和源音频策略。
  • 音频生成音频的 strength 取值范围为 0-1,用于控制源音频的影响程度。Stability 说明,0 表示与输入相同,1 表示不受音频影响。
  • 局部修复使用以秒为单位的 mask_start 和 mask_end,用于选择替换或续写片段。
  • 托管定价,核实于 2026-07-10:Stable Audio 2.0 每次成功生成的费用为 credits = 17 + 0.06 * steps,默认 50 步通常为 20 个积分,100 步时为 23 个积分;Stable Audio 2.5 每次成功生成的费用为 20 个积分;Stable Audio 3.0 每次成功生成的费用为 26 个积分。Stability 表示,生成失败不会收费。Stability 的定价按 1 个积分 = $0.01 计算,且可能变更。
  • Stable Audio Open 1.0 是一款开放权重的文本生成音频模型,可生成时长可变、最长 47 秒、采样率为 44.1 kHz 的立体声音频。
  • Stable Audio 3 的开放权重版本包括 small-music、small-sfx 和 medium;官方代码库列出 Small 音乐/音效模型为可在 CPU 上运行的 433M 参数模型,最长时长为 120 秒;Medium 为 1.4B 参数的 CUDA 模型,最长时长为 380 秒。Stable Audio 3 Large 在官方代码库中仅通过 API 提供。

来源:Stability API 参考/OpenAPI 规范、Stable Audio 3 页面、Stable Audio 2.0 公告、Stable Audio 2.5 公告、Stable Audio 3 代码库、Stable Audio Open 1.0 模型卡、Stable Audio Open 论文、Stable Audio 3 论文、Stability 定价页面。

提示词编写前先选择路线

如果项目需要当前能力最强的托管版 Stable Audio、最长约 6 分钟的音轨、可以接受异步生成,或计划包含修补/续写,请使用托管版 Stable Audio 3。对于较长的音乐背景音、自适应游戏/音乐提示音、声音品牌变体,以及 190 秒时长不够的复杂环境音,这是最合适的选择。

如果需要同步 API 行为、190 秒时长足够,且需求是商业音乐/声音制作,Stable Audio 2.5 在速度、音乐结构、对情绪/流派提示词的遵循度以及修补方面记录在案的改进很重要,请使用托管版 Stable Audio 2.5。

只有当现有管道已依赖 Stable Audio 2 的行为,或你有意需要其 30-100 步范围和 cfg_scale 行为时,才使用托管版 Stable Audio 2。不要仅因为端点默认值是 stable-audio-2 就默认使用它;请显式设置模型。

如果本地或自托管生成、微调/LoRA 实验、数据控制审查或离线迭代很重要,请使用 Stable Audio 3 开放权重。选择:

  • small-music,用于最长 120 秒的快速 CPU 音乐草稿;
  • small-sfx,用于最长 120 秒的快速 CPU 音效草稿;
  • medium,用于在 CUDA 和依赖限制可接受时,生成最长 380 秒的高质量本地音频。

只有在可以接受 47 秒时长限制,且工作流需要较旧的开放模型、diffusers/stable-audio-tools 兼容性或研究对比时,才使用 Stable Audio Open 1.0。

以下情况请勿使用 Stable Audio:

  • 生成歌词或演唱人声,除非当前产品/工具明确支持所需的人声工作流;
  • 配音、旁白、声音克隆或口型同步;
  • 精确复刻知名艺术家、曲目、厂牌音色或受版权保护的录音;
  • 上传用户尚未取得授权的内容;
  • 最终法律/音乐监督许可审查。

权利、同意、隐私与上传门槛

在提出任何音频转音频或修复请求之前,必须要求用户或项目简报确认每段上传的声音都已获得转换所需的权利。Stability 的 API 文档和 Stable Audio 公告指出,不得上传受版权保护的内容,并说明上传内容会经过内容识别与合规扫描。在用户提供已获许可、属于公有领域、委托创作、自行录制或以其他方式获得授权的素材之前,应将“我在网上找到这首歌”视为不予放行。

对于商业媒体,请记录:

  • 提供方/模型/版本或存储库 ID;
  • 端点/工作流;
  • 提示词;
  • 时长、种子、步数、(如使用)cfg_scale、strength、蒙版时间点及输出格式;
  • 源音频文件名、所有者、许可证/许可情况,以及其中是否包含第三方音乐、人声、可识别的声音、品牌或地点环境音;
  • 生成时间戳、请求 ID/生成 ID(如有)及点数消耗;
  • 后期处理链及最终导出路径。

Stability 的服务条款规定,用户须对输入内容负责,并必须拥有输入内容所需的权利、许可证和许可;在用户与 Stability 之间,Stability 会将其对输出内容拥有的任何权利授予用户,但须遵守相关规定及适用法律。同一条款还指出,不同用户获得的输出可能相似,用户必须在使用前核实其合法性和适当性;除非用户在可用情况下选择退出,否则 Stability 可能会使用输入/输出内容来改进服务。不要夸大隐私/安全政策的保障:Stability 表示其采用了组织和技术方面的防护措施,但无法保证互联网传输/存储绝对安全。

对于机密品牌素材库、尚未发布的音乐、名人声音、未成年人、医疗/法律内容或受合同约束的知识产权,只有在了解项目的数据处理要求后,才优先考虑企业批准的设置或本地/开放权重方案。不要仅仅因为 API 使用方便就上传敏感分轨。

来源:Stability 服务条款、Stability 可接受使用政策、Stability 隐私政策、Stable Audio 2.0 公告、Stable Audio 2.5 公告、Stability SOC 2/SOC 3 公告。

面向生产的提示词编写

Stable Audio 对描述音频应该听起来怎样的提示词响应最好,而不是描述视频应该呈现什么画面。将视觉意图转化为声音参数。

Stability 指南中记录的提示词要素包括流派/子流派、风格、速度/BPM、情绪和乐器类型。以下制作经验并非有据可查的保证;采用这些做法是因为它们能让审听和迭代更轻松:

  • 首先说明交付内容的用途:“15 秒 UI 成功提示音”“90 秒产品发布背景音乐”“6 秒布料摩擦拟音”“可循环的 120 BPM Tech House 鼓点循环”。
  • 需要同步时注明速度/BPM;只有在会对循环接缝进行质量检查时,才注明“可循环”。
  • 只有在作品必须与其他音乐协调时才注明调性;由于无法保证遵循调性,请通过耳听或音频分析进行核实。
  • 使用具体的乐器配置和混音描述:“闷音掌拨电吉他”“近距离麦克风收录的干爽湿混凝土脚步声”“细微的模拟磁带嘶声”“宽立体声铺底,无主旋律”。
  • 为音乐背景音使用段落描述:前奏、渐强、间奏、尾奏、收尾音、20 秒前不要突然进入强拍。
  • 托管 API 不支持负面提示参数时,可在正向提示词中少量使用规避描述:“无人声、无可识别旋律、无重鼓点”。
  • 描述音效时,说明物体、材质、动作、空间、距离、强度和尾音:“陶瓷杯轻轻放在木桌上,近距离视角,小房间的反射声,自然短尾音。”
  • 对于电影感环境音,分别描述底噪和事件:“持续的低沉城市夜间环境音,偶尔传来远处的警笛声和轻微的轮胎嘶嘶声;无前景人声。”

确保提示词内部一致。一个提示词如果同时要求“极简氛围感企业钢琴曲”和“激烈的 Drum & Bass 音乐节 Drop”,就会让审听目标更难把控。

参数策略

时长:

  • 生成时长应接近所需的剪辑长度,并留出余量。对于 30 秒的背景音乐,如果剪辑可能需要淡入/淡出或替代性强拍,请请求 35-45 秒。对于音效,只请求所需时长并额外留出一小段尾音;生成较长的音效容易引入无关事件。
  • 对于循环素材,生成时长应超过一个循环周期,然后剪出最佳的稳定片段,并在后期进行交叉淡化/节拍匹配。

模型:

  • 始终显式设置 model。不要依赖端点默认值。
  • 对于 191-380 秒的托管生成或异步流水线,优先使用 stable-audio-3。
  • 对于 1-190 秒的同步托管生成,优先使用 stable-audio-2.5,除非项目历史要求使用 2.0。

步数:

  • 对于 2.5/3,默认值 8 是文档所述 4-8 范围内优先考虑质量的设置;仅在草稿批量生成时使用更低的步数。
  • 对于 2.0,默认值 50 是成本/质量的基准;只有在接近最终版本的渲染需要再进行一轮质量提升,且可以接受额外消耗时,才提高到接近 100。

种子:

  • 构思批量生成时使用随机种子。
  • 保留任何入选作品返回的种子。
  • 仅在测试提示词或参数更改时复用种子;模型/提供方更新后,不要承诺结果可以精确复现。

输出格式:

  • 对于要编辑、循环、分层、混音或母带处理的素材,使用 wav。
  • 对于快速预览、低风险临时音轨或要求此格式的交付系统,使用 mp3。

音频到音频强度:

  • 0.15-0.35:保留源音频的动作和时序;进行细微的风格调整。
  • 0.35-0.65:保留大致节奏或轮廓,同时改变声音特征。
  • 0.65-0.9:进行大幅转换,主要将源音频作为灵感。
  • 1.0:根据 API 文档,基本不受源音频影响;除非实现要求使用上传路径,否则应改用文本到音频。

修复蒙版:

  • 将 mask_start 放在问题区域稍前的位置,将 mask_end 放在问题区域稍后的位置,为模型留出混合空间。
  • 要续接音频,请从续接点开始设置蒙版,直到所需的结束位置。
  • 修复后检查过渡处的咔嗒声、相位偏移、速度漂移、调性漂移和室内底噪的不连续性。

工作流模式

文本转音频音乐垫乐:

  1. 将视频/剪辑需求转化为音乐功能:能量曲线、目标时长、速度范围、禁用元素和剪辑点。
  2. 在确定完整成品前,先生成 3-6 个短版或中等时长候选。
  3. 根据结构和可剪辑性进行选择,而不只是看第一遍试听时是否令人兴奋。
  4. 使用 wav 生成最终版本,并记录种子/参数。
  5. 进行剪辑、淡入淡出、在对白下方进行闪避处理、响度标准化,并在画面下试听。

文本转音频音效/拟音:

  1. 生成相互独立且足够干燥的素材,除非有意制作环境氛围。
  2. 对于 UI/拟音,要求近距离视角和较短的尾音;对于环境氛围,则要求说明环境和距离。
  3. 以较短时长生成多个变体。
  4. 在后期进行分层和时间对齐;不要指望一次生成就能解决所有音效。
  5. 进行质量检查,留意隐藏的人声、音乐、削波、过多混响和视角不匹配。

音频转音频变换:

  1. 确认上传内容的使用权,并移除私人或不需要的素材。
  2. 将源音频剪至仅保留有用片段;确保其符合文档说明的时长/大小限制。
  3. 根据需要保留多少节奏/主题来选择强度。
  4. 提示目标声音,而不只是描述源音频。
  5. 与源音频对比,检查是否存在不必要的复制、泄漏或可识别的第三方素材。

修补/续写:

  1. 当音频素材的大部分内容可用,但有一段需要替换或延长时使用。
  2. 在提示词中保留节奏/调性/质感线索。
  3. 遮罩范围要宽裕,但避免不必要地替换稳定片段。
  4. 戴耳机并使用扬声器检查修复后的接缝。

完整示例

示例:30 秒产品发布垫乐

意图:为 SaaS 产品发布短片的旁白配乐,营造乐观氛围,无人声,便于闪避处理。

路径:托管式 Stable Audio 2.5 文本转音频,同步,wav。

参数:

endpoint: POST /v2beta/audio/stable-audio-2/text-to-audio
model: stable-audio-2.5
duration: 40
steps: 8
output_format: wav
seed: 0

提示词:

40-second modern product-launch instrumental bed at 104 BPM, optimistic and confident, clean electronic pop with warm analog synth pulses, soft piano accents, light brushed percussion, subtle bass, wide polished stereo mix. Structure: 4-second gentle intro, steady lift through 25 seconds, restrained final button ending. Designed to sit under spoken narration. No vocals, no lead guitar solo, no aggressive drums, no recognizable melody.

这样组织的原因:提示词说明了与旁白相关的功能、时长、BPM、情绪、编曲、段落表现、混音优先级和排除项。

预期检查:检查前 4 秒是否有可用的引入空间,确认 25-30s 区域能否承托核心卖点,并将 40s 的生成结果剪辑/淡出至最终 30s 版本。

可能的问题:主旋律过于突出、鼓声掩盖人声、结尾未解决,或速度与剪辑不匹配。可通过减少乐器,或要求“更稀疏,为旁白留出更多侧链空间”来迭代。

示例:制作已获授权的音频转音频品牌音效变体

意图:将客户自有的双音提示音转化为一组更柔和的引导音效。

前提:项目记录确认客户拥有该提示音,并允许对其进行变换。

路径:托管式 Stable Audio 3 音频转音频,异步,wav。

参数:

endpoint: POST /v2beta/audio/stable-audio/audio-to-audio
model: stable-audio-3
duration: 8
steps: 8
strength: 0.42
output_format: wav
seed: 0

提示词:

8-second soft premium onboarding chime derived from the source gesture, calm and reassuring, two-note identity preserved as a subtle motif, warm glass mallet tone layered with quiet felt piano resonance, gentle airy tail, close clean studio sound, no melody beyond the two-note motif, no voice, no percussion, no harsh digital sparkle.

工作流:提交任务,保存返回的生成 id,轮询 /v2beta/audio/results/{id},保存返回的种子和请求 id,然后创建候选短表,包含波形、响度和主观备注。

可能的问题:强度过高时源主题消失;强度过低时源主题过于明显;尾音对 UI 来说过长。优先调整 strength,而不是增加提示词的复杂度。

示例:修补有缺陷的游戏环境音

意图:替换一段 12 秒的音频,其中意外出现了前景聊天声;其余内容是一段可用的 90 秒科幻走廊环境音。

路径:托管式 Stable Audio 2.5 修补,同步,wav。

参数:

endpoint: POST /v2beta/audio/stable-audio-2/inpaint
model: stable-audio-2.5
duration: 90
steps: 8
mask_start: 31.5
mask_end: 45.0
output_format: wav
seed: keep original asset seed if known; otherwise 0

提示词:

90-second seamless sci-fi hallway ambience, low ventilation rumble, distant electrical hum, subtle metallic room tone, occasional very soft servo movement far away, tense but not musical. The replacement section should match the surrounding ambience and contain no speech, no footsteps, no alarms, no rhythmic music.

检查:戴耳机试听 28-48s 区间,检查接缝处的咔嗒声、房间底噪跳变、新的前景事件和立体声声像变化。如果新片段引人注意,可在提示词中减少事件密度,并略微扩大遮罩范围。

Production QA

在接收 Stable Audio 素材前:

  • 权利:输入素材已获许可;提示词未要求模仿在世艺术家、受版权保护的歌曲或受保护的录音;输出已获准用于项目的许可场景。
  • 适配性:时长、节奏、能量曲线、段落变化和收尾是否适合剪辑。
  • 音频质量:无削波、抽吸效应、刺耳的高频、过多的低频、不需要的噪声、隐约的人声或突发瑕疵。
  • 可编辑性:有可用的片头/片尾余量(必要时有无缝循环点)、音效瞬态时序干净,且与旁白/对白有足够分离度。
  • 一致性:调性、BPM、环境声视角、混响空间和立体声宽度与周边素材相匹配。
  • 来源记录:已记录模型、端点、参数、种子/请求/生成 ID、提示词、源素材权利和文件校验和。
  • 交付:为制作导出归档用的 wav;从获批的母版生成压缩版预览/交付格式。

评论

支持 Markdown