Skip to main content
ACE-Step es un modelo fundacional de generación de música de código abierto desarrollado conjuntamente por el equipo chino StepFun y ACE Studio, cuyo objetivo es ofrecer a los creadores musicales herramientas de generación y edición de música eficientes, flexibles y de alta calidad. El modelo se publica bajo la licencia Apache-2.0 y es gratis para uso comercial. Como potente base de generación musical, ACE-Step ofrece una gran extensibilidad. Mediante técnicas de ajuste fino como LoRA y ControlNet, los desarrolladores pueden personalizar el modelo según sus necesidades reales. Ya sea para edición de audio, síntesis vocal, producción de acompañamientos, clonación de voz o aplicaciones de transferencia de estilo, ACE-Step brinda un soporte técnico estable y confiable. Esta arquitectura flexible simplifica enormemente el proceso de desarrollo de aplicaciones de IA musical y permite que más creadores apliquen rápidamente la tecnología de IA a la creación musical. Actualmente, ACE-Step ha publicado el código de entrenamiento relacionado, incluido el entrenamiento de modelos LoRA, y el código de entrenamiento de ControlNet correspondiente se publicará en el futuro. Puedes visitar su GitHub para aprender más detalles.
Asegúrate de que tu ComfyUI esté actualizado.Los flujos de trabajo de esta guía se encuentran en las Plantillas de flujos de trabajo. Si no los encuentras en las plantillas, es posible que tu ComfyUI esté desactualizado.Si faltan nodos al cargar un flujo de trabajo, estas son las posibles razones:
  1. No estás usando la última versión de ComfyUI (versión nocturna)
  2. Algunos nodos fallaron al importarse durante el inicio

Ejemplo de flujo de trabajo de generación de texto a audio con ACE-Step en ComfyUI

1. Descarga el flujo de trabajo y los modelos relacionados

Haz clic en el botón de abajo para descargar el archivo del flujo de trabajo correspondiente. Arrástralo a ComfyUI para cargar la información del flujo de trabajo. El flujo de trabajo incluye la información de descarga de los modelos.

Descargar el archivo de flujo de trabajo en formato JSON

También puedes descargar manualmente ace_step_v1_3.5b.safetensors y guardarlo en la carpeta ComfyUI/models/checkpoints

2. Completa el flujo de trabajo paso a paso

Guía de pasos
  1. Asegúrate de que el nodo Load Checkpoints haya cargado el modelo ace_step_v1_3.5b.safetensors
  2. (Opcional) En el nodo EmptyAceStepLatentAudio puedes definir la duración de la música que se va a generar
  3. (Opcional) En el nodo LatentOperationTonemapReinhard puedes ajustar el multiplier para controlar el volumen de la voz (valores más altos hacen que la voz destaque más)
  4. (Opcional) Introduce los estilos musicales correspondientes, etc., en el campo tags de TextEncodeAceStepAudio
  5. (Opcional) Introduce la letra correspondiente en el campo lyrics de TextEncodeAceStepAudio
  6. Haz clic en el botón Run, o usa el atajo Ctrl(cmd) + Enter, para ejecutar la generación de audio
  7. Cuando el flujo de trabajo termine,, puedes escuchar el audio generado en el nodo Save Audio. Puedes hacer clic para reproducirlo, y el audio también se guardará en ComfyUI/output/audio (el subdirectorio lo determina el nodo Save Audio).

Flujo de trabajo de audio a audio con ACE-Step en ComfyUI

De forma similar a los flujos de trabajo de imagen a imagen, puedes ingresar un fragmento de música y usar el flujo de trabajo de abajo para remuestrear y generar música. También puedes ajustar la diferencia respecto al audio original controlando el parámetro denoise en el Ksampler.

1. Descargar el archivo del flujo de trabajo

Haz clic en el botón de abajo para descargar el archivo del flujo de trabajo correspondiente. Arrástralo a ComfyUI para cargar la información del flujo de trabajo.

Descargar archivo de flujo de trabajo en formato JSON

Descarga el siguiente archivo de audio como audio de entrada:

Descargar archivo de audio de ejemplo para la entrada

2. Completar el flujo de trabajo paso a paso

Guía paso a paso de ACE-Step
  1. Asegúrate de que el nodo Load Checkpoints haya cargado el modelo ace_step_v1_3.5b.safetensors
  2. Sube el archivo de audio proporcionado en el nodo LoadAudio
  3. (Opcional) Ingresa los estilos musicales y la letra correspondientes en los campos tags y lyrics de TextEncodeAceStepAudio. Proporcionar la letra es muy importante para la edición de audio
  4. (Opcional) Modifica el parámetro denoise del nodo Ksampler para ajustar el ruido que se añade durante el muestreo y así controlar la similitud con el audio original (los valores más pequeños dan como resultado una mayor similitud con el audio original; establecerlo en 1.00 equivale aproximadamente a no tener entrada de audio)
  5. Haz clic en el botón Run o usa el atajo Ctrl(cmd) + Enter para ejecutar la generación de audio
  6. Cuando el flujo de trabajo termine, puedes previsualizar el audio generado en el nodo Save Audio. Puedes hacer clic para reproducirlo y escucharlo, y el audio también se guardará en ComfyUI/output/audio (el subdirectorio lo determina el nodo Save Audio).
También puedes usar la funcionalidad de modificación y edición de la letra de la página del proyecto ACE-Step, modificando la letra original para cambiar el efecto del audio.

3. Notas adicionales sobre el flujo de trabajo

  1. En el flujo de trabajo de ejemplo, puedes cambiar los tags de TextEncodeAceStepAudio de male voice a female voice para generar voces femeninas.
  2. También puedes modificar los lyrics de TextEncodeAceStepAudio para cambiar la letra y, con ello, el audio generado. Consulta los ejemplos de la página del proyecto ACE-Step para más detalles.

Guía de prompts de ACE-Step

Actualmente, ACE usa dos tipos de prompts: tags y lyrics.
  • tags: se usan principalmente para describir estilos musicales, escenas, etc. De forma similar a los prompts que usamos en otras generaciones, describen sobre todo el estilo general y los requisitos del audio, y se separan con comas en inglés.
  • lyrics: se usan principalmente para describir la letra y admiten etiquetas de estructura como [verse], [chorus] y [bridge] para distinguir las distintas partes de la letra. También puedes escribir nombres de instrumentos para música puramente instrumental.
Puedes encontrar abundantes ejemplos de tags y lyrics en la página del modelo ACE-Step. Puedes consultar esos ejemplos para probar los prompts correspondientes. La guía de prompts de este documento está organizada a partir del proyecto para ayudarte a probar combinaciones rápidamente y lograr el efecto que buscas.

Etiquetas (prompt)

Estilos musicales populares

Usa combinaciones cortas de etiquetas para generar estilos musicales concretos
  • electronic
  • rock
  • pop
  • funk
  • soul
  • cyberpunk
  • Acid jazz
  • electro
  • em (electronic music)
  • soft electric drums
  • melodic

Tipos de escena

Combina situaciones de uso y atmósferas concretas para generar música que encaje con el estado de ánimo correspondiente
  • background music for parties
  • radio broadcasts
  • workout playlists

Elementos instrumentales

  • saxophone
  • jazz
  • piano, violin

Tipos de voz

  • female voice
  • male voice
  • clean vocals

Términos profesionales

Usa algunos términos habituales del mundo de la música para controlar con precisión el resultado musical
  • 110 bpm (110 pulsaciones por minuto)
  • fast tempo
  • slow tempo
  • loops
  • fills
  • acoustic guitar
  • electric bass

Letras

Etiquetas de estructura de la letra

  • [outro]
  • [verse]
  • [chorus]
  • [bridge]

Soporte multilingüe

  • ACE-Step V1 admite varios idiomas. Al usarlo, ACE-Step convierte los distintos idiomas a letras del alfabeto inglés y luego genera la música.
  • En ComfyUI, todavía no hemos implementado por completo la conversión de todos los idiomas a letras del alfabeto inglés. Por ahora, solo están implementados los caracteres japoneses hiragana y katakana. Así que, si necesitas usar varios idiomas para generar música, primero debes convertir el idioma correspondiente a letras del alfabeto inglés y luego escribir la abreviatura del código de idioma al comienzo de lyrics, como el chino [zh], el coreano [ko], etc.
Por ejemplo:
Actualmente, ACE-Step admite 19 idiomas, pero los siguientes diez tienen mejor soporte:
  • Inglés
  • Chino: [zh]
  • Ruso: [ru]
  • Español: [es]
  • Japonés: [ja]
  • Alemán: [de]
  • Francés: [fr]
  • Portugués: [pt]
  • Italiano: [it]
  • Coreano: [ko]
Las etiquetas de idioma anteriores no se han probado por completo en el momento de redactar esta documentación. Si alguna etiqueta de idioma es incorrecta, envía un problema a nuestro repositorio de documentación y haremos las correcciones oportunas.

Recursos relacionados con ACE-Step